인공지능의 안전 규제를 누가, 어떻게 할 것인가. 이 질문은 생성형 AI의 등장 이후 업계와 정부를 가르는 가장 뜨거운 논쟁거리였습니다. 자유로운 혁신을 강조하는 쪽과, 통제되지 않는 기술 발전이 초래할 위험을 경고하는 쪽이 팽팽히 맞서는 가운데, 구글 딥마인드의 공동창업자이자 CEO인 데미스 허사비스가 새로운 해법을 제시했습니다. 바로 미국 금융투자규제기관인 FINRA를 모델로 한 AI 자율규제기구 창설입니다. 이 제안은 생각보다 빠르게 업계 리더들의 지지를 얻으며, 트럼프 행정부 내에서도 실제로 검토 중인 것으로 알려져 주목받고 있습니다. 이 제안이 현실화된다면 AI 산업의 지형을 바꿀 수 있습니다. 투자자는 어떤 변화를 준비해야 할까요?
무슨 일이 있었나: 허사비스의 제안과 업계 반응
허사비스는 지난주 소셜미디어 에세이에서 FINRA를 모델로 한 AI 자율규제기구를 제안했습니다. 이 기구가 설립되면 구글(GOOGL), 마이크로소프트(MSFT) 등 대형 AI 기업은 규제 비용을 분담하지만, 스타트업은 진입 장벽에 직면할 수 있습니다. 제안의 핵심은 최첨단 AI 모델을 개발하는 주요 연구소들이 자금을 대고, 독립적인 기술 전문가와 오픈소스 AI 커뮤니티 대표, 그리고 AI 공급업체 대표가 함께 이사회를 구성하는 방식입니다. 이 기구는 ‘프런티어 AI’로 분류할 수 있는 모델에 대한 평가 프로토콜과 역량 벤치마크를 개발하고, 독립적인 안전 및 보안 테스트를 수행하며, 기업들이 일정한 거버넌스 기준(모델 시스템 카드 공개, 강력한 사이버보안 프로토콜 준수, 안전 연구 자금 지원 등)을 채택하도록 유도한다는 구상입니다. 특히 처음에는 자발적으로 출시 30일 전에 테스트를 받도록 권장하지만, 평가 시스템의 효과가 입증되면 미국 내 유통을 원하는 모든 모델에 의무화할 수 있다는 점이 눈에 띕니다.
이 제안은 예상보다 넓은 지지를 얻었습니다. 마이크로소프트 AI의 CEO인 무스타파 술레이만(허사비스와 함께 딥마인드를 공동창업)은 물론, 마이크로소프트 CEO 사티아 나델라, 블록 CEO 잭 도시, 박스 CEO 에런 레비 등이 동참 의사를 밝혔습니다. 심지어 오픈AI의 샘 올트먼도 경쟁사의 제안을 ‘사려 깊다’고 평가했고, 일론 머스크 역시 ‘전반적으로 사려 깊은 프레임워크이며 논의를 위한 좋은 출발점’이라고 호평했습니다. 트럼프 행정부에서 AI 차르를 지낸 데이비드 색스조차 ‘정부가 직접 프런티어 AI를 규제하는 것보다 낫다’며 지지 의사를 나타냈습니다. 블룸버그 보도에 따르면, 트럼프 행정부는 이미 이런 형태의 AI 자율규제기구 설립을 고려 중이며, 스콧 베센트 재무장관이 제안을 발전시키는 데 기여했고, 현재 수지 와일스 백악관 비서실장이 검토 중이라고 합니다. 이 새로운 AI 표준 기구는 증권거래위원회(SEC)의 감독을 받게 될 것이라고 블룸버그는 전했습니다.
왜 중요한가: FINRA 모델의 장점과 한계
허사비스의 제안이 정치적으로 매우 교묘하다는 평가를 받는 이유는, 트럼프 행정부가 반복해서 AI 라이선스 체제 도입을 거부해왔기 때문입니다. 정부로부터 어느 정도 독립적이고, 초기에는 자발적인 규제 체계는 트럼프의 승인을 받을 가능성이 높습니다. 또한 납세자가 아닌 AI 연구소들이 직접 기관 운영비와 테스트 비용을 부담한다는 점도 백악관의 환영을 받을 만한 요소입니다. 그러나 비판론자들은 FINRA의 사례를 지적합니다. FINRA는 증권사들이 비용을 부담하는 구조 탓에, 개인 투자자 보호보다는 증권사들의 이익을 대변한다는 비판을 줄곧 받아왔습니다. 매사추세츠주 상원의원 엘리자베스 워렌은 FINRA가 보호해야 할 투자자보다 비용을 대는 브로커리지 회사의 이익을 위해 행동한다고 반복해서 비판해 왔습니다. AI 자율규제기구도 유사한 이해충돌 문제에서 자유롭지 못할 것이라는 우려가 제기되는 이유입니다.
우리의 해석: 시장이 놓치고 있는 포인트
이 제안의 가장 중요한 함의는 규제 자체보다 ‘누가 기준을 정하는가’에 있습니다. XPLAIN AI는 이 자율규제기구가 대형 AI 기업에 유리한 환경을 조성할 가능성이 높다고 분석합니다. 규제 비용을 분담할 수 있고, 자체적으로 안전 연구에 투자할 여력이 있는 구글, 마이크로소프트, 오픈AI 등은 새로운 규제 체계를 경쟁 우위로 활용할 수 있습니다. 반면, 자금력이 부족한 AI 스타트업이나 오픈소스 진영은 규제 준수 비용과 테스트 기간으로 인해 시장 진입이 지연될 수 있습니다. 또한, FINRA의 사례에서 보듯이 자율규제기구는 업계의 이익을 대변할 위험이 있습니다. 이 기구가 설정하는 벤치마크와 테스트 기준이 기존 대형 기업의 기술 스택에 유리하게 설계될 가능성을 배제할 수 없습니다. 투자자는 규제 리스크가 적고, 규제 준수 비용을 감당할 수 있는 기업에 주목해야 합니다.
수혜와 리스크: 투자자가 주목할 지점
이 제안이 현실화될 경우, 다음과 같은 영향이 예상됩니다.
- 대형 AI 기업(구글, 마이크로소프트, 오픈AI): 규제 비용을 분담할 수 있고, 자체 안전 연구 인프라를 보유하고 있어 새로운 기준에 빠르게 적응할 수 있습니다. 오히려 규제가 진입 장벽으로 작용해 시장 지배력을 강화할 가능성이 있습니다.
- AI 스타트업 및 오픈소스 진영: 규제 준수 비용과 테스트 기간이 부담으로 작용할 수 있습니다. 특히 자금력이 부족한 스타트업은 시장 진입이 지연되거나 아예 포기해야 할 수도 있습니다.
- SEC 및 정부 기관: AI 규제의 새로운 모델을 제시할 수 있지만, FINRA의 전례처럼 이해충돌 문제가 불거질 수 있습니다.
반대 시나리오와 불확실성
이 제안이 순조롭게 진행되지 않을 가능성도 있습니다. 첫째, 트럼프 행정부 내에서도 규제에 반대하는 목소리가 존재합니다. 데이비드 색스가 지지 의사를 밝혔지만, 백악관 내 다른 인사들이 반대할 경우 무산될 수 있습니다. 둘째, FINRA의 사례에서 보듯이 자율규제기구가 업계 포획(capture)될 위험이 있습니다. 엘리자베스 워렌 상원의원과 같은 비판론자들이 이 문제를 제기할 경우, 정치적 부담이 커질 수 있습니다. 셋째, 글로벌 AI 규제 환경과의 조화 문제가 있습니다. EU의 AI법과 같은 해외 규제와 충돌할 경우, 글로벌 AI 기업들은 복수의 규제 체계를 준수해야 하는 부담을 안게 됩니다.
결론적으로, AI 자율규제기구는 대형 AI 기업에 유리한 환경을 조성할 가능성이 높습니다. 투자자는 규제 리스크가 적고, 규제 준수 비용을 감당할 수 있는 기업에 주목해야 합니다. 반면, 스타트업과 오픈소스 진영은 진입 장벽에 직면할 수 있어 투자 시 주의가 필요합니다. 앞으로 트럼프 행정부의 최종 결정과 SEC의 역할, 그리고 업계의 자발적 참여 여부를 주의 깊게 지켜볼 필요가 있습니다.
#AI규제 #자율규제 #FINRA #데미스허사비스 #구글딥마인드 #마이크로소프트 #오픈AI #트럼프행정부 #AI안전 #프런티어AI
출처
- A FINRA for AI? The idea from Google DeepMind CEO Demis Hassabis is gaining momentum. But is it any good? — Fortune | FORTUNE · 언론 보도 · Tue, 21 Jul 2026 18:08:18 +0000
작성: XPLAIN AI 편집팀 · 검수: XPLAIN AI Editorial Desk
이 콘텐츠는 공개된 출처를 기반으로 AI의 도움을 받아 작성되었으며, XPLAIN AI의 편집·검수 기준을 적용했습니다. 사실과 분석 의견을 구분하며, 오류가 확인되면 수정합니다.