美 정부, OpenAI에 AI 모델 단계적 출시 의무화…규제 강화 신호

백악관이 OpenAI에 향후 인공지능 모델을 단계적으로 출시하도록 공식 요구했다. 이는 미국 정부가 최첨단 AI 개발자에 대해 구조화된 출시 조건을 부과한 첫 번째 사례다.

26일 차이롄셰(Cailianshe)가 보도한 이번 의무화 조치에 따르면, OpenAI는 새로운 모델을 단일 풀캐퍼빌리티(full-capability) 방식이 아닌 점진적으로 배포해야 한다. 이번 접근법은 바이든 행정부가 기술 기업들과 추진해온 자발적 프레임워크를 반영한 것으로, 메타(Meta)에 대해서도 Llama 시리즈가 광범위하게 유통되기 전에 독립적인 정부 검토를 받도록 병행 요청한 것과 같은 맥락이다.

"단계적 출시 요구는 최첨단 AI 시스템이 적절한 안전장치 없이 배포될 경우 시스템적 위험을 초래할 수 있는 역량을 보유하고 있다는 우려가 커지고 있음을 반영한다"고 제임스 오카포 규제정책 분석가는 말했다. "이는 자발적 자율규제에서 집행 가능한 출시 프로토콜로의 전환을 의미한다."

이번 요구사항은 OpenAI의 향후 모델 세대에 적용되며, 미국 정부가 첨단 AI 개발을 규제하는 방향에 대한 선례를 확립했다. 단계적 프레임워크에 따라 OpenAI는 각 역량 임계값에서 안전 특성을 입증해야 승인을 받아 다음 단계로 진행할 수 있다. 구체적인 평가 기준으로는 생물학적 무기 개발을 도울 수 있는 이중 용도 기능, 중요 인프라에 대한 사이버 공격 수행 기능, 또는 정교한 허위 정보를 대규모로 생성할 수 있는 기능 등에 대한 테스트가 포함된다.

OpenAI는 이번 의무화 조치의 재정적 영향에 대해 공개적으로 상세히 밝히지 않았으나, 규정 준수 비용은 상당할 것으로 예상된다. 이 회사는 최첨단 모델 훈련에 수십억 달러를 투자해왔다. GPT-4의 훈련 비용은 1억 달러 이상으로 추정되었으며, 이후 모델들은 훨씬 더 많은 컴퓨팅 자원을 필요로 했다. 단계적 출시로 제품 출시 일정이 수개월 연장될 수 있으며, 이는 구글의 딥마인드(DeepMind) 및 앤트로픽(Anthropic) 등 경쟁사와의 경쟁 구도와 매출 인식에 영향을 미칠 수 있다.

이번 규제 추진은 바이든 행정부가 첨단 AI 시스템에 대한 구조화된 감독 체계 구축을 가속화하는 시점에 이루어졌다. 테크라다(TechRadar)의 보도에 따르면, 백악관은 별도로 메타에 Llama 모델을 공개 출시 전에 미국 AI 안전 연구소(US AI Safety Institute)의 독립적 평가를 받도록 요청했다. 메타는 제안된 정확한 조건에 동의하지 않았으며, 회사 대표들은 경쟁사에 혜택을 줄 수 있는 독점 정보 공유에 대한 우려를 표명했다.

행정부의 접근 방식에 대한 업계 반응은 엇갈렸다. 일부 기업은 구조화된 정부 개입이 대중의 신뢰를 구축하고 예측 가능한 규제 프레임워크를 만드는 방법이라고 환영했다. 반면 다른 기업들은 관료적 검토 과정이 혁신을 늦추고 미국 기업들을 제한된 규제 아래 운영되는 해외 경쟁사보다 불리하게 만들 수 있다고 우려한다. 유럽연합(EU)은 이미 AI Act에 따라 포괄적인 AI 규제를 시행했으며, 중국의 규제 접근 방식은 콘텐츠 통제와 국가 목표와의 정렬에 중점을 두고 있다.

미국의 접근 방식은 지금까지 EU나 중국보다 가벼운 규제를 선호해왔으며, 광범위한 법안보다는 자발적 약속과 표적 행정 명령을 강조해왔다. 이번 OpenAI 의무화 조치는 자발적 안전 테스트 협약에서 가장 강력한 시스템에 대한 집행 가능한 출시 조건으로의 전환을 의미하는 중요한 확대 조치다.

영향력은 OpenAI를 넘어 확장된다. 단계적 출시 프레임워크가 효과적임이 입증될 경우, 다른 최첨단 AI 개발자들을 규제하는 모범 사례가 될 수 있다. 바이든 행정부는 특정 역량 임계값을 충족하는 모델을 개발하는 기업들에 유사한 요구사항을 적용하는 데 관심을 보이고 있으며, 이는 구글, 앤트로픽 및 기타 주요 AI 연구소에 영향을 미칠 수 있다. 향후 수개월 동안 이 프레임워크가 자발적 준수에 머무를지, 아니면 상무부 산업안전국(Bureau of Industry and Security)과 같은 기관을 통한 공식 규칙 제정으로 발전할지가 명확해질 것이다.

본 기사는 정보 제공 목적으로만 작성되었으며, 투자 조언을 구성하지 않습니다.