다리오 아모데이는 정부가 위험한 AI 모델이 대중에게 도달하기 전에 차단해야 한다고 주장하며, 이를 위해 3억 5천만 달러를 지원하겠다고 나섰다.
뒤로
Anthropic CEO, 3억 5천만 달러 지원 약속하며 의무적 AI 테스트 지지
다리오 아모데이는 정부가 위험한 AI 모델이 대중에게 도달하기 전에 차단해야 한다고 주장하며, 이를 위해 3억 5천만 달러를 지원하겠다고 나섰다.
Anthropic의 최고경영자(CEO) 다리오 아모데이는 6월 11일, 연산량 10^25 FLOPs 이상 또는 AI 매출 5억 달러 이상을 기록한 최첨단 AI 시스템에 대해 의무적인 제3자 테스트를 도입하고, 모델이 4가지 범주에 걸쳐 치명적인 위험을 초래할 경우 정부가 배포를 차단할 권한을 가져야 한다고 제안했다.
"최첨단 AI 모델은 비행기처럼 기술 테스트와 감사를 거쳐야 하며, 공공 안전에 대한 위협으로 간주될 경우 높은 안전 기준을 충족하지 못하면 출시가 차단되거나 취소되어야 합니다"라고 아모데이는 'AI 지수에 관한 정책(Policy on the AI Exponential)'이라는 제목의 블로그 게시물에서 밝혔다.
이 프레임워크는 사이버 보안, 생물학 무기, 통제 상실 및 자동화된 연구개발 위험을 대상으로 한다. Anthropic은 이 이니셔티브를 지원하기 위해 정책 연구에 2억 달러, 장학금에 1억 5천만 달러를 지원하기로 약속했다. 이는 연산 또는 매출 기준을 충족하는 모든 기업(OpenAI, Google DeepMind 및 Meta Platforms 포함)에 적용된다.
이 제안은 주요 AI CEO가 지지한 규제 프레임워크 중 가장 공격적인 것으로, Anthropic을 트럼프 행정부의 자발적 테스트 접근 방식과 직접 대비시키는 것이다. 도널드 트럼프 대통령은 6월 2일 정보 커뮤니티에 모델 테스트에서 강화된 역할을 부여했지만, 배포 전 사전 승인을 요구하지는 않는 행정명령에 서명했다.
아모데이가 구속력 있는 규제를 촉구하는 것은 자사 Claude Mythos Preview 모델이 가속화되는 위협 환경을 입증한 데 따른 것이다. Anthropic은 Mythos가 몇 시간 만에 Firefox와 Windows를 대상으로 16개의 작동하는 익스플로잇을 구축했으며, 여기에는 18시간 만에 Windows 커널 취약점에 대한 8개의 전체 권한 상승 익스플로잇이 포함된다고 밝혔다. 이러한 익스플로잇을 생성하는 비용은 API 크레딧으로 15,700달러, 즉 체인당 약 2,000달러였다.
"N-day에 대한 결정적 제약은 이제 단지 수천 달러와 API 접근권에 불과하며, 이는 유능한 N-day 공격자 풀을 극적으로 확장시킵니다"라고 Anthropic은 별도의 보고서에서 밝혔다. 이 회사는 조직들이 'N-day'에서 'N-hour' 패치 일정으로 전환할 것을 촉구했으며, 익스플로잇 비용이 0에 가까워짐에 따라 산업 제어 시스템, 의료 기기 및 사물인터넷 장치가 더 큰 위험에 노출된다고 경고했다.
안전 테스트 외에도 아모데이는 AI로 인한 잠재적 노동력 대체를 해결하기 위한 경제적 조치로 보편적 자본 계좌, 임금 보험 및 고용주 유지 인센티브를 제안했다. 버니 샌더스 상원의원은 지난주 주요 AI 기업의 주식 공모에 50% 세금을 부과해 정부에 의결권을 부여하는 방안을 제안했으며, 트럼프 대통령은 며칠 전 주요 AI 기업들과의 불특정 이익 공유 파트너십을 거론했다.
아모데이는 또한 AI 기반 혁신을 가속화하기 위해 규제 기관의 개혁을 촉구하며, 식품의약국(FDA)이 시뮬레이션 임상시험과 합성 대조군을 통해 AI가 발견한 의약품을 더 빠르게 승인할 수 있다고 제안했다. 그는 민주주의 국가들 간의 AI 거버넌스에 관한 지속적인 국제 협력을 지지하고, 완전 자율 무기 시스템의 국내 배치를 금지할 것을 주장했다.
"우리는 지금 전 세계적으로 집단적으로, 여기서부터 놀랍도록 빠르게 복합될 위험과 기회를 다루기 위해 느리고 불안정한 정책 장치를 활성화해야 합니다"라고 아모데이는 썼다.
피터슨 국제경제연구소에 따르면, 2025년 5월 추가 관세 인상 이후 현재 미국의 중국산 제품에 대한 평균 관세율은 약 19%다. 2024년 9월의 이전 10% 인상은 6개월 동안 양자 무역을 630억 달러 감소시켰다고 인구조사국 데이터는 보여준다 — 이는 AI 모델 테스트 요구사항이 유사한 장벽을 만들 경우 규제 마찰이 어떻게 국경 간 기술 흐름을 재편할 수 있는지에 대한 선례다.
이 기사는 정보 제공 목적으로만 제공되며 투자 조언을 구성하지 않습니다.
