중국 AI 규제, 바이트댄스·알리바바 1만4000개 에이전트 폐기 강제

중국의 AI 의인화 상호작용을 겨냥한 첫 번째 규제가 7월 15일부터 시행되며, 바이트댄스와 알리바바가 소비자 에이전트 플랫폼을 해체해야 한다. 규제 당국은 예비 단속에서 이미 1만4000개가 넘는 규정 위반 봇을 제거했다.

중국의 AI 의인화 상호작용을 겨냥한 첫 번째 규제가 7월 15일부터 시행되며, 바이트댄스의 두바오(Doubao)와 알리바바의 통이첸원(Tongyi Qianwen)이 소비자 에이전트 기능을 중단해야 한다. 규제 당국은 예비 단속에서 1만4000개가 넘는 규정 위반 봇을 이미 제거했다.

"플랫폼은 중독 방지 메커니즘, 연령 확인 및 콘텐츠 검토 프로토콜을 반드시 구현해야 한다"고 상하이 사이버공간관리국(Shanghai Cyberspace Administration)이 6월 26일 밝혔다. 당국은 AI 정리 캠페인의 첫 번째 단계에서 1만4000개의 규정 위반 에이전트를 제거한 후 이 같은 입장을 발표했다. 규제 당국에 따르면 약 100개의 주요 플랫폼이 규정 준수 브리핑을 받았다.

두바오는 7월 15일 에이전트 기능을 중단하고 사용자를 바이트댄스의 CatBox 앱으로 안내한다. 통이첸원은 7월 10일 대화형 에이전트 서비스를 종료하고 7월 15일까지 에이전트 플랫폼을 완전히 폐쇄할 예정이다. 두 회사 모두 중독 방지 시스템, 미성년자 신원 확인 및 콘텐츠 검토 의무를 규정한 'AI 의인화 대화형 서비스에 관한 잠정 조치'를 근거로 인용했다.

이번 규제 단속은 중국 빅테크 기업들이 지난 1년간 구축해 온 소비자 대상 AI 에이전트 시장에 위협이 되고 있다. 바이트댄스와 알리바바는 롤플레잉 캐릭터부터 생산성 도구에 이르기까지 사용자 제작 에이전트를 사용자 유치와 UGC 콘텐츠 생성의 핵심 전략으로 활용해 왔다. 이들의 철수는 수천만 사용자에게 핵심 참여 채널을 제거하며, 사용자 증가가 아닌 규제 준수 비용이 중국 AI 경쟁의 다음 단계를 정의할 것임을 시사한다.

상하이 사이버공간관리국의 6월 26일 조치는 미니맥스(MiniMax)의 '탈의' AI 도구와 도박 관련 에이전트를 겨냥한 것으로, AI 애플리케이션 남용에 대한 광범위한 캠페인의 일환이다. 이번 단속은 규제 강화의 패턴을 따른다. 중국은 2023년 이전 AI 콘텐츠 규정을 도입하여 생성형 AI 서비스가 '핵심 사회주의 가치관'에 부합하도록 요구했으며, 새로운 조치는 소비자 에이전트가 제공하는 정서적 상호작용 계층을 구체적으로 겨냥한다.

바이트댄스의 경우, 이번 중단으로 사용자는 새로운 규제 체계 아래에서 에이전트 기능을 호스팅할 수 있는 별도의 앱인 CatBox로 안내된다. 두바오 사용자는 회사의 개인정보 보호정책에 따라 데이터가 삭제되기 전인 10월 15일까지 에이전트 설정과 채팅 기록을 내보낼 수 있다.

알리바바의 통이첸원은 다른 전략적 방향을 취하고 있다. 6월 3일, 이 회사는 Agent 및 Skill 인터페이스를 제3자 기업과 개발자에게 개방했으며, 루킹 커피(Luckin Coffee), KFC, 므쉐(Mixue), 중국동방항공(China Eastern Airlines)이 최초로 테스트를 시작한 기업들이다. 소비자 대상 에이전트에서 기업 서비스로의 전환은 UGC 중심의 AI 상호작용—고빈도, 저가치 채팅 볼륨을 특징으로 함—이 상당한 컴퓨팅 리소스를 소모하면서도 비례적인 수익을 창출하지 못한다는 업계의 광범위한 인식을 반영한다.

규제 준수 비용, AI 수익화 모델 재편

소비자 AI 에이전트의 경제적 논리가 재검토되고 있다. 경량 대화형 에이전트는 세션당 낮은 수익으로 산발적이고 고빈도의 API 호출을 생성하여, 더 엄격한 규제 요구사항 아래에서 지속 불가능한 고비용·저마진 비즈니스 모델을 만든다. 중국의 AI 애플리케이션이 선점형 성장에서 가치 검증형 경제학으로 전환함에 따라, 플랫폼은 소비자 UGC 생태계에서 더 높은 가치의 기업 배치로 자원을 재할당하고 있다.

규제 체계는 또한 소규모 업체들에게 규제 준수 장벽을 만든다. 연령 확인, 콘텐츠 모더레이션 및 데이터 보관 시스템을 구현할 법적·엔지니어링 자원이 부족한 AI 스타트업은 소비자 대상 에이전트 기능을 유지하는 데 어려움을 겪을 수 있으며, 이는 잠재적으로 바이트댄스와 알리바바 같은 자본력이 풍부한 기업을 중심으로 시장이 집중되는 현상을 가속화할 수 있다.

본 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.