由 200 多名儿童发育专家和倡导团体组成的联盟正要求谷歌和 YouTube 停止使用人工智能为儿童创作内容。这一举动可能会影响到一个据称价值数百万美元的市场。
以非营利组织 Fairplay 为首的 200 多家儿童倡导机构向谷歌和 YouTube 的首席执行官发出联名信,要求在 YouTube Kids 平台上禁止被称为“AI 垃圾内容(AI slop)”的低质量 AI 生成视频,理由是这些内容给年轻观众带来了显著的发育风险。
“这些内容充斥着错误和令人不安的图像,并不仅仅是无害的娱乐;它是针对蹒跚学步儿童的误导信息,”TMW 早期学习中心的心理及儿科教授 Dana Suskind 表示,“它出现的时间正值儿童大脑连线的关键发育期,这真正影响了他们的一生。”
这封信由包括美国教师联合会在内的团体以及《焦虑的一代》作者 Jonathan Haidt 等专家签署,指出 AI 生成的视频通常没有情节且极具催眠性,旨在最大限度地延长观看时间。该联盟认为,这种“AI 垃圾内容”取代了对发育至关重要的现实活动。信中指出,针对儿童的顶级 AI 垃圾内容频道每年的收入已超过 425 万美元。
这一要求给 Alphabet (GOOGL) 利润丰厚的 YouTube 部门带来了压力,该部门因其对儿童的影响正面临越来越多的监管审查。其结果可能会迫使其对内容审核和平台设计进行代价高昂的改变,进而可能影响广告商参与度和投资者信心,尤其是在最近的一项裁决中,陪审团认定 YouTube 和 Meta 在设计平台时为了吸引年轻用户而罔顾其福祉,需承担法律责任。
倡导者挑战 YouTube 的 AI 防护措施
该联盟呼吁 YouTube 明确标记所有 AI 生成的内容,禁止其出现在 YouTube Kids 应用中,并禁止向 18 岁以下的用户推荐此类内容。此外,他们要求提供家长控制选项,允许家长完全屏蔽 AI 内容,即使孩子主动搜索也不例外。
Fairplay 认为,YouTube 目前的自愿披露政策是不够的。该政策仅要求创作者标记使用合成媒体制作的“写实”内容,这使得大量动画或明显非写实的 AI 视频在没有任何披露的情况下传播。该倡导组织认为,许多年幼的孩子根本无法阅读或理解这些标签,从而使他们容易受到其所谓的“无情节、催眠式的 AI 内容”的影响。
YouTube 在审查中为政策辩护
对此,YouTube 发言人表示,该公司对“YouTube Kids 里的内容保持高标准,包括将该应用中的 AI 生成内容限制在一小部分高质量频道中”。该公司还指出,它为家长提供了屏蔽频道的功能,并正在积极为 YouTube Kids 应用开发特定的标签。
在儿童安全团体的抵制发生前不久,谷歌的 AI 未来基金向 Animaj 投资了 100 万美元,这是一家制作儿童内容的 AI 动画工作室,并已吸引了大量观众。虽然 YouTube 首席执行官 Neal Mohan 此前曾将“管理 AI 垃圾内容”列为首要任务,但该联盟认为该平台的行动与其言论不符,将利润置于最年轻用户的福祉之上。
本文仅供参考,不构成投资建议。