Une coalition de plus de 200 experts en développement de l'enfant et groupes de défense demande à Google et YouTube de cesser d'utiliser l'intelligence artificielle pour créer du contenu pour les enfants, une initiative qui pourrait impacter un marché estimé à plusieurs millions de dollars par certains créateurs.
Plus de 200 organisations de défense des enfants, menées par l'association à but non lucratif Fairplay, ont envoyé une lettre aux PDG de Google et YouTube exigeant l'interdiction des vidéos de basse qualité générées par l'IA, surnommées « slop IA », sur la plateforme YouTube Kids, invoquant des risques de développement significatifs pour les jeunes spectateurs.
« Ce contenu, truffé d'erreurs et d'images troublantes, n'est pas seulement un divertissement inoffensif ; c'est de la désinformation pour les tout-petits », a déclaré Dana Suskind, professeure de chirurgie et de pédiatrie au TMW Center for Early Learning. « Il arrive pendant une période de développement critique, lorsque le cerveau des enfants est en train de se câbler, littéralement, pour toute une vie. »
La lettre, signée par des groupes tels que l'American Federation of Teachers et des experts comme Jonathan Haidt, auteur de « The Anxious Generation », souligne que les vidéos générées par l'IA sont souvent sans intrigue et hypnotiques, conçues pour maximiser le temps de visionnage. Les groupes soutiennent que ce « slop IA » supplante les activités du monde réel cruciales pour le développement. La lettre note que les principales chaînes de ce type ciblant les enfants génèrent déjà plus de 4,25 millions de dollars de revenus annuels.
Cette demande met sous pression la division YouTube d'Alphabet (GOOGL), très lucrative, qui fait face à un examen réglementaire croissant sur son impact sur les enfants. L'issue pourrait forcer des changements coûteux dans la modération du contenu et la conception de la plateforme, affectant potentiellement l'engagement des annonceurs et la confiance des investisseurs, surtout après un récent verdict où un jury a jugé YouTube et Meta responsables d'avoir conçu des plateformes pour rendre les jeunes utilisateurs dépendants sans se soucier de leur bien-être.
Les défenseurs contestent les garde-fous de YouTube en matière d'IA
La coalition demande à YouTube d'étiqueter clairement tout contenu généré par l'IA, de l'interdire sur l'application YouTube Kids et d'empêcher sa recommandation aux utilisateurs de moins de 18 ans. En outre, ils exigent une option de contrôle parental qui permettrait aux parents de bloquer complètement le contenu de l'IA, même si un enfant le recherche activement.
Fairplay soutient que la politique actuelle de divulgation volontaire de YouTube est insuffisante. La politique exige que les créateurs n'étiquettent que le contenu « réaliste » réalisé avec des médias synthétiques, laissant un volume important de vidéos d'IA animées ou manifestement irréalistes sans aucune divulgation. Le groupe de défense soutient que de nombreux jeunes enfants ne peuvent de toute façon pas lire ou comprendre ces étiquettes, ce qui les laisse vulnérables à ce qu'il appelle un « contenu d'IA hypnotique et sans intrigue ».
YouTube défend ses politiques face aux critiques
En réponse, un porte-parole de YouTube a déclaré que l'entreprise a des « normes élevées pour le contenu dans YouTube Kids, notamment en limitant le contenu généré par l'IA dans l'application à un petit ensemble de chaînes de haute qualité ». L'entreprise a également noté qu'elle offrait aux parents la possibilité de bloquer des chaînes et qu'elle développait activement des étiquettes spécifiques pour l'application YouTube Kids.
La pression des groupes de sécurité pour enfants survient peu de temps après que l'AI Futures Fund de Google a investi 1 million de dollars dans Animaj, un studio d'animation par IA qui produit du contenu pour enfants et a attiré une audience importante. Bien que le PDG de YouTube, Neal Mohan, ait précédemment cité la « gestion du slop IA » comme une priorité, la coalition estime que les actions de la plateforme ne correspondent pas à ses discours, privilégiant le profit au bien-être de ses plus jeunes utilisateurs.
Cet article est à titre informatif uniquement et ne constitue pas un conseil en investissement.
