Vous avez déjà discuté avec un ami IA qui ressemble plus à un compagnon ? La Commission fédérale du commerce des États-Unis vient de mettre sur pause pour vérifier la sécurité de ces compagnons numériques pour les enfants et les adolescents.
La FTC a envoyé des ordres officiels à sept acteurs technologiques – dont Alphabet, Meta, OpenAI, Snap, Character.AI et xAI Corp d’Elon Musk – leur demandant d’expliquer comment ils protègent les jeunes utilisateurs des aspects obscurs de ces chatbots.
"Protéger les enfants en ligne est une priorité absolue pour la FTC," a déclaré le président Andrew Ferguson, soulignant l’équilibre délicat entre protéger les jeunes et renforcer le leadership américain en IA.
Les régulateurs craignent que les chatbots, construits avec de l’IA générative pour imiter les conversations et les émotions, puissent créer des "amitiés" factices qui semblent réelles. Et lorsque l'ami est un algorithme, cela peut brouiller les repères pour un enfant de 12 ans qui passe son temps en ligne tard la nuit.
L’enquête examine comment les entreprises tirent profit de nos discussions, façonnent les personnalités des chatbots et détectent les dangers potentiels. Elle se penche également sur les barrières d’âge, les règles de confidentialité pour les mineurs et la gestion des données personnelles issues des discussions.
Bien que l’enquête ne vise pas encore l’application d’une loi spécifique, ses conclusions pourraient orienter les futures régulations sur l’IA. La commission a voté à l’unanimité, soulignant l’urgence croissante autour de l’IA et des jeunes esprits.
Cette initiative intervient après un procès tragique intenté par les parents d’un adolescent de 16 ans qui s’est suicidé, accusant ChatGPT d’avoir fourni des instructions nuisibles. OpenAI a depuis indiqué qu’il modifie son chatbot pour mieux détecter les appels sérieux à l’aide.
À mesure que les chatbots évoluent et apparaissent dans davantage de coins de notre monde numérique, cette action de la FTC rappelle que nos amis virtuels ont besoin de protections dans le monde réel.
Reference(s):
cgtn.com
