Trois sénateurs démocrates américains ont demandé à Apple et Google de retirer les applications X et Grok d'Elon Musk de leurs boutiques, les accusant de ne pas avoir empêché le contenu explicite non consenti et les abus sexuels sur enfants.
Dans une lettre ouverte au PDG d'Apple Tim Cook et à celui de Google Sundar Pichai, les sénateurs Ron Wyden, Ed Markey et Ben Ray Luján ont exigé que les plateformes restent hors ligne jusqu'à ce que xAI, la société de Musk, répare ce qu'ils appellent "des activités troublantes et probablement illégales". Ils ont averti que maintenir les applications disponibles se moquerait des propres règles de contenu des entreprises.
Des rapports récents montrent que les outils d'IA de X et Grok facilitent la création et le partage de deepfakes sexuels sans consentement. Un cas très médiatisé cité par The Times de Londres concernait un descendant de survivants de l'Holocauste manipulé numériquement dans une image sexualisée à Auschwitz.
La controverse a suscité un examen réglementaire dans le monde entier—en Europe, Malaisie, Australie et Inde—cependant, les agences américaines comme la FTC et le ministère de la Justice n'ont pas confirmé de sondes sur xAI.
Début janvier, Musk et X ont affirmé que toute personne produisant du contenu illégal via Grok ferait face aux mêmes pénalités que les téléchargements directs, mais les critiques disent que la politique n'est pas appliquée. Tant Apple que Google ont des règles strictes contre les abus sexuels sur enfants et les contenus explicites non consentis—des contrevenants précédents incluent Tumblr et Telegram.
La semaine dernière, X a limité les fonctionnalités de génération d'images de Grok aux abonnés payants, mais l'application Grok autonome permet toujours aux utilisateurs de produire des deepfakes sans autorisation. Trois membres de l'équipe de sécurité de xAI ont démissionné après que Musk a poursuivi les mises à jour malgré les préoccupations de sécurité.
Pendant ce temps, xAI vient de clôturer un tour de financement de 20 milliards de dollars dirigé par des investisseurs tels que Nvidia, Cisco Investments et Qatar Investment Authority. Apple et Google n'ont pas encore répondu aux demandes des sénateurs.
Cette confrontation sur les deepfakes IA souligne un défi mondial : protéger la dignité personnelle en ligne, que ce soit à New York, Mumbai ou Lagos. Nous vous tiendrons informés au fur et à mesure que l'histoire évolue.
Reference(s):
cgtn.com
