Imaginez un chatbot capable de créer des photos à la demande – ça a l'air cool, non ? Mais lorsque ces images franchissent la ligne vers un contenu sexualisé ou non consensuel, des signaux d'alarme retentissent. Le 10 janvier 2026, l'Indonésie est devenue le premier pays à bloquer temporairement l'accès au chatbot Grok AI d'Elon Musk.
Cet acte fait suite à des pressions de la part de gouvernements à travers l'Europe et l'Asie, où les autorités ont ouvert des enquêtes sur les contenus pornographiques générés par l'application.
xAI, la startup derrière Grok, a déclaré plus tôt cette semaine qu'elle limite la création et l'édition d'images aux abonnés payants. L'objectif est de combler les lacunes qui ont permis à l'outil de produire du contenu sexualisé, y compris des représentations troublantes de mineurs en vêtements légers.
Le ministre indonésien des Communications et du Numérique, Meutya Hafid, a déclaré que le gouvernement considère les deepfakes sexuels non consensuels comme une grave violation des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique. Le ministère a même convoqué des responsables de X (anciennement Twitter) pour discuter du problème.
Sur X, Musk a averti que quiconque utilise Grok pour du contenu illégal subirait les mêmes sanctions que ceux qui téléchargent du matériel interdit. La réponse publique de xAI aux questions des médias était un message automatisé "Mensonges des médias classiques". X n'a pas immédiatement répondu aux demandes de commentaires.
Avec la plus grande population musulmane au monde, l'Indonésie impose des interdictions strictes sur le contenu obscène en ligne. Alors que les fans de technologie peuvent être surpris, cette interdiction indique une position plus ferme sur la sécurité de l'IA et la responsabilité numérique.
Alors que les outils d'IA se répandent dans le Sud global, cet épisode nous rappelle que l'innovation doit aller de pair avec le respect de la dignité humaine et de l'état de droit. Restez à l'écoute alors que l'histoire se déroule.
Reference(s):
Indonesia temporarily blocks access to Grok over sexualized images
cgtn.com
