Au début de l'Assemblée générale des Nations Unies de cette année, un groupe de plus de 200 personnalités de renom – dont 10 lauréats du prix Nobel et des chercheurs en IA de sociétés comme Anthropic, Google DeepMind, Microsoft et OpenAI – a publié une puissante lettre ouverte.
La lettre commence : "L’IA possède un immense potentiel pour améliorer le bien-être humain, mais sa trajectoire actuelle présente des dangers sans précédent." Leur message est clair : les gouvernements du monde entier doivent établir des « lignes rouges » fermes autour des usages les plus dangereux de l'IA avant qu'il ne soit trop tard.
Alors, quelles sont ces lignes rouges ? Pensez à elles comme à des zones interdites pour l'IA : prendre le contrôle des arsenaux nucléaires, déployer des armes autonomes létales, ou libérer une surveillance de masse et un score social. Imaginez un algorithme décidant qui peut monter dans un bus à Lagos ou suivant chacun de vos mouvements à Rio de Janeiro – c'est une voie contre laquelle ces experts mettent en garde.
La lettre pointe également les cyberattaques et l'usurpation d'identité alimentée par l'IA comme des risques majeurs. Et avec l'IA avançant à une vitesse fulgurante – des deepfakes viraux à la conception de nouvelles armes biologiques – les signataires exhortent à ce que ces lignes rouges soient officiellement en place d'ici la fin de l'année prochaine.
C'est une course contre la montre. "L’IA pourrait bientôt dépasser largement les capacités humaines," lit-on dans la lettre, "escaladant les risques comme les pandémies artificielles, la désinformation généralisée, la manipulation à grande échelle des individus (y compris des enfants), les menaces de sécurité, le chômage de masse et les violations des droits humains."
De Dakar à Delhi, Nairobi à Caracas, l’appel est clair : il est temps d’établir des règles globales pour maîtriser le pouvoir de l’IA tout en veillant à ce qu’elle serve la société sans mettre le monde sur des charbons ardents.
Reference(s):
Scientists urge global AI 'red lines' as leaders gather at UN
cgtn.com
