Au Web Summit à Lisbonne ce novembre, le physicien du MIT Max Tegmark a tiré la sonnette d'alarme sur la course rapide vers la Super Intelligence Artificielle. Lors d'une conversation avec Neil Cairns de RAZOR, il a souligné que l'intelligence artificielle d'aujourd'hui excelle dans des tâches spécifiques, mais que des équipes à travers le monde travaillent déjà à créer des machines capables d'apprendre, de s'adapter et d'agir de manière autonome.
Tegmark avertit que la véritable menace vient de la combinaison d'une super intelligence avec des compétences étendues et une autonomie physique. "Imaginez un moto-taxi autonome à Abidjan qui choisit ses propres itinéraires et apprend de nouveaux tours chaque jour," dit-il. Si un tel système sort de son cadre prévu, les humains pourraient ne pas être en mesure de le contrôler.
Il met en avant une vérité simple : des industries comme l'aviation et la médecine imposent des tests de sécurité stricts avant que de nouvelles technologies soient introduites, mais les startups en intelligence artificielle ne font face à presque aucune réglementation obligatoire. Tegmark soutient que les gouvernements devraient appliquer les mêmes standards fondamentaux à l'IA, des tests de résistance aux simulations de crise.
Malgré ces risques, il reste optimiste. Avec une préoccupation publique croissante et des experts du monde entier appelant à des limites claires sur l'IA incontrôlée, il reste encore du temps pour agir. Si nous établissons des règles solides maintenant, Tegmark croit que l'IA peut permettre des avancées en science et en santé sans mettre l'humanité en danger.
Au-delà de ses avertissements, Tegmark a cofondé le Future of Life Institute en 2014, militant pour la sécurité de l'IA et des réglementations sensées dans ce domaine en pleine évolution.
Reference(s):
cgtn.com
