L’IA pourrait se retourner contre l’humanité – scientifique primé – RT World News
La technologie pourrait devenir plus intelligente que les humains et éventuellement prendre le relais, selon Yoshua Bengio
Le développement rapide de l’intelligence artificielle (IA) pourrait présenter de graves risques pour l’humanité, car elle devient plus difficile à contrôler, a prévenu le célèbre informaticien Yoshua Bengio.
Professeur à l’Université de Montréal et directeur de l’Institut des algorithmes d’apprentissage de Montréal, Bengio a déclaré jeudi à CNBC que les machines pourraient bientôt posséder la plupart des capacités cognitives des humains.
Le scientifique faisait référence à l’intelligence artificielle générale (AGI), un type de technologie d’IA qui vise à égaler ou à devenir meilleur que l’intellect humain. « L’intelligence donne le pouvoir. Alors, qui va contrôler ce pouvoir ? » dit Bengio.
« Si nous créons des entités plus intelligentes que nous et ayant leurs propres objectifs, qu’est-ce que cela signifie pour l’humanité ? Sommes-nous en danger ? il a demandé.
L’informaticien a cité une crainte commune que les machines d’IA actuellement en cours de formation « conduirait à des systèmes qui se retourneraient contre les humains. »
Il a souligné qu’un nombre limité d’organisations et de gouvernements pouvaient se permettre de construire des machines d’IA puissantes et coûteuses. Cela conduirait à une concentration du pouvoir économique, politique et militaire, menaçant à terme la stabilité géopolitique mondiale, a-t-il averti.
« Il y a des gens qui pourraient vouloir abuser de ce pouvoir, et il y a des gens qui pourraient être heureux de voir l’humanité remplacée par des machines. » a-t-il déclaré, appelant à une réglementation plus stricte.
Selon l’informaticien, les entreprises développant l’IA et se faisant concurrence pour la domination technologique mondiale sont en tête. « une course au danger » et devraient être tenus responsables de leurs actes.
Bengio est surtout connu pour ses travaux pionniers en matière d’apprentissage profond, qui lui ont valu le prix AM Turing 2018, connu sous le nom de « prix Nobel de l’informatique », aux côtés des scientifiques Geoffrey Hinton et Yann LeCun. En 2019, il a reçu le prix Killam et est devenu en 2022 l’informaticien ayant le plus grand impact au monde tel que mesuré par l’indice h.
Ces dernières années, des personnalités de premier plan du secteur technologique ont exprimé leurs inquiétudes quant aux dangers potentiels posés par l’adoption non réglementée de la technologie de l’IA.
Hinton, considéré comme un pionnier de l’IA, a averti que le monde pourrait être confronté à des catastrophes majeures avant que l’utilisation des armes de l’IA ne soit réglementée de manière appropriée.
Bengio figurait parmi les principales personnalités du secteur, notamment le PDG de Tesla, Elon Musk, et le co-fondateur d’Apple, Steve Wozniak, qui a cosigné l’année dernière une lettre appelant à une réglementation agressive du secteur de l’IA. En juin, il a approuvé une autre lettre ouverte sur les avantages de la technologie. « des risques sérieux ». La lettre a été signée par des employés d’Open AI, le créateur du chatbot viral IA ChatGPT.
Vous pouvez partager cette histoire sur les réseaux sociaux :
