Le co-fondateur de Skype Jaan Tallinn sur les 3 risques existentiels les plus préoccupants

LONDRES – Jaan Tallinn, co-fondateur de Skype, a identifié ce qu’il pense être les trois plus grandes menaces à l’existence de l’humanité au cours de ce siècle.

Alors que l’urgence climatique et la pandémie de coronavirus sont considérées comme des problèmes qui nécessitent des solutions mondiales urgentes, Tallinn a déclaré à CNBC que l’intelligence artificielle, la biologie synthétique et les soi-disant inconnues inconnues représentent chacune un risque existentiel jusqu’en 2100.

La biologie synthétique est la conception et la construction de nouvelles pièces, dispositifs et systèmes biologiques, tandis que les inconnus inconnus sont «des choses auxquelles nous ne pouvons peut-être pas penser en ce moment», selon Tallinn.

Le programmeur informatique estonien qui a aidé à mettre en place la plate-forme de partage de fichiers Kazaa dans les années 90 et le service d’appel vidéo Skype dans les années 2000 est devenu de plus en plus préoccupé par l’IA ces dernières années.

«Le changement climatique ne sera pas un risque existentiel à moins qu’il n’y ait un scénario galopant», a-t-il déclaré à CNBC via Skype.

Certes, les Nations Unies ont reconnu la crise climatique comme « la question déterminante de notre temps », reconnaissant ses impacts comme étant mondiaux et d’une ampleur sans précédent. Le groupe international a également averti qu’il existe des preuves alarmantes suggérant que « des points de basculement importants, conduisant à des changements irréversibles dans les principaux écosystèmes et le système climatique planétaire, peuvent déjà avoir été atteints ou dépassés ».

Parmi les trois menaces qui inquiètent le plus Tallinn, l’intelligence artificielle est son objectif et il dépense des millions de dollars pour essayer de garantir que la technologie est développée en toute sécurité. Cela comprend des investissements précoces dans des laboratoires d’IA comme DeepMind (en partie pour qu’il puisse garder un œil sur ce qu’ils font) et le financement de la recherche sur la sécurité de l’IA dans des universités comme Oxford et Cambridge.

Faisant référence à un livre du professeur d’Oxford Toby Ord, Tallinn a déclaré qu’il y avait une chance sur six que les humains ne survivront pas à ce siècle. Pourquoi? L’une des plus grandes menaces potentielles à court terme est l’intelligence artificielle, selon le livre, alors qu’il indique que la probabilité que le changement climatique provoque un événement d’extinction humaine est inférieure à 1%.

En ce qui concerne l’IA, personne ne sait à quel point les machines seront intelligentes et il est pratiquement impossible de deviner à quel point l’IA sera avancée dans les 10, 20 ou 100 prochaines années.

Essayer de prédire l’avenir de l’IA est encore compliqué par le fait que les systèmes d’IA commencent à créer d’autres systèmes d’IA sans intervention humaine.

«Il y a un paramètre très important lorsqu’on essaie de prédire l’IA et l’avenir», a déclaré Tallinn. « Dans quelle mesure et comment exactement le développement de l’IA va-t-il réagir au développement de l’IA? Nous savons que les IA sont actuellement utilisées pour rechercher des architectures d’IA. »

S’il s’avère que l’IA n’est pas excellente pour construire d’autres IA, alors nous n’avons pas besoin d’être trop inquiets car il y aura du temps pour que les gains de capacités de l’IA soient dispersés et déployés, a déclaré Tallinn. (Cette ligne devrait-elle être entre guillemets? Je pense que nous devrions reformuler si ce n’est pas une citation textuelle) Si, cependant, l’IA est compétente dans la construction d’autres IA, alors il est « très justifié de s’inquiéter … de ce qui se passe ensuite », a-t-il déclaré.

Tallinn a expliqué comment les chercheurs sur la sécurité de l’IA envisagent deux scénarios principaux.

Le premier est un accident de laboratoire où une équipe de recherche quitte un système d’IA pour s’entraîner sur certains serveurs informatiques le soir et «le monde n’est plus là le matin». Le second est celui où l’équipe de recherche produit une technologie proto qui est ensuite adoptée et appliquée à divers domaines «où elles finissent par avoir un effet malheureux».

Tallinn a déclaré qu’il se concentrait davantage sur le premier car il y avait moins de gens qui pensaient à ce scénario.

Lorsqu’on lui a demandé s’il était plus ou moins préoccupé par l’idée de superintelligence (le point hypothétique où les machines atteignent l’intelligence au niveau humain puis la dépassent rapidement) qu’il ne l’était il y a trois ans, Tallinn dit que son point de vue est devenu plus «trouble» ou «nuancé». « 

« Si l’on dit que cela va se passer demain, ou que cela ne se produira pas dans les 50 prochaines années, je dirais que les deux sont trop confiants », a-t-il déclaré.

Les plus grandes entreprises technologiques du monde consacrent des milliards de dollars à l’avancement de l’IA. Si certaines de leurs recherches sont publiées ouvertement, la plupart ne le sont pas, ce qui a sonné l’alarme dans certains coins.

«La question de la transparence n’est pas du tout évidente», déclare Tallinn, affirmant que ce n’est pas forcément une bonne idée de publier les détails d’une technologie très puissante.

Certaines entreprises prennent la sécurité de l’IA plus au sérieux que d’autres, selon Tallinn. DeepMind, par exemple, est en contact régulier avec des chercheurs en sécurité de l’IA dans des endroits comme le Future of Humanity Institute à Oxford. Il emploie également des dizaines de personnes qui se concentrent sur la sécurité de l’IA.

À l’autre bout de l’échelle, les centres d’entreprise tels que Google Brain et Facebook AI Research, sont moins impliqués dans la communauté de la sécurité de l’IA, selon Tallinn. Nous devons solliciter les commentaires des deux.

Si l’IA devient plus «course aux armements», alors c’est mieux s’il y a moins de participants au jeu, selon Tallinn, qui a récemment écouté le livre audio de «The Making of The Atomic Bomb» où nous étions (faute de frappe?) de grandes préoccupations quant au nombre de groupes de recherche travaillant sur la science. « Je pense que c’est une situation similaire », a-t-il déclaré.

« S’il s’avère que l’intelligence artificielle ne sera pas très perturbatrice de si tôt, alors il serait certainement utile que les entreprises essaient réellement de résoudre certains des problèmes de manière plus distribuée », a-t-il déclaré.