Le sort d’OpenAI est en jeu

CNN
—

Près d’une semaine après le début d’une crise de leadership qui bouleverse le secteur de l’intelligence artificielle dans le chaosl’avenir d’OpenAI ainsi que celui de son ancien PDG Sam Altman restent toujours aussi incertains.

Si l’éviction brutale d’Altman a été une surprise, ce n’est rien comparé au chaos et au coup de fouet des derniers jours qui ont conduit la grande majorité des employés d’OpenAI à menacer l’entreprise de leur démission. Cela n’a fait que renforcer l’impression que le drame du conseil d’administration d’OpenAI pourrait prendre une tournure inattendue à tout moment.

Comme pour souligner la confusion, lundi a commencé par l’annonce selon laquelle Altman rejoindrait Microsoft pour diriger une équipe interne de recherche sur l’IA, et la journée s’est terminée avec le PDG de Microsoft, Satya Nadella, déclarant : un résultat différent était encore possible.

“Si quelque chose se produit et que leur conseil d’administration et les gens décident qu’ils veulent revenir à une sorte d’État”, a déclaré Nadella à Kara Swisher, contributrice de CNN, lors de l’émission Swisher. podcast“une chose, je vais être très, très clair [about] c’est-à-dire que nous n’allons plus jamais nous retrouver dans une situation où nous serons plus jamais surpris comme celui-ci. Ça c’est fait.”

“Si nous reprenons le fonctionnement comme vendredi”, a ajouté Nadella, “nous veillerons à ce que nous soyons très, très clairs sur le fait que la gouvernance soit corrigée de manière à ce que nous ayons vraiment plus de sécurité et garantissions que nous n’avons pas de surprises. »

Mardi, plusieurs médias, dont Bloomberg et Reuters, ont rapporté que le conseil d’administration d’OpenAI et Altman étaient en pourparlers ouverts pour négocier son éventuel retour. Une telle nouvelle possibilité met en évidence la volatilité d’un moment qui entraîne de vastes ramifications pour l’industrie de l’IA, déterminant la manière dont Microsoft pourrait consacrer des milliards d’investissements futurs à l’IA.

La fluidité de la situation est une des caractéristiques de la crise. Il y a tout d’abord eu la soudaine promotion par le conseil d’administration de la directrice de la technologie d’OpenAI, Mira Murati, en remplacement d’Altman vendredi – faite dans le même souffle que le licenciement d’Altman. Puis, quelques heures plus tard, Murati elle-même a signé une lettre avec des centaines de ses collègues appelant au retour d’Altman, à la démission du conseil d’administration et menaçant de démissionner.

Un co-fondateur et membre du conseil d’administration qui, selon certains témoignages, a mené la charge lors de l’éviction d’Altman, Ilya Sutskever, a inexplicablement signé la lettre également et s’est excusé publiquement lundi pour son propre rôle dans la saga. Pendant un certain temps, il a peut-être semblé que les membres du conseil d’administration allaient se retirer, mais cela n’a pas encore été fait.

Ensuite, Microsoft, qui entretient un partenariat approfondi avec OpenAI, a annoncé lundi qu’il embaucherait Altman pour diriger une équipe interne de recherche avancée sur l’IA, le sortant ainsi d’un chômage soudain. Sauf que maintenant, semble-t-il, l’accord n’est pas encore définitif.

Que Altman travaille pour Microsoft ou pour OpenAI ne changera pas le résultat final, a soutenu Nadella à Swisher, à savoir que Microsoft bénéficie de son travail. Et c’est vrai dans une certaine mesure.

Mais ce qui se passe avec OpenAI n’affectera pas seulement Microsoft ; Altman, ainsi que les centaines d’employés d’OpenAI qui ont menacé de démissionner à moins qu’il ne soit réintégré et que le conseil d’administration ne démissionne, représente un lieu de pouvoir et de talent dans l’industrie de l’IA avec peu d’égal.

Certains cherchent déjà à profiter du moment présent : lundi après-midi, le PDG de Salesforce, Marc Benioff encouragé Les réfugiés d’OpenAI viennent travailler pour son entreprise, en promettant d’égaler leur rémunération « immédiatement ». Nadella a déclaré lundi que Microsoft « aura certainement une place pour tous les talents en IA » d’OpenAI qui choisiront de quitter le navire.

La compétition pour les talents en IA, et la destination finale du pouvoir représenté par Altman et ses alliés, auront une influence indélébile sur le cours du développement de l’IA.

L’issue de la crise pourrait également marquer un tournant dans une bataille idéologique de longue date dans la Silicon Valley sur les risques à long terme de l’IA, qui semblent avoir été au centre des tensions entre Altman et le conseil d’administration qui l’a sommairement licencié. .

On ignore encore beaucoup de choses sur les raisons exactes du licenciement d’Altman par le conseil d’administration. Son explication officielle était qu’Altman n’était pas suffisamment « franc » avec le conseil d’administration, et le directeur des opérations d’OpenAI a aurait dit le licenciement n’était pas lié à un « délit » ou à des problèmes financiers, de sécurité ou de confidentialité. Un facteur clé, a rapporté Swisher, semble avoir été les inquiétudes du conseil d’administration concernant le rythme préféré d’Altman ou la portée du développement de l’IA, soulignant les craintes concernant les dangers d’une super-intelligence incontrôlée. Le nouveau PDG par intérim d’OpenAI, Emmett Shear, a nié que le licenciement soit dû à un désaccord « spécifique » sur la sécurité de l’IA.

Tout au long de cette partie de téléphone, le conseil d’administration lui-même est resté fermement silencieux, laissant les étrangers spéculer sur ses motivations et sur le jeu de pouvoir qui a conduit au licenciement d’Altman.

Ce faisant, les critiques peuvent accuser le conseil d’administration d’incompétence et de myopie, ce qui risque également de discréditer indirectement leur position sur les risques liés à l’IA.

« Une chose qui semble cohérente dans OpenAI (sur la base de certaines conversations internes que j’ai eues) est qu’un groupe de personnes qui sont *laser concentrées sur les éléments catastrophiques de l’IA et sur le principe plus abstrait de l’AGI. [artificial general intelligence] pour le bien de l’humanité* pourraient aussi être les mêmes personnes qui ne réfléchissent pas pleinement aux éléments plus humains/financiers liés au licenciement de la figure de proue du mouvement de l’IA générative et à l’énervement de l’entreprise qui a investi 10 milliards de dollars dans une entreprise/une vision très spécifique, » écrivait le journaliste Charlie Warzel dans un article sur les discussions pendant le weekend.

Sans peser sur les craintes réelles liées au risque existentiel de l’IA, il est possible que l’une des victimes du fiasco d’OpenAI finisse par être la crédibilité de certains de ceux qui s’inquiètent le plus de l’IA.