Le public devrait savoir sur quoi Sam Altman a menti au conseil d’administration d’OpenAI

• OpenAI travaille sur une IA qui égale ou dépasse l’intelligence humaine, une technologie potentiellement dangereuse.
• Le conseil d’administration a accusé le PDG Sam Altman de ne pas avoir été « franc » lorsqu’il l’a licencié.
• Le public a besoin de savoir sur quoi il a menti, le cas échéant.

Elon Musk a plusieurs axes à défendre en ce qui concerne OpenAl et son cofondateur Sam Altman. Mais le PDG de Tesla a fait valoir un argument valable au milieu d’un week-end chaotique pour la startup d’intelligence artificielle.

Les événements ont débuté vendredi après-midi lorsqu’OpenAl a clairement indiqué dans un communiqué qu’Altman avait menti au conseil d’administration sur quelque chose de si important qu’ils ont décidé de l’évincer de son poste de PDG.

“Il n’a pas toujours été franc dans ses communications avec le conseil d’administration, ce qui a entravé sa capacité à exercer ses responsabilités”, a déclaré OpenAl.

Il s’agit d’une décision radicale et très perturbatrice que les conseils d’administration prennent très rarement. Pour toute entreprise privée ordinaire, ce type d’intrigue d’entreprise aurait probablement raison de rester une affaire interne. Mais OpenAl est un cas particulier.

La startup a développé la technologie la plus puissante au monde. GPT-4 est actuellement le modèle Al le plus performant et le plus influent du marché, et une nouvelle version est en préparation qui devrait être encore plus puissante. Altman lui-même a appelé les régulateurs et autres institutions à se préparer à l’intelligence artificielle générale, lorsque les machines égaleront, voire dépasseront, les capacités humaines.

“Compte tenu du risque et de la puissance de l’Al avancée, le public devrait être informé des raisons pour lesquelles le conseil d’administration a estimé qu’il devait prendre des mesures aussi drastiques”, Musk posté sur X le dimanche.

OpenAl charte, le document qui contrôle l’entreprise et indique à son conseil d’administration et à ses dirigeants comment se comporter, indique clairement que « le devoir fiduciaire principal de cette entreprise est envers l’humanité ». Il s’engage également dans la charte à utiliser toute influence d’OpenAl sur le déploiement d’AGI pour garantir que cette technologie profite à tout le monde et ne “nuit pas à l’humanité ou ne concentre pas indûment le pouvoir”.

Il s’agit d’une charte inhabituelle pour une startup technologique ou la plupart des autres entreprises privées, qui existent généralement dans le but principal de réaliser des bénéfices et de fournir un rendement aux investisseurs.

“Très peu de gens savent avec certitude ce qui s’est passé dans cette affaire, mais ma meilleure hypothèse est que lorsque les membres du conseil d’administration ont déclaré : ‘il n’a pas été toujours franc dans ses communications avec le conseil, ce qui a entravé sa capacité à exercer ses responsabilités’, ils voulaient dire que il a caché à plusieurs reprises des informations qui interféraient avec leurs obligations légales visant à garantir le développement sûr de l’AGI”, Toby Ord, chercheur principal à l’Université d’Oxford, écrit le X le dimanche.

Musk a initialement soutenu OpenAl en tant qu’organisation de recherche axée sur la sécurité de l’aluminium. Il s’est retiré il y a quelques années et pourrait se sentir lésé de ne pas avoir pu profiter de l’évolution d’une entité aussi révolutionnaire. Musk a également lancé un groupe de recherche concurrent sur l’Al, donc le chaos à OpenAl pourrait être relativement bénéfique pour cette initiative.

Sous la direction d’Altman, la startup a levé des milliards de dollars et lancé plusieurs produits dotés d’un énorme potentiel commercial. La récente journée des développeurs de la société a été remplie de mises à jour et de lancements de style entreprise Big Tech. On est loin de ses racines en matière de recherche sur la sécurité de l’aluminium.

C’est pourquoi il est important que le public sache exactement ce qui s’est passé avec l’éviction d’Altman. J’ai interrogé dimanche le service de presse d’OpenAl et je n’ai pas obtenu de réponse.

Peut-être que le conseil d’administration a réagi de manière excessive et exagère ce qui s’est passé avec Altman. Ou cela aurait pu être un coup d’État plus simple où le PDG aurait été évincé pour une autre raison, ou sans raison du tout.

Cependant, il existe d’autres théories sur ce qui s’est passé, ainsi que plusieurs reportages dans les médias.

Bloomberg a rapporté qu’Altman a essayé de lever d’énormes sommes d’argent pour une nouvelle startup de puces Al appelée Tigris. Le conseil d’administration a-t-il posé des questions à ce sujet ? Si oui, comment Altman a-t-il réagi ? Le PDG d’OpenAl devrait-il essayer de créer une autre grande entreprise ? Musk l’a fait à plusieurs reprises, mais c’est inhabituel, et le conseil d’administration d’OpenAl s’attendrait probablement à en être informé.

D’autres publications ont écrit que le cofondateur d’OpenAl, Ilya Sutskever, souhaitait poursuivre le développement d’Al avec plus de prudence qu’Altman, compte tenu de la menace potentielle que la technologie représente pour la société.

Le Le New York Times a rapporté que Sutskever a créé une équipe de « super alignement » pour garantir que les futures versions de GPT-4 ne seraient pas nocives pour l’humanité. Le conseil d’administration en a-t-il discuté avec Altman ? Comment a-t-il réagi ?

Ce type de schisme au sein d’OpenAl a déjà poussé un grand nombre de cofondateurs d’OpenAl à partir et à lancer une autre startup appelée Anthropic qui se dit plus axée sur la sécurité d’Al.

Altman est, d’après une photo de lui-même posté sur X Dimanche après-midi, au siège d’OpenAI au moment où j’écris ces lignes, nous négocions pour revenir diriger à nouveau OpenAl. Si cela se produit, il est encore plus important de savoir ce qu’il a dit ou n’a pas dit au conseil d’administration.