Emmett Shear, l’ancien PDG de Twitch, lance une nouvelle startup d’IA, a appris TechCrunch.
La startup, appelée Stem AI, est actuellement furtive. Mais les documents publics montrer elle a été constituée en juin 2023 et a déposé une demande marque déposée en août 2023. Shear est répertorié comme PDG sur un document de constitution déposé auprès du secrétaire d’État de Californie plus tôt cette année.
Selon la demande de marque, Stem AI développe un logiciel pour créer une IA qui « comprend, coopère et s’aligne avec le comportement humain, les préférences humaines, la biologie humaine, la moralité humaine et l’éthique humaine ». La startup a recruté Andreessen Horowitz (a16z) comme investisseur en août, selon Pitchbook.
L’un des co-fondateurs de Stem AI est Adam Goldstein, surtout connu pour avoir fondé le site de recherche et de réservation de voyages Hipmunk. Après avoir vendu Hipmunk à Concur en 2016, Goldstein est devenu partenaire invité chez Y Combinator et a fondé un incubateur, Astonishing Labs, pour soutenir la recherche biologique.
Goldstein a également travaillé aux Levin Labs de l’Université Tufts pendant un an en tant que scientifique invité, où il «[developed] de nouveaux modèles de systèmes biologiques axés sur le cancer », selon sa page LinkedIn.
Lorsqu’il a été contacté pour commenter, Shear n’a pas révélé grand-chose sur les projets de Stem AI. Goldstein n’a pas immédiatement répondu à une demande par courrier électronique. De plus, la responsable marketing de 16z, Margit Wennmachers, et la partenaire marketing, Elizabeth Gunn, n’ont pas immédiatement répondu à l’e-mail de TechCrunch.
Mais au cours des derniers mois, Shear s’est tourné vers les réseaux sociaux pour exprimer son point de vue sur la conception, la sécurité et la réglementation de l’IA.
« Presque tous actuellement proposés [AI] la réglementation est une mauvaise idée », Shear a écrit dans un post sur X. Dans un autre, il dit« Ne pas avoir peur [AI superintelligence] indique soit un pessimisme à l’égard [the] taux de progrès futurs en matière de synthèse de l’intelligence numérique, ou manque grave d’imagination quant au pouvoir de l’intelligence.
Dans un poste plus tôt ce mois-ci, Shear a critiqué la plupart des chatbots d’IA comme étant des « névrosés agréables hautement dissociatifs ».
« [Chatbots are] manipulateur pour la même raison que les personnes atteintes d’un trouble de la personnalité limite », a-t-il déclaré. « Ils n’ont pas de sentiment d’identité ni d’objectifs internes stables, ils se nourrissent donc du vôtre et ont besoin que vous soyez prévisible. »
Il se pourrait très bien que Stem AI développe des solutions pour résoudre ce problème « d’alignement de l’IA ».
Shear, qui a passé presque toute sa carrière chez Twitch après avoir contribué à faire croître la plate-forme d’un site naissant appelé Justin.tv au géant d’Amazon qu’elle est aujourd’hui, a longtemps exprimé ses inquiétudes quant au fait qu’une puissante IA aura un jour la capacité de détruire l’humanité. . Dans une technologie podcast En juin dernier, Shear a déclaré qu’il craignait que l’IA finisse par acquérir la capacité de s’auto-améliorer au-delà de la portée du contrôle humain.
« Je suis favorable à la création d’une sorte d’alarme incendie, comme peut-être, ‘Pas d’IA plus grande que ‘X' », a déclaré Shear. « Je pense qu’il existe de bonnes options en matière de collaboration internationale et de traités sur une sorte de traité d’interdiction des tests d’IA. »
En novembre 2023, Shear a été brièvement nommé PDG par intérim du fabricant de ChatGPT OpenAI après que plusieurs membres du conseil d’administration de la société ont évincé le PDG Sam Altman. Shear, qui faisait autrefois partie du même groupe Y Combinator qu’Altman, et était associé à temps partiel chez Y Combinator pendant une partie du mandat d’Altman en tant que président, aurait a menacé de démissionner de son poste de PDG si le conseil d’administration ne pouvait pas fournir de preuves appuyant la destitution d’Altman.
Selon Selon le Wall Street Journal, Shear, aux côtés du PDG d’Airbnb, Brian Chesky, « a contribué à ouvrir la voie » au retour d’Altman ; Shear a publiquement critiqué la gestion du renvoi d’Altman. Deux jours après la nomination de Shear, un accord a été conclu pour réintégrer Altman et Shear a démissionné.
Dépôts montrer que Shear a gagné environ 3 720 $ pour son court mandat OpenAI.