Aucune question sur ça : Microsoft de Nadella est un triomphe. Enfin, dans les années 2020, Microsoft s’est concentré sur la technologie la plus innovante depuis le PC lui-même. Et même si les revenus issus des produits d’IA n’ont pas commencé à compenser les énormes investissements de Microsoft, l’entreprise a la confiance (et les ressources) nécessaires pour attendre que les produits s’améliorent et que les utilisateurs les trouvent utiles.
Mais Microsoft peut-il vraiment éviter l’orgueil qui l’a marqué si loin auparavant ? Considérez ce qui s’est passé en mai de cette année avec un produit appelé Recall.
Cette fonctionnalité était censée incarner l’intégration de l’IA par Microsoft dans son matériel, ses logiciels et son infrastructure. L’idée était de donner aux utilisateurs une sorte de version personnelle d’Internet Archive. Recall capturerait en permanence tout ce qui se passe dans votre machine : ce que vous lisez, ce que vous écrivez, les photos et vidéos que vous regardez, les sites que vous visitez. Décrivez simplement à votre machine ce que vous recherchez : quels étaient les échantillons de tapis que j’envisageais pour mon salon ? Où est ce rapport sur l’écologie de l’Amazonie ? Quand suis-je allé à Paris ? Ces moments surgiraient comme par magie, comme si vous aviez un homoncule qui savait tout de vous. Cela semble effrayant – un peu comme un Big Brother embarqué – mais Microsoft a insisté sur le fait que les utilisateurs pouvaient se sentir en sécurité. Tout reste sur votre ordinateur !
Presque immédiatement, les critiques l’ont qualifié de cauchemar en matière de vie privée. D’une part, ont-ils noté, Recall fonctionnait par défaut et engloutissait vos informations personnelles, aussi sensibles soient-elles, sans demander la permission. Alors que Microsoft a souligné que seul l’utilisateur pouvait accéder à Recall, les chercheurs en sécurité ont découvert «des lacunes dans lesquelles vous pourriez conduire un avion« , comme l’a dit un testeur.
« En 48 heures environ, nous sommes passés du « Wow, c’est extraordinairement excitant ! aux personnes exprimant certaines réserves », déclare Brad Smith. Alors que la presse s’accumulait, Smith était dans un avion pour rencontrer Nadella à Washington, DC. Au moment où il a atterri, il a pensé qu’il serait prudent de faire fonctionner Recall uniquement si les utilisateurs y consentaient ; Nadella a accepté. Pendant ce temps, à Redmond, les hauts dirigeants de Microsoft se sont rassemblés dans les salles de réunion pour voir comment ils pourraient réduire le produit. Heureusement, comme la fonctionnalité n’était pas encore disponible, ils n’ont pas eu besoin de rappeler Recall. Ils reporté le lancement. Et ils ajouteraient des fonctionnalités de sécurité, comme le cryptage « juste à temps ».
« Les gens nous ont souligné certaines choses évidentes que nous aurions dû faire », dit Nadella. Mais sa propre équipe d’IA responsable les a également manqués. Une certaine dose de « je-sais-tout » avait conduit à l’annonce d’un produit qui n’était pas à la hauteur, indiquant que, même dirigé par un prétendu empathique, Microsoft conserve encore trop de ses défauts de caractère antérieurs. Seulement maintenant, il s’agit d’une entreprise de 3 000 milliards de dollars avec un accès sécurisé aux produits de l’opération d’IA de pointe.
« Vous pouvez y penser de deux manières », explique Brad Smith. « La première est : « Eh bien, j’aurais aimé que nous y réfléchissions avant. » Le recul est une bonne chose. Ou deux : Hé, c’est bien que nous utilisions cela pour effectuer ce changement ; soyons explicites sur pourquoi. » C’était vraiment un moment d’apprentissage pour toute l’entreprise.
C’est très bien. Après 50 ans, c’est une leçon que Microsoft – et Nadella – auraient dû apprendre depuis longtemps.
Getty Images (chronologie)
Faites-nous savoir ce que vous pensez de cet article. Envoyez une lettre à l’éditeur à mail@wired.com.