« Je suis surpris qu’Apple ait apposé son nom sur un produit aussi manifestement à moitié cuit. »
Réclamation refusée
L’IA générative d’Apple devrait faire la une des journaux. Au lieu de cela, il s’agit de les inventer.
Quelques jours seulement après son lancement au Royaume-Uni, le modèle Apple Intelligence de la société technologique a publié un titre totalement fabriqué sur Luigi Mangione, l’homme de 26 ans qui a été arrêté pour le meurtre du PDG d’UnitedHealthcare, Brian Thompson, au début du mois.
Comme le BBC rapportsla fonctionnalité Apple AI résumait de manière incorrecte le BBC» rapporte pour donner l’impression que le suspect avait tenté de se suicider dans une alerte envoyée aux utilisateurs d’iPhone.
« Luigi Mangione se tire une balle », lit-on dans le faux message de l’IA BBC notification.
Il s’agit là d’un autre exemple très médiatisé de rapports incorrects de l’IA sur les événements actuels – soulevant encore une fois de sérieuses questions sur le rôle de la technologie en tant que médiateur de l’information.
Comportement du modèle
Un porte-parole du BBC a déclaré que le diffuseur s’était plaint à Apple « pour soulever cette préoccupation et résoudre le problème ».
Apple a refusé de commenter publiquement le sujet.
« Nouvelles de la BBC est le média d’information le plus fiable au monde », a déclaré le BBC a déclaré le porte-parole. « Il est essentiel pour nous que nos publics puissent faire confiance à toute information ou journalisme publié en notre nom, y compris les notifications. »
Et ce n’était pas un hasard. Le rapport identifie également un autre mensonge d’Apple Intelligence dans ses notifications d’actualités en trois points.
Lors de la synthèse d’un rapport de Le New York Times le mois dernier, à propos de l’émission par la Cour pénale internationale d’un mandat d’arrêt contre le Premier ministre israélien Benjamin Netanyahu, AI a publié un titre affirmant : « Netanyahu arrêté ».
Jeu de téléphone
Apple Intelligence, qui a fait ses débuts au niveau national en octobre, est finalement sorti au Royaume-Uni mercredi dernier. On peut dire sans se tromper que son reportage n’aurait pas pu connaître un pire départ. Mangione est actuellement l’un des hommes dont on parle le plus sur la planète. Tout ce qu’il fait est digne d’intérêt.
« Je peux voir la pression arriver en premier sur le marché, mais je suis surpris qu’Apple ait apposé son nom sur un produit aussi manifestement à moitié cuit », a déclaré Petros Iosifidis, professeur de politique des médias à la City University de Londres, à l’université de Londres. BBC. « Oui, les avantages potentiels existent, mais la technologie n’est pas encore là et il existe un réel danger de propagation de la désinformation. »
Cependant, ce danger est fondamental pour l’IA générative, et pas seulement pour Apple. Les modèles d’IA hallucinent et inventent régulièrement des faits. Ils n’ont aucune compréhension du langage, mais utilisent plutôt des prédictions statistiques pour générer un texte convaincant basé sur l’écriture humaine qu’ils ont ingérée.
Cela introduit un autre facteur de confusion dans la couverture de l’actualité. Les journalistes humains prennent déjà des décisions subjectives quant à la manière dont les événements sont décrits. Ensuite, une autre décision doit être prise pour déterminer comment ces événements doivent être condensés davantage dans un titre concis.
Aujourd’hui, les entreprises technologiques veulent s’interposer dans ce processus avec une technologie qui ne fait que se rapprocher de ce qu’il faut dire – et nous en voyons déjà les conséquences stupides.
En savoir plus sur l’IA : Les écoles utilisent l’IA pour envoyer la police au domicile des étudiants