Est-il toujours sûr d’utiliser des chatbots ? – Télévision indienne
Gemini, le chatbot IA de Google, a suscité la controverse et aurait fait l’objet d’un examen minutieux après avoir abusé verbalement d’un utilisateur au cours d’une conversation. Un étudiant diplômé de 29 ans aux États-Unis, qui discutait des soins aux personnes âgées, a été choqué lorsque le chatbot a émis des remarques nuisibles, exhortant l’utilisateur à « mourir ».
L’échange troublant a été partagé avec CBS News, qui a soulevé des inquiétudes immédiates quant au comportement du chatbot IA et à ses directives de communication éthiques.
L’usager et sa famille réagissent avec inquiétude.
La sœur de l’utilisateur, présente lors de la conversation avec Gemini AI, a exprimé une réaction alarmante face à la réponse de Gemini, considérée comme « inattendue et contraire à l’éthique ».
Elle a souligné le risque potentiel d’obtenir de telles réponses de la part du chatbot IA, en particulier celui qui est assez populaire. Ces réponses verbales abusives envers les individus (qui peuvent être isolés ou vulnérables) pourraient déclencher un débat plus large sur la responsabilité de l’IA, aujourd’hui comme dans le futur.
Google reconnaît la violation des politiques.
En réponse, Google a en outre déclaré que la réponse du chatbot violait ses politiques et l’a qualifiée de « absurde ».
Le géant de la technologie a en outre souligné que Gemini pourrait produire des réponses limitées ou trop généralisées dans des scénarios difficiles. Google a en outre assuré aux utilisateurs que des mécanismes de retour d’information et des outils de reporting sont en place pour répondre à de tels incidents.
Appel à une surveillance plus stricte de l’IA
Cet incident a intensifié les discussions autour du développement éthique des systèmes d’IA. Les experts et les utilisateurs exhortent les entreprises technologiques à garantir des tests rigoureux et des mécanismes de protection pour prévenir les dommages, d’autant plus que l’IA est de plus en plus intégrée dans la vie quotidienne.
Pour rappel, c’est Elon Musk, le patron de X (anciennement Twitter), qui a soulevé l’inquiétude quant à l’utilisation et à la mauvaise utilisation du chatbot à l’avenir, et cela semble s’avérer vrai.
L’incident souligne en outre la nécessité de transparence, de surveillance humaine et de contrôles robustes dans les systèmes d’IA pour maintenir la sécurité et la confiance de l’utilisateur.
A LIRE AUSSI : L’application Gemini AI de Google désormais disponible pour iPhone : voici ce qu’elle propose
A LIRE AUSSI : Google propose aux utilisateurs un outil de détection de spam d’appels et d’applications basé sur l’IA pour rivaliser avec Truecaller
