L’armée philippine interdit les applications basées sur l’IA — RT World News

Le secrétaire à la Défense du pays a averti que le téléchargement de photos personnelles sur une application créant une « personne numérique » pouvait présenter un risque pour la sécurité.

Les applications qui obligent les utilisateurs à télécharger leurs photos personnelles, puis à utiliser l’intelligence artificielle pour créer le clone numérique d’une personne sont désormais interdites au personnel militaire philippin, a déclaré le ministère de la Défense nationale du pays. Le secrétaire à la Défense, Gilberto Teodoro Jr., a averti que de telles applications pourraient présenter des risques pour la sécurité.

Vendredi, des responsables militaires ont confirmé l’authenticité d’un mémo publié par Teodoro la semaine dernière et circulant en ligne ces derniers jours. Le ministère n’a cependant pas fourni de détails supplémentaires concernant l’interdiction.

Dans la note, le secrétaire à la Défense faisait référence à une application qui utilise l’IA pour créer un «personne numérique qui imite la façon dont un individu réel parle et bouge » après avoir reçu dix photos d’un utilisateur.



Tom Hanks dit que son image a été volée pour une publicité générée par l'IA

« Cette application apparemment inoffensive et amusante basée sur l’IA peut être utilisée de manière malveillante pour créer de faux profils pouvant conduire à l’usurpation d’identité, à l’ingénierie sociale, à des attaques de phishing et à d’autres activités malveillantes. » a écrit Teodoro, ajoutant qu’il était déjà au courant de tels cas.

Le responsable a exhorté ses subordonnés à faire preuve de prudence lors du partage d’informations en ligne en général.

Le mois dernier, l’Agence de sécurité nationale des États-Unis (NSA) et le FBI ont émis une alerte concernant une technologie « deepfake » qui pourrait potentiellement être utilisée pour contribuer à pirater les systèmes informatiques de l’armée et d’autres cibles sensibles.

« Les outils et techniques permettant de manipuler le multimédia authentique ne sont pas nouveaux, mais la facilité et l’ampleur avec laquelle les cyberacteurs utilisent ces techniques le sont,« , a déclaré la mathématicienne de la NSA Candice Rockwell Gerstner dans un communiqué. Elle a conseillé aux entreprises américaines d’apprendre à détecter les deepfakes et d’élaborer un plan au cas où la technologie serait utilisée contre elles.

Outre les entreprises, les agences de sécurité américaines ainsi que le Pentagone et les sous-traitants de la défense sont également menacés, prévient l’avis.

Une autre dimension de la prétendue menace soulignée dans le document est la crainte que «Les médias synthétiques peuvent également provoquer des troubles dans l’opinion publique en diffusant de fausses informations sur des questions politiques, sociales, militaires ou économiques.»

Vous pouvez partager cette histoire sur les réseaux sociaux :