L’utilisation de l’intelligence artificielle par Meta est loin d’avoir atteint son apogée. Mais la technologie pourrait déjà mettre l’entreprise en difficulté.

• Le PDG de Meta, Mark Zuckerberg, a promis que l’IA révolutionnerait les services publicitaires de l’entreprise.

• Mais l’utilisation de l’IA par Meta pour modérer les publicités met peut-être déjà l’entreprise dans une situation délicate.

• Un groupe bipartisan de législateurs a accusé Meta d’autoriser des publicités faisant la promotion de la vente de drogues illicites.

Lors de la conférence téléphonique sur les résultats de juillet, Mark Zuckerberg, PDG de Meta il a présenté une vision des précieux services publicitaires de son entreprise une fois qu’ils seront encore renforcés par l’intelligence artificielle.

« Dans les années à venir », a-t-il déclaré, « l’IA sera également capable de générer des créations pour les annonceurs et pourra également les personnaliser telles que les gens les verront. »

Mais alors que l’entreprise d’un milliard de dollars espère révolutionner sa technologie publicitaire, Utilisation de l’IA par Meta peut-être déjà avoir mis l’entreprise sur la sellette.

Jeudi, un groupe bipartisan de législateurs, dirigé par le représentant républicain Tim Walberg du Michigan et la représentante démocrate Kathy Castor de Floride, a envoyé un lettre à Zuckerberg demandant au PDG de répondre aux questions sur les services publicitaires de Meta.

La lettre intervient à la lumière d’une marche Wall Street Journal un rapport révélant comment les procureurs fédéraux enquêtent sur l’entreprise pour son rôle dans la vente illicite de drogues sur ses plateformes.

« Meta semble avoir continué à se soustraire à sa responsabilité sociale et à défier ses propres règles communautaires », peut-on lire dans la lettre. « La protection des utilisateurs en ligne, en particulier des enfants et des adolescents, est l’une de nos principales priorités. Nous sommes constamment préoccupés par le fait que Meta ne soit pas à la hauteur de la tâche et ce manquement au devoir doit être corrigé. »

Zuckerberg a déjà fait face à des sénateurs qui ont interrogé le PDG à propos de mesures de sécurité pour les enfants qui utilisent les sites de médias sociaux de Meta. Au cours de l’audition au Sénat, Zuckerberg s’est levé et s’est excusé aux familles qui estiment que l’utilisation des médias sociaux nuit à leurs enfants.

En juillet, le Projet de transparence technologiqueun groupe de surveillance à but non lucratif, a signalé que Meta continuait de gagner de l’argent grâce à des centaines de publicités faisant la promotion de la vente de drogues illégales ou récréatives, notamment de cocaïne et d’opioïdes, que Meta interdit dans sa législation. politique concernant les publicités.

« De nombreuses publicités ne cachaient pas leurs intentions, montrant des photos de flacons de médicaments sur ordonnance, de piles de pilules et de poudres, ou de briques de cocaïne, et encourageant les utilisateurs à passer commande », écrit l’organisme de surveillance.

« Nos systèmes sont conçus pour détecter et réprimer de manière proactive les contenus en infraction, et nous rejetons des centaines de milliers de publicités pour violation de nos politiques en matière de drogues », a déclaré un porte-parole de Meta à Business Insider, réitérant une déclaration partagée avec le Journal. « Nous continuons d’investir des ressources et d’améliorer encore notre application de la loi sur ce type de contenu. Nos pensées vont à ceux qui souffrent des conséquences tragiques de cette épidémie – elle nécessite que nous travaillions tous ensemble pour y mettre fin. »

Le porte-parole n’a pas expliqué comment Meta utilise l’IA pour modérer les publicités.

Les publicités font des trous dans le système d’IA de Meta

Les processus exacts par lesquels Meta approuve et modère les publicités ne sont pas des informations publiques.

Ce que l’on sait, c’est que l’entreprise s’appuie en partie sur l’intelligence artificielle pour filtrer le contenu, comme le rapporte le JournalLe média a rapporté que l’utilisation de photos pour présenter les médicaments pourrait permettre aux publicités de passer outre le système de modération de Meta.

Voici ce que Méta a révélé son « système de révision des publicités » :

L’entreprise a également déclaré qu’elle travaillait en permanence à automatiser davantage le processus d’évaluation afin de moins dépendre des humains.

Mais la révélation des publicités faisant la promotion de drogues sur les plateformes de Meta montre comment des contenus contraires aux politiques peuvent toujours passer à travers son système automatisé, même si Zuckerberg dresse le portrait d’un service publicitaire sophistiqué qui promet un ciblage amélioré et crée du contenu pour les annonceurs avec une IA générative.

Déploiement cahoteux de l’IA de Meta

Meta a connu un déploiement mouvementé de ses services basés sur l’IA en dehors de la technologie publicitaire.

Moins d’un an après l’introduction de Meta assistants IA célèbresl’entreprise produit abandonné et s’est concentré sur la possibilité pour les utilisateurs de créer leurs propres robots d’IA.

Meta continue également de résoudre les problèmes de Meta AI, le chatbot et l’assistant IA de l’entreprise, qui s’est avéré réponses hallucinantes ou, avec Rob Price de BI, agir comme un utilisateur et donner son numéro de téléphone aux étrangers.

Les problèmes techniques et éthiques qui imprègnent les produits d’IA — et pas seulement ceux de Meta — préoccupent de nombreuses grandes entreprises américaines.

Une enquête menée par Arize AI, qui mène des recherches sur la technologie de l’IA, a montré que 56 % des entreprises du Fortune 500 considèrent l’IA comme un « facteur de risque ». Le Financial Times signalé.

En passant au crible les différents secteurs d’activité, 86 % des groupes technologiques, dont Salesforce, ont déclaré que l’IA présente un risque commercial, selon le rapport.

Ces préoccupations entrent toutefois en conflit avec la volonté évidente des entreprises technologiques d’intégrer l’IA dans tous les recoins de leurs produits, même si Le chemin vers la rentabilité reste également trouble.

« Le développement et le déploiement de l’IA comportent des risques importants », a déclaré Meta dans un rapport annuel de 2023, « et rien ne garantit que l’utilisation de l’IA améliorera nos produits ou services ou sera bénéfique pour notre activité, y compris notre efficacité ou notre rentabilité. »

Lire l’article original sur Business Insider