Elon Musk publie un deepfake de Kamala Harris qui viole la politique de X

Le propriétaire de la plateforme a publié une publicité de campagne du vice-président modifiée numériquement sans préciser qu'elle n'était pas réelle.
Elon Musk a partagé une vidéo deepfake parodiant la vice-présidente Kamala Harris sur X. Bien qu'il soit propriétaire de la plateforme, la publication semble violer les propres politiques de la plateforme contre les médias synthétiques et manipulés .
La vidéo partagée vendredi par Elon Musk modifie une vidéo de campagne récente publiée par Harris, qui donne l'impression que la candidate à la présidentielle a dit des choses qu'elle n'a pas dites. Dans le clip manipulé, Harris dit des choses comme qu'elle est « la recrue ultime de la diversité » et qu'elle « a passé quatre ans sous la tutelle de la marionnette ultime de l'État profond, un merveilleux mentor, Joe Biden ». Le compte original qui avait publié la vidéo l'avait intitulée « PARODIE de la publicité de campagne de Kamala Harris », un avertissement qui pourrait l'empêcher de violer les politiques de X. Mais ce contexte n'apparaissait pas dans la republication d'Elon Musk. Au lieu de cela, le message de Musk a simplement montré la vidéo, en ajoutant son propre commentaire : « C'est incroyable », avec un émoji rieur.
Ce n’est que le dernier exemple en date de la manière dont les médias modifiés par l’IA pourraient jouer un rôle dans ce cycle électoral et de la manière dont la loi n’a pas encore complètement rattrapé son retard. Plus tôt cette année, par exemple, un appel automatisé utilisant l’IA pour imiter la voix du président Joe Biden a exhorté les électeurs du New Hampshire à rester chez eux pendant les primaires. Les responsables électoraux se forment à la manière dont l’IA pourrait gêner le jour du scrutin ou pendant la période qui le précède, tandis que les règles concernant la divulgation de l’IA dans les publicités restent en cours d’élaboration ou en attente de vote.
Les plateformes comme X sont donc responsables de l’élaboration de leurs propres règles en matière de désinformation. Selon les politiques de X , « les médias synthétiques, manipulés ou hors contexte qui peuvent tromper ou embrouiller les gens et entraîner des préjudices » ne sont pas autorisés sur la plateforme. X indique qu’elle évalue d’abord si le contenu a été « significativement et de manière trompeuse modifié, manipulé ou fabriqué », ce qui inclut, selon elle, « l’audio surdoublé » qui a été ajouté ou modifié « qui change fondamentalement la compréhension, le sens ou le contexte du média ». Ensuite, elle prend en compte le contexte, par exemple s’il est présenté comme la réalité. Et enfin, elle détermine si le contenu pourrait entraîner « une confusion généralisée sur des questions publiques, avoir un impact sur la sécurité publique ou causer un préjudice grave ». X affirme que la satire ne viole pas la politique tant qu’elle ne « provoque pas de confusion significative sur l’authenticité des médias ». Même une lecture indulgente de ces politiques suggérerait que le message de Musk a violé ces règles.
Cette publication est également le dernier incendie en date que la PDG de X, Linda Yaccarino, pourrait être chargée d'éteindre après les actions de son patron. X n'a ​​pas immédiatement répondu à une demande de commentaire sur la publication d'Elon Musk.
La publication d'Elon Musk suscite déjà des réactions négatives de la part de la gauche. La sénatrice Amy Klobuchar (D-MN) a écrit sur Threads que si la publication d'Elon Musk restait sans contexte, X et Musk « non seulement violeraient les propres règles de X, mais déclencheraient une saison électorale entière de contenu altéré par l'IA et modifié par l'image sans aucune limite, quel que soit le parti ». Klobuchar a présenté un projet de loi visant à exiger des avertissements sur les publicités politiques substantiellement modifiées ou générées par l'IA.
Le gouverneur de Californie, Gavin Newsom (D), a également dénoncé la publication d'Elon Musk, écrivant sur X que « manipuler une voix dans une « publicité » comme celle-ci devrait être illégal », ajoutant qu'il « signerait un projet de loi dans quelques semaines pour s'assurer que ce soit le cas ».
Elon Musk a répondu à cette publication avec un lien vers la publication originale de la vidéo modifiée numériquement qui inclut l'étiquette de parodie : « J'ai vérifié auprès d'une autorité mondiale renommée, le professeur Suggon Deeznutz, et il a dit que la parodie est légale en Amérique. »