En novembre 2024, la société d'Elon Musk, X, a discrètement déposé une procès devant un tribunal de Sacramento pour empêcher la mise en œuvre de l'une des nouvelles lois phares de Californie contre la désinformation. L'entreprise conteste la constitutionnalité de l'AB 2655, qui rend les réseaux sociaux responsables de la désinformation liée aux élections sur leurs plateformes. 

La loi, parrainée par la California Initiative for Technology and Democracy (CITÉ), un projet de California Common Cause, représente certaines des mesures les plus affirmées prises dans le pays pour faire face aux dangers que l'intelligence artificielle (IA) et la désinformation représentent pour nos élections. 

L'issue de cette affaire, X c. Bonta, aura des répercussions nationales sur les réseaux sociaux et sur l'impact de la désinformation électorale sur nous. Voici ce que vous devez savoir. 

Ce qui s'est passé? 

Elon Musk et sa société X intentent un procès pour empêcher la mise en œuvre de notre projet de loi anti-désinformation promulguée par le gouverneur Newsom en septembre 2024. 

Arrière-plan: 

Les « deepfakes » sont des vidéos et des enregistrements audio hyperréalistes, mais totalement falsifiés, de personnalités publiques. Avec l'essor de l'IA ces dernières années, les deepfakes sont devenus plus réalistes et les outils permettant de les réaliser sont devenus plus accessibles, ce qui les rend encore plus problématiques, notamment en période électorale. 

Les deepfakes ont déjà déstabilisé des élections nationales partout dans le monde, et plus récemment l'élection présidentielle américaine de 2024. Face à l'ampleur du problème, de nombreuses plateformes technologiques et de réseaux sociaux ont réduit leurs investissements dans leurs équipes de confiance et de sécurité, se dérobant ainsi à toute responsabilité pour y remédier. 

Les électeurs ont dû faire face à la situation, se demandant à quelles images, contenus audio et vidéo ils peuvent se fier. C'est pourquoi CITED s'est penché sur le projet de loi AB 2655 lorsqu'il a identifié ce problème comme une grave menace pour notre démocratie. 

Ce que fait notre loi :

L'AB 2655, rédigé par le député Marc Berman, tient les entreprises de médias sociaux responsables de la désinformation et des deepfakes qui se propagent sur leurs plateformes. 

Plus précisément, il combat la désinformation en ligne lors de nos élections en exigeant des plateformes de médias sociaux qu’elles étiquettent ou suppriment les deepfakes génératifs d’IA qui peuvent tromper les électeurs en les qualifiant de contenu numérique ou faux, et en interdisant la publication des plus nuisibles d’entre eux à l’approche du jour du scrutin.

Il permet également aux candidats, aux élus, aux responsables électoraux, au procureur général et à un procureur de district ou à un procureur municipal de demander une injonction contre une grande plateforme en ligne pour non-respect du projet de loi.

Pourquoi ce procès est important :

Il s'agit ici d'une question de pouvoir populaire contre des milliardaires qui veulent tirer profit de mensonges. Mais notre démocratie et le droit du peuple à une information précise sur nos élections ne sont pas négociables.

Tout comme pour les normes climatiques et les émissions automobiles, l'adoption d'une loi en Californie peut avoir un impact national. La Silicon Valley est la capitale technologique des États-Unis ; nos lois anti-désinformation ont donc le pouvoir de définir la norme nationale en matière de réponse des États à la désinformation électorale. Ce procès pourrait avoir un impact similaire, déterminant l'application ou non de notre loi. 

Quelle est la prochaine étape ?

Nous sommes reconnaissants au procureur général Rob Bonta et à son équipe très compétente pour leur défense de l'AB 2655 devant les tribunaux. Chez CITED, nous allons de l'avant. Nous ne laisserons pas les oligarques milliardaires saper l'intégrité de nos institutions démocratiques à des fins financières et politiques.

La seule solution durable consiste à adopter des réglementations de bon sens pour protéger notre démocratie de la désinformation générée par l'IA. Heureusement, nous sommes sur le terrain et travaillons à renforcer ces garanties juridiques contre la désinformation électorale en 2025. 

Suivez nos progrès en vous inscrivant à nos mises à jour!