Sacramento Elon Musk und sein Unternehmen X haben Klage eingereicht, um die Umsetzung eines der wichtigsten Anti-Desinformationsgesetze Kaliforniens zu stoppen. Das Unternehmen stellt die Verfassungsmäßigkeit von AB 2655 infrage, das Social-Media-Unternehmen für die auf ihren Plattformen verbreiteten wahlbezogenen Desinformationen verantwortlich macht. 

Das Gesetz, gefördert von der California Initiative for Technology and Democracy (Zitiert), ein Projekt von California Common Cause, stellt einige der energischsten Schritte dar, die im ganzen Land unternommen wurden, um den Gefahren zu begegnen, die KI und Desinformation für unsere Wahlen darstellen. 

„Unsere Demokratie – und das Recht der Menschen auf genaue Informationen über unsere Wahlen – steht nicht zur Disposition“, sagte Jonathan Mehta Stein, Geschäftsführer von California Common CauseWir können nicht zulassen, dass milliardenschwere Oligarchen die Integrität unserer Regierungsinstitutionen für ihren finanziellen und politischen Vorteil untergraben. Wir sind Justizminister Rob Bonta und seinem äußerst fähigen Team dankbar, dass sie AB 2655 vor Gericht verteidigen.

Der von Abgeordnetem Marc Berman verfasste Gesetzesentwurf AB 2655 bekämpft Online-Desinformation bei unseren Wahlen. Er verpflichtet erstmals große Online-Plattformen dazu, irreführende KI-Deepfakes im Zusammenhang mit Wahlen innerhalb bestimmter Zeiträume zu entfernen oder zu kennzeichnen. Zudem müssen sie Mechanismen zur Meldung solcher Inhalte bereitstellen. Darüber hinaus können Kandidaten, gewählte Amtsträger, Wahlhelfer, der Generalstaatsanwalt sowie Bezirks- und Stadtanwälte bei Nichteinhaltung des Gesetzes einstweilige Verfügungen gegen große Online-Plattformen beantragen.

Der Ausgang dieses Falls wird landesweite Auswirkungen haben. Kalifornien ist die Heimat der weltweit größten und mächtigsten Social-Media-Plattformen und KI-Unternehmen. Obwohl der Bundesstaat enorm von den Beiträgen dieser Unternehmen zur Innovationswirtschaft profitiert hat, ist die Technologiebranche eine der letzten unregulierten Branchen. 

„Es sollte nicht überraschen, dass ein Unternehmen wie X versucht, das erste Gesetz zu stoppen, das seine immense Macht zur Rechenschaft ziehen würde“, fügte hinzu Stein. „Anfang des Jahres teilte Elon Musk eine irreführender Deepfake Das Video von Vizepräsidentin Kamala Harris, das innerhalb einer Woche 150 Millionen Mal auf X angesehen wurde, war nur ein Tropfen in einem Meer an Desinformation, das immer weiter wächst. Deshalb ist die einzige dauerhafte Lösung die Verabschiedung vernünftiger Vorschriften, um sicherzustellen, dass unsere Demokratie vor KI-gesteuerter Desinformation geschützt ist.“

Deepfakes haben bereits nationale Wahlen in Argentinien, Indien, der Slowakei, Taiwan, Bangladesch und zuletzt die US-Präsidentschaftswahlen 2024 destabilisiert. Gerade als dieses Problem seinen Höhepunkt erreichte, haben viele Technologie- und Social-Media-Plattformen ihre Investitionen in ihre Vertrauens- und Sicherheitsteams reduziert und sich jeglicher Verantwortung entzogen, das Problem zu lösen. Die Wähler müssen nun die Scherben aufsammeln, da sie nicht wissen, welchen Bildern, Audio- und Videodateien sie vertrauen können.

Common Cause identifizierte Deepfakes und KI-gesteuerte Desinformation bereits vor Jahren als ernsthafte Bedrohung für unsere Demokratie und startete die Kalifornische Initiative für Technologie und Demokratie (CITED) im November 2023, um Kalifornien dabei zu helfen, den Kampf um Lösungen für die Bedrohungen anzuführen, die Desinformation, KI, Deepfakes und andere aufkommende Technologien für unsere Demokratie und Wahlen darstellen. 

Angesichts der hoffnungslosen Blockade im Kongress schritt CITED ein und setzte sich dafür ein, dass die kalifornischen Legislative die strengsten Gesetze des Landes zur Lösung des Problems der KI-Desinformation verabschiedet: AB 2655 und AB 2839. Denn genau wie bei Klimastandards und Autoabgasen kann die Verabschiedung eines solchen Gesetzes in Kalifornien landesweite Ergebnisse zeitigen.