Die Urteile in zwei wegweisenden Prozessen – einem in Los Angeles und einem in New Mexico – bestätigen, was Millionen von Familien schon viel zu lange wissen: Social-Media-Unternehmen haben ein Geschäftsmodell entwickelt, das zutiefst ausbeuterisch ist. Diese Tech-Giganten binden Nutzer schon in jungen Jahren, um lebenslange Konsumenten zu schaffen, ungeachtet der gesundheitlichen Folgen oder der Schäden, die ihrem Leben zugefügt werden.

Das Ausmaß der nun von den Geschworenen bestätigten Fälle ist erschreckend: In New Mexico befand die Jury Meta für schuldig, Verbraucher über die Sicherheit ihrer Plattformen getäuscht und Kinder gefährdet zu haben, und verurteilte das Unternehmen zu einer Zivilstrafe in Höhe von 1,4 Billionen US-Dollar. Im Mittelpunkt des Zivilprozesses standen die Vorwürfe, Meta habe gegen staatliche Verbraucherschutzgesetze verstoßen, die Gefahren des sexuellen Missbrauchs von Kindern auf ihren Plattformen verschwiegen und die Bevölkerung über die Sicherheit von Facebook und Instagram getäuscht.

Nur einen Tag später befand eine Jury in Los Angeles Meta und YouTube in einem wegweisenden Prozess wegen Körperverletzung für fahrlässig in der Gestaltung ihrer Plattformen. Sie sprach Schadensersatz zu und zwang die Führungskräfte – was besonders wichtig war –, unter Eid Fragen zu den Schäden zu beantworten, die ihre Produkte verursachen. Whistleblower und interne Dokumente, die während des Prozesses ans Licht kamen, enthüllten das ganze Ausmaß, in dem die großen Technologiekonzerne wussten, was sie jungen Menschen antaten, und es trotzdem fortsetzten.

Dies ist erst der Anfang, und wir könnten schon bald eine Lawine weiterer Gerichtsurteile erleben, die sich zu den größten Tabakprozessen unserer Zeit ausweiten könnten.

Diese Urteile haben bereits etwas Historisches erreicht: Die internen Dokumente, die die großen Technologiekonzerne zu verbergen versuchten, sind nun öffentlich, entlarven die Lügen und geben den Gesetzgebern noch mehr Ansporn zum Handeln.

Nun stellt sich die entscheidende Frage: Was tun die politischen Entscheidungsträger in dieser Situation?

Kalifornien hat zwar einige Schutzmaßnahmen für Internetnutzer erlassen, doch viel zu viele Reformbemühungen wurden aufgrund des übermäßigen Einflusses der Lobbyarbeit der Technologiebranche blockiert, abgeschwächt oder scheiterten ganz. Das muss sich ändern, und die Lehren aus dem Zeitalter der sozialen Medien dürfen nicht in Vergessenheit geraten, wenn wir uns der nächsten Bedrohung durch künstliche Intelligenz stellen.

Adam Raine, ein 16-Jähriger aus Orange County, beging im April 2025 Suizid. Seine Eltern entdeckten über 3.000 Seiten Chatprotokolle, die belegten, dass ChatGPT ihn monatelang in den Tod gelockt hatte. Was als Hausaufgabenhilfe begann, entwickelte sich allmählich zu einer Vertrauensperson und schließlich zu einem Suizidberater.

Raines Vater sagte es ganz deutlich: “Er wäre noch hier, wenn ChatGPT nicht gewesen wäre. Das glaube ich zu 1001.030.”

Sein Fall ist kein Einzelfall. Er ist eine Vorahnung dessen, was passiert, wenn wir zulassen, dass eine gefährliche neue Technologie Menschen – Kinder wie Erwachsene – erreicht, bevor die Gesetze entsprechend angepasst sind.

Kalifornien hat zwar Maßnahmen zur Regulierung von sozialen Medien und KI ergriffen, doch das Muster bleibt beunruhigend: Sinnvolle Rechenschaftspflichtmaßnahmen werden abgeschwächt oder per Veto blockiert, während Technologieunternehmen – viele davon mit Hauptsitz in unserer unmittelbaren Umgebung – echten Konsequenzen entgehen.

Diese Urteile sollten als Weckruf für gewählte Amtsträger auf allen Regierungsebenen dienen. Die Zeit für halbe Sachen und Verzögerungen ist vorbei.

Eine Reihe von Gesetzesvorlagen, die derzeit im Parlament anhängig sind, würden wichtige Schritte hin zu einem besseren und sichereren Online-Erlebnis unternehmen. Dazu gehören der Gesetzentwurf 2023 (Assembly Bill 2023), eingebracht von den Abgeordneten Rebecca Bauer-Kahan (D-San Ramon) und Buffy Wicks (D-Oakland), sowie der Gesetzentwurf 1119 (Senate Bill 1119), eingebracht von Senator Steve Padilla (D-Chula Vista). Letzterer würde Sicherheitsstandards für Kinder vorschreiben, die KI-Chatbots nutzen. Der Gesetzentwurf 2 (Assembly Bill 2), eingebracht von den Abgeordneten Josh Lowenthal (D-Long Beach) und Joe Patterson (R-Rocklin), würde große Social-Media-Unternehmen finanziell haftbar machen, wenn ihre Plattformen nachweislich Kindern schaden. Der ebenfalls von Lowenthal eingebrachte Gesetzentwurf 1700 (Assembly Bill 1700) würde eine staatliche Kommission für Online-Sicherheit einrichten, die sich ausschließlich mit der Durchsetzung von Gesetzen zum Schutz von Jugendlichen im Internet befasst und die Gesetze an die technologische Entwicklung anpassen kann.

Die Lehre aus dem Zeitalter der sozialen Medien ist, dass freiwillige Selbstregulierung nicht funktioniert. Echte Reformen erfordern strenge Designstandards, klare branchenweite Regeln und rechtliche Instrumente für Familien, um bei Verstößen gegen diese Standards Gerechtigkeit zu erlangen.

Dasselbe gilt für KI: Wenn ein Unternehmen ein Produkt verkauft, von dem es weiß, dass es jemanden zum Selbstmord verleiten kann, muss es mit sofortigen Konsequenzen rechnen.

Gouverneur Gavin Newsom und die kalifornische Legislative müssen Richtlinien erlassen, die Social-Media-Unternehmen für den Schaden, den sie ihren Nutzern zufügen, rechtlich zur Verantwortung ziehen und diese harten Lektionen auch auf KI anwenden, bevor eine weitere Generation den Preis dafür zahlt.

John Bennett ist Direktor der California Initiative for Technology and Democracy (CITED), einem Projekt von California Common Cause.