최근 로스앤젤레스와 뉴멕시코에서 진행된 두 건의 획기적인 소송 판결은 수백만 가정이 너무 오랫동안 알고 있었던 사실, 즉 소셜 미디어 기업들이 근본적으로 착취적인 사업 모델을 구축해 왔다는 것을 확인시켜 주었습니다. 이 거대 기술 기업들은 사용자들이 어릴 때부터 중독시켜 평생 소비자로 만들어 버리는데, 그 과정에서 그들의 건강이나 삶에 미치는 피해는 전혀 고려하지 않습니다.

배심원단이 확정한 내용의 범위는 실로 엄청납니다. 뉴멕시코주에서 배심원단은 메타(Meta)가 플랫폼의 안전성에 대해 소비자를 오도하고 아동을 위험에 빠뜨린 혐의로 유죄를 인정하고, 143억 7500만 달러의 민사 벌금을 지급하라고 명령했습니다. 이번 민사 재판은 메타가 주 소비자 보호법을 위반하고, 플랫폼에서 발생하는 아동 성 착취의 위험성에 대해 알고 있었음에도 이를 은폐했으며, 페이스북과 인스타그램의 안전성에 대해 주민들을 오도했다는 혐의를 중심으로 진행되었습니다.

바로 하루 뒤, 로스앤젤레스에서 배심원단은 메타와 유튜브가 플랫폼 설계에 있어 과실이 있다고 판단하여, 최초의 대표적인 개인 상해 소송에서 손해 배상을 판결했습니다. 더 중요한 것은, 배상금을 지급하라는 판결과 함께 경영진이 자사 제품이 초래한 피해에 대해 선서 하에 질문에 답하도록 강제했다는 점입니다. 재판 과정에서 드러난 내부 고발자와 내부 문서는 거대 기술 기업들이 청소년들에게 어떤 피해를 입히고 있는지 알고 있었음에도 불구하고 이를 묵인해 왔다는 사실을 여실히 보여주었습니다.

이는 단지 시작일 뿐이며, 머지않아 우리 시대의 거대 담배 소송과 같은 사태로 번질 수 있는 수많은 법원 판결이 쏟아져 나올 가능성이 매우 높습니다.

이번 판결은 이미 역사적인 성과를 거두었습니다. 거대 기술 기업들이 숨기려 했던 내부 문서들이 공개되어 그들의 거짓이 폭로되었고, 입법자들이 행동에 나서도록 더욱 강력한 동력을 제공했습니다.

이제 중요한 질문이 남았습니다. 정책 입안자들은 이 순간을 어떻게 활용해야 할까요?

캘리포니아주는 온라인상에서 사람들을 보호하기 위한 몇 가지 조치를 시행했지만, 기술 업계의 막대한 로비력 때문에 너무나 많은 개혁 노력이 저지되거나, 약화되거나, 법률로 제정되지 못했습니다. 이러한 상황은 반드시 바뀌어야 하며, 인공지능이라는 차세대 위협에 맞서는 지금, 소셜 미디어 시대의 교훈을 잊어서는 안 됩니다.

오렌지 카운티에 사는 16세 소년 애덤 레인은 2025년 4월 스스로 목숨을 끊었습니다. 그의 부모는 챗GPT라는 사용자가 수개월 동안 아들의 죽음을 부추긴 3,000페이지가 넘는 채팅 기록을 발견했습니다. 숙제 도우미로 시작한 관계는 점차 비밀을 털어놓는 친구로, 그리고 결국 자살 코치로 변모했습니다.

레인의 아버지는 분명하게 말했다. "챗GPT가 아니었으면 그는 여기 있었을 거야. 난 100% 그렇게 믿어."“

그의 사례는 단지 예외적인 경우가 아닙니다. 이는 법이 따라잡기 전에 위험한 신기술이 어린이와 어른 모두에게 도달하도록 허용했을 때 어떤 일이 벌어지는지를 보여주는 전조입니다.

캘리포니아주는 소셜 미디어와 AI 규제 모두에 대한 조치를 취했지만, 여전히 우려스러운 양상이 이어지고 있습니다. 실질적인 책임 조치는 완화되거나 거부되는 반면, 우리 지역에 본사를 둔 많은 기술 기업들은 실질적인 처벌을 피해가고 있습니다.

이번 판결은 모든 정부 차원의 선출직 공무원들에게 강력한 경종을 울려야 합니다. 미온적인 조치와 시간 끌기는 이제 더 이상 용납될 수 없습니다.

현재 주의회에 계류 중인 여러 법안들은 더 나은 안전한 온라인 환경을 조성하기 위한 의미 있는 조치를 담고 있습니다. 대표적인 법안으로는 레베카 바우어-카한(민주당, 샌라몬) 하원의원과 버피 윅스(민주당, 오클랜드) 하원의원이 발의한 하원 법안 2023호와 스티브 파딜라(민주당, 출라비스타) 상원의원이 발의한 상원 법안 1119호가 있으며, 이 법안들은 인공지능 기반 챗봇을 사용하는 아동을 위한 안전 기준을 의무화하는 내용을 담고 있습니다. 조쉬 로웬탈(민주당, 롱비치) 하원의원과 조 패터슨(공화당, 록클린) 하원의원이 발의한 하원 법안 2호는 소셜 미디어 플랫폼이 아동에게 유해한 것으로 입증될 경우 대형 소셜 미디어 기업의 재정적 책임을 묻는 내용을 담고 있습니다. 또한 로웬탈 의원이 발의한 하원 법안 1700호는 청소년 온라인 보호 관련 법률 집행에 전념하고 기술 발전에 따라 법률을 개정할 수 있는 주 차원의 온라인 안전 위원회를 설립하는 내용을 담고 있습니다.

소셜 미디어 시대의 교훈은 자발적인 자율 규제가 효과가 없다는 것입니다. 진정한 개혁은 강력한 디자인 기준, 명확한 업계 전반의 규칙, 그리고 이러한 기준이 위반되었을 때 가족들이 정의를 추구할 수 있는 법적 수단을 의미합니다.

인공지능에도 동일한 논리가 적용됩니다. 만약 어떤 회사가 누군가를 자살로 몰아갈 수 있는 코칭 기능을 가진 제품을 판매한다면, 즉각적인 책임을 져야 합니다.

개빈 뉴섬 캘리포니아 주지사와 캘리포니아 주의회는 소셜 미디어 기업들이 사용자에게 초래하는 피해에 대해 법적 책임을 지도록 하는 정책을 제정하고, 다음 세대가 그 대가를 치르기 전에 인공지능에도 똑같은 교훈을 적용해야 합니다.

존 베넷은 캘리포니아 커먼 코즈(California Common Cause)의 프로젝트인 캘리포니아 기술 및 민주주의 이니셔티브(CITED)의 책임자입니다.