새크라멘토 — 일론 머스크와 그의 회사 X는 캘리포니아의 대표적인 허위 정보 금지법 중 하나의 시행을 중단시키기 위한 소송을 제기했습니다. X는 소셜 미디어 기업이 자사 플랫폼에서 유포되는 선거 관련 허위 정보에 대한 책임을 지도록 하는 AB 2655의 합헌성에 이의를 제기하고 있습니다. 

캘리포니아 기술 및 민주주의 이니셔티브(California Initiative for Technology and Democracy)가 후원하는 이 법안은인용됨), 캘리포니아 공통사안 프로젝트는 AI와 허위 정보가 선거에 미치는 위험을 해결하기 위해 전국에서 취한 가장 적극적인 조치 중 일부를 나타냅니다. 

“우리의 민주주의와 국민의 선거에 대한 정확한 정보에 대한 권리는 협상의 대상이 아닙니다.”라고 말했습니다. 캘리포니아 공통 원인의 전무 이사인 Jonathan Mehta Stein억만장자 과두 정치인들이 재정적, 정치적 이득을 위해 우리 정부 기관의 청렴성을 훼손하는 것을 용납할 수 없습니다. 롭 본타 법무장관과 그의 유능한 팀이 법정에서 AB 2655를 옹호해 주신 데 깊이 감사드립니다.

마크 버먼 하원의원이 발의한 AB 2655는 선거 관련 온라인 허위 정보를 근절하기 위해, 대형 온라인 플랫폼에 특정 기간 동안 선거 관련 기만적인 AI 딥페이크 콘텐츠를 삭제하거나 표시하도록 전국 최초로 의무화하고, 이러한 콘텐츠를 신고할 수 있는 메커니즘을 제공하도록 요구합니다. 또한, 후보자, 선출직 공무원, 선거 공무원, 법무장관, 지방 검사 또는 시 검사가 대형 온라인 플랫폼이 이 법안을 준수하지 않을 경우 금지명령을 신청할 수 있도록 허용합니다.

이 사건의 결과는 전국적인 영향을 미칠 것입니다. 캘리포니아는 세계에서 가장 크고 강력한 소셜 미디어 플랫폼과 AI 기업의 본거지입니다. 캘리포니아주는 이러한 기업들이 혁신 경제에 기여한 덕분에 막대한 혜택을 받았지만, 기술 산업은 여전히 규제되지 않은 마지막 산업 중 하나입니다. 

“X와 같은 회사가 그들의 막대한 권력을 책임지게 하는 첫 번째 법률을 중단시키려 한다는 것은 놀라운 일이 아닙니다.”라고 덧붙였습니다. 슈타인. “올해 초, Elon Musk가 공유한 오해의 소지가 있는 딥페이크 X에서 일주일 만에 1억 5천만 번 조회된 카말라 해리스 부통령의 영상은 계속해서 확산되는 허위 정보의 바다에서 한 방울에 불과합니다. 그렇기 때문에 유일하게 지속 가능한 해결책은 AI 기반 허위 정보로부터 우리 민주주의를 안전하게 지키기 위한 상식적인 규정을 통과시키는 것입니다.

딥페이크는 이미 아르헨티나, 인도, 슬로바키아, 대만, 방글라데시, 그리고 가장 최근에는 2024년 미국 대선에서 국가 선거를 불안정하게 만들었습니다. 이 문제가 정점에 달하는 순간, 많은 기술 및 소셜 미디어 플랫폼은 신뢰 및 안전 팀에 대한 투자를 줄이고 문제 해결에 대한 책임을 회피했습니다. 이로 인해 유권자들은 어떤 이미지, 오디오, 비디오를 신뢰할 수 있는지 알지 못한 채, 그 잔해를 수습해야 하는 상황에 놓였습니다.

Common Cause는 수년 전 딥페이크와 AI 기반 허위 정보가 우리 민주주의에 심각한 위협이 된다는 사실을 처음으로 확인했습니다. 캘리포니아 기술 및 민주주의 이니셔티브(CITED) 2023년 11월에 캘리포니아가 허위 정보, AI, 딥페이크 및 기타 신기술이 우리 민주주의와 선거에 미치는 위협에 대한 솔루션을 위한 싸움을 이끌도록 돕기 위해 설립되었습니다. 

의회가 절망적으로 교착 상태에 빠지자, CITED가 나서서 캘리포니아 의회를 통해 AI 허위 정보 문제를 해결하기 위한 미국에서 가장 강력한 법안인 AB 2655와 AB 2839를 통과시켰습니다. 기후 기준과 자동차 배출 가스의 경우와 마찬가지로 캘리포니아에서 이러한 법안을 통과시키면 전국적인 결과를 가져올 수 있기 때문입니다.