조앤 보가드는 이날 청문회 방청석에 아들 사진을 들고 앉아 있었습니다. 아들 메이슨은 SNS에서 유행하던 '블랙아웃 챌린지'를 하다 4년 전 목숨을 잃었습니다. 기절할 때까지 목을 조르는 챌린지였어요. 이 챌린지로 20명이 넘는 어린이가 사망했습니다. 아동들이 SNS 통해 따돌림을 당하거나, 마약을 사거나, 성착취를 당해 목숨까지 잃는 일이 되풀이됩니다.

진짜와 가짜를 구별하기 어려운 딥페이크 기술까지 발전하면서 SNS에 대한 경각심은 더 높아졌어요. 스페인에서는 AI 딥페이크 기술로 나체에 합성한 청소년 20여명의 이미지가 집단 유포됐습니다. 팝스타 테일러 스위프트도 딥페이크로 합성한 성착취물이 X에 유포되는 일을 겪었고요. 스위프트의 사진이 4500만회 이상 조회되고 2만4000번 이상 공유되는 동안 X는 아무런 조처를 하지 않아 이미지 확산을 방치했다는 비난을 받았습니다.

미 연방의회는 빅테크 규제에 나섰습니다. '아동 성착취물 중지법(Stop CSAM Act)'과 '온라인아동안전법(Kids Online Safety Act·KOSA)'를 발의했어요.

아동 성착취물 방지법은 아동 성착취물 피해자를 보호하고 지원합니다. 이 법에 따르면 성착취물 피해자는 SNS 기업을 상대로 손해배상을 청구할 수 있습니다. SNS는 피해자가 요청하면 성착취물을 빠르게 삭제해야 하며, 삭제하지 않을 경우 처벌받을 수 있어요. 아동 이용자의 안전을 위해 노력하고 있다는 내용이 담긴 보고서도 해마다 정부에 내야 하고요.

온라인아동안전법은 플랫폼이 자살, 섭식 장애, 약물 남용, 성착취 등 위험으로부터 청소년을 보호해야 한다고 명시합니다. 만약 자녀가 유해한 콘텐츠를 접하는 걸 감지하면 보호자나 교육자에게 보고해야 해요.

미 상원은 두 법을 아직 본회의에도 부치지 못했습니다. 빅테크 업계의 로비와 정부의 SNS 검열을 우려하는 시민단체 반발이 배경으로 해석됩니다.

스탠퍼드 정치학 교수인 롭 라이히와 제러미 M. 와인스타인, 구글 초기 멤버였던 메흐란 사하미가 쓴 책 <시스템 에러>도 "기술의 영향은 우리가 새로운 기술을 어떻게 설계하느냐, 기술과 어떻게 상호작용을 하느냐, 기술을 지배하기 위해 어떤 규칙을 마련하느냐에 달려있다"며 낙관합니다.

EU는 2022년 '디지털 권리 및 원칙에 관한 선언문' 초안을 발표했습니다. 이들이 선언한 원칙이 인상 깊었어요. "오프라인에서 불법인 것은 온라인에서도 불법이어야 한다." 앞서 소개해 드린 빅테크 규제책 DSA도 이런 원칙 위에 세워졌습니다. 온라인 콘텐츠에도 '공동체의 기준'을 적용하려는 노력이 필요하다는 점을 명확히 했어요.

고려해야 할 것들이 많아요. 빅테크는 지금까지 표현의 자유를 강조하며 자율규제를 주장해 왔습니다. 공화당, 민주당 가릴 것 없이 SNS를 규제하려 하는 배경에 여론을 통제하려는 의도가 있는 것 아니냐는 우려의 목소리도 있지요. 그만큼 SNS 규제 방안은 세밀하게 설계돼야 합니다. 타인의 존엄성을 해치지 않는 표현의 자유는 지켜야 하니까요.

<소셜 딜레마>와 <시스템 에러> 모두 입법을 통해 사회적 기준을 확립한 뒤, SNS의 기술을 이용해 유해 콘텐츠를 걸러내자고 제안합니다. 2021년 보고서에 따르면 페이스북은 '성인 나체와 성행위' 기준을 위반한 콘텐츠의 99%를 사용자가 신고하기 전에 발견했다고 합니다. '자살과 자해'의 경우 수치는 92%, '집단 괴롭힘'의 경우는 50%였고요. AI는 제1방어선일뿐 결국 엄청난 정보에 맞서려면 어마어마한 규모의 인간, '콘텐츠 모더레이터'가 필요할 것이라고 <시스템 에러>는 내다봅니다. 강간, 자살, 참수, 기타 살인 장면을 마주해야 하는 이들의 노동 조건도 함께 고려해야 할 문제입니다.

책은 "우리의 규칙이 규제하고자 하는 기술만큼 역동적이어야 한다"고 말합니다. SNS 시스템은 지금도 변하고 있고, 그 안의 문화는 실시간으로 만들어졌다 사라지곤 합니다. 하루 빨리 제대로 된 원칙을 세우고 그 안에서 사람들을 보호할 방법을 함께 연구해야겠습니다. 혁신이냐 규제냐의 이분법을 넘어서요.