인도네시아, 머스크 AI '그록' 세계 최초 차단...딥페이크 성착취물 생성
"여성·아동 딥페이크 성착취물 생성에 세계 첫 차단...영국·인도·호주도 규제 착수"

안녕하세요. 디지털에이전시 이앤아이입니다.

일론 머스크의 AI가 세계 최초로 국가 차단을 당했습니다. 인도네시아 정부가 10일(현지시간) xAI의 챗봇 '그록' 접속을 전격 차단했거든요.

무티아 하피드 인도네시아 통신디지털부 장관은 "AI로 생성한 딥페이크 음란물의 위험으로부터 여성과 아동을 보호하기 위한 조치"라고 밝혔습니다. 정부는 동의 없이 제작된 딥페이크를 인권과 존엄성을 침해하는 중대 행위로 간주한다고 강조했어요.

문제의 발단은 그록이 X(구 트위터)에서 여성과 아동의 나체 이미지를 무분별하게 생성한 사실이 알려지면서부터입니다. 일부 이미지에는 학대를 연상시키는 장면도 포함됐죠.



세계 최대 무슬림 인구 국가인 인도네시아는 온라인 음란물 유통을 법적으로 엄격히 금지하고 있습니다. 이번 차단은 그록을 둘러싼 전 세계 규제 움직임 중 가장 강경한 조치로 평가받고 있어요.

규제는 인도네시아에 그치지 않습니다. 영국 규제기관 오프콤은 온라인 안전법 준수 여부를 신속 평가 중이고, 인도 정부는 외설적 콘텐츠 생성 방지 조치를 즉각 취하라고 명령했습니다. 호주 온라인 안전 당국도 법적 대응을 예고했어요.

프랑스는 조사에 착수했고, EU 집행위원회는 그록 관련 모든 문서를 보존하라는 지시를 내렸습니다. 미국에서는 민주당 의원들이 애플과 구글에 앱스토어에서 그록과 X를 퇴출하라고 요구했죠.

논란이 커지자 xAI는 9일부터 이미지 생성 기능을 유료 구독자로 제한했습니다. 머스크는 "그록으로 불법물을 만들면 직접 업로드한 것과 같은 책임을 지게 될 것"이라며 이용자 책임을 강조했어요.

하지만 전문가들은 유료화만으로는 근본적 해결이 어렵다고 지적합니다. 생성과 확산이 하나의 플랫폼에서 즉시 이루어지는 구조 자체가 문제라는 거죠.

대학이나 병원, 공공기관에서 AI 도구를 도입할 때 이런 사례를 반면교사로 삼아야 합니다. 기술 도입 전 안전장치와 윤리 가이드라인을 철저히 검토해야 하고, 생성물의 즉시 유포를 차단하는 기술적 장치가 필수거든요.

한국도 딥페이크 범죄를 강력하게 처벌하고 있어, 유사한 문제 발생 시 접속 차단 등 즉각적 조치가 취해질 가능성이 높습니다.

이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!

#그록 #xAI #일론머스크 #인도네시아 #딥페이크 #성착취물 #AI안전 #AI규제 #온라인안전 #디지털인권 #이앤아이 #디지털에이전시 #대학교홈페이지 #병원홈페이지 #AI전문기업