주토피아2 가짜 영상 확산...AI가 만든 '브레인롯' 주의보
"워터마크 삭제 막는 정보통신망법 개정안 발의"

안녕하세요. 디지털에이전시 이앤아이입니다.

초등학생 자녀가 "퉁퉁퉁 사후르 영화 보여달라"고 요청해서 당황한 적 있으신가요?
포털에 아무리 검색해도 그런 영화는 없습니다. 몽둥이를 든 나무 괴물이 등장하는 이 영상은 최근 틱톡과 유튜브에서 대표적인 AI 밈으로 소비되거든요.

의미 없는 AI 이미지를 반복적으로 소비하는 이 현상은 '브레인롯'으로 불립니다. 뇌가 썩는다는 의미죠. 문제는 이런 영상이 AI 생성물이라는 설명 없이 유통된다는 점이에요.

유튜브와 인스타그램에는 최신 디즈니 애니메이션 영화 '주토피아2'의 결혼 장면이 확산되고 있습니다.
주인공 닉과 주디가 부부가 돼 아이를 낳는 내용인데요. 실제 영화 장면처럼 보이지만 이 영상은 생성형 AI로 만든 가짜 콘텐츠거든요.

4일 관련 업계에 따르면 월트디즈니의 애니메이션 영화 '주토피아2'와 관련된 가짜 AI 영상이 유튜브·인스타그램 등에 퍼지고 있습니다. 문제는 이런 영상에 AI로 생성했다는 표기를 찾기 어렵다는 점이에요.
AI 생성 영상들은 출처나 제작자가 명확히 드러나지 않는 경우가 많습니다. 오픈AI '소라'나 구글 '비오' 등의 도구로 영상을 만들면 워터마크가 표기되는데 이를 삭제·제거하는 경우도 많아요.



숏폼 플랫폼은 특성상 이용자가 사실 여부를 확인할 수 있는 방법이 제한적입니다.
이런 환경이 이어질 경우 이용자가 허구·허위사실을 실제로 오인할 수 있다는 우려가 제기되죠. 특히 아동·청소년을 비롯해 맥락을 잘 모르는 이용자들이 취약하다는 우려가 많습니다.

AI 생성 영상의 폐해는 이미 사회적 문제로 떠올랐어요. 최근 AI로 의사처럼 보이는 인물을 생성해 식·의약품을 홍보하는 허위·과장 광고가 대표적이죠.
국회에는 콘텐츠 소비자가 혼동하지 않도록 AI 생성물임을 알리는 워터마크를 임의로 삭제·조작하지 못하도록 하는 정보통신망법 개정안도 발의돼 있습니다.

최근에는 이 같은 AI 영상이 세계적 문제로 심화되고 있어요. 미 연예매체 데드라인은 지난달 18일 스크린 컬처라는 유튜브 채널이 유튜브에 의해 폐쇄됐다고 보도했습니다.
해당 채널은 디즈니 마블 영화 '판타스틱4'의 예고편을 23가지 버전으로 제작했는데 이중 일부는 공식 예고편보다 더 높은 조회수를 기록했거든요.

이 같은 AI 산출물이 문제가 될수록 플랫폼의 사회적 책임이 무거워질 것으로 예상됩니다.
유럽연합은 이미 온라인 플랫폼 규제법인 디지털서비스법을 통해 플랫폼에서 발생하는 모든 위험을 해당 플랫폼 운영사가 평가하도록 규정하고 있어요.

로이터통신은 지난해 12월 30일 폴란드 국기를 착용하고 EU 탈퇴를 촉구하는 내용의 영상이 틱톡에서 확산되면서 폴란드 정부가 EU 집행위원회에 틱톡의 DSA 위반 검토를 요청했다고 보도했습니다. 틱톡은 해당 영상을 삭제했죠.

대학이나 병원, 기관에서 홍보 콘텐츠를 제작할 때도 주의가 필요합니다.
AI 생성 영상을 활용한다면 반드시 'AI로 제작되었습니다'라는 표기를 명확히 해야 해요. 워터마크를 삭제하는 행위는 곧 법적 처벌 대상이 될 수 있거든요.

이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!

#주토피아2 #AI가짜영상 #브레인롯 #퉁퉁퉁사후르 #AI워터마크 #정보통신망법 #디지털서비스법 #EU #틱톡 #판타스틱4 #이앤아이 #디지털에이전시 #대학교홈페이지 #병원홈페이지 #AI전문기업