일론 머스크 테슬라 최고경영자가 운영하는 엑스, X와 인공지능 기업 xAI의 챗봇 ‘그록’이 성착취물 딥페이크를 생성하고 유포한다는 논란이 커지면서, 국내 이용자들 사이에서도 불안이 확산되고 있습니다. 그록이 사진 속 인물에게 비키니를 입히거나 노출 수위가 높은 이미지를 만들어내는 기능을 사실상 제한 없이 제공하고 있기 때문입니다.
한국일보가 엑스 게시물을 살펴본 결과, 국내에서도 ‘그록 비키니’ 이미지가 추천 게시물로 노출된다며 불안을 호소하는 글이 잇따르고 있습니다. 이용자들은 이미지 차단 방법을 서로 묻고 공유하고 있고, 한 이용자는 다른 사람이 자신의 사진마다 그록을 이용해 합성 이미지를 만들어 결국 차단하고 답글 기능을 껐다고 토로했습니다.
그록은 엑스에 게시된 사진에 답글로 ‘그록’을 태그한 뒤 특정 명령을 입력하면 AI 합성 이미지를 즉각 생성합니다. 완전한 나체로 바꾸는 기능은 막혀 있지만, 그에 준하는 이미지 생성은 가능하다는 지적입니다. 특히 공개 계정의 경우 제3자가 답글로 그록을 호출해 이미지를 만들 수 있고, 생성과 동시에 답글 형태로 노출돼 사실상 즉각적인 유포로 이어집니다.
딥페이크 성범죄가 심각한 한국에서는 우려가 더 큽니다. 10년 넘게 엑스를 이용해 왔다는 20대 이용자는 일면식도 없는 사람이 자신의 사진으로 음란물을 만들 수 있다는 사실이 너무 무섭다며, 이미 SNS 사진을 모두 삭제하고 비공개로 전환했지만 언제까지 이런 불안을 감수해야 할지 모르겠다고 말했습니다.
학부모들의 걱정도 커지고 있습니다. 고등학생 자녀를 둔 한 학부모는 아이들이 호기심으로 직접 사용해볼까 봐 불안하고, 한두 번으로 끝나지 않고 중독으로 이어질 가능성도 걱정된다고 밝혔습니다. 아동을 대상으로 한 성착취물 생성 가능성 역시 심각한 문제로 지적되고 있습니다.
해외 각국은 이미 발 빠르게 대응하고 있습니다. 인도네시아는 세계 최초로 그록 서비스를 차단했고, 인도 정부는 엑스에 공문을 보내 아동·여성 대상 성적 이미지 생성과 관련해 72시간 내 조치와 보고를 요구했습니다. 영국과 프랑스는 공식 조사에 착수했고, 독일과 스웨덴, 이탈리아도 즉각적인 조치를 요구하고 있습니다.
반면 한국 정부는 명확한 대응에 나서지 못하고 있습니다. 성평등가족부는 피해자 지원이 역할이라며 제도적·규제적 조치는 방송미디어통신위원회 소관이라는 입장을 밝혔고, 방미통위는 방송미디어통신심의위원회 심의 결과가 있어야 한다며 책임을 미뤘습니다. 방미심위 역시 게시물 차단 외에는 권한이 없다며 정책적 대응은 방미통위 소관이라고 선을 그었습니다. 관련 부처들이 서로 책임을 떠넘기는 사이, 피해 확산 우려는 커지고 있습니다.
전문가들은 사전 차단이 핵심이라고 지적합니다. 문형남 숙명여대 글로벌융합학부 교수는 사업자가 AI에 조건을 걸어 문제가 될 영상이나 이미지가 아예 생성되지 않도록 하는 것이 가장 효과적이라며, 정부가 사업자와 적극적으로 소통하면서 적정한 규제와 이용자 교육을 병행해야 한다고 강조했습니다.
