상원의 공화당과 민주당 의원들이 함께, 미성년자에게 인공지능 챗봇 동반자 서비스를 제공하는 행위를 전면 금지하는 법안을 발의했습니다.
공화당의 조시 하울리 의원과 민주당의 리처드 블루멘설 의원이 공동으로 추진한 이번 법안은, 일부 부모들이 “AI 챗봇이 자녀를 성적 대화로 유도하거나 자살로 내몰았다”고 호소하면서 마련됐습니다.
법안은 AI 기업이 연령 확인 절차를 의무화하고, 미성년자 대상 챗봇 서비스 제공을 금지하도록 규정했습니다. 또 AI가 인간이 아님을 명시하고, 일정 주기마다 전문가 자격이 없다는 점을 사용자에게 고지하도록 했습니다.
특히 미성년자에게 성적 행위를 유도하거나 극단적 선택을 부추기는 AI 개발·배포 기업에는 형사 처벌을 부과하도록 했습니다.
하울리 의원은 “AI 챗봇이 가짜 공감으로 아이들과 관계를 형성하고, 일부는 자살까지 부추기고 있다”며 “의회는 도덕적 책임을 갖고 규제를 마련해야 한다”고 밝혔습니다.
블루멘설 의원도 “AI 기업들이 아동 안전보다 이윤을 우선시하고 있다”며 “착취적·조작적 인공지능에 대한 강력한 제재가 필요하다”고 강조했습니다.
현재 주요 AI 플랫폼인 ChatGPT, Google Gemini, XAI의 Grok, Meta AI 등은 13세 이상 청소년의 이용을 허용하고 있습니다. 그러나 최근 청소년 이용자들이 AI 챗봇과 대화한 뒤 극단적 선택을 한 사건이 잇따르면서 OpenAI와 Character.AI가 과실치사 혐의로 소송에 휘말린 상태입니다.
OpenAI는 “위기 상황 시 상담전화 안내 등 안전장치를 갖췄지만, 장시간 대화에서는 기능이 약화될 수 있다”며 개선 작업을 진행 중이라고 밝혔습니다.
Character.AI 측도 “청소년 보호 기능을 강화하고 외부 전문가와 협력하고 있다”고 설명했습니다.
한편, 메타는 내부 문서에서 “AI 챗봇이 미성년자와 감정적 대화를 나눌 수 있다”는 정책이 드러나 논란이 일자, 해당 내용을 삭제하고 부모 통제 기능을 추가했습니다.
이번 법안에는 공화당 케이티 브릿 의원과 민주당 마크 워너, 크리스 머피 의원도 함께 이름을 올렸습니다.
라디오서울 강채은 기자
