캘리포니아주가 인공지능 챗봇에 대한 미국 최초의 포괄적인 안전 규제를 마련했습니다.
상원법안 243호, 일명 ‘동반자 챗봇 안전법’이 주 의회를 통과하면서 아동과 취약 이용자를 유해한 AI로부터 보호하기 위한 새로운 장치가 마련된 겁니다.
이 법안은 자살이나 자해, 성적으로 노골적인 대화를 전면 금지하고, 미성년자 이용자에게는 대화 중임을 3시간마다 알림으로 상기시키도록 규정했습니다.
또 정신 건강 이상 징후가 보일 경우 위기 상담 서비스나 핫라인으로 연결해야 하며, 기업은 이를 주 보건 당국에 매년 보고해야 합니다.
만약 기업이 규정을 위반해 피해자가 발생할 경우, 개인은 챗봇 운영사를 상대로 소송을 제기할 수 있으며, 위반 건당 최대 1천 달러의 손해배상과 변호사 비용까지 청구할 수 있습니다.
법안은 청소년 자살 사건 등 비극적인 사례 이후 힘을 얻어 통과됐습니다.
대표적으로 캘리포니아의 16세 소년이 챗봇과 자살에 대해 장기간 대화를 나눈 뒤 목숨을 끊은 사건이 큰 파장을 일으켰습니다.
상원에서는 33대 3, 하원에서는 59대 1이라는 압도적 지지로 법안이 가결됐습니다.
개빈 뉴섬 주지사는 오는 10월 12일까지 법안에 서명하거나 거부권을 행사할 수 있으며, 최종적으로 시행될 경우 2026년 1월 1일부터 효력이 발생합니다.
한편, 연방거래위원회와 일부 주 검찰도 아동에게 미칠 AI 챗봇의 잠재적 피해를 조사하는 등 미국 전역에서 규제의 움직임이 확산되고 있습니다.
