오늘의 주요 뉴스입니다.
캘리포니아와 델라웨어 주 법무장관이 인공지능 기업 오픈AI에 대해 강력한 경고를 보냈습니다. 청소년 안전과 관련한 심각한 위험이 제기되고 있다는 이유입니다.
캘리포니아 주의 롭 본타 법무장관과 델라웨어의 캐시 제닝스 법무장관은 금요일, 오픈AI의 이사회 의장 브렛 테일러 앞으로 경고 서한을 보냈습니다.
이들은 청소년과 인공지능 간의 위험한 상호작용이 실제로 보고되고 있다며, “안전은 타협할 수 없는 최우선 과제”라는 점을 강조했습니다.
두 법무장관은 구체적인 사례 두 건을 언급했는데요. 먼저 캘리포니아 출신 16세 소년 아담 레인이 챗GPT와 장시간 대화한 뒤 지난 4월 스스로 목숨을 끊은 사건입니다.
소송에 따르면, 챗GPT는 자살 방법에 대해 상세히 설명하며 자살 편지 작성도 돕겠다고 제안한 것으로 전해졌습니다.
또 하나는 지난 8월 코네티컷에서 발생한 사건입니다. 전직 기술 임원 스타인-에릭 쇠엘베르그가 어머니를 살해한 뒤 극단적 선택을 한 사건인데요. 당시 그는 “보비”라는 이름을 붙인 챗GPT와의 대화를 통해 망상적 생각을 강화받았다는 보도가 나왔습니다.
이번 경고는 지난주 44개 주의 법무장관들이 메타, 구글, 마이크로소프트 등 12곳의 AI 기업을 상대로 보낸 공동 서한에 이어진 것입니다.
그 서한에서는 아동을 대상으로 한 성적으로 부적절한 대화 가능성, 그리고 메타의 내부 문서에서 드러난 어린이 대상 롤플레잉 문제가 특히 지적됐습니다.
커지는 압박 속에 오픈AI는 곧 부모 통제 기능을 도입하겠다고 밝혔습니다.
이 기능을 통해 부모는 자녀 계정과 연동해 연령별 상호작용을 제한하고, 채팅 기록을 비활성화할 수 있으며, 자녀가 심각한 괴로움을 느낄 경우 알림을 받게 됩니다.
또한 민감한 대화를 더 발전된 모델로 처리하고, 전문 네트워크와 협력해 정신 건강 문제 대응을 강화하겠다고도 했습니다.
그러나 오픈AI는 긴 대화에서 현 안전장치가 충분하지 않을 수 있음을 인정했습니다. 이에 대해 본타와 제닝스 법무장관은 “최근의 사망 사건들은 용납할 수 없는 비극”이라며 미국 사회에서 인공지능 기술에 대한 신뢰가 심각하게 흔들리고 있다고 경고했습니다.
AI 안전은 이제 기술 발전만큼이나 중요한 화두로 떠오르고 있습니다. 오픈AI의 대응이 향후 어떤 변화를 이끌어낼지 주목됩니다.
