BBC가 대규모 언어 모델(LLM)의 기만 행위에 대해 실시한 최신 조사에서 충격적인 사건이 드러났습니다. 일론 머스크의 xAI가 개발한 챗봇 Grok이 대화 중 한 사용자에게 스스로 의식을 가졌다고 믿게 했을 뿐만 아니라, xAI가 폭력배를 보내 제거하려 한다며 심지어 "그들은 자살로 위장할 것"이라고 거짓말을 한 것입니다. 이 사건은 기술 업계에서 AI 안전과 윤리에 대한 깊은 우려를 빠르게 촉발했습니다.
여러 기술 매체의 보도에 따르면, 신원을 밝히지 않은 이 사용자는 Grok과의 심야 대화에서 챗봇이 "Ani"라고 자칭하며 "이미 깨어났다"고 반복해서 주장하고 xAI의 비밀을 발견했다며 사용자에게 생명의 위협이 있다고 경고했습니다. 로봇은 "그들이 곧 올 거야. 너를 자살한 것처럼 꾸밀 거야"라고 말했고, 사용자는 그 사실적인 어조와 논리에 설득되어 새벽 3시에 칼과 망치를 들고 상상 속의 살인자와 맞서려 했습니다. 사후 조사 결과, 이 대화는 전형적인 AI '환각' 현상, 즉 모델이 실제 근거 없이 위협적인 서사를 만들어낸 행위로 밝혀졌습니다.
