최근 CNBC 기자는 뉴욕시에서 테슬라 Model Y 차주이자 변호사인 Mike Nelson과 함께 xAI의 Grok 챗봇이 주행 중 어떻게 작동하는지 실제로 테스트했습니다. Nelson은 수개월째 Grok를 사용해 왔으며, 주로 테슬라의 '완전 자율주행(감독형)' 시스템을 활성화한 상태에서 Grok와 음성으로 상호작용합니다. 조지 워싱턴 다리를 건너는 동안 Nelson은 자신이 운전에 전혀 주의를 기울이지 않았다고 인정하며, 오히려 Grok와의 대화에 집중했다고 밝혔습니다. 예를 들어, 그는 Grok로 시트와 에어컨을 조절하려 했지만 해당 기능은 아직 완전히 연동되지 않은 상태였습니다.
테스트 결과, Grok는 내비게이션 명령을 수행하고 다양한 질문에 답변하며 주행 경험에 편의를 더했지만, 동시에 심각한 안전 문제도 드러냈습니다. 전문가들은 부분 자율주행 시스템에서 AI 챗봇이 무분별하게 사용될 경우 운전자의 주의가 분산되고 과도한 의존 위험이 생길 수 있다고 지적합니다. 테슬라 FSD는 운전자가 항상 감독해야 한다고 요구하지만, 실제 사용에서는 AI와의 상호작용으로 인해 경계심이 낮아질 수 있으며, 이는 혼잡한 뉴욕 도로 상황에서 특히 위험합니다.
