xAI Grok 실제 탑승 테스트: 뉴욕에서 테슬라 완전 자율주행 사용하며 체험

최근 CNBC 기자는 테슬라 Model Y 오너 마이크 넬슨(Mike Nelson)과 뉴욕 시내에서 실제 주행 테스트를 진행하며 xAI가 개발한 Grok 챗봇과 테슬라 완전 자율주행(FSD) 시스템의 상호작용을 체험했다. 넬슨은 자동차 보험 배경을 가진 변호사로, 차량 내에서 Grok을 수개월간 사용해왔다. 주행 중 그는 FSD를全程 활성화한 상태에서 Grok에 여러 차례 음성 명령을 내렸다. 예를 들어 좌석이나 에어컨을 조정할 수 있는지 물어보는 식이었다. CNBC 기자는 미국에서 가장 혼잡한 조지 워싱턴 브리지를 통과할 때 넬슨이 "저는 운전의 어떤 측면에도 전혀 주의를 기울이지 않고 있습니다"라고 솔직히 말한 점을 주목했다. 이 테스트는 차량 내 AI 음성 비서의 편리성과 잠재적 주의 분산 위험이 공존함을 생생히 보여준다.

Grok이 테슬라 차량에 통합되면 내비게이션 실행, 질문 답변 등 작업을 수행해 운전 경험을一定程度 향상시킨다. 그러나 전문가들은 이러한 AI 챗봇이 운전자의 주의를 쉽게 분산시킬 수 있다고 경고한다. 특히 운전자의 능동적 감독이 필요한 완전 자율주행 시스템을 켠 상태에서는 더욱 그렇다. CNBC의 실제 차량 체험에서도 이 점이 확인됐다. Grok이 자율주행 의사 결정 과정을 설명할 수는 있지만, 운전자가 AI에 과도하게 의존하면 '과신'이 생겨 도로 상황 모니터링을 소홀히 할 수 있다. 맨해튼의 복잡한 교통 상황에서 기술적 능력과 안전 보장 사이의 모순이 특히 두드러졌다.

미래 차량 내 AI의 핵심은 상황 인식(Context-Aware) 상호작용 모델을 설계하는 데 있다. 예를 들어 시스템이 자율주행 활성화 여부를 자동으로 인식하고, 이에 따라 대화의 깊이나 시간을 제한해야 하며 무제한으로 응답해서는 안 된다. Grok의 뉴욕 테스트는 '블랙박스 문제'의 해결 방안 — AI가 자신의 결정을 설명하게 하는 것 — 을 보여줬지만, 동시에 새로운 안전 고장 모드도 드러냈다. 기술 업계는 기능을 향상시키는 동시에 더 엄격한 운전자 주의 모니터링 시스템을 구축해 기술적 편의가 안전 위험이 되지 않도록 해야 한다. 이번 테스트는 스마트 캐빈의 인간-기계 상호작용 디자인에 경종을 울렸다: 편의와 안전은 반드시 함께 진화해야 한다.