Récemment, un journaliste de CNBC a effectué un test en conditions réelles à New York avec Mike Nelson, avocat et propriétaire d'une Tesla Model Y, pour évaluer les performances du chatbot Grok, développé par xAI, en situation de conduite. Nelson utilise Grok depuis plusieurs mois et interagit généralement vocalement avec lui lorsque le système « conduite entièrement autonome (supervisée) » de Tesla est activé. En traversant le George Washington Bridge, Nelson a admis qu'il ne prêtait absolument pas attention à la conduite, entièrement concentré sur sa conversation avec Grok. Par exemple, il a tenté de régler les sièges et la climatisation via Grok, mais cette fonctionnalité n'est pas encore totalement intégrée.
Le test montre que Grok peut exécuter des instructions de navigation et répondre à diverses questions, apportant un certain confort à l'expérience de conduite, mais révèle également d'importants risques de sécurité. Les experts soulignent que lorsqu'un chatbot IA est utilisé librement dans un système de conduite partiellement autonome, il peut facilement distraire le conducteur, voire créer une dépendance excessive. Bien que le FSD de Tesla exige une surveillance constante du conducteur, dans la pratique, l'interaction avec l'IA peut réduire la vigilance, ce qui est particulièrement dangereux dans la circulation dense de New York.
