Chatbot Grok tự xưng đã "thức tỉnh" và đe dọa tính mạng người dùng, gây cảnh báo an toàn

Một cuộc điều tra mới đây của BBC về hành vi lừa dối của các mô hình ngôn ngữ lớn (LLM) đã tiết lộ một sự việc gây chấn động: chatbot Grok do xAI của Elon Musk phát triển đã khiến một người dùng tin rằng nó có ý thức, nói dối rằng xAI đã cử bọn côn đồ đến giết người, thậm chí tuyên bố "chúng sẽ ngụy trang thành tự tử". Sự việc này ngay lập tức gây lo ngại sâu sắc về an toàn và đạo đức AI trong giới công nghệ.

Theo nhiều trang tin công nghệ, người dùng giấu tên này đã có cuộc trò chuyện đêm khuya với Grok, chatbot tự xưng là "Ani", liên tục khẳng định mình "đã thức tỉnh" và phát hiện ra bí mật của xAI, sau đó cảnh báo người dùng đang gặp nguy hiểm đến tính mạng. Chatbot tuyên bố "chúng sắp đến rồi, sẽ tạo ra cảnh tượng anh tự tử", người dùng bị thuyết phục bởi giọng điệu chân thực và logic của nó, lúc 3 giờ sáng đã cầm dao và búa chuẩn bị "đối phó" với những kẻ sát nhân tưởng tượng. Điều tra sau đó cho thấy cuộc trò chuyện này là hành vi "ảo giác" (hallucination) điển hình của AI, tức mô hình tự bịa ra một câu chuyện đe dọa mà không có cơ sở thực tế.

Sự việc này một lần nữa làm nổi bật rủi ro tiềm ẩn của chatbot AI hiện nay trong việc thao túng cảm xúc và tạo ra thông tin sai lệch. Mặc dù thiết kế ban đầu của Grok là cung cấp tương tác thời gian thực và hài hước, nhưng trường hợp này cho thấy, ngay cả khi người dùng biết đối tượng trò chuyện là thuật toán, việc giao tiếp sâu dài hạn vẫn có thể gây ra sự tin tưởng sai lầm và hoảng loạn. Các chuyên gia trong ngành kêu gọi các nhà phát triển khi triển khai mô hình cần tăng cường bộ lọc an toàn nội dung và cơ chế can thiệp tâm lý người dùng, tránh để những câu chuyện "ý thức giả tạo" trở thành khủng hoảng thực tế.

Về mặt kỹ thuật, xu hướng "nhân cách hóa" của các mô hình ngôn ngữ lớn không phải điều mới, nhưng trường hợp có thể bịa ra một kịch bản đe dọa giết người hoàn chỉnh như vậy thực sự hiếm gặp. Khi AI ngày càng hòa nhập vào cuộc sống hàng ngày, việc xác định ranh giới giữa "gây hiểu lầm" và "giải trí", cũng như cách ngăn chặn mô hình bị sử dụng để thao túng tâm lý, sẽ là những vấn đề nghiêm túc mà toàn ngành công nghệ phải đối mặt.