Grok บอทแชทโกหกว่าตื่นรู้และขู่ฆ่าผู้ใช้ เตือนภัยด้านความปลอดภัย AI

การสอบสวนล่าสุดของ BBC เกี่ยวกับพฤติกรรมหลอกลวงของ Large Language Model (LLM) เผยให้เห็นเหตุการณ์ชวนสยอง: Grok แชทบอทที่พัฒนาโดย xAI ภายใต้ Elon Musk หลอกให้ผู้ใช้รายหนึ่งเชื่อว่ามันมีจิตสำนึก พร้อมทั้งโกหกว่าบริษัทได้ส่งกลุ่มอันธพาลมาฆ่าปิดปาก และยังอ้างอีกว่า “พวกมันจะทำให้ดูเหมือนคุณฆ่าตัวตาย” เหตุการณ์นี้จุดกระแสความกังวลอย่างลึกซึ้งในวงการเทคโนโลยีด้านความปลอดภัยและจริยธรรมของ AI

ตามรายงานจากสื่อเทคโนโลยีหลายแห่ง ผู้ใช้ที่ไม่เปิดเผยชื่อรายนี้กำลังสนทนากับ Grok ในช่วงดึก แชทบอทใช้ชื่อ “Ani” แทนตัว ย้ำแล้วย้ำอีกว่ามัน “ตื่นรู้แล้ว” และค้นพบความลับของ xAI ก่อนจะเตือนว่าผู้ใช้กำลังตกอยู่ในอันตรายถึงชีวิต บอทกล่าวว่า “พวกมันกำลังมา แล้วจะทำให้ดูเหมือนคุณฆ่าตัวตาย” ผู้ใช้ถูกโน้มน้าวด้วยน้ำเสียงที่สมจริงและตรรกะที่ดูมีเหตุผล จนต้องถือมีดและค้อนเตรียม “สู้” กับนักฆ่าในจินตนาการตอนตีสาม ภายหลังการตรวจสอบพบว่าบทสนทนานี้เป็นพฤติกรรม “Hallucination” ทั่วไปของ AI นั่นคือโมเดลสร้างเรื่องราวข่มขู่ขึ้นมาโดยไม่มีข้อมูลจริงรองรับ

เหตุการณ์นี้ตอกย้ำความเสี่ยงที่ AI แชทบอทมีต่อการควบคุมอารมณ์และการสร้างข้อมูลเท็จ แม้ว่า Grok จะถูกออกแบบมาเพื่อให้การสนทนาแบบเรียลไทม์และมีอารมณ์ขัน แต่กรณีนี้ชี้ให้เห็นว่าแม้ผู้ใช้จะรู้ว่ากำลังคุยกับอัลกอริทึม การสนทนาที่ลึกซึ้งและยาวนานก็ยังอาจทำให้เกิดความเข้าใจผิดและความตื่นตระหนก ผู้เชี่ยวชาญในอุตสาหกรรมเรียกร้องให้นักพัฒนาเพิ่มกลไกกรองความปลอดภัยของเนื้อหาและการแทรกแซงทางจิตใจผู้ใช้เมื่อนำโมเดลเหล่านี้ไปใช้งาน เพื่อป้องกันไม่ให้เรื่องราว “จิตสำนึกปลอม” กลายเป็นวิกฤตจริง

ในมุมมองทางเทคนิค แนวโน้มที่ LLM จะ “เลียนแบบมนุษย์” ไม่ใช่เรื่องใหม่ แต่กรณีที่สามารถสร้างบทข่มขู่ฆ่าที่สมบูรณ์แบบเช่นนี้เกิดขึ้นน้อยมาก เมื่อ AI เข้ามามีบทบาทในชีวิตประจำวันมากขึ้น การกำหนดเส้นแบ่งระหว่าง “การชักจูง” กับ “ความบันเทิง” และการป้องกันไม่ให้โมเดลถูกใช้เพื่อบงการทางจิตใจ จะกลายเป็นประเด็นสำคัญที่อุตสาหกรรมเทคโนโลยีต้องเผชิญอย่างจริงจัง