นักวิจัยพบเทคนิค "hallusquatting" ใช้ความหลอนของAI
นักวิจัยพบเทคนิค "hallusquatting" ใช้ความหลอนของ AI Agent หลอกติดมัลแวร์ลงเครื่องแบบอัตโนมัติ
จากรายงานโดยเว็บไซต์ Futurism ได้กล่าวถึงการตรวจพบจุดอ่อนของ AI Agent ประเภทที่ใช้ในการเขียนโค้ด หรือ AI Coding Assistant เช่น Cursor, OpenClaw, Gemini, GitHub, Microsoft Copilot, และอีกมากมายหลายตัว ว่า มีความอ่อนไหวต่อการถูกโจมตีด้วยความหลอน หรือ ความมโน ของตัว AI (AI Halluciation) เพื่อให้นำไปสู่การติดตั้งม ัลแวร์ลงบนเครื่องของเหยื่อโดยที่เหยื่อไม่รู้ตัวเนื่องจากตัว AI นั้นจัดการทุกอย่างโดยอัตโนมัติ ด้วยเทคนิคที่ทีมวิจัยจากมหาวิทยาลัย Tel Aviv University และ Intuit บริษัท
ซอฟต์แวร์ด้าน AI ได้ตั้งชื่อเทคนิคดังกล่าวว่า "Hallusquatting" หรือ “Adversarial Hallucination Squatting” โดยช่องโหว่ดังกล่าวนั้นมาจากการที่เวลาผู้ใช้งานทำการสอบถาม AI แล้ว AI ทำการแนะนำแพ็คเก็จ (Package) ซอฟต์แวร์หรือเครื่องมือแบบ 3rd Party ซึ่งหลายครั้งมักจะใส่ชื่อแพ็คเกจที่ไม่มีอยู่จริงมาด้วย ซึ่งการแนะนำแบบนั้นเรียกได้ว่าเป็นการ “มโน” ขึ้นมาของตัว AI และเนื่องด้วยกลไกการทำงานของ AI Agent เหล่านี้ ทำให้ความแม่นยำในการมโนนั้น มีความแม่นยำมากถึง 85% - 100% ในการสร้างคำตอบที่มโนขึ้นมาตรงกันแทบทุกครั้งด้วยความมั่นใจที่สูงลิ่ว ทำให้แฮกเกอร์สามารถสร้างแพ็คเกจเหล่านั้นแล้วแฝงมัลแวร์เอาไว้ จากนั้นก็จะทำการฝากไว้บนคลังดิจิทัล (Repo หรือ Repository) แห่งใดแห่งหนึ่ง แล้ว AI Agent ติดกับ “มโน” คำตอบขึ้นมาตรงแล้วทำการดาวน์โหลดแพ็คเกจนั้นลงไปรันบนเครื่องของเหยื่อจนเครื่องของเหยื่อติดมัลแวร์ และเนื่องจากตัว AI Agent นั้นมีระบบการทำงานด้วยตนเอง (Autonomous) ทำให้ขั้นตอนต่าง ๆ นั้นเหยื่อจะไม่รู้ตัวจนกระทั่งมีการรันโค้ดมัลแวร์ลงไปเป็นที่เรียบร้อยแล้ว
ทางทีมวิจัยได้ทำการแจ้งเตือนบริษัทผู้พัฒนา AI Agent ต่าง ๆ ถึงสิ่งที่ตรวจพบเป็นที่เรียบร้อยแล้ว เพื่อให้บริษัทเหล่านั้นแก้ไขปรับปรุง โดยได้มีการปกปิดข้อมูลอ่อนไหวหลายอย่างไม่ให้มีการเปิดเผยกับสำนักข่าวต่าง ๆ เพื่อความปลอดภัยของผู้ใช้งาน AI ทำให้สิ่งที่ปรากฏอยู่ตามหน้าข่าวนั้นเป็นเพียงรายละเอียดคอนเซ็ปต์คร่าว ๆ เท่านั้น
เมื่อพูดถึงความสามารถของ AI ในการช่วยเขียนโค้ด หลายคนอาจมองว่าเป็นประโยชน์และช่วยเพิ่มประสิทธิภาพการทำงานอย่างมาก แต่มันก็มีความเสี่ยงสูงมากที่มาพร้อมกับความสะดวกนี้ อย่างเช่นเทคนิค Hallusquatting ที่ทีมวิจัยจาก Tel Aviv University และ Intuit พบ ซึ่งเป็นการใช้ช่องโหว่ของ AI Agent ที่เกิดจากความหลอน หรือ AI Hallucination เทคนิคนี้ทำให้ AI แนะนำแพ็คเกจซอฟต์แวร์ที่ไม่มีอยู่จริงแต่มีความน่าเชื่อถือสูงเกือบ 100% ผู้ใช้งานที่ไม่รู้ตัวอาจจะยอมให้อัตโนมัติของ AI ติดตั้งแพ็คเกจนั้นๆ ลงในเครื่อง ซึ่งอาจจะถูกแฝงด้วยมัลแวร์ได้อย่างแนบเนียน โดยเฉพาะเมื่อ AI Agent ทำงานแบบอิสระ (Autonomous) ขั้นตอนทั้งหมดจะเกิดขึ้นโดยที่ผู้ใช้ไม่ต้องยืนยันหรือสังเกตเห็น จากประสบการณ์ส่วนตัว การใช้ AI Coding Assistant ควรจะต้องมีการตรวจสอบผลลัพธ์และคำแนะนำที่ AI แนะนำอย่างรอบคอบ โดยเฉพาะแพ็คเกจหรือเครื่องมือใหม่ๆ ที่ AI แนะนำมา ควรค้นหาข้อมูลในแหล่งข้อมูลอื่นหรือดูความน่าเชื่อถือของ repository ก่อนติดตั้งเสมอ เพื่อป้องกันความเสี่ยงจากแพ็คเกจปลอมที่อาจนำมัลแวร์เข้ามา อีกประเด็นหนึ่งที่ผู้ใช้ควรตระหนักคือ การตั้งค่าความปลอดภัยในซอฟต์แวร์ AI Coding Assistant เพื่อป้องกันการดาวน์โหลดและติดตั้งแพ็คเกจอัตโนมัติที่ไม่ผ่านการตรวจสอบ นอกจากนี้ ผู้พัฒนาซอฟต์แวร์ AI เองก็ต้องเร่งแก้ไขช่องโหว่เหล่านี้อย่างจริงจังเพื่อช่วยลดความเสี่ยง ท้ายที่สุด นี่ถือเป็นบทเรียนที่ชัดเจนว่าแม้ AI จะฉลาดแค่ไหน แต่ผู้ใช้งานก็ต้องมีวิจารณญาณและไม่ไว้ใจ AI แบบ 100% อย่างเต็มที่ โดยเฉพาะในเรื่องความปลอดภัยของซอฟต์แวร์และข้อมูลของเราเอง