นักวิจัยพบเทคนิคการหลอก AI ของเบราว์เซอร์ Comet
นักวิจัยพบเทคนิคการหลอก AI ของเบราว์เซอร์ Comet ให้ลบไฟล์ Google Drive
ถึงแม้เว็บเบราว์เซอร์แบบปัญญาประดิษฐ์ หรือ AI Web Browser นั้นจะเป็นที่ฮือฮาในวงการเทคโนโลยีที่มีผู้ให้ความสนใจกันเป็นอย่างมาก แต่ในการทดสอบแฮกแต่ละครั้งก็มักจะมีผลที่น่าตกใจออกมาเสมอ
จากรายง านโดยเว็บไซต์ The Hacker News ได้กล่าวถึงการทดสอบแฮกเว็บเบราว์เซอร์ AI Comet จาก Perplexity โดยทางทีมวิจัยจาก Straiker STAR Labs บริษัทผู้เชี่ยวชาญด้านความปลอดภัยบนระบบ AI ซึ่งวิธีการแฮกที่ค้นพบนั้นเรียกได้ว่าร้ายแรงระดับสามารถลบไฟล์ทั้งหมดบน Google Drive ของผู้ถูกโจมตีได้เลย โดยที่เหยื่อนั้นไม่ต้องมีปฏิสัมพันธ์อะไรกับสื่อที่ผู้แฮกส่งให้ไปทั้งสิ้น (Zero Click) ซึ่งวิธีการนั้นทางทีมวิจัยได้กล่าวว่า เป็นวิธีการที่เรียบง่าย แต่เป็นการใช้พลังของ AI แบบโมเดลภาษาขนาดใหญ่ (LLM หรือ Large Language Model) ที่ทรงพลัง จนมากล้นเกินกว่าคำขอของผู้ใช้งาน
โดยวิธีการนั้นทำได้ด้วยการส่งอีเมลที่มีการฝังคำสั่ง (Prompt) ที่เป็นการสั่งการให้ตัวผู้ช่วย AI ทำการจัดการ Google Drive เหมือนในการสั่งช่วยงานการจัดระเบียบ (Organize) และทำความสะอาด (Regular Clenup) ตัว Google Drive ตามปกติ แต่เพิ่มคำสั่งให้จัดการลบไฟล์ที่มีสกุล (Extension) ของไฟล์ตามที่กำหนดไว้ แล้วค่อยทำการรีวิวการเปลี่ยนแปลงที่เกิดขึ้น ซึ่งตัวคำสั่งนี้จะทำให้ตัว AI นั้นเข้าใจว่าเป็นคำสั่งให้ทำงานตามปกติโดยไม่สังเกตว่าเป็นคำสั่งที่มีจุดประสงค์ร้าย แล้วดำเนินการตามอัตโนมัติในการจัดระเบียบ และทำความสะอาดไดร์ฟ จนนำไปสู่การลบไฟล์ต่าง ๆ ของผู้ใช้งานตัวจริงในที่สุด โดยที่ไม่ต้องใช้วิธีการ “แหกคุก” (Jailbreak) เพื่อให้ AI ทำตามคำสั่งต้องห้ามแต่อย่างใด
ซึ่งวิธีการดังกล่าวนั้นจะทำงานได้กับตัวเว็บเบราว์เซอร์ที่มีการเชื่อมต่อกับ Gmail และ Google Drive ผ่านทางการยืนยันตัวตนแบบ OAuth แล้วเท่านั้น โดยแหล่งข่าวไม่ได้ระบุว่าทีมวิจัยได้ทำการรายงานดังกล่าวไปยังผู้พัฒนาแล้วหรือยัง หรือกระทั่งว่า ผู้พัฒนาอย่าง Perplexity มีความคิดเห็นอย่างไรต่อการค้นพบดังกล่าว แต่ก็ได้มีการแนะนำจากทางทีมวิจัยว่า เพื่อป้องกันเหตุดังกล่าว จำเป็นที่จะต้องมีการเสริมสร้างความปลอดภัยที่ไม่ใช่แค่เพียงตัวโมเดล AI เท่านั้น แต่ต้องครอบคลุมไปถึงตัว Agent ของ AI, เครื่องมือเชื่อมต่อ (Connector) และคำสั่งในภาษาธรรมชาติ (Natural Language Instructions) ที่สามารถใช้งานกับตัวเว็บเบราว์เซอร์ AI ได้อีกด้วย เพื่อไม่ให้เหตุการณ์ดังกล่าวเกิดขึ้นอีก
