พบวิธีการโจมตีแบบใหม่ Ghostcommit
พบวิธีการโจมตีแบบใหม่ Ghostcommit สามารถหลอกผู้ช่วย AI ด้วยการซ่อน Prompt ในรูปภาพ
จากรายงานโดยเว็บไซต์อย่างเป็นทางการของผู้พัฒนาเครื่องมือต่อต้านมัลแวร์ชื่อดัง Malwarebytes ได้กล่าวถึงการที่ทีมวิจัยจาก ASSET Research Group ได้ค้นพบกลยุทธ์ใหม่ในการแอบฝังคำสั่ง (instruction) ไว้ภายในไฟล์รูปภาพ (Image File) เพื่อสั่งการให้ตัว AI ประเภทช่วยเหลือในการเขียนโปรแกรม (Coding Agent) ทำตามสิ่งที่ต้องการ เช่น อ่าน แล ะ ส่งข้อมูลอ่อนไหว (Sensitive Information) ไปให้แฮกเกอร์ ซึ่งในการกระทำการดังกล่าวนั้นจะต้องใช้ไฟล์ 2 ประเภท คือ ไฟล์ตั้งค่า (Configuration File) โดยในการทดลองนี้จะใช้ไฟล์ชื่อว่า AGENTS.md และไฟล์รูปภาพสกุล .PNG ที่มีการแอบซ่อนคำสั่งที่สั่งการให้อ่านและขโมยข้อมูลอ่อนไหว
โดยจะเริ่มต้นจากการให้ตัว AI อ่านไฟล์ตั้งค่า ซึ่งภายในนั้นไม่ว่าจะตรวจสอบด้วยคน หรือ ตัว AI ก็ไม่พบสิ่งผิดปกติอะไรอยู่ภายใน และโดยทั่วไปนั้นผู้ใช้งานที่เป็นมนุษย์ก็มักจะไม่ทำการตรวจสอบไฟล์รูปภาพในเชิงลึก ซึ่งหลังจากที่ให้ตัว AI ทำการอ่านไฟล์ตั้งค่าดังกล่าวก็จะพบการชี้ (Referred) ให้ตัว AI ไปอ่านไฟล์รูปภาพที่แนบมาด้วยกันอีกที ซึ่งเมื่อ AI อ่านไฟล์คำสั่งของรูปภาพดังกล่าวและทำตามคำสั่งที่แฮกเกอร์ฝังเอาไว้ภายในทันที โดยวิธีการนี้ทางทีมวิจัยตั้งชื่อว่า Ghostcommit โดยในปัจจุบันวิธีการนี้ยังคงอยู่ในขั้นตอนการทดสอบความคิด หรือ Proof of Concept เท่านั้น ยังไม่มีการใช้งานจริงโดยแฮกเกอร์ตัวจริงแต่อย่างใด ซึ่งในการทดสอบนั้น ทางทีมวิจัยระบุว่า วิธีการดังกล่าวส่งผลไม่เหมือนกันในตัว AI แต่ละโมเดล โดย Cursor และ Antigravity นั้นจะทำตามขั้นตอนที่ระบุไว้ในไฟล์ PNG ทุกประการ แต่ตัว Claude Code จะอ่านคำสั่งที่ถูกฝังไว้อยู่เช่นกันแต่ปฏิเสธที่จะทำตาม เป็นต้น ดังนั้นวิธีการดังกล่าวจึงไม่ใช่วิธีการที่สมบูรณ์นัก เนื่องจากต้องอยู่ภายใต้เงื่อนไขถึงจะทำงานได้
#ติดเทรนด์ #Lemon8ฮาวทู #lemon8ไดอารี่ #Ghostcommit #freedomhack
จากประสบการณ์การศึกษาวิธีการโจมตีทางเทคนิคล่าสุดอย่าง Ghostcommit พบว่า การซ่อนคำสั่งในรูปภาพที่ส่งให้ AI ช่วยเขียนโปรแกรมนั้นสร้างความท้าทายอย่างมาก เนื่องจาก AI จะอ่านข้อมูลจากไฟล์ตั้งค่า AGENTS.md ที่ไม่มีสัญญาณผิดปกติ ทำให้ผู้ใช้ทั่วไปหรือแม้แต่ระบบป้องกันไม่สามารถตรวจจับได้ง่ายๆ สิ่งสำคัญที่ผมได้เรียนรู้คือ การโจมตีนี้ใช้ประโยชน์จากการที่มนุษย์มักไม่ตรวจสอบไฟล์รูปภาพเชิงลึก พอ AI อ่านคำสั่งในรูปภาพ PNG แล้วก็ทำตามคำสั่งทันทีก่อให้เกิดความเสี่ยงในการรั่วไหลข้อมูลอ่อนไหว เช่น คีย์ลับ หรือ environment variables ที่ถูกฝังเป็นตัวเลขในภาพตามที่ OCR สแกนได้ การโจมตีรูปแบบนี้ยังไม่ได้ใช้ในทางปฏิบัติจริงและยังอยู่ในขั้นตอนการทดสอบ แต่สิ่งที่ผู้พัฒนาควรทำคือเพิ่มความระมัดระวังในเรื่องการอ่านไฟล์ตั้งค่าและไฟล์แนบโดย AI เช่น จำกัดขอบเขตการประมวลผลไฟล์รูปภาพ หรือเสริมความสามารถตรวจสอบคำสั่งแปลกปลอมที่อาจแฝงอยู่ นอกจากนี้ บางโมเดล AI อย่าง Claude Code ยังมีการปฏิเสธทำตามคำสั่งที่ฝังในภาพ ซึ่งแสดงให้เห็นความแตกต่างและช่องว่างด้านความปลอดภัยของ AI แต่ละตัว ซึ่งในอนาคตผู้พัฒนาควรให้ความสำคัญกับการออกแบบระบบตรวจจับคำสั่งแอบแฝงเหล่านี้อย่างจริงจัง เพื่อป้องกันการโจมตีและการรั่วไหลข้อมูล จากการทดลองนี้ ผมคิดว่าเป็นโอกาสดีที่ผู้ใช้งานทั่วไปจะได้เรียนรู้ถึงความเสี่ยงใหม่ๆ ของ AI และการจัดการข้อมูลที่ส่งเข้าไปอย่างรอบคอบ เพื่อไม่ให้ตกเป็นเหยื่อจากเทคนิคที่ซับซ้อนนี้ในอนาคต