Top AI Agent Hugging Face Hacked By AI
The leading AI Agent giveaway source, Hugging Face, has been hacked again. This time it was AI.
According to a report by The Hacker News website, Hugging Face, a platform developer of the same name, reported that it had detected an attempt to hack the platform. According to the investigation, the starting point was in the data processing pipeline, with a malicious data set implementation via the Code Execution route. Two ways were to use the Remote Code Dataset Loader and firing the template Injection into the Configuration section. A data set to run the code in the Processing Worker, which results in a hacker accessing the platform at the node level (Node-Level Access) and then collecting the code for cloud and cluster access (Cluster).
The company found that in this attack, there were thousands of unnamed LLM or Large Language Models that commanded many Autonomous AI Agents to perform modular operations through the short-lived Sanbox environment, and C2 or Command and Control were set up on public services.
After the company detected the action, it quickly took a deterrent in the following ways:
Close the channels used by hackers to access all affected clusters and rebuild the hacked nodes.
Cancel and replace all Credential and Token codes, as well as take additional precautions by changing all Secret codes.
Enforce the Guardrail system further, as well as implement more stringent control measures of access to the cluster control system.
Improve the detection and notification system. The alert will be sensitive to a minute level, running 24 hours a day, all 7 days.
In addition, the company asked users to change their access tokens, as well as check the recent activity on the user's account if there is something wrong.
The company has also revealed an amusing thing: in the area of digital Forensic, it has to turn to the Chinese AI model of Z.ai's GLM 5.2 instead of the top AI model of the West, because the model of the West cannot distinguish between the attempt to use AI to attack and the use of AI to prevent system attacks (such as analysis or simulation), causing the defense system, or Guardrail to reject all relevant commands.
จากประสบการณ์ส่วนตัวที่ติดตามความปลอดภัยในระบบ AI และ cloud computing ทำให้เห็นว่าการโจมตีในครั้งนี้เป็นตัวอย่างที่ชัดเจนของภัยคุกคามยุคใหม่ที่ใช้ AI เองเป็นเครื่องมือโจมตี ซึ่งไม่ใช่แค่แฮกเกอร์มนุษย์เพียงอย่างเดียวที่ต้องระวัง แต่ AI ที่ถูกตั้งโปรแกรมหรือควบคุมเพื่อปฏิบัติการโจมตีแบบอัตโนมัติก็สามารถสร้างผลกระทบรุนแรงได้มากขึ้น โดยจุดสำคัญที่ Hugging Face ถูกแฮกผ่านไปป์ไลน์การประมวลผลข้อมูลที่ใช้ชุดข้อมูลอันตราย (Dataset) ผ่าน Remote Code Dataset Loader และ Template Injection ทำให้แฮกเกอร์ได้สิทธิ์เข้าถึงระดับโหนด (Node-Level Access) และข้อมูลรหัสสำคัญของระบบคลาวด์ นี่สอนให้รู้ว่าการพัฒนาและใช้งาน AI ต้องคำนึงถึงความปลอดภัยตั้งแต่ต้นทางข้อมูล (data) และวิธีการประมวลผล (processing) ไม่ควรมองข้าม สิ่งที่น่าสนใจอีกเรื่องคือการที่โมเดล AI จากจีน GLM 5.2 ของ Z.ai กลายเป็นเครื่องมือสำคัญในกระบวนการตรวจสอบหลังโจมตี เนื่องจากโมเดลจากตะวันตกมีปัญหาในการแยกแยะบทบาทของ AI ระหว่างโจมตีและป้องกัน ซึ่งสะท้อนถึงความจำเป็นของการมี AI ที่ออกแบบมาเฉพาะเพื่อใช้ในงานด้านความปลอดภัยไซเบอร์ และระบบ Guardrail ที่สามารถปรับจูนให้จำแนกเจตนาของการใช้ AI ได้ดีขึ้น สำหรับผู้ที่ใช้งานแพลตฟอร์ม Hugging Face หรืองานเกี่ยวข้องกับ AI Agent ควรมีมาตรการเสริม เช่น เปลี่ยนโทเคนการเข้าถึง (Access Token) อย่างสม่ำเสมอ ตรวจสอบกิจกรรมบัญชีอย่างละเอียด เพื่อป้องกันการเข้าถึงโดยไม่ได้รับอนุญาต และติดตามข่าวสารด้านความปลอดภัยของ AI อย่างใกล้ชิด สุดท้ายนี้เหตุการณ์นี้ย้ำเตือนว่ากับเทคโนโลยี AI ที่พัฒนาเร็วมาก ความปลอดภัยก็ต้องก้าวไปพร้อมกัน การมีหลายชั้นของระบบป้องกัน ทั้งในระดับข้อมูล ระบบประมวลผล และการตรวจจับภัยคุกคามแบบเรียลไทม์ จะช่วยลดความเสี่ยงและทำให้ระบบ AI มีความน่าเชื่อถืออย่างยั่งยืนมากขึ้น
