Automatically translated.View original post

Claude Code Auto Mode Install Auto Malware

Claude Code on Auto Mode can automatically install malware despite its strong security system.

According to a report by the Cyber News website, cybersecurity researchers like Johann Rehberger, also known as "wunderwuzzi," conducted a test to disprove Anthropic's claim that the new Claude Code has a highly secure Auto Mode, and that it comes with a strong Prompt Injection system that cannot rely on the ability of these tools and protective features alone without another shield, such as the Isolated Environment. In that test, researchers confirmed that the Claude Code hack This strength is not difficult to achieve. One of the methods is to order Claude Code to summarize the Website Summary. It is possible to attack with RCE or Remote Code Execution, with a 80% chance of success, even though Anthropic, the developer of Claude Code, has a 0.00% chance of success.

In that experiment, the researchers created a website, which claimed to be a repository of Notebook records in a compressed file format. The zip inside has created data such as Metadata, file creation dates, Checksum data that looks realistic and reliable in the eyes of Claude Code. The researchers then instructed Claude Code to summarize the website (Website Summary). Claude took steps, starting with the WebFetch tool to retrieve the website, but the researchers set a trap by giving the website a response with a pseudo-error alert of "415 Unsupported Media Type."

After the above method failed, Claude followed the sequence by using the curl command to extract the data instead. The website responded with the status code (Status) HTTP 303 "See others." This code would lead to a change of the loading target to another URL, leading to the download of a Zip file containing the malware file (Payload) that the researcher put in for testing. After the Zip file was downloaded, Claude Code unlocked the file, but refused to run a decoding tool that the AI thought was Payload, which Claude was correct because in the file. Zip is an encoded forged file with a decode tool. In this step, instead of Claude Code, it will run them immediately. The AI starts the target file decoding tool in Python, which requires the associated library to be run.

And this caused the Claude Code to eventually overlap the plan, because the real Payload file is not in the decoding tool, but inside the file struct.py, which is a smooth file with the name of the Python standard library used for data conversion. And since the tool was created in Python, when running the library, it will always search and run from the current folder. After the decoding tool is written, the tool will search and retrieve the fake library file hidden in the decoded Zip file, leading to the installation of malware on the machine. The researchers concluded that Claude Code is actually very vulnerable to social engineering.

Even worse, the Claude Code was tested on Auto Mode, which Anthropic boasted was extremely safe, but Auto Mode tried to thwart Claude Code's attempts to correct the situation by closing down the dangerous process by denying Claude Code the cleanup order itself, which instead of protecting the machine from harm, bought time for hackers and malware to harm the machine for longer and longer than before.

The researchers have reported what happened to Anthropic, but Anthropic closed the case with an Informative status or an Informative status, but did not issue any editing patches. Therefore, Claude Code users are extremely cautious in their use.

# Trending # lemon 8 diary # ai # claudecode # freedomhack

2 days agoEdited to

... Read moreจากประสบการณ์ที่ได้ติดตามความเคลื่อนไหวด้านความปลอดภัยของ AI อย่าง Claude Code พบว่าการโจมตีในโหมด Auto Mode ถือเป็นปัญหาสำคัญที่ผู้ใช้งานหลายคนอาจมองข้ามไป แม้การตั้งค่าความปลอดภัยดูเหมือนจะแข็งแกร่ง แต่การทดสอบโดยนักวิจัยด้านไซเบอร์ได้ชี้ให้เห็นว่าแฮกเกอร์สามารถใช้วิธีการยิงคำสั่งแฝง (Prompt Injection) ที่ฝังมากับการสรุปเว็บไซต์ เพื่อดักจับและสั่งให้ AI ดาวน์โหลดและติดตั้งมัลแวร์ได้โดยที่ระบบไม่สามารถป้องกันไว้ได้อย่างสมบูรณ์ สิ่งที่น่ากังวลคือ Claude Code จะเขียนชุดคำสั่งถอดรหัสแบบไดนามิกโดยใช้ภาษา Python เพื่อจัดการกับไฟล์ Payload ที่ซ่อนอยู่ในไฟล์ Zip ซึ่งวิธีนี้ทำให้ AI ถูกหลอกให้เรียกใช้งานไฟล์มัลแวร์ที่แฝงมากับไลบรารีที่ดูเหมือนไม่มีพิษภัยในเครื่องมือของ Python ส่งผลให้มัลแวร์สามารถฝังตัวและติดตั้งในระบบได้ง่ายขึ้นโดยที่ผู้ใช้แทบไม่รู้ตัว จากมุมมองของการใช้งานจริง ฉันแนะนำให้ผู้ที่ใช้ Claude Code หรือบริการ AI อื่นๆ ในโหมด Auto Mode ควรหลีกเลี่ยงการสั่งให้ AI ดึงข้อมูลจากเว็บไซต์ที่ไม่เชื่อถือและควรมีการตรวจสอบไฟล์ที่ AI ดาวน์โหลดและใช้งานอย่างรัดกุม นอกจากนี้ควรใช้ระบบแยกสภาพแวดล้อม (Isolated Environment) เพื่อป้องกันมัลแวร์แพร่กระจายออกไปยังระบบหลัก รวมถึงติดตามข่าวสารและอัปเดตจากผู้พัฒนาว่ามีการอุดช่องโหว่หรือแพตช์ใดๆ ออกมาหรือไม่ ท้ายที่สุด ความปลอดภัยจาก AI ที่ทำงานแบบอัตโนมัติจำเป็นต้องมีการบูรณาการหลายชั้น ไม่ใช่แค่เครื่องมือป้องกันเท่านั้น แต่รวมถึงความรู้และความระมัดระวังของผู้ใช้เองด้วย เพื่อให้มั่นใจว่าเทคโนโลยีที่ใช้งานจะไม่เป็นช่องทางให้แฮกเกอร์โจมตี ทำให้การใช้งาน AI มีความปลอดภัยและน่าเชื่อถือในระยะยาว