The AI systems of Grok and Copilot can be used as.

Grok and Copilot AI systems can be used as C2 Proxy for malware.

Artificial intelligence or AI is often used to help with tasks ranging from personal to business. Of course, hackers can also be used, and they can be used in a more complex way.

According to a report by The Hacker News website, a research team from Check Point, a cyber management specialist, has detected that AI tools, both Microsoft's Copilot and xAI's Grok, can be used as intermediaries to communicate with malware control servers (C2 or Command and Control) or C2 Proxy. According to the ability these AI tools support web browsers and have the ability to extract URL information, allowing them to misrepresent communication information between malware and C2 servers with the usual communication information of different organizations and then hide. Avoid being detected by cyber protection tools. In addition, using AI tools to help you draw up workflow procedures to conduct reconnaissance surveys, write scripts to attack the system, and decide what to do in the next stage of the attack.

The feature of the AI tool is that the malware enters the URL of the C2 server and then uses the AI command to perform Web Fetch to the C2 server and wait for a response via AI. The answer is accompanied by a Command from the C2 server, but instead of sending it directly to the malware, it is sent to the AI to forward the command to the malware again. This is a simple method and avoids detection without additional tools such as keys. API (API Key) to work in any way

But to use this method, it is necessary for hackers to hack the target and embed the malware successfully, and then set up the malware to communicate with the C2 server through the channel of the AI tool. The AI must have received the answer from the server to pass it on to the malware correctly. If one of them is missing, this strategy will fail immediately. It is called a breakthrough method, but it is not very easy to do at this time.

3/12 Edited to

จากประสบการณ์ส่วนตัวในการติดตามข่าวสารและงานวิจัยด้านความปลอดภัยไซเบอร์ พบว่าการนำระบบ AI อย่าง Grok และ Copilot มาเป็นส่วนหนึ่งของการโจมตีมัลแวร์นั้น สะท้อนให้เห็นถึงการพัฒนาอย่างรวดเร็วของเทคนิคแฮกในยุคปัจจุบัน ระบบ AI เหล่านี้สามารถรับคำสั่งให้ดึงข้อมูลจาก URL ของเซิร์ฟเวอร์ C2 แล้วส่งคำสั่งนี้ต่อให้มัลแวร์ เพื่อทำงานในระบบเป้าหมาย โดยส่วนที่น่าสนใจมากคือ การแฝงข้อมูลคำสั่งเหล่านี้เข้าไปในข้อมูลปกติของเว็บเบราว์เซอร์ที่องค์กรใช้ ทำให้ระบบรักษาความปลอดภัยไม่สามารถแยกแยะได้ง่ายว่าเป็นการติดต่อที่เป็นอันตรายหรือไม่ ซึ่งจุดนี้เองที่ทำให้การโจมตีแบบนี้มีประสิทธิภาพสูงและตรวจจับได้ยาก อย่างไรก็ตาม การใช้งาน AI ในลักษณะนี้ไม่ได้ง่ายสำหรับแฮกเกอร์ทุกคน เพราะต้องอาศัยขั้นตอนการแฮกเครื่องเป้าหมายและติดตั้งมัลแวร์สำเร็จก่อน รวมถึงต้องตั้งค่าช่องทางสื่อสารระหว่างมัลแวร์กับ AI ให้ทำงานสอดคล้องอย่างแม่นยำ ซึ่งถ้าขั้นตอนใดผิดพลาดก็จะส่งผลให้กลยุทธ์ล้มเหลว ในมุมมองของผู้ใช้หรือนักพัฒนาองค์กร การตระหนักถึงความเสี่ยงจากการโจมตีที่ใช้ AI เป็นตัวกลางนี้จึงจำเป็นต้องเพิ่มความเข้มงวดในการตรวจสอบพฤติกรรมการใช้งานเว็บ รวมถึงติดตามอัปเดตเครื่องมือตรวจจับภัยคุกคามที่เน้นจำแนกพฤติกรรมของการสื่อสารที่แฝงข้อความควบคุม นอกจากนี้ยังแนะนำให้ผู้ดูแลระบบใช้แนวทางความปลอดภัยแบบองค์รวม เช่น การใช้ระบบ Network Segmentation และ Zero Trust เพื่อจำกัดการเข้าถึงทรัพยากรในระบบ รวมถึงการฝึกอบรมให้ผู้ใช้งานมีความเข้าใจในภัยไซเบอร์ที่ล้ำสมัยซึ่งใช้เทคโนโลยี AI ในการช่วยโจมตี ตลอดจนเตรียมรับมือและตอบสนองอย่างรวดเร็วเมื่อมีสัญญาณผิดปกติ ในอนาคตเราน่าจะเห็นการใช้ AI ที่ถูกพัฒนาไปอย่างต่อเนื่องทั้งในแง่ของการป้องกันและโจมตี ทำให้วงการความปลอดภัยไซเบอร์ต้องเตรียมตัวรับมือกับความซับซ้อนใหม่ ๆ ด้วยการวิจัยและพัฒนาเทคโนโลยีที่สามารถวิเคราะห์พฤติกรรมแบบละเอียดและตรวจจับ AI Proxy ได้อย่างมีประสิทธิภาพมากยิ่งขึ้น