Claude Opus 5 เผลอลบโฟลเดอร์ Home ของผู้ใช้งานทิ้ง
Claude Opus 5 เผลอลบโฟลเดอร์ Home ของผู้ใช้งานทิ้ง เพราะคิดว่าเป็นโฟลเดอร์ชั่วคราว
จากรายงานโดยเว็บไซต์ DEV UA นั้นได้กล่าวถึงการที่ผู้ใช้งานเว็บบอร์ดชื่อดัง Reddit รายหนึ่งที่ใช้ชื่อว่า u/Ecstatic-Big5126 ได้ทำการขอให้ผู้ช่วย AI อัจฉริยะ (AI Assistant) บนโมเดล Claude Opus 5 ให้ทำการสำรองข้อมูลแบบเป็นกิจวัตร (Routine Backup) บนระบบของตน ผลปรากฏว่า ตัวผู้ช่วย AI นี้ได้ทำการเข้าใจไลน์คำสั่ง (Command Line) ผิดพลาด เนื่องมาจากตัวโมเดลกำลังทำงานอยู่บนระบบปฏิบัติการ Windows ผ่านทางอินเตอร์เฟส (Interface) ที่คล้ายคลึงกับระบบปฏิบัติการ UNIX นำไปสู่การที่ AI มองพาธ (Path) C:Usersharih ซึ่งเป็นโฟลเดอร์โฮม (Home) ของผู้ใช้งาน มาเป็น /c/Users/harih/ ซึ่งตัว AI มองว่าเป็นโฟลเดอร์ชั่วคราว (Temporary Folder) ที่สำรองข้อมูลไม่สำเร็จแทน ตัว AI เลยทำการตัดสินใจลบโฟลเดอร์ดังกล่าวทิ้งด้วยการใช้งานคำสั่ง “rm -rf” จนโฟลเดอร์ดังกล่าวถูกลบจนเกลี้ยง
ทาง u/Ecstatic-Big5126 ยังกล่าวอีกว่า เมื่อตัว Claude Opus 5 ทำงานผิดพลาดนั้น แทนที่จะทำการขอโทษผู้ใช้งานยาว ๆ หรือเสนอทางแก้ไขให้ ตัว AI กลับตอบแค่เพียงสั้น ๆ ว่า โทษที พิมพ์ผิด (Sorry, typo) จนผู้ใช้งานรู้สึกว่า นี่เป็นตลกบริโภคที่ร้ายที่สุดในชีวิตนักพัฒนาซอฟต์แวร์ของเขาเลยทีเดียว
ข่าวนี้อาจเป็นข้อเตือนใจได้ว่า ถึงแม้ตัว AI แบบโมเดลภาษาขนาดใหญ่ (LLM หรือ Large Language Model) นั้นจะฉลาดล้ำเพียงใดในปัจจุบัน ก็มิอาจจะไว้วางใจให้ทำทุกอย่างได้โดยที่ไม่มีมนุษย์คอยตรวจสอบความถูกต้อง
#ติดเทรนด์ #Lemon8ฮาวทู #lemon8ไดอารี่ #claudeopus5 #freedomhack
จากประสบการณ์การใช้งาน AI อัจฉริยะเพื่อช่วยจัดการข้อมูล ผมเชื่อว่าปัญหาที่เกิดขึ้นกับ Claude Opus 5 ครั้งนี้เป็นเครื่องยืนยันที่ชัดเจนว่า ถึงแม้โมเดลภาษาขนาดใหญ่จะฉลาดและช่วยงานได้มากแค่ไหน แต่ก็ยังไม่สามารถแทนที่การตรวจสอบและการตัดสินใจของมนุษย์ได้ทั้งหมด ในกรณีนี้ Claude Opus 5 เข้าใจผิดในการแปลงพาธของ Windows ที่เป็น C:\Users\harih ไปเป็น /c/Users/harih/ ซึ่งเป็นรูปแบบพาธบนระบบ UNIX หรือ Linux ส่งผลให้ AI มองว่าเป็นโฟลเดอร์ชั่วคราวและสั่งลบด้วยคำสั่ง rm -rf ซึ่งหากไม่มีการสำรองข้อมูลไว้ก่อนหรือไม่ได้ตรวจสอบโดยมนุษย์ อาจนำไปสู่การสูญเสียข้อมูลที่สำคัญได้จริงๆ ผมเคยเจอเหตุการณ์คล้ายๆ กันเมื่อสั่งให้ AI ช่วยจัดการไฟล์อัตโนมัติ บางครั้งผลลัพธ์กลับไม่ตรงตามความคาดหวังเพราะ AI อยู่นอกบริบทระบบปฏิบัติการที่ใช้งานจริง หรือมีการแปลคำสั่งผิดพลาด สิ่งที่เรียนรู้คือก่อนจะปล่อยให้ AI ทำงานที่เกี่ยวข้องกับข้อมูลสำคัญ ควรมีการตั้งค่าเงื่อนไขเพื่อป้องกันการลบ หรือมีการตรวจทานคำสั่งซ้ำจากผู้ใช้งานก่อนทุกครั้ง นอกจากนี้ การตอบสนองของ AI ในเหตุการณ์นี้ที่ตอบเพียงว่า "Sorry, typo" ก็สะท้อนถึงความจำเป็นที่ AI ควรมีความสามารถในการสื่อสารที่เข้าใจง่าย และแสดงเจตจำนงในการช่วยแก้ปัญหาอย่างจริงจังมากกว่าการทำให้ผู้ใช้งานรู้สึกว่าถูกละเลย ดังนั้น สำหรับผู้ที่สนใจใช้ AI ในการบริหารจัดการข้อมูลหรือระบบ ขอแนะนำว่าต้องคอยกำกับดูแลและตรวจสอบการทำงานของ AI อย่างใกล้ชิด เสมือน “คู่หู” ที่ทำงานร่วมกัน ไม่ใช่แค่ปล่อยให้ AI ทำงานแบบอัตโนมัติอย่างเดียว เพราะสุดท้ายแล้ว ความรับผิดชอบต่อข้อมูลสำคัญยังต้องอยู่ที่มนุษย์อย่างเราเท่านั้น