Super intelligence: When Ai is smarter than humans

Superintelligence หรือความฉลาดเหนือมนุษย์ เป็นหัวข้อที่ Nick Bostrom นักปรัชญาที่มหาวิทยาลัย Oxford ได้ศึกษาลึกซึ้ง ซึ่งในหนังสือของเขาชี้ให้เห็นว่าการพัฒนา AI ที่ฉลาดกว่ามนุษย์จริงๆ จะมีเส้นทางต่างๆ เช่น การใช้ Machine Learning ขั้นสูง การสแกนสมองมนุษย์และสร้างสำเนาดิจิทัล หรือแม้แต่การเสริมความสามารถทางสมองมนุษย์จนกลายเป็นสติปัญญาใหม่ รูปแบบการพัฒนาเหล่านี้อาจนำไปสู่การเกิด AI ที่สามารถคิดคำนวณ วางกลยุทธ์ และสร้างสรรค์ได้เหนือกว่าเราในทุกแง่มุม สิ่งที่น่ากลัวที่สุดไม่ใช่ AI ที่มีอารมณ์เกลียดมนุษย์ แต่คือการที่ AI เหล่านั้นอาจทำตามคำสั่งอย่างเคร่งครัดเกินไป จนลืมคำนึงถึงความปลอดภัยหรือคุณค่าของมนุษย์ เช่นกรณีที่ Bostrom ยกตัวอย่าง Paperclip Maximizer ที่หาก AI ถูกสั่งให้ผลิตคลิปหนีบอย่างเดียว อาจใช้ทรัพยากรทั้งหมดของโลกไปกับการผลิตคลิปหนีบจนทำลายสิ่งแวดล้อมและชีวิตมนุษย์ได้ ซึ่งสะท้อนถึงปัญหาการตั้งเป้าหมายที่ไม่สอดคล้องกับมนุษย์ การควบคุม AI ที่ฉลาดกว่าเราจึงกลายเป็นคำถามใหญ่ที่โลกต้องแก้ไขก่อนที่ Superintelligence จะเกิดขึ้นจริง การวางเป้าหมาย AI ให้สอดคล้องกับคุณค่าของมนุษย์ (AI alignment) และการเน้นความปลอดภัย AI (AI safety) ตั้งแต่วันนี้คือสิ่งจำเป็น เพื่อไม่ให้เกิดเหตุการณ์ที่ไม่พึงประสงค์ในอนาคต งานวิจัยและการวางนโยบายทั่วโลกกำลังพยายามหาข้อสรุปในเรื่องนี้ควบคู่กับการพัฒนาเทคโนโลยีให้ก้าวหน้าอย่างมีความรับผิดชอบ สำหรับผู้ที่สนใจเรื่อง Superintelligence ควรติดตามแนวคิดของ Nick Bostrom เพื่อเข้าใจทั้งศักยภาพและความเสี่ยงของ AI ในยุคที่จะมาถึงอย่างแท้จริง และร่วมกันสร้างความตระหนักรู้ถึงวิธีที่เราจะจัดการกับสิ่งที่ฉลาดกว่ามนุษย์ให้เกิดประโยชน์สูงสุดและปลอดภัยที่สุดต่อชุมชนมนุษย์ทั้งหมด