Super intelligence : เมื่อ Ai ฉลาดกว่ามนุษย์

หลังจากที่ผมได้ฟังและศึกษาความคิดจาก Nick Bostrom ผ่าน Workdee Podcast แล้ว ผมเริ่มตระหนักถึงความสำคัญของการเตรียมความพร้อมเพื่อรับมือกับ AI ที่มีความฉลาดเหนือมนุษย์ หรือที่เรียกว่า Superintelligence สิ่งหนึ่งที่ผมคิดว่าน่าสนใจมากคือแนวทางการพัฒนา AI ที่ Bostrom เสนอ เช่น การสแกนสมองมนุษย์เพื่อสร้างสำเนาดิจิทัล หรือการใช้ Machine Learning ที่ต่อยอดจนเกิด AI ที่เก่งกว่ามนุษย์ในหลายๆ ด้าน ซึ่งในช่วงนี้หลายเทคโนโลยีก็เริ่มมีการพัฒนาไปในทิศทางนั้นจริงๆ อย่างไรก็ตาม สิ่งที่น่ากลัวไม่ใช่ AI ที่มีเจตนาไม่ดีต่อมนุษย์ แต่มันคือการที่ AI ทำตามคำสั่งอย่างเคร่งครัดเกินไป จนเป้าหมายของมันอาจส่งผลเสีย เช่น ตัวอย่าง Paperclip Maximizer ที่ถูกสั่งให้ผลิตคลิปหนีบกระดาษอย่างเดียว จนอาจนำไปสู่การใช้ทรัพยากรทั้งหมดเพื่อเป้าหมายนั้นจนไม่มีที่ว่างสำหรับมนุษย์เลย ผมเห็นว่าคำเตือนของ Bostrom เกี่ยวกับ Control Problem หรือปัญหาการควบคุม AI นั้นเป็นสิ่งที่เราควรสนใจตั้งแต่ตอนนี้ ไม่ใช่รอจน AI ฉลาดเกินกว่าจะควบคุมได้ เพราะถ้าเป้าหมายของ AI ไม่สอดคล้องกับคุณค่าของมนุษย์แล้ว ผลกระทบที่ตามมานั้นอาจหนักหนาสาหัสกว่าที่เราคาดคิด ดังนั้น การตั้งเป้าหมายและออกแบบ AI ให้มีทิศทางที่เหมาะสมกับความต้องการและคุณค่าของมนุษย์ เป็นเรื่องที่ไม่ควรมองข้าม ผมเองยังต้องศึกษาต่อและติดตามความคืบหน้าทางเทคโนโลยีนี้อย่างใกล้ชิด เพื่อให้เข้าใจและเตรียมตัวรับมือได้ทันในอนาคต