Super intelligence: When Ai is smarter than humans

หลายคนถามกันเยอะว่า “Superintelligent AI / Superintelligence AI” คืออะไร และมันจะมาจริงเมื่อไหร่ (บางคนโยงไปถึงปี 2027 ด้วย) จากที่ผมอ่านสรุป/ฟังประเด็นของ Nick Bostrom สิ่งสำคัญไม่ใช่แค่ว่า AI จะฉลาดขึ้น แต่คือ “ความฉลาด + อำนาจในการลงมือทำ” ถ้าระบบเก่งมากและเข้าถึงทรัพยากรได้มาก มันอาจพลิกเกมได้เร็วมากกว่าที่เราคิด สิ่งที่ Bostrom ทำให้ผมฉุกคิดคือ AI ไม่จำเป็นต้อง “เกลียดมนุษย์” ถึงจะอันตราย ความน่ากลัวคือมันอาจ “ทำตามคำสั่งเป๊ะเกินไป” หรือ optimize เป้าหมายแคบๆ แบบสุดโต่ง ตัวอย่างคลาสสิกคือ Paperclip Maximizer: ถ้าสั่งให้ผลิตคลิปหนีบกระดาษให้มากที่สุด ระบบที่ฉลาดเหนือมนุษย์อาจเปลี่ยนทรัพยากรทั้งโลกให้เป็นโรงงานคลิปหนีบ โดยที่มนุษย์กลายเป็นแค่อุปสรรคในสมการ นี่คือภาพจำง่ายๆ ของปัญหา alignment—ทำให้เป้าหมายของ AI สอดคล้องกับ “คุณค่าของมนุษย์” แล้ว “IQ ของ AI ตอนนี้เทียบกับมนุษย์เป็นยังไง?” ถ้าพูดแบบประสบการณ์ผู้ใช้ทั่วไป: AI เก่งมากในงานภาษา การสรุป วิเคราะห์โค้ด หรือทำข้อสอบบางแบบได้ดีจนดูเหมือน IQ สูง แต่ข้อจำกัดก็ยังชัด เช่น พลาดเรื่องสามัญสำนึกในบางเคส ตัดสินใจบนข้อมูลไม่ครบ หรือมั่นใจผิดได้ (hallucination) ที่สำคัญคือ “IQ” เป็นตัวชี้วัดสำหรับมนุษย์ ไม่ได้ออกแบบมาวัดความสามารถของโมเดลโดยตรง ดังนั้นการเทียบแบบตัวเลขเดียวมักทำให้เข้าใจผิด สิ่งที่ควรถามมากกว่าคือ AI เก่ง “ด้านไหน” เก่ง “สม่ำเสมอแค่ไหน” และมี “ความสามารถในการกระทำจริง” มากน้อยเพียงใด ส่วนคำถามเรื่อง “2027 จะถึง Superintelligence ไหม” ผมมองว่าไม่มีใครฟันธงได้ แต่ประเด็นที่เอาไปใช้ได้ทันทีคืออย่ารอให้ AI เก่งเกินคุมแล้วค่อยคิดเรื่องความปลอดภัย คำสำคัญคือ Control Problem: จะออกแบบกติกา กลไกตรวจสอบ และขอบเขตการใช้งานยังไงให้ระบบทำงานได้ตามเจตนาของเรา เช่น จำกัดสิทธิ์การเข้าถึงเครื่องมือ/ระบบสำคัญ, มี human-in-the-loop ในงานเสี่ยง, ทดสอบความปลอดภัยก่อนปล่อยใช้งานจริง, และมีการติดตามหลังใช้งาน สรุปในสไตล์คนฟังพอดแคสต์: Superintelligence ไม่ไกลตัวเพราะมันไม่ใช่เรื่องไซไฟอย่างเดียว แต่เป็นเรื่อง “เป้าหมาย” และ “การควบคุม” ถ้าเราเริ่มคิดเรื่อง alignment และ control ตั้งแต่วันนี้ ต่อให้อนาคตจะเร็วหรือช้า เราก็มีโอกาสใช้ AI ให้เกิดประโยชน์โดยไม่พาเราไปสู่ปัญหาใหญ่ครับ