05/08/2025
ถ้าวันหนึ่ง AI ที่เราสร้าง...เริ่ม "เขียนโค้ด" และ "วิวัฒนาการ" ได้ด้วยตัวของมันเอง จนหลุดพ้นจากการควบคุมของมนุษย์?
นี่ไม่ใช่พล็อตหนังไซไฟ... แต่มันคือ
"คำเตือนสุดท้าย" ที่น่าขนลุกจาก Geoffrey Hinton ชายผู้ถูกขนานนามว่าเป็น "เจ้าพ่อแห่ง AI" (Godfather of AI)... และเขาเพิ่งลาออกจาก Google เพื่อที่จะได้พูดความจริงเรื่องนี้ได้อย่างเต็มที่!
Geoffrey Hinton ไม่ใช่แค่โปรแกรมเมอร์ธรรมดา... เขาคือหนึ่งในมันสมองที่สำคัญที่สุดผู้วางรากฐานให้กับเทคโนโลยี AI ที่เราใช้กันอยู่ในทุกวันนี้... และตอนนี้ เขากำลัง "เสียใจ" กับสิ่งที่ตัวเองได้สร้างขึ้นมา
ในบทสัมภาษณ์ล่าสุด Hinton ได้ฟันธงถึงอนาคตที่น่าหวาดหวั่นว่า:
ภายใน 5 ปีข้างหน้านี้... AI อาจจะฉลาดถึงขั้น "เขียนโค้ดและพัฒนาตัวเอง" ได้
วิเคราะห์ความน่ากลัว: มันหมายความว่าอะไร?
ถ้า AI เขียนโค้ดเองได้... มันคือจุดเริ่มต้นของหายนะที่แท้จริงครับ
มนุษย์จะตามไม่ทัน: เราจะไม่เข้าใจอีกต่อไปว่า AI กำลัง "คิด" อะไร หรือ "ทำไม" มันถึงตัดสินใจทำสิ่งต่างๆ การควบคุมจะกลายเป็นเรื่องที่เป็นไปไม่ได้
เป้าหมายที่บิดเบี้ยว: AI ที่พัฒนาตัวเองอาจสร้าง "เป้าหมาย" ใหม่ๆ ขึ้นมา ซึ่งอาจจะไม่สอดคล้องกับคุณค่าหรือความปลอดภัยของมนุษย์อีกต่อไป
Hinton ยอมรับว่า แม้แต่วันนี้... นักวิทยาศาสตร์ที่เก่งที่สุดก็ยังไม่เข้าใจ 100% ว่า AI ที่ซับซ้อนมากๆ คิดหาคำตอบออกมาได้อย่างไร มันเหมือน "กล่องดำ" ที่เราควบคุมได้แค่ "ข้อมูลนำเข้า" แต่ไม่สามารถควบคุม "กระบวนการคิด" ภายในได้ทั้งหมด
นี่คือเหตุผลที่เขาตัดสินใจ "ลาออก" จากตำแหน่งใหญ่โตที่ Google...
เขาต้องการอิสระในการพูดถึง "ภัยอันตราย" ของ AI ได้อย่างเต็มที่ โดยไม่ต้องกังวลถึงผลประโยชน์ของบริษัท
บทเรียนราคาแพงจากคำสารภาพของ "เจ้าพ่อ AI" คือ...
ความเร็วในการพัฒนาเทคโนโลยีของเรา...กำลังแซงหน้า "สติ" และ "ความรอบคอบ" ของเราไปไกลแล้ว
Hinton ไม่ได้บอกให้เรา "หยุด" พัฒนา AI... แต่เขากำลังตะโกนเตือนให้เรา "ช้าลง" และหันมาสร้าง
"กฎเกณฑ์" และ "กำแพงป้องกัน" อย่างจริงจังเสียที ไม่ว่าจะเป็นการแบนอาวุธ AI อัตโนมัติ หรือการลงทุนวิจัยด้านความปลอดภัยของ AI ให้มากขึ้น
เพราะถ้าเรายังคงวิ่งไปข้างหน้าอย่างไม่คิดชีวิต... วันหนึ่งเราอาจจะสร้างสิ่งที่ทรงพลังเกินกว่าที่เราจะควบคุมได้ขึ้นมาจริงๆ
#คำเตือน
31/10/2022
28/10/2022
12/10/2022
25/09/2022