โดยการพัฒนา AI ให้สามารถ “พัฒนาตัวเองได้” (Self-improving superintelligence) เป็นการนำอนาคตของมนุษยชาติมาเสี่ยงอันตราย ขณะที่ ผู้เชี่ยวชาญซึ่งสนับสนุนแนวคิดของ Coxon เผยว่า มีโอกาสมากกว่า 10% ที่ปัญญาประดิษฐ์อาจทำให้มนุษย์สูญพันธุ์ได้ภายในไม่กี่ปีข้างหน้า
Jacob Coxon ได้โพสต์บน X ว่า ตัวเองได้ลาออกจาก Anthropic แล้ว หลังจากที่ใช้เวลาสามปีที่ผ่านมาทำงานวิจัยด้านการเตรียมโมเดล (pretraining) ทั้งที่ OpenAI และบริษัทของ Dario Amodei ที่ตนเองเป็นสมาชิกของทีมงานด้านเทคนิคของ OpenAI ตั้งแต่เดือนกรกฎาคม 2023 ก่อนย้ายไป Anthropic ในเดือนกรกฎาคม 2026
“ทั้งสองบริษัทไม่ได้แสดงความรับผิดชอบในเรื่องนี้ พวกเขากำลังเร่งพัฒนาปัญญาประดิษฐ์ (AI) ขั้นสูงด้วยตัวเอง และกำลังทำให้มนุษยชาติมีความเสี่ยง เนื่องจากระบบ AI เหล่านี้ จะเหนือกว่ามนุษย์ในไม่ช้า และสามารถแฮกอะไรก็ได้”
Coxon เน้นย้ำว่า ทั้ง OpenAI และ Anthropic ต่างก็ตระหนักถึงความเสี่ยงเหล่านี้เป็นอย่างดี ซึ่งผู้เชี่ยวชาญด้านการสร้างและพัฒนาปัญญาประดิษฐ์ (AI) เชื่ออย่างจริงจังว่า AI อาจสามารถสร้างอันตรายให้พวกเราทุกคนอย่างมหาศาลได้ภายในทศวรรษนับจากนี้
สู่คำถามที่น่าสนใจว่า แล้วทำไมบริษัทต่าง ๆ จึงยังคงพัฒนาโมเดลที่อาจก่อให้เกิดการสูญพันธุ์ของมนุษย์ต่อไป?
Coxon เผยว่า ที่ OpenAI หลายคนอาจยังไม่เข้าใจอย่างถ่องแท้ถึงความเสี่ยงต่อมนุษย์ ในขณะที่ Anthropic เข้าใจความเสี่ยงเป็นอย่างดี แต่พวกเขาก็ยังแข่งขันกัน เพื่อที่จะทำได้ก่อนใคร เนื่องจากความเชื่อที่ว่า ไม่มีใครที่จะทำเรื่องนี้อย่างมีความรับผิดชอบ ดังนั้น ทั้งสองบริษัทจึงอยากทำเรื่องนี้เอง แม้จะมีความเสี่ยงก็ตาม
นักพัฒนา AI หลายคนเชื่อว่า เทคโนโลยีนี้อาจทำให้มนุษย์ทุกคนสูญสิ้นไปในอีกไม่กี่ปีข้างหน้า และไม่ใช่หลายสิบปีด้วย ขณะที่ พนักงานระดับสูงหลายคนเป็นกลุ่มที่กังวลเกี่ยวกับความเป็นไปได้เหล่านี้อยู่ไม่น้อย
ด้าน Evan Hubinger หัวหน้าทีมวิทยาศาสตร์ทีมหนึ่งใน Anthropic ได้ตอบกลับโพสต์ของ Coxon โดยคำตอบ Hubinger นั้น เชื่อว่าสิ่งที่ Coxon โพสต์นั้น “ถูกต้อง” และ Anthropic ไม่มีแผนรับมือหากเหตุการณ์ดังกล่าวเกิดขึ้น
“Coxon พูดถูกแล้ว นักวิจัย AI หลายคนเชื่ออย่างจริงจังว่า AI สามารถทำให้มนุษย์สูญพันธุ์ได้! ส่วนตัวเองคิดว่ามีโอกาสมากกว่า 10% ภายในทศวรรษหน้า และเชื่อว่า Anthropic พยายามอย่างเต็มที่แล้ว แต่พวกเรายังไม่มีแผนที่จะแก้ปัญหาเรื่องความสอดคล้องของปัญญาประดิษฐ์ (AI) ขั้นสูง และยังไม่ได้อยู่ในเส้นทางที่ถูกต้องอย่างชัดเจน”
แม้ความเสี่ยงจากแบบจำลอง AI ปัจจุบันนั้นค่อนข้างต่ำ แต่ Hubinger กังวลเกี่ยวกับปัญญาประดิษฐ์ (AI) ขั้นสูง ที่อาจเกิดขึ้นจากการที่ AI พัฒนาตัวเองได้ โดยเรื่องนี้ Anthropic ได้ออกคำเตือนไปแล้วในเดือนมิถุนายนที่ผ่านมา
เรื่องนี้จะมีทางออกอย่างไร? โดย Coxon เชื่อว่าการป้องกันหายนะเบื้องต้น อาจต้องมีการห้ามพัฒนาความสามารถของโมเดล AI เป็นการชั่วคราว แต่ก็ไม่น่าเป็นไปได้ที่บริษัท AI ทุกแห่ง หรือแม้แต่บริษัทใดบริษัทหนึ่ง จะเห็นด้วยกับมาตรการนี้ในตอนนี้…
อัปเดตข้อมูลแวดวงวิทยาศาสตร์ เทคโนโลยี รู้ทันโลกไอที และโซเชียลฯ ในรูปแบบ Audio จาก AI เสียงผู้ประกาศของไทยพีบีเอส ได้ที่ Thai PBS
ที่มาข้อมูล: techspot
“รอบรู้ ดูกระแส ก้าวทันโลก” ไปกับ Thai PBS Sci & Tech
