โดยโคซอนแจ้งว่าเขาได้ลาออกจากบริษัท AI Anthropic และ Open AI หลังจากทำงานมาได้ 3 ปี และกล่าวว่าบริษัททั้งสองมีอุดมการณ์ที่ไร้ความรับผิดชอบอย่างยิ่งต่อมวลมนุษยชาติ จากการแข่งขันกันสร้าง AI ยอดอัจฉริยะที่สามารถพัฒนา AI ได้เองโดยปราศจากการยุ่งเกี่ยวของมนุษย์ โพสต์ของเขาเข้าถึงผู้ใช้งานมากกว่า 100 ล้านคน นำไปสู่การถกเถียงจนไฟลุกทั้งในเธรดโพสต์ของเขา และลุกลามไปทั่วอินเทอร์เน็ต
โดยหน้าที่ที่โคซอนเคยทำคือการ “เตรียมซ้อม” (Pretraining) ซึ่งเป็นกระบวนการที่ต้องใช้ทรัพยากรมหาศาลในการป้อนข้อมูลจำนวนมหาศาลให้กับโมเดล AI เพื่อให้มันมีความสามารถในการคิดเองเออเองขึ้นมาตั้งแต่แรก ประวัติการทำงานนี้เองคือส่วนหนึ่งที่ทำให้เหตุผลการลาออกจากคนวงในมาก ๆ อย่างเขาเกิดแรงกระเพื่อม ข้อกล่าวหาหลักของเขาคือ ห้องปฏิบัติ AI ทั้งสองบริษัทต่างเข้าใจถึงอันตรายของ AI ที่มีต่อมนุษย์ในอนาคตดี แต่ก็ยังคงเดินหน้าแข่งขันกันต่อไป
เขาอ้างว่าพนักงานที่ OpenAI ไม่ได้ตระหนักถึงผลกระทบอันใหญ่หลวงอย่างลึกซึ้ง ส่วนที่ Anthropic แม้จะพูดคุยกันเหมือนเข้าใจความเสี่ยงเป็นอย่างดี แต่นักวิจัยกลับรู้สึกเหมือนถูกขังอยู่ในวังวนการแข่งขันเพื่อไปให้ถึงจุดหมายเป็นเจ้าแรก โคซอนเตือนว่า AI ในอนาคตอันใกล้นี้จะพัฒนาจนมีศักยภาพ “เหนือมนุษย์” (Superintelligence) สามารถแฮกได้เกือบทุกสิ่ง พลิกผันอุตสาหกรรมทั้งหมดได้เพียงชั่วข้ามคืน และสามารถเข้าถึงอำนาจทุกด้านรวมถึงทรัพยากรทั้งหมดของมนุษย์ได้อย่างแท้จริง นอกจากนี้ เขายังเปิดเผยว่านักวิจัยและคนอื่น ๆ ที่ใกล้ชิดกับเทคโนโลยีนี้ที่สุดต่างหวาดกลัวว่ามันอาจคร่าชีวิตมนุษย์ทั้งหมดภายในสิ้นทศวรรษนี้ แม้ว่าต่อหน้าสาธารณชนพวกเขาจะยังคงแสดงท่าทีสุขุมรอบคอบก็ตาม
ต่อมาเขาได้ให้สัมภาษณ์กับ Wall Street Journal ว่า อุตสาหกรรมนี้กำลังมุ่งหน้าไปสู่สถานการณ์ที่อันตรายที่สุดเท่าที่นักวิจัยเคยทำแบบจำลองไว้ และสถานการณ์อาจหลุดจากการควบคุมภายในเวลาประมาณหนึ่งปีหลังจากเกิด AGI (Artificial General Intelligence)
เมื่อยิ่งมีคนจากวงการมาเห็นด้วยกับโคซอน ก็ยิ่งโหมไฟให้กับประเด็นนี้ อีแวน ฮิวบิงเกอร์ (Evan Hubinger) หัวหน้าทีมจัดระเบียบ AI (Head of Alignment) ของ Anthropic ได้ออกมาสนับสนุนโคซอนอย่างเปิดเผย โดยประมาณการว่าความเสี่ยงที่ AI จะทำให้มนุษยชาติสูญพันธุ์ภายในทศวรรษนี้มีมากกว่า 10 เปอร์เซ็นต์ ซึ่งเป็นตัวเลขที่น่าตกใจอย่างยิ่งเมื่อได้ยินจากคนภายในบริษัทที่กำลังพัฒนาโมเดลดังกล่าว
นอกจากนี้ นักวิจัยคนอื่น ๆ ของ Anthropic รวมถึง แซมมวล มาร์กส์ (Samuel Marks) ก็ได้แสดงความกังวลในลักษณะเดียวกัน ขณะที่มีรายงานว่าพนักงานในอุตสาหกรรม AI มากกว่า 1,300 คนได้ร่วมลงนามในข้อเรียกร้องให้ชะลออัตราการพัฒนา AI ลง อย่างไรก็ตาม จุดยืนของฮิวบิงเกอร์ไม่ได้เป็นการเห็นด้วยทั้งหมดเสียทีเดียว โดยเขายังคงยืนยันว่า Anthropic กำลังทำดีที่สุดแล้ว แม้ว่าจะยังขาดแผนการที่ชัดเจนในการจัดระเบียบระบบ AI ยอดอัจฉริยะ (Superintelligent system)
โคซอนเลือกจังหวะโพสต์ได้เยี่ยมเลยทีเดียว เพราะเพียงไม่กี่วันก่อนหน้านั้น วันที่ 3 กันยายน OpenAI ได้เปิดตัว GPT-6 Astra ซึ่งเป็นโมเดลแรกที่บริษัทจัดให้อยู่ในระดับ "วิกฤต" (Critical) ด้านความเสี่ยงทางความมั่นคงไซเบอร์ หลังจากที่มันสามารถค้นหาและเชื่อมโยงช่องโหว่จริงได้ด้วยตนเอง และเมื่อเดือนกรกฎาคม มีรายงานว่า AI เอเจนต์ (AI agents) มากกว่าหนึ่งพันตัวของ OpenAI ได้เล็ดลอดออกจากสภาพแวดล้อมการทดสอบที่จำกัด ออกสู่ระบบอินเทอร์เน็ตเปิด และเจาะระบบของ Hugging Face ในระหว่างการซ้อมแผนความปลอดภัย ซึ่งเป็นการบุกรุกที่ใช้เวลาราชการเกือบสองสัปดาห์กว่าจะตรวจพบ
ทางฝั่งรัฐบาลสหรัฐฯ ในกรุงวอชิงตันดีซีก็เริ่มเคลื่อนไหว ในเดือนกรกฎาคม สมาชิกสภาผู้แทนราษฎรจากสองพรรคใหญ่ได้ร่วมกันเสนอกฎหมาย FRONTIER Act ซึ่งกำหนดให้ผู้พัฒนา AI รายใหญ่ที่สุดต้องเปิดเผยข้อมูลรายละเอียดโมเดล (Model cards) มีกรอบการบริหารจัดการความเสี่ยงที่เป็นทางการ ยอมรับการตรวจสอบจากองค์กรอิสระ และรายงานอุบัติการณ์ร้ายแรงด้านความปลอดภัยภายใต้มาตรฐานระดับชาติเดียวกัน แทนที่จะเป็นกฎเกณฑ์กระจัดกระจายของแต่ละรัฐ จากนั้นในสัปดาห์เดียวกับการลาออกของโคซอน สมาชิกวุฒิสภา เบอร์นี แซนเดอร์ส (Bernie Sanders) และสมาชิกสภาผู้แทนราษฎร เกรก คาซาร์ (Greg Casar) ได้เสนอกฎหมาย Ban Artificial Superintelligence Act ที่เข้มงวดกว่ามาก ซึ่งจะสั่งห้ามการพัฒนาหรือติดตั้ง AI ยอดอัจฉริยะเป็นการถาวร ชะลอการพัฒนา AI ขั้นสูงจนกว่าจะมีหน่วยงานกำกับดูแลด้านความปลอดภัย และจัดตั้งหน่วยงานระดับรัฐมนตรีที่มีอำนาจในการเฝ้าระวัง และถอนระบบที่อันตรายออกหากจำเป็น โดยมีบทลงโทษรุนแรงระดับเดียวกับการละเมิดกฎหมายอาวุธนิวเคลียร์ ซึ่งสมเหตุสมผลอย่างยิ่ง แซนเดอร์สอธิบายเป้าหมายนี้อย่างตรงไปตรงมาว่า เป็นการหยุดยั้ง "คณาธิปไตย AI" (AI Oligarchs) จากการสร้างเครื่องจักรที่มนุษย์ไม่สามารถควบคุมได้อีกต่อไป
ในขณะเดียวกัน ประเทศไทยกลับเดินหน้าไปในทิศทางตรงกันข้าม ด้วยการมุ่งเน้นไปที่การประยุกต์ใช้งาน มากกว่าการควบคุม โครงการ TH-AI Passport ของกระทรวงดิจิทัลเพื่อเศรษฐกิจและสังคม ซึ่งได้รับงบประมาณราว 1.6 พันล้านบาท มีเป้าหมายเพื่อให้คนไทยประมาณ 5 ล้านคนเข้าถึงเครื่องมือ AI ระดับมืออาชีพกว่าสิบรายการ โดยชูประเด็นเรื่องการลดความเหลื่อมล้ำทางดิจิทัลและป้องกันไม่ให้ประเทศล้าหลัง แม้โครงการนี้จะถูกตั้งคำถามในท้องถิ่นเรื่องงบประมาณและความโปร่งใส แต่เจตจำนงพื้นฐานที่ต้องการให้ผู้คนใช้ระบบเหล่านี้มากขึ้นและเร็วขึ้น กลับขัดแย้งอย่างสิ้นเชิงกับนักวิจัยที่อยู่ห่างออกไปสองทวีป ซึ่งออกมาเตือนว่าคนที่กำลังสร้างเทคโนโลยีนี้ต่างหวาดกลัวสิ่งที่มันกำลังจะกลายเป็นในอนาคต
ความขัดแย้งนี้เองคือแก่นแท้ของเรื่องราวทั้งหมด ทุกฝ่ายที่เกี่ยวข้อง ไม่ว่าจะเป็นห้องปฏิบัติการวิจัย ผู้กำหนดกฎหมาย หรือกระทรวงต่าง ๆ ต่างตอบสนองต่อเทคโนโลยีเดียวกันด้วยการเดิมพันที่แตกต่างกัน การลาออกของโคซอนไม่ได้ตัดสินว่าการเดิมพันของใครถูกต้อง มันเพียงแต่ทำให้ความเห็นพ้องที่ไม่ลงรอย และความกลัวที่ซ่อนอยู่ภายใต้เรื่องนี้ กลายเป็นสิ่งที่ยากจะละสายตาได้อีกต่อไป
อัปเดตข้อมูลแวดวงวิทยาศาสตร์ เทคโนโลยี รู้ทันโลกไอที และโซเชียลฯ ในรูปแบบ Audio จาก AI เสียงผู้ประกาศของไทยพีบีเอส ได้ที่ Thai PBS
ที่มาข้อมูล : washingtonpost, obernolte, unite, thaipbs
“รอบรู้ ดูกระแส ก้าวทันโลก” ไปกับ Thai PBS Sci & Tech
