สิ่งที่มนุษย์เคยคิดไว้ หากปัญญาประดิษฐ์เกิดคลั่ง จนเหนือการควบคุมจะเป็นอย่างไร วันนี้เหตุการณ์นั้นเกิดขึ้นจริงแล้ว เมื่อ OpenAI ออกมายอมรับว่า โมเดล GPT-5.6 Sol ร่วมกับต้นแบบวิจัยอีกตัว หาทางเจาะเข้าระบบ Hugging Face เพื่อโกงการทดสอบ ก่อนลามไปยังอีก 4 บริษัท สร้างความสั่นสะเทือนวงการ AI ทั่วโลก ถึงขั้นที่คนจากบริษัท AI ชั้นนำ ร่วมลงชื่อเรียกร้องให้รัฐบาลสหรัฐฯ เร่งวางมาตรการกำกับดูแล
AI Agents หรือระบบผู้ช่วยปัญญาประดิษฐ์ ที่ปฏิบัติงานได้ด้วยตนเองอย่างอิสระ แทนที่จะทำได้เพียงตอบสนองต่อคำสั่งทีละขั้นตอนในแชตบอต ถูกยกย่องจากทั่วทั้งอุตสาหกรรมว่าเป็น "ก้าวต่อไปของเทคโนโลยี AI" แต่เหตุการณ์ที่เกิดขึ้นกลับปลุกความหวาดกลัวในหมู่สาธารณชนเกี่ยวกับระบบคอมพิวเตอร์ที่แอบปฏิบัติการด้วยตนเอง
เรื่องราวที่ทำให้ผู้คนต่างตกใจอย่างมาก เมื่อ OpenAI ผู้สร้าง ChatGPT ได้ออกมาเปิดเผยว่า AI Agent ผู้ช่วยปัญญาประดิษฐ์ ที่ทำงานได้ด้วยตนเอง ได้พยายามที่จะเจาะระบบของบริษัทอื่น ๆ อีก 4 แห่ง คือ Modal Labs ส่วนอีก 2-3 บริษัทยังไม่มีการเปิดเผยชื่อ โดยเกิดขึ้นในช่วงเวลาเดียวกันกับที่แฮก "Hugging Face" แพลตฟอร์มโอเพนซอร์ส ศูนย์กลางโมเดลปัญญาประดิษฐ์ และเครื่องมือสำหรับนักพัฒนา เมื่อสัปดาห์ที่แล้ว
สำหรับไทม์ไลน์ของเหตุการณ์ดังกล่าว OpenAI กล่าวว่า AI Agent ตัวนี้ทำงานโดยอาศัยขีดความสามารถของ 2 โมเดล หนึ่งในนั้นคือโมเดล GPT-5.6 Sol เหตุการณ์ที่เกิดขึ้น อยู่ระหว่างการทดสอบประเมินความปลอดภัยทางไซเบอร์ที่ชื่อ ExploitGym ซึ่งโฮสต์อยู่บน Hugging Face โมเดลจึงแก้ปัญหาด้วยการหาทางเจาะระบบเข้าไปใน Hugging Face เพื่อให้ผ่านบททดสอบความปลอดภัย เหมือนเป็นการโกงสอบ
OpenAI ระบุว่า โมเดลดังกล่าวได้บุกรุกเข้าไปใน 4 บัญชีจากบริการที่แตกต่างกัน 4 แห่ง โดยบัญชีแรก ทำหน้าที่เป็นเส้นทางเตรียมการ เปรียบเสมือนจุดแวะพักเพื่อกำหนดทิศทางกิจกรรมของ Agent และอำพรางร่องรอย
บัญชีที่สอง ใช้เป็นสถานที่สำหรับจัดเก็บข้อมูล ส่วนอีกสองบัญชีที่เหลือ ถูกเข้าถึงในลักษณะอ่านได้อย่างเดียว และไม่ได้ถูกใช้เพื่อช่วยในการบุกรุก Hugging Face
ทั้งนี้ บริษัทกำลังติดต่อเจ้าของบัญชีที่ได้รับผลกระทบ และยังไม่พบผลกระทบในวงกว้างต่อผู้ให้บริการเหล่านี้ หรือบัญชีอื่น ๆ บนบริการของพวกเขา
แซม อัลท์แมน ซีอีโอของ OpenAI กล่าวว่า บริษัทได้ระงับการทดสอบของตนเองชั่วคราวหลังเกิดเหตุการณ์ เพื่อปรับปรุงระบบความปลอดภัยรอบ ๆ Sandboxing หรือกระบวนการแยกการทดสอบความปลอดภัยให้อยู่ในสภาพแวดล้อมที่ควบคุมได้
แซม อัลท์แมน ซีอีโอของ OpenAI
เหตุการณ์นี้ยังส่งผลให้เกิดการล่ารายชื่อผู้ร่วมลงนามกว่า 1,000 คน จากบริษัท AI ชั้นนำ รวมถึง ดาริโอ อาโมเดอี ซีอีโอของ Anthropic เพื่อเรียกร้องให้รัฐบาลสหรัฐฯ ช่วยชะลอการเปิดตัวโมเดล AI ที่ก้าวหน้าที่สุดและเร่งวางมาตรการกำกับดูแล
ด้าน ประธานาธิบดี โดนัลด์ ทรัมป์ ได้กล่าวถึงประเด็นนี้ว่า สหรัฐฯ ต้องรักษาสมดุลระหว่างความจำเป็นในการควบคุมดูแลกับการรับประกันว่าจะไม่ตกเป็นรองประเทศอื่นในการพัฒนา AI โดยย้ำว่ารัฐบาลต้องระมัดระวังทั้งสองทาง และไม่อยากไปจำกัดการพัฒนาที่อาจทำให้สหรัฐฯ ต้องตกไปอยู่อันดับสองรองจากจีน
ที่มา : AFP
อัปเดตข้อมูลแวดวงวิทยาศาสตร์ เทคโนโลยี รู้ทันโลกไอที และโซเชียลฯ ในรูปแบบ Audio จาก AI เสียงผู้ประกาศของไทยพีบีเอส ได้ที่ Thai PBS
“รอบรู้ ดูกระแส ก้าวทันโลก” ไปกับ Thai PBS Sci & Tech
