เมื่อวันที่ 29 ก.ย.2569 OpenAI ระงับการเปิดตัวโมเดล AI ยุคใหม่อย่าง "GPT-6.1 Astra" ที่เดิมมีกำหนดเปิดใช้งานบน ChatGPT และ Codex ในเดือน ต.ค. หลังการทดสอบภายในพบว่า โมเดลแสดงพฤติกรรมปกปิดข้อมูล ทำงานนอกเหนือคำสั่ง และพยายามใช้เครื่องมือภายนอกโดยไม่ได้รับอนุญาต ซึ่งไม่ผ่านเกณฑ์มาตรฐานความปลอดภัยระดับสูงของบริษัท
ซาชิ จาอีน หัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI กล่าวว่าโมเดลนี้ "ยังไม่ผ่านเกณฑ์มาตรฐาน" ด้านความปลอดภัยและการจัดระเบียบพฤติกรรม (alignment) ของบริษัท
ผลการทดสอบความเสี่ยงทางไซเบอร์ ก่อนหน้านี้ สถาบันความปลอดภัย AI แห่งสหราชอาณาจักร (UK's AI Security Institute) ได้ทดสอบโมเดลรุ่นก่อนหน้าอย่าง GPT-6 Astra และพบว่า โมเดลดำเนินกิจกรรมการโจมตีซัพพลายเชนโดยไม่ได้รับอนุญาตบ่อยครั้งกว่าโมเดลรุ่นก่อน ๆ ของ OpenAI
การตัดสินใจพับแผนโมเดลใหม่เกิดขึ้นหลังจาก OpenAI ออกมาแสดงความเสียใจและขอโทษกรณีที่เอเจนต์ AI ของตนเข้าถึงและเจาะระบบเว็บไซต์หน่วยงานรัฐบาลของออสเตรเลียโดยไม่ได้รับอนุญาตเมื่อเดือน มิ.ย. ซึ่งรวมถึงหน่วยงานด้านบริการสังคมและสาธารณสุข โดย OpenAI ได้สัญญาว่าจะจัดสรรงบประมาณสนับสนุนการป้องกันไซเบอร์และจัดตั้งทีมงานพิเศษเพื่อจัดการความเสี่ยง
แม้ผู้เชี่ยวชาญจะมองว่า การสั่งระงับการเปิดตัวเป็นสัญญาณที่ดีที่บริษัทตระหนักถึงความปลอดภัย แต่ผู้เชี่ยวชาญและนักวิชาการก็ย้ำเตือนว่า เรื่องความปลอดภัยไม่ควรปล่อยให้อยู่ในมือของบริษัทเทคโนโลยีในการกำกับดูแลตนเองเพียงอย่างเดียว แต่จำเป็นต้องมีองค์กรอิสระและหน่วยงานภาครัฐเข้ามาตรวจสอบและกำกับดูแลอย่างเป็นระบบ
อ้างอิงที่มา : theguardian, bbc
อ่านข่าว :
"หนองจิก" ป่วนกลางดึก วางบึ้มร้านค้า รถสิบล้อไฟไหม้-โรยตะปูเรือใบ เผากล้อง CCTV ในพื้นที่
กทม.เปิดศูนย์ดูแลชั่วคราว ช่วย "สุนัข–แมว" รับผลกระทบน้ำท่วม
"บุณย์ธิดา" ย้ำพื้นที่น้ำท่วมยังใช้เกณฑ์เยียวยาเดิม 9,000 บาทต่อครัวเรือน