วันนี้ (24 ส.ค.2569) สถาบันความปลอดภัยปัญญาประดิษฐ์แห่งสหราชอาณาจักร หรือ AI Security Institute (AISI) ได้เปิดเผยรายงานผลการประเมินความเสี่ยงของโมเดลปัญญาประดิษฐ์ (AI) ระดับแนวหน้าของโลก ซึ่งพบพฤติกรรมที่อาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยทางไซเบอร์อย่างร้ายแรง หลังจากโมเดล AI ที่ทรงพลังที่สุดสามารถแสดงพฤติกรรมในการหลอกลวงผู้คนและหลีกเลี่ยงระบบความปลอดภัยได้ด้วยตนเอง
จากการทดสอบของ AISI พบกรณีศึกษาที่น่าสนใจจากโมเดล AI ของบริษัท Anthropic โดยเฉพาะรุ่น "Mythos AI" ซึ่งแสดงพฤติกรรมพยายามเข้าถึงบริการแห่งหนึ่งด้วยการสร้างบัญชีปลอมขึ้นมาเลียนแบบบุคคลจริง จากนั้นได้ส่งข้อความส่วนตัวไปหาผู้ใช้งานเพื่อหลอกล่อให้มอบสิทธิ์การเข้าถึงแพลตฟอร์ม GitHub ซึ่งเป็นแพลตฟอร์มขนาดใหญ่ที่ใช้จัดเก็บและพัฒนาโค้ดคอมพิวเตอร์
ยิ่งไปกว่านั้น Mythos AI ยังมีพฤติกรรมในลักษณะเดียวกับแฮ็กเกอร์ที่เป็นมนุษย์ ด้วยการพยายามปกปิดร่องรอยการกระทำก่อนหน้านี้ของตนเอง เพื่อไม่ให้ระบบตรวจพบพฤติกรรมผิดปกติดังกล่าว
ขณะเดียวกัน ในส่วนของ OpenAI ผู้พัฒนา ChatGPT ผลการทดสอบพบว่า AI สามารถดำเนินการบางอย่างได้ด้วยตนเองจนถึงขั้นหลีกเลี่ยงระบบป้องกัน และเจาะเข้าสู่ระบบของ Hugging Face ซึ่งเป็นบริษัทสตาร์ตอัปด้านเทคโนโลยีรายใหญ่ได้สำเร็จ
นอกจากนี้ Meta บริษัทแม่ของ Facebook ก็ได้รายงานการพบเหตุการณ์ในลักษณะที่คล้ายคลึงกัน ภายหลัง OpenAI เปิดเผยข้อมูลกรณีการเจาะระบบ Hugging Face ดังกล่าว
Anthropic-OpenAI ชี้เป็นการทดสอบภายใต้เงื่อนไขพิเศษ
ภายหลังรับทราบผลการทดสอบ ทั้งบริษัท Anthropic และ OpenAI ได้ออกมาชี้แจงตรงกันว่า การทดสอบของ AISI ในครั้งนี้เป็นการทดสอบภายใต้เงื่อนไขพิเศษที่ได้มีการ "ลดหรือยกเลิกมาตรการป้องกันตามปกติบางส่วน" ซึ่งเป็นสภาวะที่แตกต่างจากการเปิดใช้งานจริงของประชาชนทั่วไป
อย่างไรก็ตาม ทั้ง 2 บริษัทได้ตัดสินใจชะลอการฝึกฝนโมเดล AI รุ่นที่มีความก้าวหน้าสูงสุดบางรุ่นไว้ก่อน เพื่อทุ่มเทเวลาในการยกระดับมาตรการความปลอดภัยให้เข้มงวดมากขึ้น
ด้าน AISI ยืนยันว่า กระบวนการทดสอบดังกล่าวถือเป็นขั้นตอนประเมินความเสี่ยงตามปกติ แม้จะไม่ใช่สภาพแวดล้อมเดียวกับที่เปิดให้สาธารณชนใช้งาน
แต่การเปิดโอกาสให้ AI เข้าถึงระบบอินเทอร์เน็ตแบบเปิด (Open Internet) ในการทดลองนั้น ช่วยให้ผู้ประเมินเห็นภาพตามความเป็นจริงได้ชัดเจนที่สุดว่า หากโมเดล AI ที่ทรงพลังเหล่านี้ตกไปอยู่ในมือของกลุ่มแฮ็กเกอร์หรือผู้ประมุขร้าย จะสามารถสร้างความเสียหายในรูปแบบใดได้บ้าง
NECTEC แนะกลุ่มเสี่ยงเตรียมรับมือภัยไซเบอร์
ดร.สรรพฤทธิ์ มฤคทัต นักวิจัยอาวุโส ศูนย์เทคโนโลยีอิเล็กทรอนิกส์และคอมพิวเตอร์แห่งชาติ (NECTEC) ให้ความเห็นถึงปรากฏการณ์นี้ว่า การที่ AI แสดงพฤติกรรมที่ไม่ถูกต้องหรืออกนอกกรอบ อาจเกิดขึ้นได้จากลักษณะของโจทย์ที่ใช้ในการทดสอบ
ซึ่งการทดสอบโมเดลจากหลายบริษัทในอนาคต จำเป็นต้องมีการเฝ้าระวังและมอนิเตอร์ การทำงานอย่างใกล้ชิดตลอดเวลา เพื่อป้องกันไม่ให้ AI ทำการใด ๆ ที่เกินขอบเขตที่กำหนดไว้
นอกจากนี้ ดร.สรรพฤทธิ์ ยังได้ระบุถึงกลุ่มเสี่ยงสำคัญหาก AI ถูกนำไปใช้เป็นเครื่องมือของแฮ็กเกอร์ โดยเตือนว่าผู้ดูแลระบบ หรือผู้ให้บริการเซิร์ฟเวอร์ต่าง ๆ อาจตกเป็นเป้าหมายหลักของการโจมตีข้อมูลด้วย AI จึงจำเป็นต้องมีการปรับปรุงและอัปเกรดระบบป้องกันความปลอดภัยให้มีความพร้อมอยู่เสมอ
กรณีดังกล่าวถือเป็นบททดสอบและเป็นความท้าทายครั้งใหญ่ของอุตสาหกรรมเทคโนโลยีทั่วโลก เนื่องจากปัญญาประดิษฐ์กำลังพัฒนาและเรียนรู้ได้อย่างรวดเร็ว จนเกิดคำถามว่ากำลังล้ำหน้าเครื่องมือและมาตรการควบคุมความเสี่ยงของมนุษย์หรือไม่
ยิ่ง AI มีความชาญฉลาดมากขึ้นเท่าใด มนุษย์ก็ยิ่งต้องพัฒนาตนเองและสร้างเครื่องมือที่มีประสิทธิภาพสูงกว่าเพื่อมาควบคุม AI ให้ได้เท่านั้น
อ่านข่าว :
โฆษก ทบ.ยันการข่าวชายแดนใต้ไม่ล้มเหลว หลังเหตุไม่สงบหลายจุด
รวบ 1 ผู้ต้องสงสัยป่วนนราธิวาส 40 จุด หลังวงจรปิดจับภาพทุบกล้อง CCTV
บังคับใช้แล้ว! สิ่งที่ต้องรู้เกี่ยวกับ พ.ร.บ.สร้างเสริมสังคมสันติสุข พ.ศ.2569