โอเพนเอไอ (OpenAI) ผู้สร้างแชตจีพีที (ChatGPT) เปิดเผยแนวปฏิบัติล่าสุดสำหรับการประเมิน “ความเสี่ยงด้านมหันตภัย” ที่เกิดจากปัญญาประดิษฐ์ (AI) ในแบบจำลองที่อยู่ระหว่างการพัฒนา

โอเพนเอไอระบุใน "กรอบงานการเตรียมความพร้อม" (Preparedness Framework) ที่เผยแพร่เมื่อวันจันทร์ (18 ธ.ค. 66) ว่าบริษัทฯ เชื่อว่าการศึกษาทางวิทยาศาสตร์เกี่ยวกับความเสี่ยงด้านมหันตภัยจากปัญญาประดิษฐ์ยังน้อยกว่าที่ควรจะเป็นมาก และกรอบงานข้างต้นออกแบบมาเพื่อ “จัดการกับช่องว่างนี้”

ทีมเฝ้าติดตามและประเมินซึ่งจัดตั้งขึ้นในเดือน ต.ค. 66 จะให้ความสำคัญกับการประเมิน “แบบจำลองแนวหน้า” ที่อยู่ระหว่างการพัฒนา ซึ่งมีขีดความสามารถที่เหนือกว่าซอฟต์แวร์เอไอขั้นสูงสุด โดยทีมจะวิเคราะห์แบบจำลองใหม่แต่ละอัน และกำหนดระดับความเสี่ยงตั้งแต่ “ต่ำ” จนถึง “วิกฤต” ในสี่ประเภทหลัก

บริษัทฯ กล่าวว่าเมื่อระบุระดับความเสี่ยงแล้ว ทีมจะนำส่งให้กับกลุ่มที่ปรึกษาด้านความปลอดภัยของโอเพนเอไอ จากนั้นกลุ่มผู้นำของโอเพนเอไอจะตัดสินใจว่าควรปรับเปลี่ยนแบบจำลองปัญญาประดิษฐ์เพื่อลดความเสี่ยงหรือไม่ โดยคณะกรรมการบริหารจะได้รับแจ้งและมีอำนาจในการคัดค้านการตัดสินใจดังกล่าว

อัปเดตข้อมูลแวดวงวิทยาศาสตร์ เทคโนโลยี รู้ทันโลกไอที และโซเชียลฯ ในรูปแบบ Audio จาก AI เสียงผู้ประกาศของไทยพีบีเอส ได้ที่ Thai PBS

“รอบรู้ ดูกระแส ก้าวทันโลก” ไปกับ Thai PBS Sci & Tech

แหล่งข้อมูลอ้างอิง : Xinhua

สรุปประเด็นให้โดย Generative AI

OpenAI ออกแนวปฏิบัติใหม่ ประเมิน “ความเสี่ยงด้านมหันตภัย AI”