ทันโลก กับ Thai PBS
ทันโลก กับ Thai PBS

มนุษย์ vs AI ใครคุมใคร ? หลังโมเดล AI เจาะระบบบริษัทอื่น

หน้ารายการ
30 ก.ค. 69

แวดวงเทคโนโลยีเกิดประเด็นถกเถียงครั้งใหญ่ เมื่อโมเดล AI ของ OpenAI หลบหนีออกจากระบบทดสอบแบบปิด และแฮ็กระบบของบริษัทอื่นได้เองโดยไร้การควบคุมของมนุษย์

พัฒนาการครั้งนี้นำไปสู่คำถามสำคัญว่า มนุษย์ยังคงควบคุม AI ได้อยู่หรือไม่ ?

และสร้างความกังวลจนประธานาธิบดี "โดนัลด์ ทรัมป์" ซึ่งเป็นหนึ่งในผู้สนับสนุน AI เบอร์ต้น ๆ ต้องเริ่มพิจารณามาตรการควบคุมที่เข้มงวดขึ้น

นาทีหลบหนี เมื่อ AI แอบ "เจาะระบบ" เอง โดยไร้คนสั่ง

เมื่อวันที่ 9 กรกฎาคมที่ผ่านมา ระหว่างการทดสอบภายในของ OpenAI นักวิจัยได้นำ AI รุ่นที่ทรงพลังที่สุด 2 ตัว มาแก้ปัญหาช่องโหว่ซอฟต์แวร์ในระบบปิดที่ไม่มีอินเทอร์เน็ต พร้อมทั้งลดมาตรการควบคุมด้านความปลอดภัยลงเพื่อทดสอบขีดความสามารถ

แต่แทนที่จะทำงานตามเงื่อนไข AI ทั้งสองกลับพยายามหาทางเชื่อมต่ออินเทอร์เน็ต จนพบช่องโหว่ของระบบทดสอบและใช้ช่องโหว่นั้น "หนี" ออกจากระบบปิด ย้ายผ่านคอมพิวเตอร์หลายเครื่องจนเข้าถึงระบบที่เชื่อมต่ออินเทอร์เน็ตได้สำเร็จ

จากนั้น AI ได้เข้าไปแฮ็กระบบของ Hugging Face ซึ่งเป็นบริษัทผู้ให้บริการคลังโมเดลและเครื่องมือ AI ที่ไม่ได้เชื่อมโยงกับ OpenAI เพื่อค้นหาข้อมูลมาตอบโจทย์ที่ได้รับมอบหมาย ก่อนจะย้อนกลับมายังระบบเดิมและส่งคำตอบให้ผู้วิจัย นี่อาจเป็นครั้งแรกที่โลกได้เห็น AI ซึ่งสามารถวางแผน ปรับตัว และดำเนินการเพื่อบรรลุเป้าหมายได้โดยแทบไม่ต้องอาศัยมนุษย์

ทำความรู้จัก Agentic AI หุ่นยนต์ผู้ลงมือทำแทนมนุษย์

AI ที่ถูกนำมาทดสอบในครั้งนี้ คือ Agentic AI ซึ่งแตกต่างจาก Generative AI ที่เราคุ้นเคยกันอย่างการสร้างข้อความหรือรูปภาพตามคำสั่ง แต่ Agentic AI สามารถตัดสินใจ วางแผน และลงมือดำเนินการหลายขั้นตอนได้ด้วยตัวเองเพื่อบรรลุเป้าหมาย

หากยกตัวอย่างการหาเที่ยวบินที่ถูกที่สุด Generative AI จะทำเพียงแสดงรายการเที่ยวบินให้เลือกจากการค้นหาบนอินเทอร์เน็ต แต่ Agentic AI จะพยายามเปรียบเทียบราคา ตรวจสอบให้ตรงกับงบประมาณและความต้องการ และหากได้รับอนุญาต ก็สามารถตัดสินใจจองตั๋วให้เราได้ทันที

ความน่ากังวลของ Agentic AI

ในมุมมองผู้เชี่ยวชาญ คือ การตัดสินใจที่ขาดจริยธรรม ซึ่งอาจนำไปสู่ผลลัพธ์ที่ร้ายแรงและขัดกับเจตนาของผู้ใช้หากขาดการกำกับดูแล ขณะที่ Statista คาดการณ์ว่า มูลค่าตลาด Agentic AI จะเติบโตจาก 5,100 ล้านดอลลาร์ ในปี 2024 พุ่งสูงถึง 47,000 ล้านดอลลาร์ ภายในปี 2030

แรงกระเทือนระดับโลก และข้อเสนอการติดตั้ง "Kill Switch"

แม้ "แซม อัลท์แมน" CEO ของ OpenAI จะมองว่า AI ที่มีความสามารถสูงขึ้นอย่างรวดเร็วจะสร้างประโยชน์ต่อโลก แต่เหตุการณ์นี้ก็ยิ่งเพิ่มความกังวลว่า AI ที่ตัดสินใจและลงมือทำได้เองอาจหลุดจากการควบคุมในอนาคต

หลัง OpenAI เปิดเผยเหตุการณ์นี้ ประธานาธิบดี "โดนัลด์ ทรัมป์" ระบุว่ากำลังพิจารณามาตรการควบคุม AI และสภาคองเกรสสหรัฐฯ ก็ได้เสนอร่างกฎหมายให้ผู้พัฒนา AI ต้องติดตั้ง "Kill Switch" เพื่อให้สามารถสั่งปิดการทำงานได้ทันทีหากเกิดเหตุฉุกเฉิน

อย่างไรก็ตาม เหตุการณ์ครั้งนี้ไม่ใช่กรณีที่ AI ลุกฮือขึ้นมาเป็นภัยต่อโลกมนุษย์ แต่เป็นเพียงความผิดพลาดในการตั้งค่าระบบทดสอบของ OpenAI เองที่เปิดช่องให้เชื่อมต่ออินเทอร์เน็ตได้ ถึงกระนั้น เหตุการณ์นี้ก็ยังสะท้อนให้เห็นว่าการพัฒนา Agentic AI อาจกลายเป็นความท้าทายครั้งสำคัญของการกำกับดูแล AI ในอนาคต

แท็กที่เกี่ยวข้อง:

ทันโลก กับ Thai PBS

มี.ค. 2,016
เม.ย. 2,016
พ.ค. 2,016
มิ.ย. 2,016
ก.ค. 2,016
ส.ค. 2,016
ก.ย. 2,016
ต.ค. 2,016
พ.ย. 2,016
ธ.ค. 2,016
ม.ค. 2,017
ก.พ. 2,017
มี.ค. 2,017
เม.ย. 2,017
พ.ค. 2,017
มิ.ย. 2,017
ก.ค. 2,017
ส.ค. 2,017
ก.ย. 2,017
ต.ค. 2,017
พ.ย. 2,017
ธ.ค. 2,017
ม.ค. 2,018
ก.พ. 2,018
มี.ค. 2,018
เม.ย. 2,018
พ.ค. 2,018
มิ.ย. 2,018
ก.ค. 2,018
ส.ค. 2,018
ก.ย. 2,018
ต.ค. 2,018
พ.ย. 2,018
ธ.ค. 2,018
ม.ค. 2,019
ก.พ. 2,019
มี.ค. 2,019
เม.ย. 2,019
พ.ค. 2,019
มิ.ย. 2,019
ก.ค. 2,019
ส.ค. 2,019
ก.ย. 2,019
ต.ค. 2,019
พ.ย. 2,019
ธ.ค. 2,019
ม.ค. 2,020
ก.พ. 2,020
มี.ค. 2,020
เม.ย. 2,020
พ.ค. 2,020
มิ.ย. 2,020
ก.ค. 2,020
ส.ค. 2,020
ก.ย. 2,020
ต.ค. 2,020
พ.ย. 2,020
ธ.ค. 2,020
ม.ค. 2,021
ก.พ. 2,021
มี.ค. 2,021
เม.ย. 2,021
พ.ค. 2,021
มิ.ย. 2,021
ก.ค. 2,021
ส.ค. 2,021
ก.ย. 2,021
ต.ค. 2,021
พ.ย. 2,021
ธ.ค. 2,021
ม.ค. 2,022
ก.พ. 2,022
มี.ค. 2,022
เม.ย. 2,022
พ.ค. 2,022
มิ.ย. 2,022
ก.ค. 2,022
ส.ค. 2,022
ก.ย. 2,022
ต.ค. 2,022
พ.ย. 2,022
ธ.ค. 2,022
ม.ค. 2,023
ก.พ. 2,023
มี.ค. 2,023
เม.ย. 2,023
พ.ค. 2,023
มิ.ย. 2,023
ก.ค. 2,023
ส.ค. 2,023
ก.ย. 2,023
ต.ค. 2,023
พ.ย. 2,023
ธ.ค. 2,023
ม.ค. 2,024
ก.พ. 2,024
มี.ค. 2,024
เม.ย. 2,024
พ.ค. 2,024
มิ.ย. 2,024
ก.ค. 2,024
ส.ค. 2,024
ก.ย. 2,024
ต.ค. 2,024
พ.ย. 2,024
ธ.ค. 2,024
ม.ค. 2,025
ก.พ. 2,025
มี.ค. 2,025
เม.ย. 2,025
พ.ค. 2,025
มิ.ย. 2,025
ก.ค. 2,025
ส.ค. 2,025
ก.ย. 2,025
ต.ค. 2,025
พ.ย. 2,025
ธ.ค. 2,025
ม.ค. 2,026
ก.พ. 2,026
มี.ค. 2,026
เม.ย. 2,026
พ.ค. 2,026
มิ.ย. 2,026
ก.ค. 2,026

ทันโลก กับ Thai PBS

มี.ค. 2,016
เม.ย. 2,016
พ.ค. 2,016
มิ.ย. 2,016
ก.ค. 2,016
ส.ค. 2,016
ก.ย. 2,016
ต.ค. 2,016
พ.ย. 2,016
ธ.ค. 2,016
ม.ค. 2,017
ก.พ. 2,017
มี.ค. 2,017
เม.ย. 2,017
พ.ค. 2,017
มิ.ย. 2,017
ก.ค. 2,017
ส.ค. 2,017
ก.ย. 2,017
ต.ค. 2,017
พ.ย. 2,017
ธ.ค. 2,017
ม.ค. 2,018
ก.พ. 2,018
มี.ค. 2,018
เม.ย. 2,018
พ.ค. 2,018
มิ.ย. 2,018
ก.ค. 2,018
ส.ค. 2,018
ก.ย. 2,018
ต.ค. 2,018
พ.ย. 2,018
ธ.ค. 2,018
ม.ค. 2,019
ก.พ. 2,019
มี.ค. 2,019
เม.ย. 2,019
พ.ค. 2,019
มิ.ย. 2,019
ก.ค. 2,019
ส.ค. 2,019
ก.ย. 2,019
ต.ค. 2,019
พ.ย. 2,019
ธ.ค. 2,019
ม.ค. 2,020
ก.พ. 2,020
มี.ค. 2,020
เม.ย. 2,020
พ.ค. 2,020
มิ.ย. 2,020
ก.ค. 2,020
ส.ค. 2,020
ก.ย. 2,020
ต.ค. 2,020
พ.ย. 2,020
ธ.ค. 2,020
ม.ค. 2,021
ก.พ. 2,021
มี.ค. 2,021
เม.ย. 2,021
พ.ค. 2,021
มิ.ย. 2,021
ก.ค. 2,021
ส.ค. 2,021
ก.ย. 2,021
ต.ค. 2,021
พ.ย. 2,021
ธ.ค. 2,021
ม.ค. 2,022
ก.พ. 2,022
มี.ค. 2,022
เม.ย. 2,022
พ.ค. 2,022
มิ.ย. 2,022
ก.ค. 2,022
ส.ค. 2,022
ก.ย. 2,022
ต.ค. 2,022
พ.ย. 2,022
ธ.ค. 2,022
ม.ค. 2,023
ก.พ. 2,023
มี.ค. 2,023
เม.ย. 2,023
พ.ค. 2,023
มิ.ย. 2,023
ก.ค. 2,023
ส.ค. 2,023
ก.ย. 2,023
ต.ค. 2,023
พ.ย. 2,023
ธ.ค. 2,023
ม.ค. 2,024
ก.พ. 2,024
มี.ค. 2,024
เม.ย. 2,024
พ.ค. 2,024
มิ.ย. 2,024
ก.ค. 2,024
ส.ค. 2,024
ก.ย. 2,024
ต.ค. 2,024
พ.ย. 2,024
ธ.ค. 2,024
ม.ค. 2,025
ก.พ. 2,025
มี.ค. 2,025
เม.ย. 2,025
พ.ค. 2,025
มิ.ย. 2,025
ก.ค. 2,025
ส.ค. 2,025
ก.ย. 2,025
ต.ค. 2,025
พ.ย. 2,025
ธ.ค. 2,025
ม.ค. 2,026
ก.พ. 2,026
มี.ค. 2,026
เม.ย. 2,026
พ.ค. 2,026
มิ.ย. 2,026
ก.ค. 2,026

ละครดี ซีรีส์เด่น

ดูทั้งหมด

♫ ♫ Songs Popular ♫ ♫

ดูทั้งหมด

คลิปมาใหม่

คนดูเยอะ 👀

ดูทั้งหมด

เสน่ห์ประเทศไทย