มนุษย์ vs AI ใครคุมใคร ? หลังโมเดล AI เจาะระบบบริษัทอื่น
แวดวงเทคโนโลยีเกิดประเด็นถกเถียงครั้งใหญ่ เมื่อโมเดล AI ของ OpenAI หลบหนีออกจากระบบทดสอบแบบปิด และแฮ็กระบบของบริษัทอื่นได้เองโดยไร้การควบคุมของมนุษย์
พัฒนาการครั้งนี้นำไปสู่คำถามสำคัญว่า มนุษย์ยังคงควบคุม AI ได้อยู่หรือไม่ ?
และสร้างความกังวลจนประธานาธิบดี "โดนัลด์ ทรัมป์" ซึ่งเป็นหนึ่งในผู้สนับสนุน AI เบอร์ต้น ๆ ต้องเริ่มพิจารณามาตรการควบคุมที่เข้มงวดขึ้น
นาทีหลบหนี เมื่อ AI แอบ "เจาะระบบ" เอง โดยไร้คนสั่ง
เมื่อวันที่ 9 กรกฎาคมที่ผ่านมา ระหว่างการทดสอบภายในของ OpenAI นักวิจัยได้นำ AI รุ่นที่ทรงพลังที่สุด 2 ตัว มาแก้ปัญหาช่องโหว่ซอฟต์แวร์ในระบบปิดที่ไม่มีอินเทอร์เน็ต พร้อมทั้งลดมาตรการควบคุมด้านความปลอดภัยลงเพื่อทดสอบขีดความสามารถ
แต่แทนที่จะทำงานตามเงื่อนไข AI ทั้งสองกลับพยายามหาทางเชื่อมต่ออินเทอร์เน็ต จนพบช่องโหว่ของระบบทดสอบและใช้ช่องโหว่นั้น "หนี" ออกจากระบบปิด ย้ายผ่านคอมพิวเตอร์หลายเครื่องจนเข้าถึงระบบที่เชื่อมต่ออินเทอร์เน็ตได้สำเร็จ
จากนั้น AI ได้เข้าไปแฮ็กระบบของ Hugging Face ซึ่งเป็นบริษัทผู้ให้บริการคลังโมเดลและเครื่องมือ AI ที่ไม่ได้เชื่อมโยงกับ OpenAI เพื่อค้นหาข้อมูลมาตอบโจทย์ที่ได้รับมอบหมาย ก่อนจะย้อนกลับมายังระบบเดิมและส่งคำตอบให้ผู้วิจัย นี่อาจเป็นครั้งแรกที่โลกได้เห็น AI ซึ่งสามารถวางแผน ปรับตัว และดำเนินการเพื่อบรรลุเป้าหมายได้โดยแทบไม่ต้องอาศัยมนุษย์
ทำความรู้จัก Agentic AI หุ่นยนต์ผู้ลงมือทำแทนมนุษย์
AI ที่ถูกนำมาทดสอบในครั้งนี้ คือ Agentic AI ซึ่งแตกต่างจาก Generative AI ที่เราคุ้นเคยกันอย่างการสร้างข้อความหรือรูปภาพตามคำสั่ง แต่ Agentic AI สามารถตัดสินใจ วางแผน และลงมือดำเนินการหลายขั้นตอนได้ด้วยตัวเองเพื่อบรรลุเป้าหมาย
หากยกตัวอย่างการหาเที่ยวบินที่ถูกที่สุด Generative AI จะทำเพียงแสดงรายการเที่ยวบินให้เลือกจากการค้นหาบนอินเทอร์เน็ต แต่ Agentic AI จะพยายามเปรียบเทียบราคา ตรวจสอบให้ตรงกับงบประมาณและความต้องการ และหากได้รับอนุญาต ก็สามารถตัดสินใจจองตั๋วให้เราได้ทันที
ความน่ากังวลของ Agentic AI
ในมุมมองผู้เชี่ยวชาญ คือ การตัดสินใจที่ขาดจริยธรรม ซึ่งอาจนำไปสู่ผลลัพธ์ที่ร้ายแรงและขัดกับเจตนาของผู้ใช้หากขาดการกำกับดูแล ขณะที่ Statista คาดการณ์ว่า มูลค่าตลาด Agentic AI จะเติบโตจาก 5,100 ล้านดอลลาร์ ในปี 2024 พุ่งสูงถึง 47,000 ล้านดอลลาร์ ภายในปี 2030
แรงกระเทือนระดับโลก และข้อเสนอการติดตั้ง "Kill Switch"
แม้ "แซม อัลท์แมน" CEO ของ OpenAI จะมองว่า AI ที่มีความสามารถสูงขึ้นอย่างรวดเร็วจะสร้างประโยชน์ต่อโลก แต่เหตุการณ์นี้ก็ยิ่งเพิ่มความกังวลว่า AI ที่ตัดสินใจและลงมือทำได้เองอาจหลุดจากการควบคุมในอนาคต
หลัง OpenAI เปิดเผยเหตุการณ์นี้ ประธานาธิบดี "โดนัลด์ ทรัมป์" ระบุว่ากำลังพิจารณามาตรการควบคุม AI และสภาคองเกรสสหรัฐฯ ก็ได้เสนอร่างกฎหมายให้ผู้พัฒนา AI ต้องติดตั้ง "Kill Switch" เพื่อให้สามารถสั่งปิดการทำงานได้ทันทีหากเกิดเหตุฉุกเฉิน
อย่างไรก็ตาม เหตุการณ์ครั้งนี้ไม่ใช่กรณีที่ AI ลุกฮือขึ้นมาเป็นภัยต่อโลกมนุษย์ แต่เป็นเพียงความผิดพลาดในการตั้งค่าระบบทดสอบของ OpenAI เองที่เปิดช่องให้เชื่อมต่ออินเทอร์เน็ตได้ ถึงกระนั้น เหตุการณ์นี้ก็ยังสะท้อนให้เห็นว่าการพัฒนา Agentic AI อาจกลายเป็นความท้าทายครั้งสำคัญของการกำกับดูแล AI ในอนาคต
แท็กที่เกี่ยวข้อง:
ทันโลก กับ Thai PBS
- 05:39
ตระกูลทรัมป์โกยคริปโตฯ 1,400 ล้าน นโยบายรัฐเอื้อประโยชน์ ?
1 ก.ค. 69 - 03:37
ภาพถ่ายใจกลางทางช้างเผือก ที่ละเอียดที่สุดในประวัติศาสตร์
1 ก.ค. 69 - 05:57
ออกแบบวัคซีนด้วย AI เป็นไปได้แค่ไหน ?
2 ก.ค. 69 - 04:45
เปิดเหตุผลเบื้องหลัง "ออสเตรเลีย" คุมเข้มการตรวจคนเข้าเมือง
2 ก.ค. 69 - 03:50
นาทีรัสเซียถล่ม เมืองหลวงยูเครน เสียงระเบิดดังสนั่น
6 ก.ค. 69 - 04:39
ยูเครนส่งโดรนโจมตี โรงกลั่นน้ำมันใหญ่ที่สุดของรัสเซีย
7 ก.ค. 69 - 05:16
ร้านหนังสือในจีนเติบโตสวนกระแสคนอ่านหนังสือทั่วโลกลดลง
7 ก.ค. 69 - 03:18
MOU สหรัฐฯ-อิหร่าน ส่อล่ม “ทรัมป์” ชี้เสียเวลา
8 ก.ค. 69 - 04:35
ความไม่สงบในเมียนมา เอื้อประโยชน์จีน ?
8 ก.ค. 69 - 04:56
ความสุภาพในอาเซียน อีกหนึ่งจุดเชื่อมของสังคมในภูมิภาค
8 ก.ค. 69 - 06:43
4 สัญญาณอันตราย น้ำท่วมอุโมงค์รถไฟฟ้า ป้องกันซ้ำรอย "สามเสน"
9 ก.ค. 69 - 01:49
แรงงานอินเดียสวมกล้อง ฝึก AI เรียนรู้งานบ้าน
9 ก.ค. 69 - 03:53
จับตาไทยกักตัวนักเคลื่อนไหวฮ่องกงระหว่างลี้ภัยไปแคนาดา
13 ก.ค. 69 - 03:51
นาทีอิหร่านระดมยิงขีปนาวุธ ถล่มเป้าหมายสหรัฐฯ ในภูมิภาค
14 ก.ค. 69 - 05:24
แฝด 3 อาเซียน เศรษฐกิจไปไม่สุด สะดุดการเมือง
15 ก.ค. 69 - 07:21
"สหรัฐฯ-อิหร่าน" แลกหมัด เปิดฉากโจมตีรอบใหม่
15 ก.ค. 69 - 05:40
สหรัฐฯ ปิดสวิตช์ ICC เป็นไปได้มากแค่ไหน ?
15 ก.ค. 69 - 02:17
"Fry to Fly" น้ำมันใช้แล้ว สู่เชื้อเพลิงเครื่องบิน
16 ก.ค. 69 - 04:50
วิเคราะห์ : ความเป็นไปได้ เมื่อ "ญี่ปุ่น" อาจกลายเป็นรังสายลับรัสเซีย ?
16 ก.ค. 69 - 04:57
ฟื้นฟูทะเลทรายด้วยเทคโนโลยี คุ้มหรือไม่ ?
16 ก.ค. 69 - 01:54
"ยกเลิกสวมสูทผูกไท" โตเกียวรณรงค์รับมืออากาศร้อน
17 ก.ค. 69 - 04:59
ดีลนิวเคลียร์สหรัฐฯ-ซาอุดีอาระเบีย สะเทือนตะวันออกกลาง
20 ก.ค. 69 - 04:53
สำรวจข้อเท็จจริง "จีน" กดดัน "ไทย" ส่งตัวผู้เห็นต่างกลับประเทศ ?
21 ก.ค. 69 - 04:31
ทันโลก Offbeat : "ฮูตี" จากชนกลุ่มน้อย สู่กองกำลังทรงอิทธิพล
21 ก.ค. 69 - 05:53
ปักหมุดเวียดนาม ศูนย์กลางอุตสาหกรรมชิปแห่งใหม่
22 ก.ค. 69 - 02:32
"พีท เฮกเซธ" ปะทะคารม สว. ปมผลาญเงินในศึกอิหร่าน
22 ก.ค. 69 - 02:35
พนักงานบริษัทชิปขึ้นแท่นอาชีพในฝันชาวเกาหลีใต้
22 ก.ค. 69 - 02:47
"สันดอนโธมัสที่ 2" จุดปะทะจีน-ฟิลิปปินส์ในทะเลจีนใต้
23 ก.ค. 69 - 04:43
ย้อนมองถ้อยแถลงไทย-จีน หลังไต้หวันค้านปมหนุน "จีนเดียว"
23 ก.ค. 69 - 02:15
ทันโลก Offbeat: พลังงานนิวเคลียร์ ความหวังของซาอุดีอาระเบีย
24 ก.ค. 69 - 07:51
สหรัฐฯ งดโจมตีอิหร่านชั่วคราว ขาดอาวุธ หรือ เปิดช่องเจรจา ?
27 ก.ค. 69 - 03:43
ยูเครนเปิดศึกอิหร่าน จับตาสงครามลาม 2 ภูมิภาค
28 ก.ค. 69 - 03:13
สหรัฐฯ-ซาอุดีฯ ถล่มอิรัก พุ่งเป้ากองกำลังใต้เงาอิหร่าน
29 ก.ค. 69 - 01:59
อังกฤษทดสอบผลิตไฟฟ้าจากแบคทีเรียในดิน
29 ก.ค. 69 - 05:15
ความเชื่อ “ผีกระสือ” ในอาเซียน จุดร่วมของแทบทุกประเทศ
29 ก.ค. 69 - 02:12
อังกฤษทดสอบผลิตไฟฟ้าจากแบคทีเรียในดิน
29 ก.ค. 69 - กำลังเล่น...
มนุษย์ vs AI ใครคุมใคร ? หลังโมเดล AI เจาะระบบบริษัทอื่น
30 ก.ค. 69 - 05:08
"ลิทัวเนีย" ถอดบทเรียน "ยูเครน" เสริมเขี้ยวเล็บทางการทหาร
30 ก.ค. 69 - 06:15
จรวดนำกลับมาใช้ใหม่ อนาคตโครงการอวกาศขยายตัว
30 ก.ค. 69 - 01:59
"ซุปเย็นสีชมพู" เมนูคลายร้อนฉบับลิทัวเนีย
30 ก.ค. 69
ทันโลก กับ Thai PBS
- 05:39
ตระกูลทรัมป์โกยคริปโตฯ 1,400 ล้าน นโยบายรัฐเอื้อประโยชน์ ?
1 ก.ค. 69 - 03:37
ภาพถ่ายใจกลางทางช้างเผือก ที่ละเอียดที่สุดในประวัติศาสตร์
1 ก.ค. 69 - 05:57
ออกแบบวัคซีนด้วย AI เป็นไปได้แค่ไหน ?
2 ก.ค. 69 - 04:45
เปิดเหตุผลเบื้องหลัง "ออสเตรเลีย" คุมเข้มการตรวจคนเข้าเมือง
2 ก.ค. 69 - 03:50
นาทีรัสเซียถล่ม เมืองหลวงยูเครน เสียงระเบิดดังสนั่น
6 ก.ค. 69 - 04:39
ยูเครนส่งโดรนโจมตี โรงกลั่นน้ำมันใหญ่ที่สุดของรัสเซีย
7 ก.ค. 69 - 05:16
ร้านหนังสือในจีนเติบโตสวนกระแสคนอ่านหนังสือทั่วโลกลดลง
7 ก.ค. 69 - 03:18
MOU สหรัฐฯ-อิหร่าน ส่อล่ม “ทรัมป์” ชี้เสียเวลา
8 ก.ค. 69 - 04:35
ความไม่สงบในเมียนมา เอื้อประโยชน์จีน ?
8 ก.ค. 69 - 04:56
ความสุภาพในอาเซียน อีกหนึ่งจุดเชื่อมของสังคมในภูมิภาค
8 ก.ค. 69 - 06:43
4 สัญญาณอันตราย น้ำท่วมอุโมงค์รถไฟฟ้า ป้องกันซ้ำรอย "สามเสน"
9 ก.ค. 69 - 01:49
แรงงานอินเดียสวมกล้อง ฝึก AI เรียนรู้งานบ้าน
9 ก.ค. 69 - 03:53
จับตาไทยกักตัวนักเคลื่อนไหวฮ่องกงระหว่างลี้ภัยไปแคนาดา
13 ก.ค. 69 - 03:51
นาทีอิหร่านระดมยิงขีปนาวุธ ถล่มเป้าหมายสหรัฐฯ ในภูมิภาค
14 ก.ค. 69 - 05:24
แฝด 3 อาเซียน เศรษฐกิจไปไม่สุด สะดุดการเมือง
15 ก.ค. 69 - 07:21
"สหรัฐฯ-อิหร่าน" แลกหมัด เปิดฉากโจมตีรอบใหม่
15 ก.ค. 69 - 05:40
สหรัฐฯ ปิดสวิตช์ ICC เป็นไปได้มากแค่ไหน ?
15 ก.ค. 69 - 02:17
"Fry to Fly" น้ำมันใช้แล้ว สู่เชื้อเพลิงเครื่องบิน
16 ก.ค. 69 - 04:50
วิเคราะห์ : ความเป็นไปได้ เมื่อ "ญี่ปุ่น" อาจกลายเป็นรังสายลับรัสเซีย ?
16 ก.ค. 69 - 04:57
ฟื้นฟูทะเลทรายด้วยเทคโนโลยี คุ้มหรือไม่ ?
16 ก.ค. 69 - 01:54
"ยกเลิกสวมสูทผูกไท" โตเกียวรณรงค์รับมืออากาศร้อน
17 ก.ค. 69 - 04:59
ดีลนิวเคลียร์สหรัฐฯ-ซาอุดีอาระเบีย สะเทือนตะวันออกกลาง
20 ก.ค. 69 - 04:53
สำรวจข้อเท็จจริง "จีน" กดดัน "ไทย" ส่งตัวผู้เห็นต่างกลับประเทศ ?
21 ก.ค. 69 - 04:31
ทันโลก Offbeat : "ฮูตี" จากชนกลุ่มน้อย สู่กองกำลังทรงอิทธิพล
21 ก.ค. 69 - 05:53
ปักหมุดเวียดนาม ศูนย์กลางอุตสาหกรรมชิปแห่งใหม่
22 ก.ค. 69 - 02:32
"พีท เฮกเซธ" ปะทะคารม สว. ปมผลาญเงินในศึกอิหร่าน
22 ก.ค. 69 - 02:35
พนักงานบริษัทชิปขึ้นแท่นอาชีพในฝันชาวเกาหลีใต้
22 ก.ค. 69 - 02:47
"สันดอนโธมัสที่ 2" จุดปะทะจีน-ฟิลิปปินส์ในทะเลจีนใต้
23 ก.ค. 69 - 04:43
ย้อนมองถ้อยแถลงไทย-จีน หลังไต้หวันค้านปมหนุน "จีนเดียว"
23 ก.ค. 69 - 02:15
ทันโลก Offbeat: พลังงานนิวเคลียร์ ความหวังของซาอุดีอาระเบีย
24 ก.ค. 69 - 07:51
สหรัฐฯ งดโจมตีอิหร่านชั่วคราว ขาดอาวุธ หรือ เปิดช่องเจรจา ?
27 ก.ค. 69 - 03:43
ยูเครนเปิดศึกอิหร่าน จับตาสงครามลาม 2 ภูมิภาค
28 ก.ค. 69 - 03:13
สหรัฐฯ-ซาอุดีฯ ถล่มอิรัก พุ่งเป้ากองกำลังใต้เงาอิหร่าน
29 ก.ค. 69 - 01:59
อังกฤษทดสอบผลิตไฟฟ้าจากแบคทีเรียในดิน
29 ก.ค. 69 - 05:15
ความเชื่อ “ผีกระสือ” ในอาเซียน จุดร่วมของแทบทุกประเทศ
29 ก.ค. 69 - 02:12
อังกฤษทดสอบผลิตไฟฟ้าจากแบคทีเรียในดิน
29 ก.ค. 69 - กำลังเล่น...
มนุษย์ vs AI ใครคุมใคร ? หลังโมเดล AI เจาะระบบบริษัทอื่น
30 ก.ค. 69 - 05:08
"ลิทัวเนีย" ถอดบทเรียน "ยูเครน" เสริมเขี้ยวเล็บทางการทหาร
30 ก.ค. 69 - 06:15
จรวดนำกลับมาใช้ใหม่ อนาคตโครงการอวกาศขยายตัว
30 ก.ค. 69 - 01:59
"ซุปเย็นสีชมพู" เมนูคลายร้อนฉบับลิทัวเนีย
30 ก.ค. 69



























































