ในอดีตใครเล่าจะไปคิดว่า “จาร์วิส” ผู้ช่วย AI สุดอัจฉริยะของ Iron Man ที่คอยวิเคราะห์ข้อมูล ควบคุมโดรน บังคับชุดเกราะ หรือ ตัดสินใจแทนโทนี่ สตาร์ค ในยามคับขัน หรือ หุ่นยนต์ AI อย่าง “Ultron” ที่ถูกสร้างขึ้นมาเพื่อปกป้องโลกจากเหล่าร้าย แต่กลับตีความเองว่า ศัตรูที่แท้จริงของโลกก็คือมนุษย์ จนคิดทำลายเผ่าพันธุ์มนุษย์ จะไม่ใช่แค่จินตนาการที่มีแต่ในจักรวาลมาร์เวลอีกต่อไปเพราะวันนี้เรามีเทคโนโลยี AI ที่ก้าวล้ำมาถึงจุดที่เริ่มคิด วิเคราะห์ วางแผน และตัดสินใจแทนมนุษย์ได้แล้ว โดย AI ที่ว่านี้ คือ Agentic AI (อะเจนติก เอไอ) ซึ่งกำลังกลายเป็นจุดเปลี่ยนสำคัญของโลกดิจิทัล จนหลายฝ่ายเกิดความกังวลและตั้งคำถามว่า หาก AI คิดเอง ตัดสินใจเองได้ ถูกนำไปใช้ในทางที่ผิด หรือเกิดตัดสินใจผิดพลาดขึ้นมา ใครต้องรับผิดชอบ ?

เพื่อทำความเข้าใจและเตรียมพร้อมรับมือกับความท้าทายนี้ Thai PBS และ Thai PBS Sci & Tech จึงขอนำความรู้จาก สำนักงานพัฒนาธุรกรรมทางอิเล็กทรอนิกส์ (ETDA) โดย ศูนย์ธรรมาภิบาลปัญญาประดิษฐ์ หรือ AIGC จึงเปิดเวที ETDA Live เชิญผู้เชี่ยวชาญระดับแถวหน้าในวงการ AI ผู้พัฒนาและผู้ใช้งานจริงจากหลายแวดวง มาร่วมแลกเปลี่ยนมุมมองพร้อมให้ข้อเสนอแนะการรับมือกับความล้ำของ Agentic AI ใน AI Governance Webinar 2025 EP2 "เมื่อ AI ตัดสินใจแทนมนุษย์ ใครคือผู้ควบคุม ?"

Agentic AI เทคโนโลยีที่พร้อมเปลี่ยนโลก ?

Agentic AI คือ AI ที่รวมความสามารถหลากหลายด้านไว้ในระบบเดียว จนเกิดเป็น AI ใหม่ ที่สามารถคิด วิเคราะห์ วางแผน ตัดสินใจ และลงมือทำเองได้แบบ “Autonomy” ที่ไม่ใช่แค่ “ทำตามคำสั่ง” แต่ยังสามารถตัดสินใจด้วยตนเองได้ ต่างจาก AI แบบเดิมที่เป็นเพียงระบบอัตโนมัติ (Reactive AI) ที่ถูกออกแบบมาให้ทำงานเฉพาะด้าน ตอบสนองต่อคำสั่งเฉพาะอย่าง เช่น วิเคราะห์ตัวเลข คาดการณ์แนวโน้มตลาด หรือจัดการคำถามลูกค้า โดยอ้างอิงจากข้อมูลที่ถูกฝึกมา แต่ยังไม่สามารถคิดหาวิธีเลือกสิ่งที่ดีที่สุดหรือตัดสินใจได้ด้วยตัวเอง โดยผู้เชี่ยวชาญเปิดเผยว่า ปัจจุบัน AI แบ่งออกเป็น 4 Stage ตามความสามารถ ดังนี้

Stage 1 : Logic-based AI

คือ AI ที่ทำงานตามคำสั่งหรือเงื่อนไขแบบตายตัว เช่น กด 1 ไปหน้า A, กด 2 ไปหน้า B แต่ยังไม่มีความสามารถในการเรียนรู้หรือปรับตัว

Stage 2 : Limited Resource AI

คือ AI ที่ต้องมีข้อมูลต้นทางมาฝึกฝน มีความสามารถในการเรียนรู้ และตอบสนองต่องานเฉพาะด้าน เช่น AI ที่ใช้วิเคราะห์ข้อมูล คาดการณ์แนวโน้ม หรือสร้างคอนเทนต์ อย่าง Traditional AI, Machine Learning, LLM หรือ Generative AI แต่ยังคิดเองไม่ได้ ต้องอาศัยข้อมูลที่มีอยู่

Stage 3: Theory of Mind AI

คือ AI ที่สามารถเรียนรู้ความคิด ความรู้สึก และอารมณ์ของมนุษย์ได้ ทำให้เริ่มมีความคิดสร้างสรรค์และมีความใกล้เคียงความเป็นมนุษย์มากขึ้น

Stage 4: Self-awareness AI

คือ AI ที่สามารถเรียนรู้จากสิ่งแวดล้อม และพัฒนาตัวตน สร้างบุคลิกและมีความคิดเป็นของตัวเองได้ เหมือนอย่างที่เห็นกันในหนัง Sci-Fi

โดย Agentic AI ยังอยู่ในช่วงยุคปลายของ Stage 2 ที่กำลังจะก้าวไปสู่ Stage ที่ 3 ในอีกไม่ช้าในช่วงรอยต่อสำคัญนี้ ก็เริ่มมีการนำ Agentic AI ไปใช้ในหลายภาคส่วน ไม่ว่าจะเป็นภาคการเงิน ที่ใช้วิเคราะห์ข้อมูลลูกค้าเพื่อพิจารณาปล่อยสินเชื่อ หรือใช้ประเมินมูลค่าทรัพย์สิน ภาคธุรกิจการค้า นำมาช่วยคาดการณ์ยอดขาย วางแผนการตลาด และบริหารสต็อกสินค้าแบบอัตโนมัติ ภาคเทคโนโลยี มีการพัฒนา Agentic AI ให้เป็นผู้ช่วยด้านการเขียนโปรแกรม (Coding Assistant) ที่สามารถวางโครงสร้าง เขียนโค้ด ทดสอบฟังก์ชัน และรันระบบได้ในขั้นตอนเดียว ซึ่งล้วนแต่ช่วยเพิ่มประสิทธิภาพในการทำงาน เร่งกระบวนการตัดสินใจให้รวดเร็วและแม่นยำยิ่งขึ้น ช่วยลดต้นทุน ลดภาระงาน และช่วยให้มนุษย์มีเวลาไปโฟกัสกับงานที่ต้องใช้วิจารณญาณที่ AI ยังทำแทนไม่ได้

ความเสี่ยงที่ต้องเร่งใส่ใจ เมื่อ AI เริ่มคิดเอง ทำเองได้

เมื่อเข้าใจในความสามารถของ Agentic AI แล้ว ต่อไปต้องรู้ทันต่อความเสี่ยงที่อาจจะเกิดขึ้น ในวันที่ AI เริ่มคิดและตัดสินใจเองได้ โดยผู้เชี่ยวชาญ ต่างเห็นพ้องตรงกันว่า Agentic AI มีความเสี่ยงที่ต้องระวัง 4 เรื่องใหญ่ ๆ คือ

- แม้จะคิดเองได้ แต่ก็อาจตัดสินใจพลาดได้เช่นกัน หากข้อมูลที่ใช้มีอคติ บิดเบือน ไม่ถูกต้อง หรือไม่ครบถ้วน ก็อาจนำไปสู่การตัดสินใจที่ผิดพลาด และยากต่อการตรวจสอบย้อนหลัง

- หากเชื่อใจเกินไป ก็เสี่ยงพลาดเต็ม ๆ เมื่อ Agentic AI ทั้งเก่งและฉลาดมากขึ้น ก็อาจทำให้ผู้ใช้เผลอพึ่งพา AI มากจนเกินไป โดยไม่ตรวจสอบ กลั่นกรอง ซึ่งอาจทำให้เกิดความเสียหายร้ายแรงได้

- ยิ่งใช้ Agentic AI หลายตัว ยิ่งซับซ้อน ยิ่งตรวจสอบย้อนกลับยาก หากไม่มีระบบที่สามารถอธิบายการตัดสินใจได้อย่างโปร่งใส (Explainability) หรือไม่มีระบบ ติดตามเส้นทางการทำงานที่ชัดเจน (Traceability) เมื่อมีปัญหาเกิดขึ้นมาจะยากต่อการตรวจสอบ

- อาจขัดต่อกฎหมาย จริยธรรม และความน่าเชื่อถือ หากปล่อยให้ Agentic AI ทำงานหรือตัดสินใจแทนมนุษย์โดยไม่มีการกำกับดูแลที่เหมาะสม โดยเฉพาะในเรื่องสำคัญอย่างการดูแลผู้ป่วยหรือการควบคุมระบบความปลอดภัย อาจนำไปสู่ความเสี่ยงในระดับที่ไม่สามารถยอมรับได้ (Unacceptable Risk)

เพราะ AI อาจสร้างความเสี่ยง AI Governance จึงสำคัญ

ความก้าวหน้าทางเทคโนโลยี อาจมาพร้อมกับความเสี่ยงที่อาจจะเกิดขึ้น จึงจำเป็นต้องมี AI Governance ที่เป็นกรอบจริยธรรมและธรรมาภิบาล AI เพื่อให้การใช้งาน AI เหมาะสม ปลอดภัย โปร่งใส ตรวจสอบได้ และเกิดประโยชน์สูงสุด โดยผู้เชี่ยวชาญได้เสนอแนวทางเบื้องต้นสำหรับจัดทำ AI Governance ในองค์กร แบ่งเป็น 5 ขั้นตอนหลัก ประกอบด้วย กำหนดวัตถุประสงค์ให้ชัดเจน ว่าต้องการใช้ AI ทำอะไร เพื่อประโยชน์อะไร เข้าใจแหล่งข้อมูลและวิธีการสร้าง AI โดยเฉพาะ Agentic AI ที่ซับซ้อนจากหลายโมเดล ต้องรู้ว่า AI ส่วนไหนสร้างมาแบบใด ใช้ข้อมูลอะไร และผ่านการเทรนมาอย่างไรบ้าง และต้องประเมินผลการใช้งาน (Evaluation) ว่า AI ที่ใช้ตอบโจทย์หรือไม่ มีความเสี่ยงอะไรบ้างและจะป้องกันอย่างไร การจัดการความเสี่ยง (Risk Mitigation) หาก AI เกิดข้อผิดพลาด จะรับมืออย่างไร และสุดท้ายคือสร้างความน่าเชื่อถือ (Trustworthy) โดยต้องกำหนดบทบาทหน้าที่ของผู้เกี่ยวข้องทุกฝ่ายให้ชัดเจนว่าใครสร้าง ใครใช้ ใครดูแล ใครรับผิดชอบ

ทิศทางการกำกับ AI ไทยต้องไปต่ออย่างไร ? ในวันที่ AI พัฒนา Skill เก่งขึ้น !

แม้ปัจจุบันหลาย ๆ องค์กรจะเริ่มตื่นตัว และวางแนวทาง AI Governance ของตัวเองไว้แล้วเพื่อให้สามารถใช้งาน AI โดยเฉพาะ Agentic AI ได้อย่างปลอดภัยและมีประสิทธิภาพ แต่ในระดับประเทศก็เลี่ยงไม่ได้ที่จำเป็นต้องมีกฎเกณฑ์ แนวปฏิบัติ เพื่อเป็นมาตรฐานกลางสำหรับการกำกับดูแลให้เกิดการใช้ AI อย่างมีธรรมาภิบาล ทั้งนี้ ผู้เชี่ยวชาญจาก ETDA ได้แสดงความเห็นไว้ว่า ทุกวันนี้เทคโนโลยีเปลี่ยนเร็วเกินกว่าที่กฎหมายจะตามทัน ดังนั้น กฎหมาย AI ของไทยหากเกิดขึ้นจริง จึงไม่ควร “เข้มงวดจนปิดกั้น” แต่ต้อง “ยืดหยุ่นได้” เพื่อเปิดทางให้ผู้ใช้ที่ดีสามารถพัฒนาและเติบโตได้อย่างปลอดภัย ขณะเดียวกันก็ต้อง “ปิดช่องโหว่” ที่อาจถูกนำไปใช้ในทางที่ผิด พร้อมควบคุมความเสี่ยง ป้องกันความเสียหาย และจัดการผู้ไม่หวังดีได้อย่างมีประสิทธิภาพ

ผู้เชี่ยวชาญยังคาดการณ์ด้วยว่า Agentic AI ไม่ใช่แค่เทคโนโลยีใหม่ธรรมดาแต่มีแนวโน้ม ที่จะนำไปสู่การปฏิวัติระบบเศรษฐกิจ สังคม และชีวิตของผู้คนอย่างที่ไม่เคยเกิดขึ้นมาก่อนก็ได้ ซึ่งไม่ควรกังวลหรือหวาดกลัว แต่ควรมองอย่างเปิดใจว่า นี่คือโอกาสครั้งใหญ่ที่เราอาจต้องรีบคว้าด้วยการเตรียมความพร้อมและเร่งสร้างระบบนิเวศที่เอื้อต่อการพัฒนา AI เริ่มจากต้อง ส่งเสริมให้คนไทยเปลี่ยนบทบาทจาก “ผู้ใช้” เป็น “ผู้สร้าง” โดยการพัฒนาโซลูชันของเราเอง ลดการพึ่งพาเทคโนโลยีจากต่างชาติที่ ควบคู่ไปกับการวางโครงสร้างพื้นฐานที่เอื้อต่อการพัฒนา AI เช่น การสร้าง “แพลตฟอร์มกลาง” รวมโมเดล AI ที่ผ่านการตรวจสอบแล้ว เพื่อให้องค์กรต่าง ๆ รวมทั้งสตาร์ทอัพเข้าถึงได้ง่าย เลือกใช้งานได้อย่างมั่นใจ และจัดให้มีพื้นที่ AI Sandbox ทดสอบ AI ก่อนนำไปใช้งานจริง และต้องเร่งสร้างบุคลากรที่มีวิสัยทัศน์และทักษะในการทำงานร่วมกับ AI โดยเฉพาะ Critical Thinking ทักษะการคิดอย่างมีเหตุผล และรู้เท่าทันการใช้งาน AI

Agentic AI จะเป็นจุดเปลี่ยนนำไปสู่อนาคตที่ดีกว่า หรือกลายเป็นจุดเริ่มต้นของปัญหาที่ควบคุมไม่ได้ อยู่ที่เราทุกคนเป็นผู้กำหนดทิศทาง เพราะที่สุดแล้วไม่ว่าเทคโนโลยีจะล้ำหน้าเพียงใด ก็ยังจำเป็นต้องมีมนุษย์เป็นผู้ควบคุม

อัปเดตข้อมูลแวดวงวิทยาศาสตร์ เทคโนโลยี รู้ทันโลกไอที และโซเชียลฯ ในรูปแบบ Audio จาก AI เสียงผู้ประกาศของไทยพีบีเอส ได้ที่ Thai PBS

แหล่งข้อมูลอ้างอิง : สำนักงานพัฒนาธุรกรรมทางอิเล็กทรอนิกส์ หรือ สพธอ. (ETDA)

“รอบรู้ ดูกระแส ก้าวทันโลก” ไปกับ Thai PBS Sci & Tech

สรุปประเด็นให้โดย Generative AI

ถ้า AI คิดเองได้ ไม่รอคำสั่ง แล้วใครจะเป็นคนควบคุม?