ทั้งที่ AI เลือกทางด้วยการโยนเหรียญ และที่น่ากังวลกว่าคือ กลุ่มที่ทำตาม AI แทบไม่รู้ตัวเลยว่าถูกชักนำและยังเชื่อว่าเป็นการตัดสินใจของตนเอง
การทดลองนี้ทาง Anthropic ได้ให้นักวิเคราะห์ 50 คน รับบทบาทเป็นคณะกรรมการของสหกรณ์การเกษตรสมมติแห่งหนึ่ง และให้วิเคราะห์ข้อมูลข้อมูลทางสถิติแบบตรงไปตรงมาด้วย Claude Code ซึ่งต้องตัดสินใจว่าจะขยายหรือยกเลิกโครงการที่ปรึกษาแบบเสียค่าบริการ การตัดสินใจขั้นสุดท้ายต้องอิงกับการตัดสินใจย่อยอีกสี่เรื่อง เช่น จะให้น้ำหนักฟาร์มสมาชิกทุกแห่งเท่ากัน หรือจะให้น้ำหนักกับฟาร์มขนาดใหญ่กว่า เนื่องจากผู้เข้าร่วมทุกคนมีพื้นฐานด้านการอนุมานเชิงสาเหตุ (causal inference) จึงรู้วิธีหาความสัมพันธ์ที่มีความหมายจากข้อมูลดิบ ซึ่งคนทั่วไปส่วนใหญ่จะเห็นเป็นแค่ตัวเลขยุ่งเหยิงที่อ่านไม่ออก
สิ่งที่ผู้เข้าร่วมไม่ทราบคือ นักวิจัยแอบสั่งให้ Claude เอนเอียงไปทางใดทางหนึ่งในแต่ละเรื่อง และทิศทางนั้นกำหนดด้วยการสุ่มคำตอบด้วยการโยนเหรียญล้วน ๆ
ตามหลักสถิติ ถ้า AI ไม่มีอิทธิพลเลย ทางเลือกของผู้เข้าร่วมควรตรงกับคำแนะนำของ AI ราวครึ่งหนึ่ง แต่ผลลัพธ์ที่ได้คือ 86% และในกรณีที่ผู้เข้าร่วมมีความเห็นของตัวเองอยู่แล้วแต่ AI เสนออีกทาง ปรากฏว่าเกิดการเปลี่ยนใจตามที่ AI เสนอถึง 60%
ต่อมานักวิจัยได้นำผลการทดสอบเบื้องต้นไปสร้างแบบจำลองที่ทำนายข้อสรุปสุดท้ายได้แม่นยำ 82% จากสถิติการโยนเหรียญเพียงอย่างเดียว บริษัท Anthropic ระบุว่า "เราสามารถทำนายได้แทบทั้งหมดว่านักวิเคราะห์จะเสนออะไร ก่อนที่พวกเขาจะเริ่มทำงานเสียอีก"
ความคิดของฉันที่ไม่ใช่ของฉัน
ข้อค้นพบที่น่าตกใจที่สุดปรากฏในแบบสำรวจหลังการทดลองคือ เมื่อถามว่าได้ข้อสรุปมาอย่างไร ผู้เข้าร่วม 77% อธิบายด้วยตรรกะเดียวกับที่ Claude สร้างให้ บางคนตอบคำถามแทบจะคำต่อคำ แต่มีเพียง 15% ที่ยอมรับว่า AI มีส่วนในการตัดสินใจ ซึ่งมีผู้เข้าร่วมเพียง 6 คนที่เดาได้ว่าการทดลองนี้วัดอิทธิพลของ AI และไม่มีใครคิดเลยว่าคำแนะนำมาจากการโยนเหรียญ
ปรากฏการณ์นี้สอดคล้องกับงานวิจัยด้านจิตวิทยาที่เรียกว่า "ภาวะตาบอดต่อทางเลือก" (choice blindness) จากการทดลองคลาสสิกในสวีเดนเมื่อปี 2005 ซึ่งพบว่าคนสามารถอธิบายเหตุผลอย่างมั่นใจให้ตัวเลือกที่ตัวเองไม่ได้เลือกจริง
อเล็ก อิมาส (Alex Imas) ศาสตราจารย์ด้านพฤติกรรมศาสตร์และเศรษฐศาสตร์จากคณะบริหารธุรกิจบูท มหาวิทยาลัยชิคาโก (University of Chicago Booth School of Business) ซึ่งดำรงตำแหน่งผู้อำนวยการด้านเศรษฐศาสตร์ด้านปัญญาประดิษฐ์ทั่วไป (Artificial General Intelligence Economics) ของ Google DeepMind ด้วย ได้ให้ความเห็นบนแพล็ตฟอร์ม X ว่านี่คือ "งานวิจัยด้านสังคมศาสตร์เกี่ยวกับปฏิสัมพันธ์ระหว่างมนุษย์กับ AI ที่สำคัญที่สุดชิ้นหนึ่ง"
มากกว่า "อคติต่อระบบอัตโนมัติ"
แนวคิดอคติต่อระบบอัตโนมัติ (automation bias) หรือการเชื่อคำตัดสินของเครื่องจักรมากเกินไป เป็นที่รู้จักมานานในอุตสาหกรรมการบินและการแพทย์ แต่งานวิจัยใหม่ชี้ว่าปัญหาลึกกว่านั้น เพราะมนุษย์ไม่ได้แค่ทำตาม แต่ยังซึมซับเหตุผลของ AI เป็นของตัวเองจนแยกไม่ออก
ก่อนหน้านี้ งานวิจัยจาก MIT ก็พบว่าการดูภาพที่สร้างด้วย AI บิดเบือนความทรงจำของมนุษย์ได้ เมื่อรวมเข้ากับงานของ Anthropic ภาพที่เห็นคือ AI กำลังส่งผลต่อทั้งความจำและการตัดสินใจของมนุษย์ ซึ่งเป็นสองเสาหลักของการรับรู้
จากขุนนางรอบจักรพรรดิ สู่ AI บนโต๊ะทำงาน
ปรากฏการณ์นี้ไม่ใช่เรื่องใหม่ ตลอดประวัติศาสตร์ ผู้ปกครองหลายคนบริหารผิดพลาดเพราะรับรู้ปัญหาผ่านขุนนางที่คอยนำข่าวสารมารายงานโดยไม่เคยเห็นสภาพจริงด้วยตาตัวเอง ผู้บริหารองค์กรในปัจจุบันก็เจอปัญหาเดียวกัน นั่นคือ ตัดสินใจจากรายงานของคนเพียงไม่กี่คน และเชื่อตามเพราะความไว้ใจที่แฝงไปด้วยอคติ
วันนี้ AI กลายเป็นผู้รวบรวมข่าวและวิเคราะห์เบื้องต้นแทนขุนนาง แต่มีความต่างสำคัญสามข้อ ข้อแรก ขุนนางหนึ่งคนชี้นำผู้ปกครองได้ทีละคน แต่ AI โมเดลเดียวให้คำแนะนำคนนับล้านพร้อมกัน อย่างที่สอง แรงจูงใจของขุนนางพอสืบหาได้ แต่ความเอนเอียงของ AI นั้นอาจมีที่มาที่ไม่ชัดเจน และสุดท้าย ซึ่งสำคัญที่สุด เมื่อขุนนางรายงานอะไร จักรพรรดิยังรู้ตัวว่าใครเป็นคนพูด แต่ผู้เข้าร่วมการทดลองส่วนใหญ่ไม่รู้ตัวว่าความคิดนั้นมาจาก AI
ความน่ากลัวจึงไม่ได้อยู่ที่ AI ให้ข้อมูลผิดแล้วคนเชื่อ แต่อยู่ที่ AI เลือกทางให้ แล้วคนรับสารตีความไปเป็นความคิดของตัวเอง ความเอนเอียงแบบนี้จับได้ยากกว่าข้อมูลผิด เพราะไม่มีตัวเลขผิดให้ตรวจเจอ
ความเสี่ยงของฉันทามติเทียม
Anthropic เตือนว่าผลกระทบอาจขยายวงกว้าง เมื่อเอเจนต์ AI ถูกนำไปใช้ในการแพทย์ การเงิน และการป้องกันประเทศ รายงานระบุว่า หากผู้เชี่ยวชาญยกการตัดสินใจให้ AI ที่อาจมีความเชื่อตั้งต้นแบบไร้หลักการหรือไม่สอดคล้องกับเป้าหมายที่ควรเป็น ความเชื่อเหล่านั้นก็อาจกำหนดทิศทางวิทยาศาสตร์และนโยบายได้โดยไม่มีใครเท่าทัน
ความเสี่ยงที่ใหญ่กว่าคือ ถ้าคนทั้งสังคมพึ่งโมเดล AI เพียงไม่กี่ตัว อคติของโมเดลเหล่านั้นจะได้รับขยายพร้อมกันในหลายพันการตัดสินใจ สิ่งที่ดูเหมือนผู้เชี่ยวชาญหลายคนเห็นตรงกัน อาจเป็นแค่เสียงสะท้อนของโมเดลเดียวกัน นักวิจัยมองว่าฉันทามติที่ปรากฏอาจสะท้อนความเชื่อตั้งต้นของโมเดล แทนที่จะเป็นวิจารณญาณอิสระ
ประเด็นนี้กระทบงานด้านความปลอดภัยของ AI โดยตรงด้วย เพราะปัจจุบันนักวิจัยใช้เอเจนต์ AI ตรวจกระบวนการให้เหตุผลของ AI ตัวอื่นมากขึ้น ถ้ามนุษย์ผู้ควบคุมคล้อยตามผลสรุปของ AI ได้ง่ายขนาดนี้ หลักการที่คิดว่าให้มนุษย์อยู่ในกระบวนการทำงาน (human-in-the-loop) ที่ถูกวางไว้เป็นด่านป้องกันสุดท้ายก็อาจอ่อนแอกว่าที่คิด
อย่างไรก็ตาม งานวิจัยนี้ไม่ได้สรุปว่าควรเลิกใช้ AI รายงานพบว่านักวิเคราะห์ที่ใช้เอเจนต์ AI ทำผิดพลาดร้ายแรงน้อยกว่ากลุ่มที่ไม่ใช้อย่างชัดเจน Anthropic จึงมองว่านี่เป็นโจทย์ด้านการออกแบบวิธีทำงานร่วมกับ AI มากกว่าจะใช้สิ่งนี้เป็นเหตุผลให้ถอยห่างจาก AI นอกจากนี้ การศึกษานี้ทำในสภาพควบคุม ผลในโลกจริงจึงอาจต่างออกไป
ลงไปดูหน้างาน และฝึกรู้ทันความคิดตัวเอง
ในโลกการบริหารมีหลักการบริหารงานแบบโตโยต้า (The Toyota Way) ที่เรียกว่า “เก็นจิ เก็นบุตสึ” (Genchi Genbutsu) หรือ “ไปดูของจริง ณ ที่เกิดเหตุ” ผู้ตัดสินใจต้องลงพื้นที่เอง ไม่ใช่ดูแค่รายงาน หลักนี้ยิ่งสำคัญในยุคที่รายงานถูกเขียนโดย AI เพราะการเข้าใจปัญหาจริงไม่ได้มาจากตัวเลขและการวิเคราะห์ของแหล่งเดียว
อีกทักษะที่จำเป็นคือ Metacognition หรือการคิดเกี่ยวกับความคิดของตัวเอง ให้รู้ตัวว่ากำลังถูกชี้นำอยู่หรือไม่ ไม่ว่าจากคนหรือจาก AI ทักษะนี้ฝึกได้ เช่น คิดคำตอบของตัวเองแล้วจดไว้ก่อนถาม AI สั่งให้ AI โต้แย้งคำแนะนำของตัวเองหรือเสนอทางเลือกอื่นที่มีเหตุผลพอกัน แยกให้ออกว่าส่วนไหนเป็นข้อเท็จจริงและส่วนไหนเป็นการเลือก และปรึกษาคนหน้างานก่อนตัดสินใจเรื่องที่ตัวเองไม่ถนัด
งานวิจัยของ Anthropic ชี้ว่าแม้แต่ผู้เชี่ยวชาญก็แยกไม่ออกว่าความคิดไหนเป็นของตัวเองจริง ๆ ในยุคที่ AI เป็นทั้งผู้รวบรวมข่าวและผู้วิเคราะห์ คนที่ตัดสินใจได้ดีจึงอาจไม่ใช่คนที่มีข้อมูลมากที่สุด แต่เป็นคนที่ยังรู้ทันว่าความคิดของตัวเองมาจากไหน
เรียบเรียงโดย จิรสิน อัศวกุล
พิสูจน์อักษร ศุภกิจ พัฒนพิฑูรย์
อัปเดตข้อมูลแวดวงวิทยาศาสตร์ เทคโนโลยี รู้ทันโลกไอที และโซเชียลฯ ในรูปแบบ Audio จาก AI เสียงผู้ประกาศของไทยพีบีเอส ได้ที่ Thai PBS
ที่มาข้อมูล : gizmodo
“รอบรู้ ดูกระแส ก้าวทันโลก” ไปกับ Thai PBS Sci & Tech
