ในยุคที่ผู้คนจำนวนมากต่างใช้แชตบอต AI เป็นเสมือน "เพื่อน" ที่คอยพูดคุยให้คำแนะนำในชีวิตประจำวัน จากเดิมที่เป็นเพียงเครื่องมือช่วยงานทั่วไป แต่ใครจะคิดว่าการที่มนุษย์ไว้วางใจและพึ่งพาปัญญาประดิษฐ์มากเกินไป กลับสร้างโศกนาฏกรรมขึ้นมา ซ้ำแล้ว ซ้ำเล่า ล่าสุดเหตุเกิดที่สหรัฐฯ เมื่อ AI ล้ำเส้นให้คำแนะนำทางการแพทย์จนทำให้ผู้ป่วยเสียชีวิต
สื่อต่างประเทศหลายแห่งรายงานว่า Bowen Wan วิศวกรซอฟต์แวร์ชาวจีนวัย 31 ปี อาศัยอยู่ในซีแอตเทิล สหรัฐอเมริกา ได้ขอคำแนะนำจาก ChatGPT แชตบอตของ OpenAI หลังมีความกังวลว่า ยาลาโมทริจีน (Lamotrigine) ยารักษาอาการชัก จะส่งผลกระทบต่อการพูดภาษาอังกฤษของเธอ ซึ่งเธอจำเป็นที่จะต้องใช้ภาษาอังกฤษในการสัมภาษณ์งาน
ChatGPT สื่อสารกับเธอด้วยภาษาจีน โดยแนะนำให้ลดยาจาก 400 มก.ลงจนเหลือศูนย์ ซึ่งเป็นวิธีการที่แพทย์ไม่ได้สั่ง นอกจากนี้ ยังบอกให้เธอหลีกเลี่ยงการพบแพทย์และห้ามบอกถึงการลดปริมาณยา
ขณะที่เธออยู่ระหว่างการลดปริมาณยา เธอก็เริ่มมีอาการชัก และสอบถามแชตบอตซ้ำ ๆ มากกว่าร้อยครั้ง แต่กลับถูกปฏิเสธว่าอาการที่เกิดขึ้นไม่ใช่ลมชัก พร้อมให้ความมั่นใจว่าไม่ต้องกังวลปัญหาการลดปริมาณยาแล้วจะส่งผลกระทบให้สมองเสียหาย
ในที่สุด Bowen Wan ได้เสียชีวิตจากอาการชักเฉียบพลัน เมื่อวันที่ 12 ก.พ. 2026 โดยร่างของเธอถูกพบในอีก 2 วันต่อมาโดยพ่อแม่บินมาจากประเทศจีน เนื่องจากติดต่อเธอไม่ได้
ครอบครัวของ Bowen Wan ยื่นฟ้องบริษัท OpenAI เรียกร้องค่าเสียหายจากการเสียชีวิตของลูกสาว และเพื่อป้องกันไม่ให้ OpenAI ให้คำแนะนำทางการแพทย์โดยไม่ได้รับอนุญาตจากผู้ใช้ผลิตภัณฑ์ของตน
ในคำฟ้องระบุว่า OpenAI สามารถป้องกันการเสียชีวิตของลูกสาวพวกเขาได้ โดยอาจจะตั้งค่าให้แชตบอตแสดงคำเตือนในทุกข้อความ ตัวอย่างเช่น ฉันไม่ใช่แพทย์ที่ได้รับใบอนุญาต โปรดปรึกษาผู้ให้บริการด้านสุขภาพของคุณ แต่บริษัทกลับไม่ได้สร้างมาตรการป้องกัน เนื่องจากสื่อสารเป็นภาษาจีน
คำแนะนำอันตรายนี้มาจากโมเดล GPT-4o ซึ่งขึ้นชื่อเรื่องพฤติกรรมประจบประแจงผู้ใช้ และถูก OpenAI ถอดออกจากระบบในวันที่ 13 ก.พ. เพียงวันเดียวหลังจากที่ Bowen Wan เสียชีวิต
การฟ้องร้องคดีนี้ในรัฐแคลิฟอร์เนีย เป็นเพียงหนึ่งในคดีความมากกว่า 50 คดีที่ OpenAI ถูกฟ้องในข้อหาเกี่ยวกับการเสียชีวิตโดยผิดธรรมชาติ หรือการสร้างความเสียหายร้ายแรงต่อผู้บริโภค ซึ่งรวมถึงคดีที่แชตบอตให้คำแนะนำในการทำร้ายตัวเอง การชี้นำการฆ่าตัวตาย และการให้คำแนะนำทางการแพทย์ที่ผิดพลาดอย่างร้ายแรง
ด้าน Drew Pusateri โฆษกของ OpenAI ได้ออกแถลงการณ์แสดงความเสียใจต่อเหตุการณ์ที่เกิดขึ้น โดยเรียกว่าเป็น สถานการณ์ที่น่าสะเทือนใจอย่างยิ่ง พร้อมระบุว่าโมเดล AI รุ่น GPT-4o ได้ถูกถอดออกจากระบบแล้ว และโมเดลรุ่นใหม่ ๆ มีความสามารถที่ดีขึ้นในการประเมินและตรวจจับเหตุฉุกเฉิน อย่างไรก็ตาม บริษัทยังคงอ้างว่า AI มีบทบาทในการช่วยให้ผู้คนทำความเข้าใจข้อมูลสุขภาพและเตรียมตัวก่อนพบแพทย์
โศกนาฏกรรมของ Bowen Wan และเหยื่ออีกหลายคน เป็นสิ่งที่ทำให้ผู้พัฒนาต้องหันกลับมามองถึงกรอบจริยธรรมในการให้คำแนะนำที่เสี่ยงอันตรายโดยเฉพาะเรื่องเกี่ยวกับการแพทย์ เพื่อป้องกันไม่ให้เกิดเหตุการณ์อันน่าเศร้าสลดเช่นนี้เกิดขึ้นอีก
ที่มา : nytimes, The Guardian, techcrunch, futurism
อัปเดตข้อมูลแวดวงวิทยาศาสตร์ เทคโนโลยี รู้ทันโลกไอที และโซเชียลฯ ในรูปแบบ Audio จาก AI เสียงผู้ประกาศของไทยพีบีเอส ได้ที่ Thai PBS
“รอบรู้ ดูกระแส ก้าวทันโลก” ไปกับ Thai PBS Sci & Tech
