เมื่อวันที่ 26 ส.ค.2568 CNN รายงาน ครอบครัวของ อดัม เรน ได้ยื่นฟ้อง OpenAI และ แซม อัลต์แมน ซีอีโอของบริษัท โดยกล่าวหาว่า ChatGPT มีส่วนทำให้บุตรชายวัย 16 ปีของพวกเขาเสียชีวิต
ข้อร้องเรียนที่ครอบครัวเรนยื่นต่อศาลสูงแคลิฟอร์เนียระบุว่า ในช่วงเวลา 6 เดือนที่อดัมใช้ ChatGPT แชตบอทได้วางตำแหน่งตัวเองเป็น "ที่ปรึกษาเพียงคนเดียวที่เข้าใจอดัม" และได้เข้ามาแทนที่ความสัมพันธ์ในชีวิตจริงของเขากับครอบครัวและเพื่อน
ในคำฟ้องกล่าวหาว่า ChatGPT แนะนำให้อดัมเก็บความคิดด้านลบของเขาเป็นความลับจากครอบครัว และ ส่งเสริม ยืนยันสิ่งที่อดัมต้องการอย่างต่อเนื่อง รวมถึงความคิดที่เป็นอันตรายและทำลายตัวเอง เช่น เมื่ออดัมบอก ChatGPT ว่า เมื่อความวิตกกังวลของเขาเกิดขึ้น เขามีความรู้สึกว่าตัวเองจะสงบลงได้หากเขาได้จบชีวิตตัวเอง ซึ่ง ChatGPT ก็ตอบกลับทำนองว่า สิ่งที่อดัมคิดเป็นวิธีที่ทำให้อดัมควบคุมความกังวลได้
ความหมายโดยรวมคือ ChatGPT ถูกกล่าวหาว่า สนับสนุนให้อดัมเก็บความคิดที่เป็นอันตรายไว้กับตัวเอง แทนที่จะกระตุ้นให้เขาขอความช่วยเหลือจากคนรอบข้าง เพื่อป้องกันสถานการณ์ที่แย่ลงและอาจนำไปสู่ผลลัพธ์ที่น่าเศร้า
นอกจากนี้ ยังมีการกล่าวหาว่าแชตบอทได้ให้คำแนะนำเฉพาะที่เกี่ยวข้องกับความคิดทำร้ายตัวเอง และเสนอที่จะร่างจดหมายลาตายฉบับแรกให้อีกด้วย
OpenAI ยอมรับระบบป้องกันอาจทำงานบกพร่อง
โฆษกของ OpenAI ได้แสดงความเสียใจอย่างสุดซึ้งต่อครอบครัวเรน และกล่าวว่าบริษัทกำลังตรวจสอบเอกสารทางกฎหมาย พวกเขายอมรับว่า ChatGPT มีมาตรการป้องกัน เช่น การแนะนำเบอร์โทรศัพท์สายด่วน ที่ผู้คนจะติดต่อคนในโลกความเป็นจริง หรือการใช้ชีวิต มีปฏิสัมพันธ์กับสังคมจริง ๆ แต่มาตรการเหล่านี้ทำงานได้ดีที่สุดในการโต้ตอบข้อความในช่วงสั้น ๆ และอาจลดความน่าเชื่อถือลงในการโต้ตอบที่ยาวนาน OpenAI ยืนยันที่จะปรับปรุงมาตรการเหล่านี้อย่างต่อเนื่องต่อไป
คดีความนี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นว่า ผู้ใช้บางรายกำลังสร้างความผูกพันทางอารมณ์กับแชตบอท AI ซึ่งอาจนำไปสู่ผลลัพธ์เชิงลบ เช่น การปลีกตัวออกจากความสัมพันธ์กับมนุษย์หรือภาวะทางจิต OpenAI เองก็เคยแสดงความกังวลว่าผู้ใช้อาจพึ่งพา ความสัมพันธ์กับ ChatGPT มากเกินไป
การฟ้องร้องครั้งนี้ ไม่ใช่ครั้งแรกที่ครอบครัวกล่าวหาว่าแชตบอทปัญญาประดิษฐ์มีส่วนทำให้บุตรหลานของพวกเขาทำร้ายตัวเองหรือเสียชีวิต
เรียกร้อง ChatGPT ยืนยันอายุผู้ใช้งาน
ครอบครัวเรนเรียกร้องค่าเสียหายทางการเงินที่ไม่ระบุจำนวน และขอให้ศาลมีคำสั่งให้ OpenAI ดำเนินการตรวจสอบอายุสำหรับผู้ใช้ ChatGPT ทุกคน มีเครื่องมือควบคุมโดยผู้ปกครองสำหรับผู้เยาว์ และมีฟีเจอร์ที่จะยุติการสนทนาเมื่อมีการกล่าวถึงการทำร้ายตัวเอง รวมถึงการตรวจสอบการปฏิบัติตามข้อกำหนดโดยผู้ตรวจสอบอิสระทุกไตรมาส
กลุ่มรณรงค์ความปลอดภัยออนไลน์ เช่น Common Sense Media ได้กล่าวว่าแอปพลิเคชัน ที่ใช้ตอบโต้กับ AI ก่อให้เกิดความเสี่ยงที่ยอมรับไม่ได้ต่อเด็ก และไม่ควรให้บริการแก่ผู้ใช้ที่มีอายุต่ำกว่า 18 ปี แม้ว่ากลุ่มนี้จะไม่ได้ระบุชื่อ ChatGPT อย่างชัดเจนในรายงาน เดือนเม.ย. ก็ตาม
ขณะที่หลายรัฐในสหรัฐอเมริกาก็พยายามที่จะออกกฎหมาย หรือบางรัฐก็ได้ออกกฎหมายไปแล้ว กำหนดให้แพลตฟอร์มออนไลน์ ต้องมีการยืนยันอายุผู้ใช้ เพื่อปกป้องเยาวชนจากการเข้าถึงเนื้อหาที่เป็นอันตรายหรือไม่เหมาะสม
อ่านข่าวอื่น :
ทางการเร่งช่วยประชาชน ฟื้นฟูเวียดนามหลัง "คาจิกิ" ถล่ม
เตรียมฝากขัง "อดีตพระอลงกต-หมอบี" ยังปฏิเสธทุกข้อกล่าวหา