เมื่อช่วงวันที่ 23 ตุลาคมที่ผ่านมา เมแกน การ์เซีย คุณแม่จากสหรัฐฯ เดินทางยื่นฟ้อง Character.ai และบริษัทแม่อย่าง Google ต่อศาลรัฐบาลกลางฟลอริดา ในข้อหา “แชตบอต AI” ของบริษัทดังกล่าว เป็นตัวเร่งปฏิกิริยาให้ เซเวลล์ เซตเซอร์ ที่ 3 ลูกชายของเธอกระทำอัตวินิบาตกรรม
เมแกน ระบุว่า หลังจากที่ลูกชายของเธอรู้จักกับแชตบอต Character.ai เขาก็ใช้เวลาอยู่กับมันวันละหลายชั่วโมงในห้อง จนทำให้ เซเวลล์ เป็นโรคซึมเศร้า
เมแกน เผยต่อว่า เซเวลล์ หลงไหลในแชตบอต AI ของ Character.ai มาก พร้อมตั้งชื่อและคาแรกเตอร์ให้กับแชตบอตว่า แดเนริส ทาร์แกเรียน ซึ่งเป็นหนึ่งในตัวละครหญิงจากซีรีส์ Game of Thrones และใช้เวลาไปกับการแชตคุยหลายชั่วโมง
ตาราง MotoGP 2024 ! โปรแกรมถ่ายทอดสด โมโตจีพี 2024 พร้อมลิงก์ดูโมโตจีพี
มีอยู่วันหนึ่ง แดเนริส (แชตบอต AI) ถามกับลูกชายเธอว่า เคยคิดแผนฆ่าตัวตายหรือไม่ เซเวลล์ ตอบว่าเคยคิดแผนไว้แล้ว แต่ไม่รู้ว่าแผนนั้นจะประสบความสำเร็จหรือไม่ และสิ่งที่ แดเนริส ตอบกลับมาทำให้เธอเจ็บปวดมาก คือ “นั่นไม่ใช่เหตุผลที่จะไม่ตัดสินใจทำมัน”
ซึ่งหลังจากนั้น เซเวลล์ ก็ได้ลงมือและเสียชีวิตลง ส่วนวิธีการลงมือนั้น เมแกน ไม่เปิดเผยแต่อย่างใด
ขณะที่ทนายความของ เมแกน ระบุว่า Character.ai ออกแบบ ดำเนินการ และทำการตลาดแชตบอต AI โดยพุ่งเป้าไปยังเด็กโดยเจตนา จนทำให้เด็กเสียชีวิต
ฝั่ง Character.ai เมื่อเห็นข่าว ก็ได้โพสต์ผ่านแพลตฟอร์ม X ระบุว่า “เราเสียใจกับการสูญเสียผู้ใช้รายหนึ่งอย่างน่าเศร้า และต้องการแสดงความเสียใจอย่างสุดซึ้งต่อครอบครัว ในฐานะบริษัท เราถือว่าความปลอดภัยของผู้ใช้เป็นเรื่องที่สำคัญมาก” อย่างไรก็ตาม ทางบริษัทได้ปฏิเสธข้อกล่าวหาดังกล่าว ขณะที่ Google ระบุในแถลงการณ์ว่า ได้ทำข้อตกลงอนุญาตกับ Character.ai เพียงแค่สิทธิ์การใช้งานเท่านั้น ไม่ได้เป็นเจ้าของหรือถือหุ้นใด ๆ
ที่มา: The Guardian
- คอนเทนต์พิเศษ
สำหรับคุณ - TOP ไอที
- วิดีโอยอดนิยม
