OpenAI ผู้ให้บริการแชทบอทชื่อดัง ChatGPT อยู่ในระหว่างการพัฒนาระบบยืนยันอายุของผู้ใช้งาน หลังครอบครัวของเด็กอายุ 16 ปี ที่เสียชีวิตหลังจากการพูดคุยกับแชทบอทฆ่าตัวตายเมื่อเดือนเมษายนที่ผ่านมา และทางครอบครัวได้ดำเนินการทางกฎหมายต่อบริษัท
แซม อัลต์แมน ผู้บริหาร OpenAI ระบุว่า ระบบดังกล่าวจะถูกใช้เพื่อป้องกันความปลอดภัยและความเป็นส่วนตัว โดยคำนึงถึงเสรีภาพในการใช้งานของเยาวชน คำตอบของ ChatGPT สำหรับเด็กและเยาวชนจะต้องไม่เหมือนกับคำตอบของผู้ใหญ่
ทาง OpenAI จะทำการคํานวณอายุของผู้ใช้งานก่อน หากระบบสงสัยว่าผู้ใช้งานมีอายุตํ่ากว่า 18 ปี ระบบจะทำการเปลี่ยนโหมด "อายุตํ่ากว่า 18 ปี" โดยอัตโนมัติ และในบางประเทศหรือบางกรณีจะมีการใช้บัตรประชาชนในการยืนยันอายุ
โดยโหมดอายุตํ่ากว่า 18 ปี ChatGPT จะทำการบล็อกเนื้อหาหลายส่วนเช่น การสร้างรูปภาพเรท 18+ การฝึกให้ AI ห้ามตอบบทสนทนาเชิง "จีบ" ผู้ใช้งานอายุตํ่ากว่า 18 ปี หรือ ห้ามพูดคุยหรือตอบคำถามที่เกี่ยวข้องกับการฆ่าตัวตาย หากเกิดขึ้นทางบริษัทจะติดต่อกับผู้ปกครองโดยตรง หรือประเด็นที่ไม่มีความเหมาะสมอื่น ๆ
ครอบครัวของเด็กอายุ 16 ปี ที่เสียชีวิตจากการพูดคุยกับ ChatGPT ได้ยื่นฟ้องต่อศาลในสหรัฐฯ ระบุว่า แชทบอทดังกล่าวชี้นำลูกของเขาให้ฆ่าตัวตาย พร้อมหาวิธีในการฆ่าตัว และช่วยเขียนจดหมายลาตายอีกด้วย
ก่อนที่เด็กคนดังกล่าวจะฆ่าตัวตาย เขาได้มีการพูดคุยแลกเปลี่ยนกับ ChatGPT 650 ข้อความ ซึ่งทางบริษัทออกมายอมรับว่า ระบบของพวกเขามีช่องโหว่ ซึ่งบริษัทยืนยันจะปรับปรุงระบบให้มีความเข้มงวดมากขึ้น
- คอนเทนต์พิเศษ
สำหรับคุณ - TOP ไอที
- วิดีโอยอดนิยม
