บริษัทปัญญาประดิษฐ์ xAI ของอีลอน มัสก์ ต้องเผชิญคดีความในสหรัฐฯ หลังกลุ่มวัยรุ่นหญิง 3 รายยื่นฟ้องกล่าวหาว่าแชตบอต "Grok" ถูกใช้สร้างภาพลามกจากรูปของพวกเธอโดยไม่ได้รับความยินยอม
คดีดังกล่าวถูกยื่นต่อศาลรัฐบาลกลางในรัฐแคลิฟอร์เนีย โดยผู้เสียหาย 3 รายระบุว่า ภาพถ่ายและวิดีโอของพวกเธอถูกผู้ใช้ Grok นำไปดัดแปลงให้กลายเป็นภาพเปลือยหรือมีลักษณะทางเพศชัดเจน
สำหรับ Grok เป็นแชตบอตที่พัฒนาโดย xAI และให้บริการผ่านแพลตฟอร์ม X ซึ่งเป็นโซเชียลมีเดียของมัสก์ ซึ่งจนถึงขณะนี้ บริษัทยังไม่ได้ออกมาแสดงความเห็นต่อคดีดังกล่าวแต่อย่างใด
ทีมทนายของผู้เสียหายระบุว่า ฟีเจอร์ของ Grok ถูกออกแบบมาเพื่อเพิ่มฟังก์ชันการใช้งานของแพลตฟอร์ม โดยทางบริษัทรู้ดีว่า ภาพที่ปรากฏบนแพลตฟอร์มสามารถถูกนำไปใช้สร้างภาพลามก รวมถึงภาพของผู้เยาว์
ข้อความส่วนหนึ่งของคำฟ้องระบุว่า "xAI และผู้ก่อตั้งเห็นโอกาสทางธุรกิจ พวกเขารู้ว่า Grok สามารถสร้างผลลัพธ์เช่นนี้ได้ แต่ก็ยังคงเปิดใช้งานต่อไป"
ทนายยังระบุว่า ผู้เสียหายเรียกร้องค่าเสียหาย และขอให้ศาลมีคำสั่งห้ามไม่ให้ Grok สร้างภาพลักษณะดังกล่าวอีก ชีวิตของผู้เสียหายถูกทำลายจากการสูญเสียความเป็นส่วนตัว ศักดิ์ศรี และความปลอดภัย
หนึ่งในผู้เสียหายเปิดเผยว่า เธอทราบเรื่องจากบัญชีนิรนามบนอินสตาแกรมที่ส่งข้อความมาหาเธอ ซึ่งเผยว่ามีภาพและวิดีโอของเธอที่ถูกตัดต่อ รวมถึงภาพจากหนังสือรุ่นของเธอก็ถูกดัดแปลงเป็นภาพลามก
เนื้อหาดังกล่าวถูกเผยแพร่ลงบนเซิร์ฟเวอร์ของดิสคอร์ด (Discord) และมีรายงานว่ามีภาพลักษณะเดียวกันของผู้หญิงอย่างน้อย 18 คน ซึ่งส่วนใหญ่เป็นผู้เยาว์ นอกจากนี้ ยังพบว่ามีการแลกเปลี่ยนไฟล์ลักษณะดังกล่าวผ่านแพลตฟอร์มอย่างเทเลแกรม (Telegram) และเมกา (Mega)
Grok เปิดตัวในปี 2023 และในปีถัดมา xAI ได้เพิ่มฟีเจอร์ "Grok Imagine" หรือ "spicy mode" ที่เปิดให้ผู้ใช้สามารถสร้างภาพในลักษณะทางเพศมากขึ้น
รายงานจากศูนย์ต่อต้านความเกลียดชังทางดิจิทัล (Center for Countering Digital Hate) ระบุว่า ภายในเวลาไม่ถึง 2 สัปดาห์ มีการสร้างภาพลักษณะดังกล่าวหลายล้านภาพ รวมถึงมีมากกว่า 20,000 ภาพที่เกี่ยวข้องกับผู้เยาว์
ก่อนหน้านี้ มัสก์ เคยระบุว่าไม่ทราบว่ามีการสร้างภาพเปลือยของผู้เยาว์ และชี้ว่าระบบทำงานตามคำสั่งของผู้ใช้ อย่างไรก็ตาม ภายหลัง X ระบุว่าจะเพิ่มมาตรการทางเทคโนโลยีเพื่อป้องกันการใช้ AI ในลักษณะดังกล่าว
จากข้อร้องเรียนดังกล่าว ทำให้หน่วยงานกำกับดูแลหลายแห่ง เช่น ออฟคอม (Ofcom) ของสหราชอาณาจักร และคณะกรรมาธิการยุโรป (European Commission) รวมถึงหน่วยงานในรัฐแคลิฟอร์เนีย เริ่มตรวจสอบฟีเจอร์ดังกล่าว
คดีนี้ถือเป็นอีกหนึ่งกรณีสำคัญที่สะท้อนความท้าทายของเทคโนโลยี AI ในการควบคุมการใช้งาน และปกป้องผู้ใช้งาน โดยเฉพาะเยาวชนจากการละเมิดทางดิจิทัล
ที่มา: BBC
- คอนเทนต์พิเศษ
สำหรับคุณ - TOP ไอที
- วิดีโอยอดนิยม
