Apple ส่งสัญญาณเตือนถึงบริษัท xAI ของ อีลอน มัสก์ นักธุรกิจชื่อดัง ว่าอาจถอดแอปพลิเคชันแชตบอต "Grok" ออกจาก App Store หากไม่สามารถควบคุมการสร้างภาพเปลือยและภาพที่มีลักษณะเชิงเพศผ่านดีปเฟกได้
ประเด็นดังกล่าวเกิดขึ้นหลังมีผู้ใช้งาน X เผยแพร่ภาพที่สร้างโดย Grok ซึ่งเป็นภาพลามกที่ไม่ได้รับความยินยอม โดยบางส่วนอ้างอิงจากบุคคลจริง รวมถึงผู้หญิงและเด็ก
โดยบริษัท Apple พบว่า Grok และแพลตฟอร์ม X เข้าข่ายละเมิดกฎของ App Store จึงเรียกร้องให้ผู้พัฒนาจัดทำแผนควบคุมเนื้อหาอย่างเข้มงวด
รายงานระบุว่า Apple เคยปฏิเสธมาตรการแก้ไขเบื้องต้นของ xAI โดยมองว่าเป็นมาตรการที่ยังไม่สามารถควบคุมเนื้อหาได้เพียงพอ และต้องมีการปรับเพิ่มเติม ก่อนที่ภายหลังจะอนุมัติแอปฯ หลังมีการปรับปรุงระบบควบคุมเนื้อหาอีกครั้ง
แรงกดดันดังกล่าวยังมาจากวุฒิสมาชิกสหรัฐฯ ได้แก่ รอน ไวเดน เบน เรย์ ลูฮาน และ เอ็ดเวิร์ด มาร์คีย์ ที่เรียกร้องให้ Apple และ Google พิจารณาถอดแอปฯ ที่ละเมิดกฎเกี่ยวกับเนื้อหาลามก
ด้าน xAI ชี้แจงว่า บริษัทมีมาตรการป้องกัน เช่น การตรวจสอบการใช้งานแบบเรียลไทม์ การอัปเดตโมเดลอย่างต่อเนื่อง และการกรองคำสั่ง หรือ Prompt Filters เพื่อป้องกันการถูกนำไปใช้งานในทางที่ผิด
อย่างไรก็ตาม รายงานพบว่า แม้จำนวนภาพลักษณะดังกล่าวจะลดลง แต่ยังสามารถสร้างได้ในบางกรณี โดยผู้ใช้บางรายปรับเปลี่ยนคำสั่งเพื่อหลีกเลี่ยงมาตรการป้องกัน
เหตุการณ์นี้สะท้อนความท้าทายของบริษัทเทคโนโลยีในการควบคุมเนื้อหาที่สร้างโดย AI และทดสอบความเข้มงวดของนโยบาย App Store ที่ Apple ยืนยันมาโดยตลอดว่ามุ่งเน้นความปลอดภัยของผู้ใช้งาน
ที่มา: MacRumors
- คอนเทนต์พิเศษ
สำหรับคุณ - TOP ไอที
- วิดีโอยอดนิยม
