หญิงรายหนึ่งในรัฐฟลอริดาของสหรัฐฯ ถูกจับกุมหลังมีรายงานว่า เธอพิมพ์ข้อความขู่ใช้ความรุนแรงต่อสำนักงานนายอำเภอผ่าน Claude แชตบอต AI ของบริษัท Anthropic โดยเบาะแสไม่ได้มาจากเพื่อนบ้านหรือสมาชิกในครอบครัว แต่มาจากบริษัทผู้ให้บริการ AI เอง
รายงานระบุว่า หญิงคนดังกล่าวมีชื่อว่า คาร์ลี มิเชลล์ เฮลเลอร์ เป็นชาวเมืองโบนิตา สปริงส์ โดยเธอถูกกล่าวหาว่า พิมพ์ข้อความข่มขู่สำนักงานเทศมณฑลลี ผ่าน Claude เมื่อวันที่ 26 และ 27 กันยายนที่ผ่านมา
หนึ่งในข้อความระบุว่า เธอกำลังจะ "เข้าไปยิงสำนักงานนายอำเภอเดี๋ยวนี้" ขณะที่อีกข้อความกล่าวถึงการได้ปืนกระบอกใหม่มาในวันนั้น อย่างไรก็ตาม ข้อกล่าวหาดังกล่าวยังต้องได้รับการพิสูจน์ในกระบวนการยุติธรรม และเฮลเลอร์ยังคงถือว่าเป็นผู้บริสุทธิ์จนกว่าจะมีคำพิพากษาถึงที่สุด
ตามรายงานการจับกุม ระบบความปลอดภัยอัตโนมัติของ Anthropic เป็นฝ่ายตรวจพบข้อความดังกล่าวก่อน จากนั้นทีมตรวจสอบที่เป็นมนุษย์จึงเข้ามาพิจารณาเนื้อหา และบริษัทตัดสินใจแจ้งข้อมูลให้เจ้าหน้าที่บังคับใช้กฎหมาย หลังได้รับข้อมูล เจ้าหน้าที่เข้าควบคุมตัวเฮลเลอร์ที่บ้านพักโดยไม่มีเหตุรุนแรงเกิดขึ้น
ระหว่างการสอบสวน เธอบอกกับเจ้าหน้าที่ว่า ใช้ AI ในลักษณะเหมือนเป็นไดอารี หรือพื้นที่สำหรับระบายและบันทึกความคิดส่วนตัว เธอถูกตั้งข้อหาข่มขู่ใช้ความรุนแรงเป็นลายลักษณ์อักษรตามกฎหมายรัฐฟลอริดา และมีกำหนดขึ้นศาลในเดือนพฤศจิกายน
คาร์ไมน์ มาร์เซโน นายอำเภอเทศมณฑลลี ระบุในแถลงการณ์ว่า ปัญญาประดิษฐ์เป็นเครื่องมือที่ทรงพลัง แต่เช่นเดียวกับเทคโนโลยีอื่น ๆ ก็สามารถถูกนำไปใช้ในทางที่ผิดได้ เขากล่าวว่า หากมีผู้ใช้ AI เพื่อข่มขู่หรือช่วยให้เกิดการข่มขู่ เจ้าหน้าที่จำเป็นต้องพิจารณาภัยคุกคามนั้นอย่างจริงจัง
ทั้งนี้ เงื่อนไขสำหรับผู้ใช้งานทั่วไปของ Anthropic ระบุว่า บริษัทสงวนสิทธิ์ที่จะรายงานข้อมูลจากหรือเกี่ยวกับผู้ใช้ตามดุลพินิจของบริษัท รวมถึงสิ่งที่ผู้ใช้พิมพ์เข้าไป ข้อความที่ระบบตอบกลับ ให้แก่เจ้าหน้าที่บังคับใช้กฎหมาย
ขณะที่นโยบายความเป็นส่วนตัวของ Anthropic ซึ่งอัปเดตเมื่อวันที่ 10 กันยายน ระบุว่า บริษัทอาจแบ่งปันข้อมูลส่วนบุคคลกับหน่วยงานรัฐ เจ้าหน้าที่บังคับใช้กฎหมาย หรือบุคคลที่สาม หากบริษัทมีเหตุผลโดยสุจริตว่าการเปิดเผยข้อมูลมีความจำเป็น
กรณีที่นโยบายระบุไว้ครอบคลุมทั้งการปฏิบัติตามกฎหมาย การป้องกันอันตรายร้ายแรงต่อบุคคลหรือทรัพย์สิน การจัดการการฉ้อโกงหรือกิจกรรมผิดกฎหมาย รวมถึงการบังคับใช้เงื่อนไขของบริษัท และการปกป้องสิทธิ ทรัพย์สิน ความมั่นคง หรือความปลอดภัยของ Anthropic ผู้ใช้ และบุคคลอื่น
นโยบายของ Anthropic ยังระบุว่า เนื้อหาที่ถูกระบบตรวจพบสามารถถูก "re-identified" หรือเชื่อมโยงกลับไปยังผู้ใช้งานได้ เพื่อบังคับใช้กฎของบริษัท นั่นหมายความว่า แม้การวิเคราะห์เนื้อหาบางส่วนอาจเริ่มต้นในลักษณะที่ไม่ผูกกับตัวตนของผู้ใช้โดยตรง แต่หากถูกตั้งธงว่าละเมิดกฎ บริษัทอาจสามารถเชื่อมข้อมูลนั้นกลับไปยังบัญชีต้นทางได้
อย่างไรก็ตาม ในกรณีที่รัฐบาลร้องขอข้อมูลผู้ใช้โดยตรง Anthropic ระบุในหน้าสนับสนุนอีกส่วนหนึ่งว่า โดยปกติจะต้องมีหมายเรียก หมายค้น หรือกระบวนการทางกฎหมายที่ถูกต้อง โดยมีข้อยกเว้นคือกรณีฉุกเฉินที่มีความเสี่ยงต่อการเสียชีวิตหรือการบาดเจ็บร้ายแรง
อย่างไรก็ตาม บริษัท AI รายใหญ่อื่น ๆ ทั้ง OpenAI Google และ Meta ก็มีถ้อยคำในนโยบายความเป็นส่วนตัวที่เปิดทางให้เปิดเผยข้อมูลในบางสถานการณ์เช่นกัน OpenAI เคยระบุว่า มีการตรวจสอบบทสนทนาใน ChatGPT และอาจส่งต่อกรณีที่เกี่ยวข้องกับภัยคุกคามร้ายแรงต่อชีวิตหรือร่างกายของบุคคลอื่นให้เจ้าหน้าที่บังคับใช้กฎหมาย
กรณีของเฮลเลอร์ จึงกลายเป็นอีกตัวอย่างที่ทำให้ประเด็นเรื่อง ความเป็นส่วนตัวของการสนทนากับแชตบอต AI ถูกจับตามองมากขึ้น ท่ามกลางการที่ผู้คนจำนวนมากเริ่มใช้ AI สำหรับบทสนทนาที่มีลักษณะส่วนตัวมากขึ้น
ที่มา: Yahoo Finance / The Street
- คอนเทนต์พิเศษ
สำหรับคุณ - TOP ต่างประเทศ
- วิดีโอยอดนิยม
