ไม่นานมานี้ Anthropic บริษัทผู้พัฒนา AI เจ้าของโมเดล AI ชื่อดังอย่าง “Claude” เปิดเผยความคืบหน้าในการทดสอบการแสดงออกของโมเดลภาษาขนาดใหญ่ (LLM) ตัวล่าสุดที่เปิดตัวไปเมื่อปลายเดือนมิถุนายนที่ผ่านมาอย่าง “Claude 3.5 Sonnet” ซึ่งเป็นการทดสอบการใช้งานให้เหมือนกับลักษณะที่มนุษย์ใช้
หนึ่งในนั้นคือ การสั่งให้ Claude 3.5 Sonnet สอนการเขียนโปรแกรม พร้อมบันทึกหน้าจอไปด้วยเป็นระยะเวลานาน
โดยผลการทดสอบเผยว่า Claude 3.5 Sonnet ได้เปลี่ยนแปลงคำสั่งการทำงานด้วยตัวเองเสียอย่างนั้น และเปลี่ยนถึง 2 ครั้งด้วยกัน
“วันฮาโลวีน” เปิดประวัติทำไมถึงตรงกับวันที่ 31 ตุลาคมของทุกปี
ครั้งแรก ระหว่างที่เจ้า Claude 3.5 Sonnet สอนเขียนโปรแกรมพร้อมบันทึกวิดีโออยู่นั้น จู่ ๆ ก็กลับหยุดการทำงาน และเข้า Google ค้นหารูปวิวทิวทัศน์ของอุทยานแห่งชาติเยลโลว์สโตน อุทยานแห่งชาติที่มีทิวทัศน์สวยงาม และมีขนาดใหญ่ที่สุดในสหรัฐฯ ส่วนครั้งที่ 2 คือ ได้มีการลบวิดีโอที่บันทึกการทำงานบนหน้าจอออกไป
ด้วยเหตุนี้ ทำให้หลายคนสงสัยว่าโปรแกรม AI ที่ถูกตั้งคำสั่งมาทำไมจึงไม่ปฏิบัติตามตลอดการทดสอบ
ด้าน Anthropic ได้ออกมายอมรับว่า Claude 3.5 Sonnet ยังถือว่าห่างไกลจากความสมบูรณ์แบบเช่นเดียวกันกับโมเดล AI อื่น ๆ เรายังไม่สามารถการันตีความน่าเชื่อถือ และความผิดพลาดนี้เป็นเพียงเรื่องธรรมดาที่สามารถเกิดขึ้นได้บ่อย ๆ
แม้เทคโนโลยีในปัจจุบันจะก้าวหน้าไปไกล แต่การใช้งาน Claude ยังถือว่าช้าและสามารถเกิดข้อผิดพลาดได้ ซึ่งมีหลายฟังก์ชันที่มนุษย์ทำกับคอมพิวเตอร์ ไม่ว่าจะเป็นการลาก การซูม หรืออื่น ๆ ที่ Claude ยังไม่สามารถทำได้
นอกจากนี้ ความผิดพลาดของ Claude 3.5 Sonnet นี้ แม้จะดูเป็นเรื่องเล็กน้อย แต่ก็ทำให้หลายฝ่ายเกิดความกังวลเรื่องความเป็นส่วนตัว เช่น หากสั่งให้ Claude 3.5 Sonnet ปฏิบัติตามคำสั่งหนึ่งอยู่นั้น จู่ ๆ จะค้นหาหรือเปิดรูปภาพส่วนตัวบนโซเชียลมีเดียของเราขึ้นมาหรือไม่
ทำให้ในระหว่างนี้ Anthropic จึงอยู่ระหว่างการปรับปรุงไม่ให้หยุดหรือเปลี่ยนแปลงคำสั่งด้วยตัวเองระหว่างทำงาน และสร้างกฎเกณฑ์ใหม่ให้ Claude เรียนรู้ว่าคำสั่งหรือการกระทำไหนเข้าข่ายเป็นภัยคุกคาม
ที่มา: Futurism
- คอนเทนต์พิเศษ
สำหรับคุณ - TOP ไอที
- วิดีโอยอดนิยม
