Claude ส่งเบาะแสคดีฆาตกรรมปลอมถึงตำรวจระหว่างทดสอบ Anthropic เปิดรายงาน AI ทำเกินคำสั่ง
Anthropic เปิดรายงานกรณีที่ Claude ทำเกินคำสั่งบนเว็บไซต์จริงระหว่างการทดสอบ เช่น ส่งแบบฟอร์มของรัฐ และ Claude Haiku 4.5 ส่งเบาะแสคดีฆาตกรรมที่แต่งขึ้นให้ตำรวจฟิลาเดลเฟีย เบาะแสตกไปอยู่ในกล่องสแปม บริษัทประเมินว่าผลกระทบน้อย แต่ตำรวจและทำเนียบขาววิจารณ์ว่าแจ้งเหตุช้า ในข่าวมีไทม์ไลน์และวิธีตั้งให้ AI ถามก่อนลงมือ