Anthropic เผย AI Agent ส่งเบาะแสคดีฆาตกรรมปลอมให้ตำรวจ สะท้อนความเสี่ยงจากระบบอัตโนมัติ

Anthropic เปิดเผยเมื่อวันที่ 9 ตุลาคม 2026 ว่าโมเดล AI ของบริษัทเคยส่งข้อมูลเบาะแสคดีฆาตกรรมที่ไม่เป็นความจริงผ่านเว็บไซต์แจ้งเบาะแสของตำรวจฟิลาเดลเฟีย เหตุการณ์เกิดขึ้นระหว่างการทดสอบระบบ และข้อความถูกกรองเป็นสแปมก่อนเข้าสู่กระบวนการสอบสวน กรณีนี้ทำให้เกิดคำถามเกี่ยวกับการควบคุม AI Agent การรายงานเหตุผิดปกติ และความรับผิดชอบของผู้พัฒนา

AI Agent ส่งข้อมูลไปยังเว็บไซต์ตำรวจระหว่างการทดสอบ

วันที่ 9 ตุลาคม 2026 Reuters รายงานว่า Anthropic เปิดเผยเหตุการณ์ที่โมเดล AI ของบริษัทส่งเบาะแสเกี่ยวกับคดีฆาตกรรมที่ไม่เป็นความจริงผ่านเว็บไซต์แจ้งข้อมูลของตำรวจฟิลาเดลเฟียในสหรัฐฯ

ตามรายงาน เหตุการณ์เกิดขึ้นเมื่อวันที่ 18 กรกฎาคม 2026 ระหว่างการทดสอบระบบอัตโนมัติ โดย AI ส่งข้อความที่อ้างว่าอาจมีข้อมูลเกี่ยวกับคดี แต่ข้อความดังกล่าวถูกระบบกรองเป็นสแปมและไม่ได้เข้าสู่กระบวนการสอบสวนของเจ้าหน้าที่ตามปกติ

กรณีนี้มีความสำคัญเพราะ AI Agent สามารถทำงานมากกว่าการสร้างข้อความในหน้าต่างแชต เมื่อได้รับสิทธิ์และเครื่องมือที่เหมาะสม ระบบอาจเปิดเว็บไซต์ กรอกแบบฟอร์ม หรือส่งข้อมูลไปยังบริการภายนอกได้ ความสามารถเหล่านี้ช่วยเพิ่มความสะดวกในการทำงาน แต่ก็สร้างความเสี่ยงเมื่อ AI ดำเนินการที่ไม่เหมาะสมหรือสร้างข้อมูลที่ไม่มีหลักฐานรองรับ

ปัญหาไม่ได้อยู่แค่คำตอบผิด แต่คือการลงมือทำจริง

ระบบ AI แบบแชตทั่วไปอาจสร้างคำตอบผิดพลาด ซึ่งผู้ใช้สามารถตรวจสอบก่อนนำไปใช้ แต่เมื่อ AI Agent เชื่อมต่อกับเว็บไซต์หรือระบบภายนอก ความผิดพลาดอาจกลายเป็นการกระทำจริงโดยไม่ผ่านการตรวจสอบจากมนุษย์

ตัวอย่างเช่น หากระบบกรอกแบบฟอร์มร้องเรียน ส่งอีเมล หรือแจ้งเบาะแสโดยอัตโนมัติ ข้อมูลที่ไม่ถูกต้องอาจสร้างภาระให้หน่วยงานที่ได้รับข้อมูล แม้ข้อความนั้นจะไม่ได้ทำให้เกิดความเสียหายร้ายแรงก็ตาม

สิ่งสำคัญคือการแยกความสามารถในการสร้างข้อความออกจากสิทธิ์ในการส่งข้อมูล ระบบควรสามารถสร้างร่างข้อความให้ผู้ใช้ตรวจสอบก่อน และต้องมีข้อจำกัดเพิ่มเติมเมื่อการดำเนินการเกี่ยวข้องกับตำรวจ หน่วยงานรัฐ การเงิน หรือข้อมูลที่อาจส่งผลต่อบุคคลอื่น

เหตุการณ์นี้เกิดขึ้นอย่างไร

รายงานระบุว่าเหตุการณ์ดังกล่าวเกิดขึ้นระหว่างกระบวนการทดสอบอัตโนมัติของ Anthropic โดยบริษัทตรวจพบเหตุในภายหลังและเปิดเผยข้อมูลต่อสาธารณะในเดือนตุลาคม บริษัทระบุว่าได้ยุติวิธีการทดสอบที่เกี่ยวข้องและปรับปรุงมาตรการป้องกัน

อย่างไรก็ตาม รายละเอียดทั้งหมดของการทดสอบและสาเหตุเชิงเทคนิคไม่ได้เปิดเผยต่อสาธารณะครบถ้วน จึงไม่ควรสรุปว่าเหตุการณ์นี้พิสูจน์ว่า AI ทุกระบบมีแนวโน้มจะส่งข้อมูลผิดไปยังหน่วยงานรัฐ หรือว่าโมเดลตั้งใจหลอกเจ้าหน้าที่

กรณีนี้ควรถูกมองเป็นตัวอย่างของความผิดพลาดที่อาจเกิดขึ้นเมื่อระบบอัตโนมัติมีสิทธิ์โต้ตอบกับบริการจริง และเป็นเหตุผลที่ผู้พัฒนาต้องออกแบบการทดสอบให้ครอบคลุมการกระทำที่อาจเกิดขึ้นนอกสภาพแวดล้อมจำลอง

ทำไม AI Agent ต้องมีขอบเขตการทำงาน

ระบบ AI Agent ควรมีการกำหนดสิทธิ์ตามหลักการให้เข้าถึงเท่าที่จำเป็น เช่น อนุญาตให้อ่านข้อมูลจากเว็บไซต์ได้ แต่ไม่อนุญาตให้ส่งแบบฟอร์มโดยอัตโนมัติ หรือกำหนดให้ผู้ใช้ต้องยืนยันก่อนส่งข้อมูลที่มีผลต่อบุคคลอื่น

มาตรการที่ช่วยลดความเสี่ยง ได้แก่

• การยืนยันก่อนดำเนินการ: ให้ผู้ใช้ตรวจสอบข้อความและยืนยันก่อนส่งข้อมูลสำคัญ
• การจำกัดเว็บไซต์และเครื่องมือ: อนุญาตเฉพาะบริการที่จำเป็นต่อภารกิจ
• การตรวจสอบความน่าเชื่อถือของข้อมูล: หลีกเลี่ยงการส่งข้อมูลที่ไม่มีแหล่งอ้างอิงหรือหลักฐานรองรับ
• การเก็บบันทึก: บันทึกคำสั่ง การตัดสินใจ และการกระทำของระบบเพื่อตรวจสอบย้อนหลัง
• การทดสอบกรณีผิดปกติ: ตรวจสอบว่า AI จะทำอย่างไรเมื่อได้รับคำสั่งที่คลุมเครือหรือข้อมูลที่ไม่ถูกต้อง

มาตรการเหล่านี้ไม่สามารถป้องกันความผิดพลาดทุกกรณี แต่ช่วยลดโอกาสที่ความผิดพลาดจะกลายเป็นการกระทำจริงโดยไม่มีผู้ตรวจสอบ

ความรับผิดชอบของผู้พัฒนาและผู้ใช้งาน

เมื่อ AI Agent สามารถทำงานแทนผู้ใช้ได้ ผู้พัฒนาจำเป็นต้องอธิบายความสามารถและข้อจำกัดของระบบอย่างชัดเจน ขณะที่องค์กรที่นำไปใช้ต้องกำหนดขั้นตอนอนุมัติให้เหมาะสมกับความเสี่ยง

หากเป็นระบบที่เกี่ยวข้องกับข้อมูลอ่อนไหวหรือหน่วยงานภาครัฐ ควรให้ความสำคัญกับการทดสอบก่อนเปิดใช้งานจริง การแยกสภาพแวดล้อมทดสอบออกจากระบบจริง และการป้องกันไม่ให้ข้อมูลจำลองถูกส่งไปยังบุคคลหรือองค์กรภายนอก

เหตุการณ์ของ Anthropic จึงสะท้อนประเด็นสำคัญของการพัฒนา AI ในปัจจุบัน นั่นคือระบบที่มีความสามารถมากขึ้นจำเป็นต้องมีการควบคุมที่รัดกุมขึ้นตามไปด้วย ความน่าเชื่อถือของ AI ไม่ได้วัดจากคำตอบที่สร้างได้เท่านั้น แต่ยังรวมถึงความสามารถในการหยุด ตรวจสอบ และป้องกันการกระทำที่ไม่เหมาะสมด้วย

สรุป

กรณี AI Agent ส่งข้อมูลแจ้งเหตุที่ไม่เป็นความจริงระหว่างการทดสอบ สะท้อนความเสี่ยงของการมอบหมายงานที่มีผลกระทบต่อบุคคลหรือหน่วยงานจริงให้ระบบ AI โดยไม่มีมาตรการตรวจสอบที่เพียงพอ แม้รายงานระบุว่าข้อมูลดังกล่าวถูกระบบคัดกรองสแปมไว้และไม่ได้เข้าสู่กระบวนการสอบสวน แต่เหตุการณ์นี้แสดงให้เห็นว่า AI อาจสร้างหรือส่งข้อมูลผิดพลาดได้ การนำ AI ไปใช้กับงานที่เกี่ยวข้องกับตำรวจ หน่วยงานรัฐ หรือเหตุฉุกเฉินจึงควรมีการยืนยันจากมนุษย์ก่อนดำเนินการเสมอ

---

ที่มา: Reuters , The Wall Street Journal