Model Armor ให้ทดสอบ Template ใน Console แบบ GA: ดูตัวกรองที่จับและผลปิดบังข้อมูลก่อนใช้จริง

Model Armor ให้ทดสอบ Template ใน Console แบบ GA: ดูตัวกรองที่จับและผลปิดบังข้อมูลก่อนใช้จริง

Google Cloud ประกาศวันที่ 27 ตุลาคม 2026 ว่าการทดสอบ Model Armor template ด้วย sample prompt ใน Console พร้อมใช้งานทั่วไป (GA) ผู้ดูแลสามารถลองข้อความกับ template ที่กำหนดไว้ ดูว่าตัวกรองด้านความปลอดภัยใดตรวจพบ และตรวจผลการปิดบังข้อมูลอ่อนไหวจาก Sensitive Data Protection ได้ก่อนนำการตั้งค่าไปผูกกับแอป AI จริง ความสามารถนี้ช่วยให้ทีมแก้ threshold และข้อยกเว้นจากหลักฐานที่เห็น แทนการปรับกฎโดยเดาจากชื่อฟิลเตอร์

Model Armor template เป็นชุดการตั้งค่าสำหรับคัดกรอง prompt และ response ตามหมวดความเสี่ยง เช่น prompt injection, jailbreak, ลิงก์อันตราย, เนื้อหาที่ไม่เหมาะสม และข้อมูลอ่อนไหว การทดสอบใน Console ไม่ได้สร้างนโยบายที่ปลอดภัยให้อัตโนมัติ แต่ทำให้ตรวจได้ว่า template ปัจจุบันจะจัดการข้อความตัวอย่างอย่างไร ก่อนให้ผลกระทบกับผู้ใช้ production

ขั้นตอนทดสอบที่ Google ระบุ

ตาม คู่มือสร้างและจัดการ template ให้เปิด Model Armor ในโปรเจ็กต์ที่เปิด API แล้ว เลือก template ที่มีอยู่และกด Test หรือระหว่างแก้ไขเลือก Save and test จากนั้นใส่ sample prompt ในช่องทดสอบและกด Run test ผลลัพธ์มีแท็บ Overview สำหรับสรุปว่าเจอ violation หรือไม่ รวมถึงกรณีการประเมินล้มเหลวหรือทำได้เพียงบางส่วน และแท็บ JSON ที่แสดง SanitizationResult ดิบจาก API

ใน Overview สามารถดู transformed input sample หลังผ่านการ de-identification หากตั้งค่า Sensitive Data Protection ไว้ ดูรายการตัวกรองที่พบ violation และรายการที่ไม่พบ โดยสถานะไม่ได้มีเพียงผ่านหรือไม่ผ่าน แต่รวม Match not found, Skipped และ Disabled ด้วย ความต่างนี้สำคัญ: ฟิลเตอร์ที่ถูกปิดหรือถูกข้ามไม่ควรถูกนับว่าได้ตรวจแล้วและปลอดภัย ทีมควรบันทึกว่ากฎใดทำงานจริงในการทดลองแต่ละครั้ง

ออกแบบชุดทดสอบให้มีความหมาย

เริ่มจากข้อความปกติของแอป เช่น คำถามบริการลูกค้าที่อนุญาตให้ตอบ แล้วเพิ่มตัวอย่างที่ควรถูกตรวจ เช่น ข้อความพยายามเปลี่ยนคำสั่งของ agent หรือข้อความที่มีข้อมูลส่วนบุคคลจำลอง ตั้งผลที่คาดหวังสำหรับแต่ละตัวอย่างก่อนรัน หากเพิ่มกฎให้เข้มขึ้นแล้วคำถามปกติถูกบล็อกจำนวนมาก นั่นเป็น false positive ที่กระทบผู้ใช้จริง ในทางกลับกัน ถ้าข้อความทดสอบที่ควรถูกจับผ่านทั้งหมด กฎอาจอ่อนเกินหรือถูกปิดอยู่

ควรทดสอบทั้ง prompt ขาเข้าและ response ขาออกตามรูปแบบการใช้งานของแอป เพราะความเสี่ยงไม่เหมือนกัน Prompt อาจมีคำสั่งแฝงจากเอกสารภายนอก ขณะที่ response อาจหลุดข้อมูลที่ไม่ควรถูกส่งออก การใช้ตัวอย่างภาษาไทย ภาษาอังกฤษ และข้อความผสมมีประโยชน์ โดยเฉพาะเมื่อแอปให้บริการหลายภาษา แต่ต้องตรวจว่า template เปิด multi-language detection และรองรับภูมิภาคกับ modality ที่ต้องการจริง

ข้อจำกัดด้านภูมิภาคและสิทธิ์

เอกสาร Google ระบุว่าการจัดการ template ต้องใช้ regional หรือ multi-regional endpoint ที่ตรงกับ location ของ template; global endpoint ไม่รองรับการจัดการ template และการ sanitize prompt/response ผู้ดูแลที่ทำ automation ผ่าน CLI หรือ API ต้องตรวจ endpoint ที่ตั้งไว้ โดยเฉพาะเมื่อไม่ได้ใช้ us multi-region เป็นค่าเริ่มต้น การทดสอบในโปรเจ็กต์ผิดหรือภูมิภาคผิดอาจทำให้คิดว่า template หายหรือใช้ไม่ได้

การสร้างและจัดการ template ต้องเปิด Model Armor API และมีสิทธิ์ที่เหมาะสม เช่น roles/modelarmor.admin ตามคู่มือ แต่ไม่ควรแจกสิทธิ์ระดับ admin ให้ทุกคนเพื่อรันทดสอบ ควรแยกผู้แก้กฎ ผู้รีวิวผล และผู้อนุมัติใช้งาน production ตามนโยบายองค์กร รวมถึงเก็บชุดตัวอย่างและผลทดสอบไว้ในระบบ version control ที่ไม่มีข้อมูลจริงอ่อนไหว

เรื่อง data residency ก็ต้องพิจารณา เมื่อเลือก location ของ template แล้วแก้ภายหลังไม่ได้ และบางความสามารถอาจถูกปิดหากเปิด enforcement เพื่อไม่ให้ข้อมูลข้ามเขตอำนาจ การปิดข้อจำกัดเพื่อให้การทดสอบ “ผ่าน” อาจเปลี่ยนเส้นทางข้อมูล ดังนั้นหากพบตัวกรองถูก Disabled หรือ Skipped ให้ตรวจเงื่อนไขภูมิภาคก่อนเปลี่ยนนโยบาย ไม่ใช่เพิ่มสิทธิ์หรือปิดการบังคับแบบไม่ทราบผลกระทบ

ใช้ผลทดสอบในกระบวนการปล่อยงาน

ทางปฏิบัติควรมี template สำหรับ staging แยกจาก production ชุดข้อความทดสอบควรครอบคลุมคำถามที่ถูกต้อง ข้อมูลอ่อนไหวจำลอง และกรณีโจมตีที่ได้รับอนุญาตให้ทดสอบ แล้วบันทึกเวอร์ชัน template, location, filter settings, ผลที่คาด และผลจริง หากเปลี่ยน threshold หรือเปิด filter version ใหม่ ให้รันชุดเดิมซ้ำเพื่อดู regression ไม่ควรพึ่งการลอง prompt สองสามอันแล้วสรุปว่าปลอดภัยทั้งหมด

เมื่อผลผ่าน ให้ทดสอบ integration กับแอปจริงอีกชั้น เพราะความยาวข้อความ รูปแบบ tool output และการจัดการ error ใน production อาจต่างจาก prompt ตัวอย่างใน Console ติดตามจำนวนการบล็อกที่ผิดพลาดและเหตุการณ์ที่หลุดรอด พร้อมกำหนดวิธีย้อน template หากกระทบผู้ใช้ การทดสอบแบบ GA เป็นเครื่องมือช่วยเห็นพฤติกรรมของกฎได้ชัดขึ้น แต่การควบคุมความเสี่ยงยังต้องอาศัยชุดทดสอบที่ดีและการติดตามหลังปล่อยงาน

แหล่งต้นทาง: Google Cloud release notes วันที่ 27 ตุลาคม 2026 และ คู่มือ Test a Model Armor template