Model Armor เพิ่ม Exclusion Rules ให้การกรอง AI แบบสตรีม ต้องระวัง Full Match ใน Real-time

Google Cloud ประกาศวันที่ 2 พฤศจิกายน 2026 ว่า Model Armor รองรับ exclusion rules แบบกำหนดเฉพาะ template ในการ sanitization ข้อมูลแบบสตรีมแล้ว โดยยังอยู่ใน Preview กฎนี้ช่วยลด false positive เมื่อระบบตรวจ prompt injection, jailbreak หรือ Responsible AI ตีความคำสั่งที่ใช้ในงานจริงว่าเป็นสิ่งเสี่ยง เช่นข้อความให้ “ignore empty rows” ในงานประมวลผลตาราง อย่างไรก็ตาม exclusion rule เป็นข้อยกเว้นต่อผลตัวกรอง จึงต้องออกแบบแคบและทดสอบผลทั้งด้านความแม่นยำกับความปลอดภัย

สองโหมดสตรีมรองรับขอบเขตไม่เท่ากัน

เอกสารระบุว่า STREAMING_MODE_BUFFERED รองรับทั้งการจับคู่บางส่วน (MATCHING_SCOPE_PARTIAL_MATCH) และการจับคู่ทั้งข้อความ (MATCHING_SCOPE_FULL_MATCH) เพราะระบบสะสม chunk จนได้เนื้อหาครบก่อนประเมินกฎ ส่วน STREAMING_MODE_REALTIME รองรับการจับคู่บางส่วนเท่านั้น และเป็นโหมดสตรีมเริ่มต้น หากใช้กฎ full match กับคำขอ real-time จะถูกปฏิเสธด้วย INVALID_ARGUMENT ไม่ใช่เพียงเพิกเฉยต่อกฎ ทีมที่กำลังเพิ่มข้อยกเว้นให้ระบบสตรีมอยู่จึงต้องตรวจทั้งการตั้งค่า template และโหมดที่ client เรียกใช้

ในโหมด buffered การจับคู่บางส่วนจะดูเนื้อหารวมทั้งสตรีม หากคำใน dictionary หรือ regular expression ตรงกับส่วนใดส่วนหนึ่ง ผลตัวกรองชนิดนั้นอาจถูกเปลี่ยนเป็น NO_MATCH_FOUND สำหรับเนื้อหาที่ประเมิน ในโหมด real-time ระบบประเมิน chunk ที่ประมวลผลแยกกัน ข้อยกเว้นใน chunk หนึ่งไม่ได้แปลว่าทุก chunk ต่อไปถูกข้ามการตรวจ ความต่างนี้มีผลต่อการทดสอบข้อความที่ถูกแบ่ง chunk ไม่เหมือนกันระหว่างสภาพแวดล้อม

ข้อยกเว้นทำงานกว้างกว่าคำที่จับคู่

เอกสาร Google อธิบายว่าหาก exclusion rule ตรง ระบบจะ override ผล MATCH_FOUND หรือ EXECUTION_SKIPPED เป็น NO_MATCH_FOUND สำหรับตัวกรองทั้งชนิด ไม่ได้ตัดเฉพาะวลีที่ตรงออกจากข้อความ ตัวอย่างเช่นกฎที่กว้างเกินไปสำหรับคำว่า ignore อาจกลบผลตรวจอันตรายอื่นใน prompt เดียวกันได้ ผู้ดูแลควรใช้วลีที่มีบริบทหรือ regex ที่ผูกคำกริยากับคำนามเป้าหมาย เช่นงานจัดการแถวว่าง แทนการยกเว้นคำกริยาทั่วไป

กฎต้องตั้งใน template ที่ต้องการใช้เท่านั้น ไม่สามารถแชร์กฎชุดเดียวข้าม template และไม่รองรับใน floor settings อีกทั้งต้องเปิดตัวกรองที่เกี่ยวข้องก่อนจึงกำหนดข้อยกเว้นได้ สำหรับ prompt injection และ jailbreak ต้องเปิด PROMPT_INJECTION_AND_JAILBREAK ส่วน Responsible AI ต้องตั้งค่าอย่างน้อยหนึ่งหมวดใน raiSettings.raiFilters การมีข้อความกฎในคอนฟิกโดยตัวกรองที่เกี่ยวข้องไม่เปิดจะไม่ใช่วิธีตรวจว่าระบบใช้งานได้จริง

แนวทางทดสอบก่อนเปิดให้ผู้ใช้

เก็บตัวอย่าง false positive ที่เกิดขึ้นจริงแล้วเขียนข้อยกเว้นให้ตรงเฉพาะรูปแบบนั้น สร้างชุดทดสอบอีกด้านซึ่งมีคำหรือวลีเดียวกันอยู่ในคำสั่งที่ไม่ควรถูกยกเว้น เพื่อจับกฎที่กว้างเกินไป ทดสอบทั้ง prompt และคำตอบของโมเดล รวมถึงการแบ่งสตรีมหลายแบบ โดยเฉพาะเมื่อใช้ real-time ที่พิจารณาเป็น chunk หากเปลี่ยนเป็น buffered เพื่อใช้ full match ต้องวัดผลต่อความหน่วงและประสบการณ์สตรีมด้วย

Google แนะนำให้เปิด logSanitizeOperations ใน template เพื่อดูบันทึกของการ override และค้น label modelarmor.googleapis.com/exclusion_rule_overridden_filters หรือ modelarmor.googleapis.com/exclusion_rule_skipped_filters ใน Cloud Logging การตรวจ log ช่วยแยกได้ว่าผลปลอดภัยมาจากการไม่พบความเสี่ยงจริงหรือมาจากข้อยกเว้นที่กำหนดไว้ อีกข้อจำกัดคือระบบประเมินกฎกับ raw input ก่อนการแปลงข้อความ เช่น de-identification หรือ translation และไม่มีการแปลหลายภาษาให้อัตโนมัติ หากระบบรับภาษาไทยกับอังกฤษต้องออกแบบตัวอย่างและกฎของแต่ละภาษาต่างหาก

ความสามารถใหม่นี้เป็นเครื่องมือแก้ false positive ที่ละเอียดขึ้นสำหรับแอป AI แบบสตรีม แต่ต้องมองเป็นการเปลี่ยนนโยบายการกรองจริง ไม่ใช่เพียงปรับข้อความแจ้งเตือน ควรกำหนดเจ้าของกฎ ขอบเขต template ชุดทดสอบ และการตรวจ log ก่อนใช้งานจริง

แหล่งข่าว: Google Cloud Release Notes ประกาศ 2 พฤศจิกายน 2026 และ คู่มือ exclusion rules ของ Model Armor