NVIDIA เปิด Open Agent Safety Platform คุมความปลอดภัย AI Agent ตั้งแต่ทดสอบจนใช้งานจริง
NVIDIA เปิดตัว Open Agent Safety Platform แพลตฟอร์มซอฟต์แวร์แบบเปิดสำหรับช่วยรักษาความปลอดภัยของ AI Agent ตั้งแต่ขั้นตอนการทดสอบไปจนถึงการนำไปใช้งานจริง
NVIDIA เปิดตัว Open Agent Safety Platform แพลตฟอร์มซอฟต์แวร์แบบเปิดสำหรับช่วยรักษาความปลอดภัยของ AI Agent ตั้งแต่ขั้นตอนการทดสอบไปจนถึงการนำไปใช้งานจริง ระบบประกอบด้วย OpenShell ซอฟต์แวร์ Open Source ที่สร้างขอบเขตความปลอดภัยและตรวจสอบการทำงานของ Agent และ NVIDIA Sentry ระบบเฝ้าระวังที่ทำงานแยกจาก Agent เพื่อช่วยตรวจจับและควบคุมพฤติกรรมที่ผิดปกติ โดย NVIDIA ระบุว่าโครงการนี้มีเป้าหมายสร้างมาตรฐานด้านความปลอดภัยสำหรับยุค Agentic AI
NVIDIA เปิดตัวระบบความปลอดภัยสำหรับ AI Agent
NVIDIA เปิดตัว NVIDIA Open Agent Safety Platform เมื่อวันที่ 28 กันยายน 2026 เพื่อช่วยจัดการ ความปลอดภัยของ AI Agent ตั้งแต่ขั้นตอน Development, Testing ไปจนถึง Deployment
แพลตฟอร์มประกอบด้วยสองส่วนสำคัญ ได้แก่
- NVIDIA OpenShell
- NVIDIA Sentry
NVIDIA ระบุว่าแนวคิดของแพลตฟอร์มคือการสร้าง Security Boundary และระบบควบคุมที่สามารถตรวจสอบการกระทำของ AI Agent ได้อย่างต่อเนื่อง
ทำไม AI Agent ถึงต้องมีระบบความปลอดภัยเฉพาะ?
AI Agent แตกต่างจาก Chatbot เพราะสามารถใช้เครื่องมือและดำเนินการต่าง ๆ ได้ ตัวอย่างเช่น Agent สามารถ
- รับคำสั่ง
- วางแผน
- เรียกใช้ Tool
- อ่านข้อมูล
- เขียนไฟล์
- เรียก API
- ใช้งาน Software
- ทำงานต่อเนื่องหลายขั้นตอน
เมื่อ AI มีสิทธิ์ทำสิ่งเหล่านี้ ความผิดพลาดเพียงครั้งเดียวอาจส่งผลต่อระบบอื่นได้
NVIDIA จึงพยายามสร้างระบบที่สามารถควบคุม Agent ในระดับ Infrastructure
OpenShell ทำหน้าที่เป็น Security Boundary
หนึ่งในองค์ประกอบหลักคือ OpenShell
NVIDIA อธิบายว่า OpenShell เป็นซอฟต์แวร์ Open Source ที่ทำหน้าที่สร้างขอบเขตความปลอดภัยให้กับ AI Agent
ระบบสามารถติดตาม Action ของ Agent และบังคับใช้นโยบายที่กำหนดไว้ขณะที่ Agent ทำงาน แนวคิดนี้คล้ายกับการสร้างพื้นที่ทำงานแยกสำหรับ Agent
แทนที่จะปล่อยให้ AI เข้าถึงระบบทั้งหมดโดยตรง ระบบสามารถกำหนดว่า Agent มีสิทธิ์ทำอะไรได้บ้าง
NVIDIA Sentry ทำหน้าที่เฝ้าระวังแยกจาก Agent
อีกองค์ประกอบหนึ่งคือ NVIDIA Sentry
Sentry เป็น Reference System Design ที่ทำหน้าที่เป็น Watchdog และทำงานนอกเส้นทางหลักของ Agent
NVIDIA ระบุว่า Sentry สามารถทำงานบน NVIDIA BlueField-4 DPU เพื่อช่วยตรวจสอบพฤติกรรมของ Agent อย่างต่อเนื่อง
แนวทางนี้มีความสำคัญเพราะหากระบบรักษาความปลอดภัยทำงานอยู่ใน Software เดียวกับ Agent ทั้งหมด ก็อาจมีความเสี่ยงหาก Agent หรือ Software Stack ถูกโจมตี
NVIDIA ต้องการให้ระบบรองรับ Hardware หลายค่าย
แม้ NVIDIA จะเป็นผู้พัฒนาแพลตฟอร์ม แต่ OpenShell ถูกออกแบบให้สามารถขยายไปทำงานกับ Compute Platform ของบริษัทอื่นได้
NVIDIA ระบุว่าสามารถนำ OpenShell ไปประยุกต์ใช้กับ Platform จาก Arm และ Intel ได้ด้วย
เรื่องนี้มีความสำคัญต่อการสร้างมาตรฐาน Agent Security เพราะ Data Center ในโลกจริงไม่ได้ใช้ Hardware จากบริษัทเดียวทั้งหมด
AI Agent กำลังกลายเป็นซอฟต์แวร์ที่มีสิทธิ์ลงมือทำ
ในอดีต Software ส่วนใหญ่ทำงานตามคำสั่งที่เขียนไว้อย่างชัดเจน
แต่ AI Agent สามารถตีความเป้าหมายและตัดสินใจว่าจะใช้ Tool ใดเพื่อทำงานให้สำเร็จ
สิ่งนี้ทำให้ Security Model ต้องเปลี่ยนจาก
“แอปนี้สามารถเข้าถึงอะไรได้บ้าง?”
ไปสู่
“AI Agent สามารถทำอะไรได้บ้างในสถานการณ์ต่าง ๆ?”
นี่เป็นเหตุผลที่ระบบอย่าง OpenShell และ Sentry มีความสำคัญต่อ Agentic AI
Agent Security อาจกลายเป็น Infrastructure ใหม่
หาก AI Agent ถูกนำมาใช้ในองค์กรอย่างกว้างขวาง บริษัทอาจมี Agent หลายสิบหรือหลายร้อยตัวทำงานพร้อมกัน
แต่ละ Agent อาจมีสิทธิ์แตกต่างกัน เช่น
- อ่านข้อมูล
- เขียนไฟล์
- เรียก API
- ส่งอีเมล
- เข้าถึงฐานข้อมูล
- ใช้ Cloud Service
ระบบ Security จึงจำเป็นต้องสามารถติดตาม Action ของ Agent แต่ละตัวได้
NVIDIA เปิดทางให้เกิดมาตรฐานร่วม
NVIDIA ระบุว่าแพลตฟอร์มนี้เกิดจากความร่วมมือระหว่างภาคอุตสาหกรรม นักวิจัย และหน่วยงานภาครัฐ โดยมีเป้าหมายเพื่อพัฒนาแนวทางที่ปลอดภัยกว่าในการนำ AI Agent ไปใช้งาน
การเปิดส่วนประกอบบางส่วนเป็น Open Source ยังช่วยให้นักพัฒนาสามารถนำแนวคิดไปทดลองและปรับใช้กับระบบของตัวเองได้
สรุป
NVIDIA เปิดตัว Open Agent Safety Platform เพื่อรับมือกับความเสี่ยงจาก AI Agent ที่กำลังมีความสามารถเพิ่มขึ้น
ระบบประกอบด้วย OpenShell ซึ่งสร้าง Security Boundary และติดตาม Action ของ Agent และ Sentry ซึ่งทำหน้าที่เป็นระบบ Watchdog แยกจาก Agent
การเปิดตัวครั้งนี้สะท้อนว่า AI Agent กำลังเข้าสู่ช่วงที่ Security ไม่สามารถพึ่งพาเฉพาะตัวโมเดลได้อีกต่อไป แต่ต้องควบคุมตั้งแต่ Runtime, Hardware, Software และสิทธิ์การเข้าถึงระบบ
ที่มา: NVIDIA Newsroom / HPCwire