Anthropic เปิดให้ METR เข้าตรวจสอบระบบภายใน เพิ่มความโปร่งใสด้านความปลอดภัย AI

Anthropic เปิดให้ METR องค์กรไม่แสวงหากำไรที่ทำหน้าที่ประเมินความเสี่ยงของ AI เข้าถึงระบบภายในในระดับใกล้เคียงกับทีมประเมินความเสี่ยงของบริษัท เพื่อสนับสนุนการตรวจสอบจากภายนอกและเพิ่มความโปร่งใสในการพัฒนาโมเดล AI อย่างไรก็ตาม ข้อมูลบางประเภท เช่น ข้อมูลลูกค้าและรายละเอียดสถาปัตยกรรมโมเดล ยังคงถูกจำกัดการเข้าถึง

Anthropic เพิ่มบทบาทผู้ประเมินความปลอดภัยจากภายนอก

เมื่อวันที่ 15 ตุลาคม 2026 Anthropic ประกาศความร่วมมือกับ Model Evaluation and Threat Research หรือ METR ซึ่งเป็นองค์กรไม่แสวงหากำไรที่ทำงานด้านการประเมินความสามารถและความเสี่ยงของระบบ AI ความร่วมมือนี้เปิดให้ผู้ประเมินจากภายนอกเข้าถึงระบบภายในของ Anthropic ในระดับที่ใกล้เคียงกับทีมประเมินความเสี่ยงของบริษัท

ตามรายงานของ Reuters ความร่วมมือดังกล่าวมีเป้าหมายช่วยให้การประเมินความเสี่ยงไม่ได้อาศัยเพียงข้อมูลที่บริษัทเลือกเผยแพร่ แต่เปิดโอกาสให้ผู้ประเมินศึกษากระบวนการและตรวจสอบข้อกังวลได้ลึกขึ้น

แนวทางนี้มีความสำคัญในช่วงที่โมเดล AI มีความสามารถเพิ่มขึ้นอย่างรวดเร็ว ทั้งด้านการเขียนโค้ด การใช้เครื่องมือ และการดำเนินงานหลายขั้นตอน ซึ่งอาจก่อให้เกิดความเสี่ยงที่ไม่สามารถประเมินได้จากการทดสอบคำตอบทั่วไปเพียงอย่างเดียว

METR จะเข้าถึงข้อมูลประเภทใด

รายงานระบุว่าพนักงานของ METR จำนวน 6 คนได้รับอุปกรณ์ทำงาน พื้นที่สำนักงาน และสิทธิ์เข้าถึงระบบภายในบางส่วนในระดับใกล้เคียงกับทีมประเมินความเสี่ยงของ Anthropic

อย่างไรก็ตาม การเข้าถึงไม่ได้ครอบคลุมทุกอย่าง ข้อมูลลูกค้า ข้อมูลที่อยู่ภายใต้เอกสิทธิ์ทางกฎหมาย และรายละเอียดสถาปัตยกรรมของโมเดลยังคงเป็นข้อมูลที่ถูกจำกัด

การกำหนดขอบเขตลักษณะนี้สะท้อนความพยายามสร้างสมดุลระหว่างการเปิดให้ตรวจสอบกับการปกป้องข้อมูลสำคัญของบริษัท เพราะการประเมินความปลอดภัยอาจจำเป็นต้องเข้าถึงข้อมูลเชิงลึก แต่ในขณะเดียวกันก็ต้องหลีกเลี่ยงการเปิดเผยข้อมูลส่วนบุคคลหรือความลับทางธุรกิจที่ไม่เกี่ยวข้อง

การเผยแพร่ผลตรวจสอบและข้อจำกัดด้านความเป็นอิสระ

หนึ่งในประเด็นสำคัญคือ METR สามารถเผยแพร่ข้อค้นพบเกี่ยวกับความเสี่ยง เหตุการณ์ และแนวปฏิบัติของ Anthropic ได้ โดยบริษัทอาจร้องขอให้ปกปิดข้อมูลบางส่วนภายใต้ขอบเขตที่จำกัด

METR ยังสามารถตั้งคำถามต่อการปกปิดข้อมูลดังกล่าวได้ โดยไม่จำเป็นต้องเปิดเผยข้อมูลที่ถูกระงับไว้โดยตรง

ถึงกระนั้น การประเมินโดยองค์กรภายนอกก็ยังมีข้อจำกัด เนื่องจากบริษัทผู้พัฒนาเป็นผู้กำหนดเงื่อนไขการเข้าถึงระบบ ผู้ประเมินจึงต้องพิจารณาว่าขอบเขตข้อมูลที่ได้รับเพียงพอต่อการสรุปความเสี่ยงหรือไม่ และผลการประเมินสะท้อนการทำงานจริงได้มากน้อยเพียงใด

เหตุใดการตรวจสอบ AI จึงสำคัญขึ้น

ระบบ AI รุ่นใหม่อาจทำงานกับเครื่องมือ ซอฟต์แวร์ และข้อมูลภายนอกได้ การประเมินจึงต้องครอบคลุมทั้งความแม่นยำ ความปลอดภัย ความสามารถในการทำตามคำสั่งที่เป็นอันตราย และพฤติกรรมที่อาจเกิดขึ้นเมื่อระบบได้รับสิทธิ์ทำงานอย่างต่อเนื่อง

การมีผู้ประเมินภายนอกสามารถช่วยเพิ่มมุมมองที่แตกต่างจากทีมพัฒนาภายใน แต่จะมีประสิทธิภาพก็ต่อเมื่อผู้ประเมินเข้าถึงหลักฐานที่เพียงพอ มีอิสระในการสรุปผล และสามารถอธิบายข้อจำกัดของการตรวจสอบได้อย่างโปร่งใส

สรุป

ความร่วมมือระหว่าง Anthropic และ METR เป็นอีกแนวทางในการเพิ่มการตรวจสอบความปลอดภัย AI จากภายนอก โดยเปิดให้เข้าถึงระบบภายในในระดับสูงขึ้น พร้อมกำหนดข้อจำกัดเกี่ยวกับข้อมูลสำคัญ ผลลัพธ์ของความร่วมมือนี้จะมีความสำคัญต่อการประเมินว่าโมเดล AI สามารถพัฒนาอย่างรวดเร็วควบคู่ไปกับความโปร่งใสและการจัดการความเสี่ยงได้มากเพียงใด

---

ที่มา: Reuters , TechCrunch