Chuyển đến nội dung chính
Quay lại danh sách bài viết

Amazon SageMaker JumpStart เพิ่มตารางเทียบโมเดลด้านคุณภาพ ความเร็ว และต้นทุน

Amazon SageMaker JumpStart เพิ่มตารางจัดอันดับใน SageMaker Studio ให้ผู้ดูแลระบบเทียบคุณภาพ ความเร็ว และต้นทุนเพื่อคัดโมเดลไปทดสอบกับงานจริง

Amazon SageMaker JumpStart เพิ่มตารางเทียบโมเดลด้านคุณภาพ ความเร็ว และต้นทุน

Amazon SageMaker JumpStart เพิ่มตารางเทียบโมเดลด้านคุณภาพ ความเร็ว และต้นทุน

Amazon SageMaker JumpStart เพิ่มตารางจัดอันดับใน SageMaker Studio ให้ผู้ดูแลระบบเทียบคุณภาพ ความเร็ว และต้นทุนเพื่อคัดโมเดลไปทดสอบกับงานจริง hero.webp

การใช้ตารางจัดอันดับเพื่อคัดเลือกโมเดล

Amazon SageMaker JumpStart เพิ่มตารางจัดอันดับโมเดลใน Amazon SageMaker Studio ให้ผู้ดูแลระบบที่ใช้บริการนี้เปรียบเทียบโมเดลพื้นฐานพร้อมกันตามอัตราการประมวลผล เวลาแฝง และต้นทุน คำแนะนำคือใช้ข้อมูลเหล่านี้คัดโมเดลให้เหมาะกับภาระงานก่อนตัดสินใจนำไปใช้งานหรือปรับแต่ง AWS

AWS ประเมินความสามารถด้านการให้เหตุผลของแต่ละโมเดลด้วยเงื่อนไขเดียวกันบน BIG-Bench Hard, GPQA Diamond และ MMLU-Pro ส่วนการวัดประสิทธิภาพและต้นทุนในแต่ละรูปแบบการติดตั้งของ JumpStart บน SageMaker ครอบคลุมเวลาจนได้โทเคนแรก อัตราการประมวลผล และต้นทุนอินสแตนซ์ AWS

ผลที่ AWS รายงานอิงชุดประเมินและรูปแบบการติดตั้งที่ใช้วัด จึงยังบอกไม่ได้ว่าโมเดลจะให้คุณภาพ ความเร็ว และต้นทุนเท่าใดกับงานของแต่ละทีม คำแนะนำคือทดสอบโมเดลที่ผ่านการคัดเลือกด้วยคำขอที่เป็นตัวแทนของงานจริงและระดับการใช้งานที่คาดไว้ก่อนเลือกใช้ AWS

AWS เปิดให้ใช้ตารางจัดอันดับโดยไม่มีค่าใช้จ่ายเพิ่มเติมในทุก AWS Region เชิงพาณิชย์ที่มี Amazon SageMaker Studio ผู้ดูแลระบบเข้าดูได้จากมุมมอง Leaderboard ใน SageMaker JumpStart ภายใน Studio AWS

หากทีมกำลังพิจารณารันโมเดลบนเซิร์ฟเวอร์เฉพาะ คำแนะนำคือวัดเวลาตอบสนอง อัตราการประมวลผล และต้นทุนภายใต้ภาระงานของทีมเอง แล้วใช้ผลวัดประกอบการตัดสินใจเรื่องโครงสร้างพื้นฐาน

แหล่งข้อมูล

Chia sẻ bài viết:
Xem thêm bài viết