Amazon SageMaker JumpStart เพิ่มตารางเทียบโมเดลด้านคุณภาพ ความเร็ว และต้นทุน
Amazon SageMaker JumpStart เพิ่มตารางจัดอันดับใน SageMaker Studio ให้ผู้ดูแลระบบเทียบคุณภาพ ความเร็ว และต้นทุนเพื่อคัดโมเดลไปทดสอบกับงานจริง
Amazon SageMaker JumpStart เพิ่มตารางเทียบโมเดลด้านคุณภาพ ความเร็ว และต้นทุน
Amazon SageMaker JumpStart เพิ่มตารางจัดอันดับใน SageMaker Studio ให้ผู้ดูแลระบบเทียบคุณภาพ ความเร็ว และต้นทุนเพื่อคัดโมเดลไปทดสอบกับงานจริง

การใช้ตารางจัดอันดับเพื่อคัดเลือกโมเดล
Amazon SageMaker JumpStart เพิ่มตารางจัดอันดับโมเดลใน Amazon SageMaker Studio ให้ผู้ดูแลระบบที่ใช้บริการนี้เปรียบเทียบโมเดลพื้นฐานพร้อมกันตามอัตราการประมวลผล เวลาแฝง และต้นทุน คำแนะนำคือใช้ข้อมูลเหล่านี้คัดโมเดลให้เหมาะกับภาระงานก่อนตัดสินใจนำไปใช้งานหรือปรับแต่ง AWS
AWS ประเมินความสามารถด้านการให้เหตุผลของแต่ละโมเดลด้วยเงื่อนไขเดียวกันบน BIG-Bench Hard, GPQA Diamond และ MMLU-Pro ส่วนการวัดประสิทธิภาพและต้นทุนในแต่ละรูปแบบการติดตั้งของ JumpStart บน SageMaker ครอบคลุมเวลาจนได้โทเคนแรก อัตราการประมวลผล และต้นทุนอินสแตนซ์ AWS
ผลที่ AWS รายงานอิงชุดประเมินและรูปแบบการติดตั้งที่ใช้วัด จึงยังบอกไม่ได้ว่าโมเดลจะให้คุณภาพ ความเร็ว และต้นทุนเท่าใดกับงานของแต่ละทีม คำแนะนำคือทดสอบโมเดลที่ผ่านการคัดเลือกด้วยคำขอที่เป็นตัวแทนของงานจริงและระดับการใช้งานที่คาดไว้ก่อนเลือกใช้ AWS
AWS เปิดให้ใช้ตารางจัดอันดับโดยไม่มีค่าใช้จ่ายเพิ่มเติมในทุก AWS Region เชิงพาณิชย์ที่มี Amazon SageMaker Studio ผู้ดูแลระบบเข้าดูได้จากมุมมอง Leaderboard ใน SageMaker JumpStart ภายใน Studio AWS
หากทีมกำลังพิจารณารันโมเดลบนเซิร์ฟเวอร์เฉพาะ คำแนะนำคือวัดเวลาตอบสนอง อัตราการประมวลผล และต้นทุนภายใต้ภาระงานของทีมเอง แล้วใช้ผลวัดประกอบการตัดสินใจเรื่องโครงสร้างพื้นฐาน