Chuyển đến nội dung chính
Quay lại danh sách bài viết

FastAPI 0.163.0 เพิ่มเพดานงานพร้อมกันให้ dependency ด้วย max_concurrency

FastAPI 0.163.0 เพิ่ม Depends(max_concurrency) เพื่อจำกัดงานพร้อมกันของ dependency พร้อมข้อควรระวังเรื่องการแชร์ limit, worker และ deadlock

FastAPI 0.163.0 เพิ่มเพดานงานพร้อมกันให้ dependency ด้วย max_concurrency

FastAPI 0.163.0 เพิ่มเพดานงานพร้อมกันให้ dependency ด้วย max_concurrency

FastAPI เผยแพร่ เวอร์ชัน 0.163.0 เมื่อ 14 พฤศจิกายน 2026 เวลา 16:53:02 UTC โดยฟีเจอร์หลักคือ Depends(max_concurrency=...) สำหรับจำกัดจำนวนการเรียก dependency พร้อมกัน จุดนี้สำคัญกับ API ที่ dependency ติดต่อทรัพยากรซึ่งมีความจุจำกัด เช่น connection pool, บริการภายนอก หรือโมเดลที่กินหน่วยความจำสูง เพราะจำนวน request ที่รับได้พร้อมกันไม่จำเป็นต้องเท่ากับจำนวนงานปลายทางที่ควรปล่อยให้ทำพร้อมกัน

ควบคุมตรงขอบของ dependency

FastAPI ใช้ dependency injection เพื่อเตรียมข้อมูล ตรวจสิทธิ์ และเรียกบริการประกอบก่อนเข้า path operation เมื่อทราฟฟิกเพิ่ม request หลายตัวอาจไปถึง dependency เดียวกันพร้อมกัน แม้ endpoint แต่ละตัวจะทำงานถูกต้อง การรุมเรียกฐานข้อมูลหรือ API ภายนอกอาจสร้างคอขวดและ timeout ต่อเนื่อง รุ่นนี้จึงให้ระบุเพดานผ่าน Depends ในจุดที่ผูก dependency กับเส้นทางเรียก แทนที่จะบังคับให้ทุก endpoint เขียน semaphore เอง

ตัวอย่างแนวคิดคือกำหนด dependency ที่อ่านข้อมูลจากบริการจำกัดอัตรา แล้วใช้ Depends(load_data, max_concurrency=8) กับ endpoint ที่ต้องการข้อมูลนั้น ตัวเลข 8 เป็นเพียงตัวอย่าง ต้องเลือกจากจำนวน connection, latency และเงื่อนไข rate limit ของระบบจริง ฟีเจอร์นี้เป็นการควบคุมจำนวนการทำงานพร้อมกันในระดับ dependency ไม่ใช่การกำหนดอัตราคำขอต่อวินาทีหรือแทน rate limiter ที่ขอบระบบ เมื่อ request ใช้เวลานาน slot จะถูกครองนานขึ้น แม้ปริมาณคำขอต่อวินาทีไม่เปลี่ยน

การวาง limit จึงต้องมองเส้นทางที่ dependency ถูกใช้ร่วมกันด้วย เอกสาร FastAPI ระบุว่าหากต้องการให้หลาย route ใช้เพดานร่วมกัน ต้องใช้ Depends() object เดียวกัน ซ้ำ เช่นประกาศไว้ใน Annotated alias แล้วนำ alias ไปใช้ทุก route การเขียน Depends(get_session, max_concurrency=5) ใหม่แยกกันในแต่ละ route จะได้เพดานแยก แม้เรียกฟังก์ชัน get_session เดียวกัน ไม่ควรคาดเดาว่าเพดานนี้ครอบคลุมทุก process หรือทุก replica: แต่ละ worker process และ event loop มี limit ของตนเอง หากมีสอง worker ตั้งค่าห้าต่อ worker อาจเปิด session ได้รวมสิบรายการ

จุดที่ทีมปฏิบัติการควรวัดก่อนตั้งค่า

ก่อนอัปเดตให้เก็บ baseline ของ latency แบบ p95/p99, จำนวน connection ใช้งานจริง, timeout และ error จากบริการปลายทาง แล้วทำ load test ที่เพิ่ม concurrency ทีละขั้น เป้าหมายคือหาค่าที่ทำให้ throughput เสถียรโดยไม่ผลัก backend จน queue ยาวเกินไป ตั้ง limit ต่ำมากอาจป้องกัน backend ได้แต่ทำให้ผู้ใช้รอนาน ส่วนตั้งสูงเกินไปก็แทบไม่ต่างจากการปล่อยพร้อมกันทั้งหมด การเห็นเพียงค่า CPU ของ web server ไม่พอ ต้องดู metric ของปลายทางด้วย

ทีมควรทดสอบ request ที่ถูกยกเลิกหรือหมดเวลาในขณะที่รอ slot และกรณี dependency เกิด exception เพื่อให้แน่ใจว่าไม่มีงานค้างโดยไม่คืนทรัพยากร สำหรับ dependency แบบ yield slot จะถูกนับจนกว่าส่วนปิดทรัพยากรหลัง yield จะทำงานเสร็จ: scope ปริยาย request ปิดหลังส่ง response ส่วน scope="function" ปิดหลัง path operation จบ แต่ก่อนส่ง response ขณะที่ dependency ไม่มี yield จะครอง slot เฉพาะช่วงเรียกฟังก์ชัน ค่า dependency ที่ถูก cache และนำกลับมาใช้ใน request เดียวไม่ถูกนับซ้ำ

หาก dependency ต้องใช้หลายทรัพยากร ต้องระวัง deadlock ด้วย FastAPI ประมวลผล sub-dependency ก่อนใช้ limit ของ dependency ชั้นนอก จึงควรวาง limit บนจุดที่สร้าง resource จริง และให้ทุกเส้นทางขอ resource ตามลำดับเดียวกัน เอกสารยกกรณีเพดาน session เท่ากับหนึ่ง แต่ request เดียวขอ session ที่ไม่ cache สองครั้งโดย session แรกจะปิดเมื่อ request จบ: การขอครั้งที่สองอาจรอ session แรกตลอดไป การทดสอบภายใต้โหลดและตรวจกราฟจำนวน request ที่รอจึงจำเป็นก่อนใช้ใน production

สำหรับบริการที่มี SLA เข้ม ควรกำหนด timeout ฝั่ง client และ backend ให้สัมพันธ์กับเวลารอคิว หากเพดาน concurrency ทำให้ request รอนานขึ้นจน client timeout แม้ backend ไม่ล้ม ผลลัพธ์ต่อผู้ใช้ก็ยังเป็นความผิดพลาด ควรแยก metric ระหว่างเวลารอ dependency กับเวลาทำงานจริง และเตรียมคำตอบเมื่อเกินขีดจำกัด เช่นการลดโหลดหรือส่งข้อความ retry อย่างเหมาะสม มากกว่าปล่อยให้ request แขวนจนหมดเวลา

แนวทาง rollout ในระบบหลายบริการ

เริ่มจาก dependency ที่รู้ว่ามีเพดานจริงหนึ่งตัว เช่น client ไปยังระบบชำระเงินหรือฐานข้อมูลเฉพาะงาน แล้วทดสอบด้วยทราฟฟิกจำลองที่เลียนแบบทั้ง request สั้นและยาว จากนั้นค่อยขยายไปยัง endpoint อื่น หาก dependency ถูกใช้ในงานเบื้องหลังด้วย ให้ตรวจว่าการจำกัดผ่าน Depends มีผลเฉพาะเส้นทางที่ใช้ FastAPI injection และงานนอกเส้นทางต้องคุมแยกกัน การทดสอบเช่นนี้ช่วยไม่ให้เกิดความเข้าใจผิดว่าการตั้งค่าหนึ่งจุดควบคุมทั้งระบบแล้ว

รุ่นนี้ยังกล่าวถึง skill ทางการสำหรับ coding agent ที่ใช้ฟีเจอร์ตามเวอร์ชันที่ติดตั้ง แต่ข่าวหลักที่ควรนำไปปฏิบัติคือเพดาน concurrency ของ dependency ทีมที่อัปเกรดควรล็อกเวอร์ชันแพ็กเกจ รัน integration test กับ dependency ที่ใช้งานจริง และตรวจ latency/timeout หลังปล่อยแบบค่อยเป็นค่อยไป หาก endpoint ที่ไม่ควรชะลอเริ่มรอนาน ให้ทบทวนตำแหน่งที่วาง limit และความจุ backend ก่อนเพิ่มตัวเลขอย่างเดียว

แหล่งข่าวต้นทาง: FastAPI 0.163.0 release notes (ประกาศ 14 พฤศจิกายน 2026), เอกสาร Limit dependency concurrency และ PR ฟีเจอร์ max_concurrency

Chia sẻ bài viết:
Xem thêm bài viết