ฟังก์ชั่น Azure ถูกควบคุมด้วย HostServiceUnavailable 503 ระหว่างการเริ่มเย็นและการปรับขนาดแผน + แผนอินสแตนซ์ก่อนอุ่นเครื่องที่ทำให้ฟังก์ชันเสถียร

ฟังก์ชัน Microsoft Azure นำเสนอแพลตฟอร์มการประมวลผลแบบไร้เซิร์ฟเวอร์ที่มีประสิทธิภาพซึ่งช่วยให้นักพัฒนาสามารถรันโค้ดที่ขับเคลื่อนด้วยเหตุการณ์โดยไม่ต้องจัดเตรียมหรือจัดการโครงสร้างพื้นฐาน อย่างไรก็ตาม เนื่องจากมีผู้ใช้ใช้โมเดลนี้มากขึ้น ประสิทธิภาพที่ไม่สอดคล้องกันระหว่างการสตาร์ทขณะเย็นและเหตุการณ์การปรับขนาดก็เพิ่มมากขึ้น ปัญหาเร่งด่วนโดยเฉพาะคือการปรากฏของข้อผิดพลาดHTTP 503 HostServiceUnavailableในระหว่างช่วงเวลาที่แอปฟังก์ชันเริ่มเย็น ความล้มเหลวชั่วคราวเหล่านี้ส่งผลกระทบอย่างมากต่อความพร้อมใช้งานของแอปพลิเคชัน ความน่าเชื่อถือ และประสบการณ์ผู้ใช้เมื่อปล่อยทิ้งไว้โดยไม่ได้แก้ไข

ทีแอลดีอาร์

ฟังก์ชัน Azure อาจพบการควบคุมปริมาณและข้อผิดพลาดHTTP 503 HostServiceUnavailableระหว่างการเริ่มระบบเย็น โดยเฉพาะอย่างยิ่งในปริมาณงานระดับสูงหรือต่อเนื่อง ความล้มเหลวเหล่านี้มักเกิดขึ้นเมื่อแพลตฟอร์มไม่อุ่นอินสแตนซ์ของแอปฟังก์ชันล่วงหน้าทันเวลาสำหรับคำขอที่เข้ามา Microsoft ได้ตอบสนองด้วยการปรับปรุงเกี่ยวกับการปรับขนาดแผนและการอุ่นเครื่องอินสแตนซ์ การใช้การเปลี่ยนแปลงเหล่านี้ช่วยให้แอปฟังก์ชัน Azure มีความเสถียร โดยเฉพาะอย่างยิ่งในระดับพรีเมียมและพรีเมียมแบบยืดหยุ่น ซึ่งช่วยลดความล่าช้าและข้อผิดพลาดในการเริ่มเย็น

ทำความเข้าใจกับปัญหา 503 HostServiceUnavailable

เมื่อฟังก์ชัน Azure ถูกเรียกใช้หลังจากไม่มีการใช้งานช่วงระยะเวลาหนึ่ง สภาพแวดล้อมจะต้อง “เริ่มต้นโดยไม่ได้ใช้งาน” กล่าวคือ หมุนอินสแตนซ์การประมวลผลที่จำเป็นเพื่อเรียกใช้โค้ดที่เข้ามา ในระหว่างกระบวนการ Cold Start นี้ หากโหลดเพิ่มเติมมาถึงเร็วกว่าที่ระบบจะปรับขนาดได้ ก็อาจส่งคืนข้อผิดพลาด HTTP 503 พร้อมเหตุผลที่HostServiceUnavailableสถานะนี้บ่งชี้ว่าขณะนี้ไม่มีผู้ปฏิบัติงานที่พร้อมดำเนินการตามคำขอ

ข้อผิดพลาดเหล่านี้เป็นปัญหาอย่างยิ่งใน:

• แอปพลิเคชันแบบเรียลไทม์คาดหวังการตอบสนองที่มีความหน่วงต่ำ
• API ที่ให้บริการติดต่อกับลูกค้า
• ระบบที่ประสบกับการเข้าชมที่เพิ่มขึ้นอย่างรวดเร็ว เช่น ระหว่างการเปิดตัวผลิตภัณฑ์หรือกิจกรรมส่งเสริมการขาย

สาเหตุอยู่ที่วิธีที่ Azure ปรับขนาดแอปทำงานเพื่อตอบสนองความต้องการ แผนการบริโภคเริ่มต้นจะจัดสรรพนักงานแบบไดนามิก แต่จะไม่ได้รับผลกระทบจากความล่าช้าในการเริ่มต้นระบบ แม้แต่แผนพรีเมียมซึ่งลดเวลาเริ่มต้นก็ยังมีความเสี่ยงต่อโหลดที่เพิ่มขึ้นอย่างกะทันหันและคาดเดาไม่ได้

สาเหตุทางเทคนิค: การปรับขนาดและการเริ่มเย็นโต้ตอบกันอย่างไร

หากแอปฟังก์ชัน Azure ไม่ได้ใช้งานเป็นเวลาสองสามนาที แพลตฟอร์มจะจัดสรรทรัพยากรการทำงานใหม่เพื่อรักษาประสิทธิภาพของระบบ การร้องขอครั้งถัดไปจะทริกเกอร์การสตาร์ทแบบเย็น ในระหว่างนี้:

• โฮสต์ฟังก์ชันจะต้องโหลดเนื้อหาแอปและการกำหนดค่า
• การขึ้นต่อกัน เช่น การเชื่อมต่อฐานข้อมูลหรือ SDK จะโหลดลงในหน่วยความจำ
• แอปฟังก์ชันที่ไม่ได้ใช้งานต้องรอให้ผู้ปฏิบัติงานแบ็กเอนด์ได้รับการจัดสรร

เมื่อมีความต้องการเพิ่มขึ้น เช่น การเรียกใช้ API หลายรายการพร้อมกัน แพลตฟอร์มจะต้องขยายขนาดและจัดสรรพนักงานอย่างรวดเร็ว อย่างไรก็ตาม ไม่มีการรับประกันความเร็วสำหรับการจัดสรรพนักงาน โดยเฉพาะในแผนการบริโภค หากโครงสร้างพื้นฐานที่จัดเตรียมไว้ช้ากว่าความเร็วของความต้องการ คำขอขาเข้าจะไม่สามารถให้บริการได้ และจะทำให้เกิดข้อผิดพลาด 503 HostServiceUnavailable

ข้อผิดพลาด 503 เหล่านี้ไม่ใช่ข้อยกเว้นของรหัสผู้ใช้ มีต้นกำเนิดในเลเยอร์โครงสร้างพื้นฐาน Azure แพลตฟอร์มการตรวจสอบแอปพลิเคชัน เช่น Application Insights มักจะบันทึกปัญหาว่าเป็นคำขอที่ล้มเหลวโดยไม่มีอินสแตนซ์การดำเนินการที่เกี่ยวข้อง

ขั้นตอนการบรรเทาผลกระทบเบื้องต้น (และข้อบกพร่อง)

องค์กรที่ได้รับผลกระทบจากข้อผิดพลาดการสตาร์ทขณะเครื่องเย็นเหล่านี้ได้สำรวจวิธีแก้ปัญหาเบื้องต้นหลายประการ:

1. การใช้แผนพรีเมียมหรือแบบยืดหยุ่น:แผนเหล่านี้นำเสนอฟีเจอร์ต่างๆ เช่น อินสแตนซ์ที่พร้อมใช้งานเสมอและการผสานรวม VNET ซึ่งลดเวลาแฝงในการเริ่มระบบเย็นและช่วยให้สามารถคาดการณ์ได้ดีขึ้น อย่างไรก็ตาม ยังคงต้องเสียค่าใช้จ่ายโดยไม่คำนึงถึงการใช้งาน
2. การเรียกใช้คำขออุ่นเครื่อง:การส่ง Ping HTTP ทุก ๆ สองสามนาทีเพื่อรักษาอินสแตนซ์ให้อบอุ่นโดยไม่ตั้งใจ แม้ว่าวิธีนี้จะใช้ได้ชั่วคราว แต่ก็ถือว่าเป็นการต่อต้านรูปแบบและเพิ่มค่าใช้จ่ายที่ไม่จำเป็น
3. การปรับโครงสร้างใหม่เป็นฟังก์ชันหรือคิวที่คงทน:การใช้การส่งข้อความหรือตัวเรียบเรียงแบบอะซิงโครนัสช่วยลดการพึ่งพา HTTP โดยตรง แต่ต้องมีการเปลี่ยนแปลงทางสถาปัตยกรรมและมักจะเพิ่มความซับซ้อน

กลยุทธ์ดังกล่าวช่วยลดการเกิดข้อผิดพลาด 503 แต่อย่าลบออกทั้งหมด นอกจากนี้ รูปแบบการรับส่งข้อมูลที่คาดเดาไม่ได้ยังคงเน้นย้ำถึงความสามารถในการปรับขนาดโครงสร้างพื้นฐานที่สำคัญ

กลยุทธ์ใหม่ของ Microsoft: การปรับขนาดแผนและอินสแตนซ์ที่อุ่นเครื่องล่วงหน้า

ในปี 2023 Microsoft เริ่มเปิดตัวการปรับขนาดอัจฉริยะและการปรับปรุงก่อนอุ่นเครื่องให้กับแพลตฟอร์ม Azure Functions เป้าหมายคือทำให้พฤติกรรมการสตาร์ทขณะเครื่องสามารถคาดเดาได้มากขึ้น และลดข้อผิดพลาด 503 ภายใต้ภาระงานที่เพิ่มขึ้นอย่างรวดเร็วโดยการเตรียมทรัพยากรการประมวลผลในเชิงรุก

1. การเพิ่มประสิทธิภาพการปรับขนาดอัตโนมัติอัจฉริยะ

Microsoft อัปเกรดอัลกอริธึมการปรับขนาดเพื่อคาดการณ์รูปแบบปริมาณงานได้อย่างมีประสิทธิภาพมากขึ้น เมื่อพิจารณาการรับส่งข้อมูลในอดีตและการวัดและส่งข้อมูลทางไกลแบบเรียลไทม์ ระบบจะคาดการณ์ได้ดีขึ้นว่าเมื่อใดควรจัดสรรอินสแตนซ์ล่วงหน้าเพิ่มเติม

การอัปเกรดนี้มีความเกี่ยวข้องเป็นพิเศษกับแอปพลิเคชันที่มีการใช้งานต่อเนื่องตามรอบรายวัน (เช่น การเข้าสู่ระบบที่เพิ่มขึ้นในช่วงเช้า) ด้วยการเรียนรู้ที่ได้รับการปรับปรุงจากรูปแบบในอดีต Azure สามารถปรับขนาดเชิงรุกก่อนที่กระแสจะมาถึง แทนที่จะตอบสนองหลังจากยุค 503 เกิดขึ้น

2. การรวมอินสแตนซ์ล่วงหน้า

แผน Premium และ Elastic Premium นำเสนอแนวคิดของอินสแตนซ์ที่อุ่นเครื่องล่วงหน้าแล้ว แทนที่จะปรับขนาดตามความต้องการ Azure จะจัดเตรียมกลุ่มอินสแตนซ์ที่ไม่ได้ใช้งานแต่พร้อมให้บริการไว้ล่วงหน้าสำหรับแอปฟังก์ชันหรือแผนบริการของคุณโดยเฉพาะ เมื่อมีภาระงานเข้ามา อินสแตนซ์ที่ได้รับการวอร์มไว้ล่วงหน้าเหล่านี้จะดูดซับส่วนที่เพิ่มอย่างรวดเร็วทันที

คุณสามารถกำหนดค่าจำนวนอินสแตนซ์ที่พร้อมใช้งานตลอดเวลาใน Premium Plan ของคุณได้โดยใช้เทมเพลต Azure Portal หรือ Infrastructure as Code (IaC) การประเมินภายในของ Microsoft แสดงให้เห็นถึงการบรรเทาผลกระทบที่สำคัญในปี 503 เมื่ออินสแตนซ์ที่ได้รับการวอร์มไว้ล่วงหน้าอย่างน้อยหนึ่งรายการทำงานอยู่เสมอ

3. การเปิดใช้งานแผนเร็วขึ้นและการใช้คอนเทนเนอร์ซ้ำ

ฟังก์ชัน Azure ที่ทำงานบนคอนเทนเนอร์แบบแยกหรือแผนโฮสติ้ง Linux พบว่าเวลาแฝงลดลงอย่างมากจากการปรับปรุงภายในที่นำสภาพแวดล้อมการดำเนินการกลับมาใช้ใหม่ตามความเหมาะสม ซึ่งหมายความว่าการบูตเครื่องน้อยลงสำหรับคอนเทนเนอร์ใหม่และความพร้อมใช้งานของโฮสต์การดำเนินการที่รวดเร็วยิ่งขึ้น

ผลลัพธ์ภาคสนาม: วิธีที่ทีมทำให้แอปฟังก์ชันมีความเสถียร

หลังจากการเปลี่ยนแปลงเหล่านี้ ผู้ใช้ระดับองค์กรหลายรายได้รายงานการปรับปรุงความน่าเชื่อถือ โดยเฉพาะอย่างยิ่งสำหรับ API ที่ก่อนหน้านี้มีความเสี่ยงต่อ 503 ในระหว่างการร้องขอกะทันหัน จากข้อมูลของฝ่ายวิศวกรรมผลิตภัณฑ์ของ Microsoft ผู้เช่าที่เป็นลูกค้ารายใหญ่ได้ลดอัตรา 503 จาก 4.5% เหลือน้อยกว่า 0.1% ภายในไม่กี่สัปดาห์หลังจากปรับการตั้งค่าแผนและเปิดใช้งานอินสแตนซ์ที่วอร์มไว้ล่วงหน้า

กลยุทธ์การรักษาเสถียรภาพทั่วไปในปัจจุบันได้แก่:

• การเปลี่ยนปริมาณงานที่สำคัญเป็นแผน Premium หรือ Elastic Premium
• การกำหนดค่าขั้นต่ำInstanceCountเพื่อให้ผู้ปฏิบัติงานอุ่นเครื่องที่ไม่ได้ใช้งาน
• การตรวจสอบเวลาแฝงในการเริ่มเย็นผ่าน Application Insights และ Azure Monitor KPI
• การรวมกฎการปรับขนาดเชิงรุกเข้ากับการแจ้งเตือนระบบสำหรับขีดจำกัดความจุ

แนวทางปฏิบัติที่ดีที่สุดในการหลีกเลี่ยงข้อผิดพลาด 503

หากคุณใช้งานฟังก์ชัน Azure บนแอปพลิเคชันที่ไวต่อเวลาแฝงหรือมีปริมาณงานสูง ให้พิจารณาแนวทางปฏิบัติต่อไปนี้:

• จัดเตรียมอินสแตนซ์ที่พร้อมเสมอ:ตั้งค่าอินสแตนซ์ warm อย่างน้อยหนึ่งรายการใน Premium Plans โดยใช้ minimumInstanceCount
• ใช้ Application Gateway หรือ API Management Caching:การตอบสนองของแคชสำหรับคำขอที่ไม่ได้ปรับให้เป็นแบบส่วนบุคคลเพื่อลดการพึ่งพาแบ็กเอนด์ให้เหลือน้อยที่สุด
• ตรวจสอบความพร้อมใช้งานของ Cold Start และความพร้อมใช้งานของแอป:ใช้การทดสอบความพร้อมใช้งานและติดตาม FunctionExecutionUnits และ FunctionExecutionCount
• กำหนดเส้นทางการรับส่งข้อมูลที่คาดการณ์ได้:กำหนดเวลาการรายงานและการวิเคราะห์ปริมาณงานในช่วงเวลานอกช่วงเร่งด่วนของระบบหลัก
• ปรับแต่งกฎการปรับขนาด:สำหรับทริกเกอร์ที่ไม่ใช่ HTTP เช่น Service Bus หรือ Event Hub ให้ใช้แบตช์ระดับแอปพลิเคชันและตรรกะการปรับขนาด

บทสรุป

ปัญหาของฟังก์ชัน Azure ที่ส่งคืนข้อผิดพลาดHostServiceUnavailable 503ภายใต้เงื่อนไขการโหลดแบบ Cold Start ทำให้เกิดปัญหาในการปฏิบัติงานอย่างมากในบริการ Cloud-Native จำนวนมาก แม้ว่าวิธีแก้ปัญหาชั่วคราวจะไม่ได้ผล แต่การปรับปรุงของ Microsoft โดยเฉพาะการปรับขนาดอัตโนมัติอัจฉริยะและการจัดเตรียมอินสแตนซ์ล่วงหน้า จะช่วยแก้ไขช่องว่างโครงสร้างพื้นฐานหลัก

ในปัจจุบัน ทีมที่ย้ายจากการวางแผนฟังก์ชันเชิงรับไปเป็นเชิงรุก (เช่น การใช้งานระดับพรีเมียมโดยมีจำนวนอินสแตนซ์ขั้นต่ำ) จะพบกับสภาพแวดล้อมการประมวลผลที่มีเสถียรภาพมากขึ้น การติดตามตัวชี้วัดแบบเรียลไทม์ การวางแผนสำหรับโหลดที่คาดหวัง และการใช้ประโยชน์จากการปรับปรุงการปรับขนาดล่าสุดของ Azure ล้วนเป็นกลยุทธ์สำคัญในการลดความเสี่ยงในอนาคต

โครงสร้างพื้นฐานแบบไร้เซิร์ฟเวอร์สามารถตอบสนองคำมั่นสัญญาในเรื่องความสามารถในการปรับขนาดสูงและการบำรุงรักษาขั้นต่ำได้ แต่ต้องเข้าใจข้อจำกัดในการดำเนินงานเท่านั้น ด้วยการกำหนดค่าที่เหมาะสม ฟังก์ชัน Azure ไม่เพียงแต่ให้ความคล่องตัวเท่านั้น แต่ยังมีความสม่ำเสมอในวงกว้างอีกด้วย