برنامه نویسی

مقیاس پیش بینی شده با هوش مصنوعی در Kubernetes: کاهش هزینه های ابر ضمن حفظ در دسترس بودن بالا

شرح تصویر

مقدمه

Kubernetes تبدیل شده است استاندارد برای ارکستراسیون کانتینر ، مکانیسم های قدرتمند خودکار مانند AutoScaler POD افقی (HPA) وت Autoscaler Pod عمودی (VPA)بشر با این حال ، این خودکشی های سنتی روی آن کار می کنند مقیاس پذیری واکنشی– آنها فقط به سنبله ها پاسخ می دهند پس از آنها رخ می دهند و به هر دو منجر می شوند بیش از حد (هدر دادن منابع ابری) یا کم تحرک (ایجاد خرابی).

دارای قدرت مقیاس بندی پیش بینی کننده پیشنهادات رویکرد فعال با استفاده از اعمال یادگیری ماشین (ML) و هوش مصنوعی (AI) پیش بینی تقاضای آینده ، امکان پذیر است تخصیص منابع هوشمندانه که تعادل راندمان هزینه و در دسترس بودن بالابشر

این تحقیق به بررسی چگونگی مقیاس پیش بینی AI محور می تواند عملکرد Kubernetes را تقویت کند ، استفاده بهینه از منابعبا تصمیمات مقیاس گذاری سریعتروت صرفه جویی در هزینه قابل توجه بدون به خطر انداختن قابلیت اطمینان.


چالش در مقیاس سنتی Kubernetes

1⃣ مقیاس واکنشی باعث تاخیر می شود

  • Kubernetes ' AutoScaler POD افقی (HPA) وت Autoscaler Pod عمودی (VPA) غلافهای مقیاس بر اساس جاری CPU/استفاده از حافظه.
  • این نتیجه در تاخیر، همانطور که مقیاس گذاری اتفاق می افتد فقط پس از سنبله بار کار تشخیص داده می شود.
  • مثال: اگر یک افزایش ناگهانی ترافیک رخ دهد ، غلافهای جدید ممکن است طول بکشد دقایقی برای چرخش ، بر عملکرد تأثیر می گذارد.

2 مقیاس بندی مبتنی بر آستانه ناکارآمد

  • HPA استفاده می کند آستانه CPU/حافظه استاتیک برای ایجاد مقیاس گذاری.
  • بارهای کاری اغلب پیچیده تر و به عوامل متعدد (به عنوان مثال ، نرخ درخواست ، بار پایگاه داده ، جلسات کاربر).
  • قوانین استاتیک در سازگاری ناکام هستند به تغییرات ترافیک فصلی ، رویدادهای بازاریابی یا برنامه های پردازش دسته ایبشر

3⃣ ناکارآمدی هزینه به دلیل تأمین بیش از حد

  • به از خرابی جلوگیری کنید، مهندسان اغلب تأمین منابع بیشتر از حد لازم، منجر به هزینه ابر هدر رفتهبشر
  • مثال: وب سایت تجارت الکترونیکی ممکن است بیش از حد برای جمعه سیاه ارائه شود ، اما منابع بیشتر سال مورد استفاده قرار نمی گیرند.

4⃣ عدم آگاهی زمینه

  • کربن AutoScalers عوامل خاص تجاری را در نظر نمی گیرد مانند: الگوهای رفتاری کاربر (به عنوان مثال ، ساعات استفاده از اوج) زمان روز یا فصلی (به عنوان مثال ، افزایش ترافیک در آخر هفته) رویدادهای خارجی (به عنوان مثال ، کمپین های بازاریابی ، نوسانات بازار سهام)
  • بدون این هوش، تصمیمات مقیاس گذاری باقی مانده است پایین ترینبشر

چگونه AI می تواند مقیاس Kubernetes را بهبود بخشد

شرح تصویر

1⃣ مقیاس پیش بینی AI

به جای انتظار برای CPU/حافظه در زمان واقعی، مدل های مبتنی بر هوش مصنوعی می توانند پیش بینی تقاضای بار کاری بر اساس:

الگوهای ترافیک تاریخی

تجزیه و تحلیل داده های سری زمانی

نرخ درخواست کاربر و روند تماس API

🔹 تکنیک های کلیدی هوش مصنوعی برای مقیاس پیش بینی

  1. پیش بینی سری زمانی – پیش بینی منابع آینده با استفاده از مدل هایی مانند LSTMS (حافظه کوتاه مدت بلند) ، پیامبر یا آریمابشر
  2. یادگیری تقویت (RL) -به طور مداوم سیاست های مقیاس گذاری را بر اساس داده های دنیای واقعی بهینه می کند.
  3. تشخیص ناهنجاری – شناسایی سنبله های بار غیرمعمول زودتر برای جلوگیری از خرابی.

مثال:

  • عده یک الگوی را تشخیص می دهد کجا سنبله های ترافیکی هر دوشنبه ساعت 9 صبح وت منابع را در ساعت 8:55 صبح مقیاس می کند، اطمینان از تأخیرهای صفر.
  • در طول ساعات کم ترافیک، ai کاهش تقاضا را پیش بینی می کند و منابع را برای صرفه جویی در هزینه ها کاهش می دهد.

2 ⃣ تصمیم گیری چند متری (فراتر از CPU و حافظه)

هوش مصنوعی در نظر دارد عوامل متعدد به جای تکیه فقط در CPU/حافظه:

درخواست در ثانیه (RPS)

نمایش داده های پایگاه داده در هر ثانیه

استفاده از پهنای باند شبکه

شمارش و جغرافیایی جلسه کاربر

مثال:

  • عده روند فعالیت کاربر را همبسته است با بار پس زمینه
  • در صورت افزایش نرخ درخواست API پیش از سنبله های CPU ، ai غلافهای قبل از مقیاس برای جلوگیری از تنگناها.

3 بهینه سازی هزینه AI محور

ارائه دهندگان ابر (AWS ، GCP ، Azure) بر اساس محاسبه مصرف منابعبشر AI بهینه می شود مقرون به صرفه توسط:

انتخاب ارزانترین انواع ابر به صورت پویا

استفاده از نمونه های نقطه ای و نمونه های رزرو شده به طور مؤثر

ظروف با اندازه مناسب برای جلوگیری از تخصیص بیش از حد

مثال:

  • عده منابع بیکار را پیش بینی می کند و بارهای کاری را به نمونه های ابر ارزانتر در طول ساعات خارج از اوج، کاهش هزینه ها توسط 40-50 ٪بشر

4⃣ AI-ENHANDED POLICIES AUTO-SCALING

مقیاس گذاری با هوش مصنوعی را می توان در چند سطح:

🔹 مقیاس بندی سطح POD (میکروسرویس و ظروف)

  • هوش مصنوعی تصمیم می گیرد چه زمانی و چند غلاف برای افزودن/حذف

🔹 مقیاس بندی سطح گره (AutoScaling خوشه ای)

  • هوش مصنوعی تعیین می کند چه موقع گره های جدید را تهیه کنید وت موارد استفاده نشده را منتشر می کندبشر

🔹 بهینه سازی قرار دادن بار کار

  • AI بهینه می شود تخصیص غلاف به گره، اطمینان از بارهای کاری روی آن قرار می گیرد نمونه های به اندازه راستبشر

مثال:

  • عده بارهای دسته ای را که در ساعات غیر اوج اجرا می شود ، تشخیص می دهد و آنها را برای قیمت گذاری ابر خارج از اوج، کاهش هزینه ها.

رویکرد اجرای

شرح تصویر

1⃣ جمع آوری داده ها و مهندسی ویژگی

  • معیارها را جمع کنید از پرومتئوس ، گرافانا ، Kubernetes API.
  • ذخیره داده های تاریخی در پایگاه داده های سری زمانی مبتنی بر ابر ، Elasticsearch ، Elasticsearch یا مبتنی بر ابربشر
  • ایجاد کردن ویژگی هایی مانند زمان روز ، انفجارهای بار کار ، روندهای فصلی ، فرکانس تماس APIبشر

2⃣ توسعه مدل AI

  • پیش بینی سری زمانی (lstms ، پیامبر ، Arima) برای پیش بینی تقاضابشر
  • یادگیری تقویت (Deep N-Networks ، PPO) برای سیاست های مقیاس گذاری خودکار پویابشر
  • بهینه سازی مبتنی بر خودرو به مدل های هوش مصنوعی خوببشر

3 ⃣ استقرار در Kubernetes

  • مدلهای هوش مصنوعی را در پایتون (TensorFlow/Pytorch)بشر
  • مستقر در AI-Power کنترل کننده خودکار خودکار از طریق کبوتربشر
  • ادغام با KEDA (AutoScaling kubernetes محور رویداد) برای تصمیمات مقیاس گذاری پویا.

مزایای مورد انتظار

30-50 ٪ پس انداز هزینه -هوش مصنوعی از ارائه بیش از حد جلوگیری می کند و هوشمندانه هزینه ابر را کاهش می دهد.

پاسخ مقیاس سریعتر – بارهای کاری مقیاس قبل بازدید از ترافیک زیاد ، کاهش تأخیرها.

در دسترس بودن بالاتر – AI تضمین می کند 99.9 ٪ به روز از طرف پیش بینی خرابی قبل از وقوع آنهابشر

استفاده از ابر کارآمدتر – بهینه شده قرار دادن غلاف به گره منابع را ذخیره می کند.

پایان

مقیاس پیش بینی شده با هوش مصنوعی در Kubernetes یک است تغییر بازی برای مدیریت منابع ابری. با تغییر از واکنشی به فعال مقیاس گذاری ، هوش مصنوعی کاهش می یابد هزینه، تقویت می کند عملوت قابلیت اطمینان را تضمین می کندبشر

این تحقیق کاوش می کند تکنیک های برش AI که می تواند دگرگون شود اتوماسیون Devops– ساخت Kubernetes باهوش تر ، سریعتر و مقرون به صرفه تربشر


نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا