من شرجیت ونکاتراما، بنیانگذار Hexmos هستم. در حال حاضر، من در حال ساخت LiveAPI، یک ابزار بهره وری مهندسی فوق العاده راحت هستم. LiveAPI مخازن کد شما را در مقیاس پردازش می کند و به طور خودکار اسناد API زیبا را در عرض چند دقیقه تولید می کند.
همانطور که LiveAPI را می‌سازم، تلاش می‌کنم در مورد مسائل مختلف اقتصادی بیاموزم و آن را در اینجا با شما به اشتراک بگذارم.
ChatGPT در 30 نوامبر 2022 در جهان منتشر شد.
من در حال خواندن گزارش زیر هستم که در 31 مه 2024 منتشر شد، تقریباً 1.5 سال پس از “لحظه ChatGPT”.
افزایش هزینه های آموزش مدل های هوش مصنوعی مرزی
همانطور که می گویند، پول دنیا را می چرخاند، بنابراین بیایید سعی کنیم اطلاعات و اطلاعاتی در مورد هزینه های توسعه مدل های جدی (یا مرزی) بیاموزیم.
اجزای مدل های هزینه آموزش
- سخت افزار
- انرژی
- اجاره ابر
- هزینه های کارکنان
برآوردهای تقریبی برای GPT-4 و Gemini
- تراشه های شتاب دهنده هوش مصنوعی (37٪ – 29.5٪)
- هزینه های کارکنان (37٪ – 29.5٪)
- اجزای سرور (15-22%)
- اتصال در سطح خوشه (9-13%)
- مصرف انرژی (2-6%)
از سال 2016، هزینه مطلق آموزش مدل های مرزی افزایش یافته است 2.4x هر سال با فرض ادامه چنین روندی، آموزش مدل های بزرگتر تا سال 2027 بیش از 1 میلیارد هزینه خواهد داشت.
داده ها: هزینه آموزش GPT-4 40 میلیون دلار، هزینه Gemini Ultra 30 میلیون دلار
تکامل هزینه سخت افزار + انرژی
Cloud Compute Cost Evolution
هزینه اکتساب سخت افزار
تفکیک هزینه های انرژی/سخت افزار برای همه مدل های اصلی
نتیجه گیری از مطالعه
- نیمی از سرمایه سخت افزاری مستهلک شده + هزینه انرژی برای تراشه های هوش مصنوعی است
- سومین هزینه بزرگ جدا از دو مورد فوق، برای استخدام کارکنان تحقیق و توسعه است
- هزینه های آموزش سال به سال به طور تصاعدی در حال افزایش است
- ایمن سازی تراشه ها و قدرت در آینده برای توسعه هوش مصنوعی گلوگاه خواهد بود
