گوگل می گوید ابررایانه هوش مصنوعی آن سریعتر و سبزتر از تراشه Nvidia A100 است
شرکت آلفابت گوگل روز سه‌شنبه جزئیات جدیدی درباره ابررایانه‌هایی که برای آموزش مدل‌های هوش مصنوعی استفاده می‌کند منتشر کرد و گفت: این سیستم‌ها هم سریعتر و هم کارآمدتر از سیستم‌های مشابه هستند. Nvidia شرکت
گوگل تراشه سفارشی خود را به نام واحد پردازش تنسور یا TPU طراحی کرده است. از این تراشه‌ها برای بیش از 90 درصد کار شرکت روی آموزش هوش مصنوعی استفاده می‌کند، فرآیند تغذیه داده‌ها از طریق مدل‌ها تا آنها را در کارهایی مانند پاسخ دادن به پرسش‌ها با متنی شبیه انسان یا تولید تصاویر مفید کند.
Google TPU اکنون در نسل چهارم خود قرار دارد. گوگل روز سه‌شنبه مقاله‌ای علمی منتشر کرد که نشان می‌دهد چگونه بیش از 4000 تراشه را به هم متصل کرده است. ابر رایانه با استفاده از سوئیچ های نوری سفارشی خود برای کمک به اتصال ماشین های جداگانه.
بهبود این ارتباطات به یک نقطه کلیدی رقابت در بین شرکت های سازنده تبدیل شده است هوش مصنوعی ابررایانه‌ها، زیرا مدل‌های به اصطلاح زبان بزرگی که فناوری‌هایی مانند Bard Google یا ChatGPT OpenAI را تقویت می‌کنند، از نظر اندازه بزرگ شده‌اند، به این معنی که برای ذخیره‌سازی روی یک تراشه بسیار بزرگ‌تر از آن هستند.
در عوض، مدل‌ها باید بین هزاران تراشه تقسیم شوند، که باید هفته‌ها یا بیشتر با هم کار کنند تا مدل را آموزش دهند. مدل پالم گوگل – بزرگترین مدل زبانی که تا به امروز به طور عمومی فاش شده است – با تقسیم آن در دو ابررایانه از 4000 تراشه در طی 50 روز آموزش داده شد.
گوگل گفت که ابررایانه‌هایش پیکربندی مجدد اتصالات بین تراشه‌ها را آسان می‌کنند و به جلوگیری از مشکلات و افزایش عملکرد کمک می‌کنند.
همکار Google Norm Jouppi و مهندس ممتاز گوگل دیوید پترسون در یک پست وبلاگی در مورد سیستم نوشتند: “تغییر مدار مسیریابی در اطراف اجزای خراب را آسان می کند.” این انعطاف‌پذیری حتی به ما اجازه می‌دهد تا توپولوژی اتصال ابررایانه‌ای را برای تسریع عملکرد یک مدل ML (یادگیری ماشین) تغییر دهیم.»
در حالی که گوگل در حال حاضر جزئیات مربوط به ابر رایانه خود را منتشر می کند، از سال 2020 در یک مرکز داده در شهرستان میز، اوکلاهاما، در داخل شرکت آنلاین شده است. گوگل گفت که استارت‌آپ Midjourney از این سیستم برای آموزش مدل خود استفاده کرده است که پس از چند کلمه متن، تصاویر تازه‌ای تولید می‌کند.
در این مقاله، گوگل اعلام کرد که برای سیستم هایی با اندازه مشابه، تراشه های آن تا 1.7 برابر سریع تر و 1.9 برابر انرژی کارآمدتر از سیستم مبتنی بر تراشه A100 انویدیا است که همزمان با نسل چهارم TPU در بازار وجود داشت. .
سخنگوی انویدیا از اظهار نظر خودداری کرد.
گوگل گفت که نسل چهارم خود را با تراشه پرچمدار فعلی انویدیا H100 مقایسه نکرده است زیرا H100 بعد از تراشه گوگل به بازار آمد و با فناوری جدیدتر ساخته شده است.
گوگل اشاره کرد که ممکن است روی یک TPU جدید کار کند که با Nvidia H100 رقابت کند، اما جزئیاتی ارائه نکرد، جوپی به رویترز گفت که گوگل “خط لوله سالمی از تراشه های آینده” دارد.
فیس بوکتوییترلینکدین
