برنامه نویسی

چگونه GPT در پشت صحنه کار می کند

Transformers: ترفند جالب پشت AI Chatty

سلام ، هرگز تعجب می کنید که چگونه هوش مصنوعی – مانند کسی که در حال حاضر با او صحبت می کنید – به نظر می رسد بدست آوردن شما؟ چگونه می تواند بدون از دست دادن ضرب و شتم ، داستانی را گپ ، ترجمه یا حتی شلاق بزند؟ خوب ، بگذارید لوبیا ها را ریختم: این همه به لطف چیزی به نام a است ترانسفورماتوربشر از آن به عنوان سلاح مخفی هوش مصنوعی برای مقابله با زبان فکر کنید. من نمی خواهم شما را در Techy Mumbo-Jumbo غرق کنم. تا زمانی که ما تمام شد ، خواهید دید که چرا ترانسفورماتورها چنین کار بزرگی هستند. آماده؟ بیایید شیرجه بزنیم!


بنابراین ، ترانسفورماتور چیست؟

این را تصور کنید: شما یک دوست دارید که یک جادوگر با کلمات است. آنها می توانند Ramblings شما را به فرانسوی ترجمه کنند ، جملات نیمه پخته خود را به پایان برسانند ، یا حتی شعری در مورد گربه ها برای شما بنویسند. این اساساً همان چیزی است که یک ترانسفورماتور است – یک مدل هوش مصنوعی که در چیزهای زبان دیوانه است. این دو بازیکن اصلی است: رمز دهنده (بخشی که “آنچه شما می گویید” می شود) و رمز (بخشی که پاسخی را نشان می دهد). با هم ، آنها مانند یک تیم برچسب هستند و کلمات را با برخی از ریاضیات فانتزی خرد می کنند تا جادو را انجام دهند.

شرح تصویر

لطفاً برای دیدن این که چگونه از نظر گرافیکی کار می کند ، بازدید کنید
https://poloclub.github.io/transformer-explainer/


بیت هایی که آن را تیک می زنند

1. رمزگذار: شنونده

رمزگذار مانند آن دوست است که در واقع می شنود شما شما می گویید ، “من هوس چای می کنم” ، و فقط گره نمی زند – در کل جمله حفر می شود و می فهمد که چگونه “هوس” و “چای” با هم پرش می کنند. این کلمات شما را به یک کد مخفی تبدیل می کند (اصطلاح فانتزی: بردارها) که هوش مصنوعی می تواند با آن بازی کند. و اینجا ضربه ای است: معمولاً یک پشته رمزگذار وجود دارد که هرکدام تصویر را کمی بیشتر تیز می کنند.

  • صحبت واقعی: مثل این است که وقتی یک داستان می گویید و کسی جزئیات آبدار را انتخاب می کند – نه فقط کلمات ، بلکه نقطهبشر

رمزگذار توکن AI را باز کنید:- https://tiktokenizer.vercel.app/

2. رمزگشایی: گوینده

هنگامی که رمزگذار از آن استفاده کرد ، رمزگشگر برای پاسخ دادن به آن پرش می کند. بگویید که شما ترجمه “من چای را دوست دارم” به اسپانیایی – این رمزگشایی است که می رود ، “خوب ، اینجا” amo el chai “برای شما است.” این جواب یک کلمه را به طور همزمان می سازد ، مانند یک داستان نویس حرفه ای که یک نخ را می چرخاند.

  • بیت سرگرم کننده: به عنوان دوستی که ایده شما را می گیرد و با آن اجرا می شود ، فکر کنید و آن را به چیز جدیدی تبدیل کنید.

3. تعبیه: DNA کلمه

کلمات به معنای هیچ چیز برای یک دستگاه نیست مگر اینکه به آنها یک شماره vibe بدهید. تعبیه ها این کار را انجام می دهند – “چای” را به یک رشته از شماره هایی که می گویند ، “سلام ، من یک نوشیدنی دنج هستم!” کلماتی مانند “چای” ممکن است تعداد مشابهی به دست بیاورند ، در حالی که “موشک” در میدان چپ قرار دارد.

  • چرا باحال است: اینگونه است که هوش مصنوعی می داند “چای” و “چای” دوستان هستند ، اما “چای” و “کامیون” نیستند.

به صورت گرافیکی مراجعه کنید:- https://projector.tensorflow.org/

4. رمزگذاری موقعیت: مستقیم نگه داشتن آن

در اینجا یک پیچ و تاب عجیب و غریب وجود دارد: ترانسفورماتورها مانند ما به چپ به راست نمی خوانند-آنها همه کلمات را یکباره می بینند. اما نظم امور ، درست است؟ “من عاشق چای هستم” “چای من را دوست دارد” نیست. بنابراین ، آنها بر روی رمزگذاری موقعیتی سیلی می زنند. همه چیز را از تقلا نگه می دارد.

  • سریع گرفتن: مثل این است که لیست مواد غذایی خود را شماره گذاری کنید تا “شیر” مکانهایی را با “غلات” تعویض نکند.

5. خودآگاهی: کانکتور هوشمند

این MVP واقعی است. خودآگاهی اجازه می دهد تا هوش مصنوعی را در مورد آنچه مهم است بزرگنمایی کند. در “چای ، که تند است ، بسیار عالی است” ، “چای” را به “تند” و “سلیقه” پیوند می دهد ، بنابراین می داند چه چیزی چیست. مثل این است که وقتی گپ می زنید و ناگهان جزئیات را از قبل به یاد می آورید که همه آن را به هم پیوند می دهد.

  • نمونه: آیا تا به حال یک کاروان داشته اید که کسی به آنجا می رود ، “آره ، که به من یادآوری می کند …”؟ این خودآگاهی در عمل است.

6. توجه چند سر: قدرت مغزی اضافی

خود را مورد توجه قرار دهید ، سپس به آن قدرت دهید. توجه چند سر مانند داشتن یک خدمه از دوستان است که همه آنها را از زوایای مختلف به گوش می رساند. شخص بررسی می کند که چگونه “چای” با “تند” پیوند می یابد ، و دیگری آن را به “سلیقه” پیوند می دهد. آنها برای بازی کامل جمع می شوند.

  • چرا سنگ می زند: اینگونه است که هوش مصنوعی تمام ارتباطات کوچکی را که انسانها از آن استفاده می کنیم ، گرفتار می کند.

7. SoftMax: انتخاب برنده

وقتی وقت آن رسیده است که کلمه بعدی را انتخاب کنیم ، AI فقط آن را بال نمی زند. SoftMax به آن احتمال وجود دارد – مانند “بعد از” من عاشق “، 70 ٪ احتمال دارد که” چای “، 20 ٪ پیتزا ،” 10 ٪ هرج و مرج “باشد.” سپس انتخاب می کند.

  • مثال جالب: مثل این است که در یک بازی پایان نامه به کلمه بعدی دوست خود شرط بندی کنید.

8. نشانه گذاری: خرد کردن خرد

قبل از اینکه هر اتفاقی بیفتد ، AI جمله شما را به بیت های اندازه نیش می زند-Tokens. می تواند کلماتی مانند “چای” یا حتی “!” باشد – هرکدام شناسه خاص خود را دریافت می کنند. این مانند تبدیل جمله خود به قطعات LEGO برای ساخت AI است.

  • نگاه سریع: “من چای را دوست دارم!” می شود [“I”, “love”, “chai”, “!”]بشر ساده ، اما کلید.

شماره گیری خلاقیت: دما

باشه ، بیایید با چیزی جالب صحبت کنیم –درجه حرارتبشر مثل تنظیم خلق و خوی هوش مصنوعی است. دمای پایین؟ آن را ایمن بازی می کند و به پاسخ های آشکار می چسبد. درجه حرارت بالا؟ وحشی می شود ، شاید خیلی وحشی باشد. در اینجا نحوه لرزش آورده شده است:

  • کم (0.1): “من چای را دوست دارم.” قابل پیش بینی ، جامد.
  • بالا (1.5): “من عاشق ماه های ماه با طعم چای هستم.” اوه ، چی؟
  • میانه (0.7): “من عاشق چای و لرزش های دنج هستم.” درست درست

مانند پخت و پز به آن فکر کنید: دمای پایین دستور العمل را دنبال می کند. دمای بالا در هر آنچه در یخچال است ، می ریزد.


چگونه همه چیز جمع می شود

بیایید سریع آن را سریع اجرا کنیم ، مانند یک مونتاژ فیلم:

  1. شما می گویید: “من چای می خواهم.”
  2. AI آن را خرد می کند: [“I”, “want”, “chai”]بشر
  3. سفارش اضافه می کند: 1 ، 2 ، 3.
  4. آن را به اعداد تبدیل می کند: بردارها ، عزیزم!
  5. رمزگذار گوش می دهد: “اوه ، آنها چای می خواهند.”
  6. صحبت های رمزگشایی: شروع به ایجاد پاسخ می کند.
  7. کلمات را انتخاب می کند: SoftMax و دما تیم بالا.
  8. شما دریافت می کنید: “چای عالی به نظر می رسد!”

لرزه های نهایی

بنابراین ، در آنجا می روید – به طور خلاصه ، ترانسفورماتور! آنها به همین دلیل است که هوش مصنوعی می تواند داستانهای وحشی را گپ ، ترجمه یا رویای خود را در خواب بیندازد. هیچ سخنرانی رباتیک در اینجا وجود ندارد – فقط چیزهای خوب ، مانند ما دوستان توضیح داده شده است. اگر هنوز کنجکاو (یا گیج شده اید) ، به من ضربه بزنید – من همیشه برای دور دو نفر هستم! 😊

منابع برای درک بیشتر:-

ما به زودی با موضوع دیگری ملاقات خواهیم کرد.

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا