تنظیم دقیق و RAG: درک استراتژی های سفارشی سازی یک چت بابات با

برای اینکه یک Chatbot دقیق تر و کارآمدتر شود ، تعریف نحوه یادگیری و دسترسی به اطلاعات ضروری است. در تنظیم دقیق این اجازه می دهد تا مدل به طور قطعی اطلاعات جدید را یاد بگیرد ، مانند یک کلاس خاص که هرگز فراموش نمی کند – اگرچه با گذشت زمان ، آنقدر اطلاعات انباشته شده می توانند آن را کمی گیج کننده جلوه دهند. در حال حاضر خیش این ترکیب جستجو و تولید متن را برای ارائه پاسخ های همیشه به روز شده ، به عنوان یک دانشجوی باهوش که همیشه قبل از پاسخگویی با یادداشت های بیشترین مشاوره به عنوان ، مشورت می کند ، ترکیب می کند.

بیایید بررسی کنیم که چگونه این استراتژی ها ، مزایای آنها و چه زمانی از هر یک استفاده می کنند.

1. حافظه کوتاه تنظیم دقیق

تنظیم دقیق فرایندی است که در آن یک مدل از پیش هدایت شده (مانند GPT-4 ، Llama ، Claude و Gemini) با نمونه های جدید برای یک دامنه تنظیم می شود.

چگونه کار می کند؟

• شما یک مجموعه داده ساختاری را با فرمت ارائه می دهید input → output برای آموزش
• این مدل اطلاعات و استانداردهای جدید را می آموزد ، آن را تنظیم می کند وزنه های داخلی – مقادیر عددی که چگونگی پردازش شبکه عصبی داده ها را تعیین می کند.
• این وزنه ها دانش اکتسابی را ذخیره می کنند و به مدل امکان می دهد بدون مشورت با یک پایگاه دانش خارجی ، پاسخ هایی را ایجاد کند.

حافظه تنظیم دقیق

حافظه طولانی مدت

• دانش آموخته شده در طول آموزش در ذخیره می شود وزن شبکه عصبی، که نحوه ورود مدل را به پاسخ ها کنترل می کند.
• پس از تمرین ، وزنه ها با اطلاعات جدید به طور خودکار تغییر نمی کنند. این بدان معنی است که مدل به صورت پویا به روز نمی شود اگر نیاز به یادگیری چیز جدید داشته باشید ، به یک تنظیم دقیق جدید نیاز دارید.

وزن در یک شبکه عصبی چیست؟

پیش روی ماده در یک شبکه عصبی مقادیر عددی قابل تنظیم هستند که اهمیت هر ارتباط بین نورونهای مصنوعی را تعیین می کنند. آنها به عنوان پارامترهایی عمل می کنند که نحوه پردازش داده های ورودی و تبدیل به خروجی را تعدیل می کند. در طول آموزش یک مدل ، این وزن ها به طور مکرر از طریق الگوریتم های بهینه سازی تنظیم می شوند ، مانند بازپرداختبرای به حداقل رساندن خطاها و بهبود صحت پاسخ ها. این تنظیم همان چیزی است که به مدل اجازه می دهد تا الگوهای و دانش را ذخیره کند و به عنوان یک حافظه بلند مدت عمل کند. هرچه یک مدل آموزش دیده تر باشد ، وزنهای شما تصفیه شده تر خواهد بود و در نتیجه پاسخ های دقیق تر و مناسب تر برای زمینه آموخته می شود.

مزایای:

• پاسخ سریع و مستقیم ، همانطور که دانش قبلاً در مدل تعبیه شده است.
• این کار برای کارهای خاص مانند پشتیبانی فنی یا زبان تخصصی خوب کار می کند.

مضرات:

• به روزرسانی آسان نیست – اگر اطلاعات جدید بوجود بیاید ، آموزش جدید لازم است.
• این می تواند گران و وقت گیر باشد.

از مثال استفاده کنید:

• یک چت بابات پزشکی که برای پاسخ به سؤالات مربوط به قلب و عروق مبتنی بر هزاران مقاله پزشکی آموزش دیده است.

2

ای RAG (افزایش نسل با بهبود) ترکیب جستجو و تولید متنبه LLM اجازه می دهد قبل از تدوین پاسخ خود ، با یک پایگاه دانش مشورت کند.

چگونه کار می کند؟

• سیستم اسناد را در یک پایگاه داده بردار ذخیره می کند
• وقتی سوالی دریافت می کنید ، او به دنبال مناسب ترین متون است و آنها را به عنوان زمینه برای LLM می فرستد.
• این مدل از این اطلاعات برای تولید یک پاسخ دقیق استفاده می کند.
• جریان فرآیند:
  • کاربر سوالی می پرسد.
  • این سیستم سند را با نزدیکترین محتوا در معنی مشخص می کند.
  • یکی سریع این تولید ، ترکیب سؤال کاربر با محتوای بازیابی شده ، هدایت LLM برای ایجاد یک پاسخ متنی و دقیق است.

حافظه پارچه

حافظه کوتاه و بلند مدت

• کوتاه مدت: این مدل زمینه مربوطه را در زمان تولید پاسخ دریافت می کند ، اما این محتوا را به طور دائم “یاد نگیرید”بشر
• بلند مدت: ذخیره سازی اطلاعات در یک پایگاه بردار اتفاق می افتد ، که هر زمان که لازم باشد می توان با آن مشاوره کرد.
• مدل به روز می ماند بدون نیاز به آموزش جدید ، مانند همیشه آخرین داده ها را جستجو می کند.

Dentro Do Rag مبتنی بر جستجو

فرآیند بازیابی اطلاعات در RAG مبتنی بر است مبتنی بر، که به دنبال اسناد مربوطه قبل از انتقال داده ها به مدل AI است. با این حال ، بر خلاف جستجوی خالص ، که فقط اسناد موجود را برمی گرداند ، RAG این داده ها را با LLM پردازش می کند تا یک پاسخ دقیق تر و طبیعی تر تدوین شودبشر

بانکهای بردار چیست؟

پیش روی پایگاه داده های بردار سیستم هایی هستند که در ذخیره و بازیابی تخصص دارند تعبیه کارآمد بر خلاف بانک های رابطه ای (مانند MySQL) ، که داده ها را در جداول ذخیره می کنند ، بانک های بردار بردارهای تولید شده از تعبیه در یک فضای چند بعدی ، امکان جستجوی شباهت بدون نیاز به مکاتبات دقیق بین کلمات یا جملات را فراهم می کند. این امر آنها را برای برنامه های هوش مصنوعی که نیاز به یافتن اطلاعات مربوطه بر اساس معنی دارند و نه فقط کلمات خاص ، ضروری می کند.

چرا آنها در RAG مهم هستند؟

• اجازه دادن جستجوی معنایی، بازگشت متون مربوطه حتی اگر سؤال با کلمات مختلف پرسیده شود.
• آنها هستند بسیار مقیاس پذیر، قادر به ذخیره میلیون ها تعبیه بدون از دست دادن کارآیی.
• استفاده کردن روشهای پیشرفته نمایه سازی، چگونه HNSW (دنیای کوچک ناوبری سلسله مراتبی)برای سریعتر جستجو.

بانکهای اطلاعاتی بردار بومی

• خیانت – توسعه یافته توسط Facebook ، یکی از بیشترین استفاده برای جستجوی تقریبی وکتور در مقیاس بزرگ است.
• بادبادک منبع-منبع ، توزیع شده و بسیار مقیاس پذیر ، ایده آل برای برنامه های هوش مصنوعی.
• کلوچه – پلت فرم مدیریت شده که جستجوی بردار زمان واقعی را ساده می کند.
• بافته کردن بانک وکتور منبع باز با GraphQL ، در IA و NLP استفاده می شود.
• qdrant – جایگزین قوی ، با پشتیبانی فیلتر خوب و عملکرد بالا.

پایگاه داده های سنتی با بردارها پشتیبانی می کنند

• postgresql (pgveector) – یکی از محبوب ترین گزینه ها ، امکان جستجوی بردار در SQL.
• redis (redissearch + hnsw) -جستجوی بردار کارآمد در یک بانک در حافظه.
• Elasticsearch (متراکم_ وکتور) – پشتیبانی بردار در یک موتور جستجوی بسیار مقیاس پذیر.
• MongoDB (جستجوی بردار اطلس) – جستجوی وکتور یکپارچه با اطلس MongoDB ، تسهیل استفاده با داده های بدون ساختار.
• Clickhouse (توابع فاصله) – بانک تحلیلی که امکان ذخیره و جستجوی سریع بردارها را فراهم می کند.

منبع: https://blog.det.life/why-you-shouldnt-invest-in-databases-c0cd3f59d23c

تعبیه ها چیست؟

پیش روی تعبیه آنها بازنمایی عددی از متون هستند که به یک سیستم اجازه می دهد معنای جملات را بدون توجه به کلمات دقیق درک کند. آنها متون را در یک فضای ریاضی به بردارها تبدیل می کنند ، جایی که عباراتی با معانی مشابه به یکدیگر نزدیکتر است.

این تکنیک از پردازش زبان طبیعی (PLN) متون را به بازنمایی بردار تبدیل می کند ، کلمات و عبارات را به یک فضای چند بعدی تبدیل می کند. بنابراین ، هنگامی که یک کاربر از یک سؤال سؤال می کند ، سیستم در مدل بردار نزدیکترین متون ، شباهت ها و بازیابی مناسب ترین اطلاعات را برای تولید یک پاسخ دقیق جستجو می کند.

نمونه ای از تعبیه ها در عمل

• عبارات “چگونه می توانم رمز ورود خود را دوباره تعریف کنم؟” و “من رمز ورود خود را فراموش کردم ، چگونه بهبود یابم؟” آنها ممکن است کلمات مختلفی داشته باشند ، اما تعبیه آنها نزدیک خواهد بود زیرا معنای یکسانی دارند.
• با این کار ، chatbot می تواند پاسخ صحیح را بازیابی کند حتی اگر این سؤال با کلمات دقیق پرسیده نشده باشد.

نمودار با بازنمایی بردار کلمات در یک فضای سه بعدی

FONTE: مایکروسافت گواهینامه: Azure AI اساسی

نمودار نشان می دهد که چگونه تعبیه آنها کلماتی مانند نقاط را در یک فضای چند بعدی نشان می دهند ، جایی که ما از نظر معنایی مشابه با یکدیگر نزدیکتر هستیم. در مثال ، کلمات مربوط به سگ ها و گربه ها ، مانند “سگ”با “گاتو”با “ضرب و شتم” اشمیه “میو”، گروه بندی شده ، در حالی که “اسکیت بورد”، یک اصطلاح غیرقانونی ، دورتر است. این سازمان برای سیستمهایی که از آنها استفاده می کنند ضروری است بانکهای بردار، آن فروشگاه و فهرست این بردارها را برای جستجوهای کارآمد فراهم می کند. در یک بانک وکتور ، هنگام جستجوی “سگ” ، سیستم می تواند به طور خودکار کلمات اطراف را پیدا کند ، مانند “پوست” و “گربه” بدون نیاز به مکاتبات دقیق ، بازیابی اطلاعات را باهوش تر و متناسب می کند.

مزایای:

• به روزرسانی آسان بدون نیاز به شکل مجدد مدل.
• پاسخ ها را اجازه می دهد متناسب و مبتنی بر اسناد واقعیبشر

مضرات:

• بستگی به کیفیت نمایه سازی داده ها دارد.
• ممکن است به دلیل فرآیند جستجو ، زمان پاسخ را افزایش دهد.

از مثال استفاده کنید:

• یک چت بابات شرکتی که برای پاسخ به سؤالات کارمندان با اسناد داخلی مشورت می کند.

اگر به چت بابات احتیاج دارید اطلاعات جدید را به خاطر بسپارید و می تواند به روز شود آموزش مجددبا Rag بهترین انتخاب استبشر