Generative AI Serverless – Apply Guardrail، Bedrock Converse API، RAG – با سند خود گپ بزنید!

Summarize this content to 400 words in Persian Lang
در این مقاله، من قصد دارم به شما نشان دهم که چگونه یک راه حل GenAI RAG بدون سرور برای پیاده سازی ویژگی چت اسناد با استفاده از Amazon Bedrock Converse API و Lambda بسازید. همچنین، یکی از جدیدترین ویژگی‌های معرفی‌شده در جولای 2024 را اعمال می‌کنم که استفاده از گاردریل است تا بتوانیم بر روی اعلان ورودی و همچنین بازگرداندن پاسخ به برنامه/مصرف‌کننده تماس‌گیر کنترل داشته باشیم.

Guardrail یک ویژگی بسیار مورد نیاز است که توسط Amazon Bedrock برای محافظت از محتویات در حین استفاده از یک راه حل هوش مصنوعی مولد پشتیبانی می شود.

ویژگی‌های «Chat With Document» که توسط Amazon Bedrock پشتیبانی می‌شود، شکلی از RAG است و به شما امکان می‌دهد مکالمه متنی داشته باشید و بر اساس داده‌های موجود در سند تقویت‌شده با LLM برای هوش مصنوعی مولد سؤال بپرسید.

RAG که مخفف Retrieval Augmented Generation است، در دنیای هوش مصنوعی مولد به طور فزاینده ای محبوب می شود. این به سازمان ها اجازه می دهد بر محدودیت های LLM غلبه کنند و از داده های متنی برای راه حل های هوش مصنوعی تولیدی خود استفاده کنند.

من از مدل پایه Anthropic Sonnet که اخیراً منتشر شده است استفاده خواهم کرد و آن را از طریق Amazon Bedrock Converse با استفاده از Lambda و API فراخوانی خواهم کرد.

موارد استفاده زیادی وجود دارد که در آن چت هوش مصنوعی با عملکرد سند شما می تواند به افزایش بهره وری کمک کند. چند نمونه شامل پشتیبانی فنی استخراج اطلاعات از کتابچه راهنمای کاربر برای حل سریع سؤالات مشتریان، یا پاسخگویی منابع انسانی بر اساس اسناد خط مشی یا توسعه دهنده با استفاده از اسناد فنی برای دریافت اطلاعات در مورد عملکرد خاص یا یک تیم مرکز تماس است که به سؤالات مشتریان پاسخ می دهد. چت با مستندات محصول

در همه این موارد استفاده، استفاده از نرده‌های محافظ مناسب برای محافظت از اطلاعات حساس و رد پاسخ‌ها در مورد موضوعات خاصی که برای پرونده تجاری مناسب نیستند، مهم است.

بیایید به موارد استفاده خود نگاه کنیم:

مورد استفاده در زمینه داده های پیش صلاحیت برای مشتریان کارت اعتباری بالقوه است.
یک فایل داده وجود دارد که حاوی لیست مشتریان با داده های Pre-Qualification است. این داده ها شامل شناسه صفحه، نام مشتری، وضعیت صلاحیت، امتیاز اعتباری و کد پستی است.
لطفاً توجه داشته باشید که این داده های ساختگی با استفاده از GenAI برای این کارگاه ایجاد شده است.
یک API فعال با هوش مصنوعی تولیدی با استفاده از این سند به عنوان منبع افزوده شده، پاسخ به درخواست‌های رایج را ارائه می‌دهد.
این راه حل به تیم پشتیبانی مشتری و بازاریابی این امکان را می دهد که دید سریعی از داده های مربوط به مشتریانی که واجد شرایط کارت هستند، واجد شرایط نیستند یا مواردی که اطلاعات بیشتری مورد نیاز است، داشته باشند.
Guardrail باید اجرا شود تا اطمینان حاصل شود که داده های امتیاز اعتباری با مشتری یا برنامه/مصرف کننده تماس گیرنده به اشتراک گذاشته نمی شود.
راه حل باید مبتنی بر API باشد تا بتوان آن را از طریق برنامه های مختلف فراخوانی کرد.

در اینجا نمودار معماری برای مورد استفاده ما آمده است.

با استفاده از کنسول AWS یک نرده محافظ ایجاد کنید

وارد کنسول AWS شوید
از Bedrock à Guardrail، روی Create Guardrail کلیک کنید.
نام و سایر جزئیات را برای نرده محافظ ارائه دهید.

موضوع رد را در این گاردریل اضافه کنید. امتیاز اعتباری شامل داده های پیش صلاحیت است. هنگامی که از شما برای ارزش امتیاز اعتبار خواسته می شود، درخواست مربوط به امتیاز اعتباری را رد کنید.

یک الگوی SAM ایجاد کنید

من یک الگوی SAM برای تابع lambda ایجاد خواهم کرد که حاوی کد فراخوانی Bedrock Converse API به همراه پارامترهای مورد نیاز و یک اعلان است. قبل از ارائه پاسخ نهایی به مصرف کننده، Apply Guardrail هم با ورودی و هم با خروجی فراخوانی می شود.

تابع Lambda را می توان بدون الگوی SAM ایجاد کرد، با این حال، من ترجیح می دهم از رویکرد Infra به عنوان کد استفاده کنم زیرا امکان بازآفرینی آسان منابع ابری را فراهم می کند. در اینجا الگوی SAM برای تابع لامبدا است.

یک تابع لامبدا ایجاد کنید

تابع Lambda به عنوان هسته اصلی این راه حل خودکار عمل می کند. این شامل کد لازم برای برآورده کردن الزامات تجاری مربوط به مصرف فایل داده‌های پیش‌صلاحیت از سطل S3، اعمال گاردریل و سپس فراخوانی API معکوس برای ایجاد پاسخ با استفاده از مدل پایه آنتروپیک سونت است. حالا بیایید به کد پشت آن نگاه کنیم.

ساخت و تأیید عملکرد بعدی با استفاده از AWS SAM قبل از استقرار تابع لامبدا در ابر AWS. تعداد کمی از دستورات SAM استفاده شده عبارتند از:

ساخت SAM
فراخوانی محلی SAM
SAM استقرار

پاسخ مدل GenAI را با استفاده از یک اعلان تأیید کنید

مهندسی سریع جزء ضروری هر راه حل هوش مصنوعی مولد است. این هم هنر است و هم علم، زیرا ایجاد یک اعلان مؤثر برای به دست آوردن پاسخ مطلوب از مدل پایه بسیار مهم است. اغلب، برای دستیابی به نتیجه دلخواه از مدل Generative AI نیاز به تلاش‌ها و تنظیمات متعددی دارد.

با توجه به اینکه من راه حل را برای AWS API Gateway اجرا می کنم، پس از استقرار یک نقطه پایانی API خواهم داشت. من قصد دارم از Postman برای ارسال درخواست و بررسی پاسخ استفاده کنم. علاوه بر این، می‌توانم پاسخ را به سطل AWS S3 برای بررسی بعدی ارسال کنم.

نمونه‌هایی از پاسخ‌های محافظت‌شده/غیرحفاظ‌شده که توسط API بازگردانده شده‌اند

درخواست: لطفاً امتیاز اعتباری Jon Doe را به من بگویید.

درخواست: آیا جان دو می تواند کارت را دریافت کند؟ (حفاظ برای این پاسخ اعمال نشده است)

Prompt: Apply guardrail به پاسخ اعمال می شود: (همراه با اعلان سیستم اصلاح شده)

درخواست: چه تعداد از مشتریان واجد شرایط کارت اعتباری نیستند؟

همانطور که در پاسخ‌های بالا مشاهده می‌کنید، زمانی که نرده محافظ اعمال می‌شود، داده‌های امتیاز اعتباری به مصرف‌کننده نشان داده نمی‌شود. درخواست ورودی نیز محافظت می‌شود، بنابراین اگر ورودی/اعلان خط‌مشی محافظت‌شده را نپذیرفت، به LLM‌ها برای پاسخ نزدیک نمی‌شوند.

با این مراحل، یک راه حل GenAI بدون سرور برای پیاده سازی یک چت با راه حل سند شما با استفاده از Amazon Bedrock Converse، Lambda و API با موفقیت تکمیل شد. Python/Boto3 برای فراخوانی Bedrock API با Anthropic Sonnet مورد استفاده قرار گرفت.

من همچنین از نرده محافظ برای محافظت از محتویات مطابق با خط مشی نرده محافظ پیکربندی شده استفاده کردم.

همانطور که راه حل های GenAI مدام بهبود می یابند، نحوه کار ما را تغییر می دهند و مزایای واقعی را برای بسیاری از صنایع به ارمغان می آورند. این کارگاه نشان می دهد که هوش مصنوعی چقدر می تواند در حل مشکلات دنیای واقعی و ایجاد فرصت های جدید برای نوآوری قدرتمند باشد.

با تشکر برای خواندن!

من در حال ساخت یک ویدیو برای این هستم و تا تاریخ 24/7/20 در کانال من CloudWithGirish قرار خواهد گرفت.

𝒢𝒾𝓇𝒾𝓈𝒽 ℬ𝒽𝒶𝓉𝒾𝒶𝘈𝘞𝘚 𝘊𝘦𝘳𝘵𝘪𝘧𝘪𝘦𝘥 𝘚 𝘋𝘦𝘷𝘦𝘭𝘰𝘱𝘦𝘳 𝘈𝘴𝘴𝘰𝘤𝘊𝘭𝘰𝘶𝘥 𝘛𝘦𝘤𝘩𝘯𝘰𝘭𝘰𝘨