یک انفجار ابزارهایی وجود دارد که ادعا می کنند شغل شما را آسانتر و مورد حمایت قرار می دهند ، و من مطمئن هستم که بسیاری از آنها می توانند بسیار مفید باشند. با این وجود ، می توان از بسیاری از شرکت ها برای ادغام مجموعه های بزرگ جدید ابزارها در یک فرآیند پشتیبانی کرد. اضافه کردن ابزارهایی به وظایف خود اغلب ساده تر است. این جایی است که ایده این پست از آنجا به وجود آمده است.
سال گذشته ، من به رئیس و همکارانم در مورد ابزار Partyrock AWS گفتم. ما در حال آزمایش ابزارهایی مانند Chatgpt و HuggingChat بودیم و مواردی را پیدا کردیم ، اما باید هر بار سریعاً سریعاً چسبانده شویم. استفاده مجدد و به اشتراک گذاری مجدد کارها را آسان نکرد. ما با Partyrock موفقیت زیادی داشتیم و اکنون شروع به استفاده از آنچه با Partyrock برای خودکار سازی فرآیندها ساخته شده است استفاده می کنیم.
Partyrock چیست؟
Partyrock ابزاری مبتنی بر Generativeai است که با استفاده از Genai برنامه های کاربردی AI را ایجاد می کند. سریعترین راه برای شروع کار ، نوشتن سریع توضیح در مورد آنچه می خواهید برنامه انجام شود ، و سپس Partyrock آن برنامه را ایجاد می کند. محدودیت های قابل توجهی در آن وجود دارد. این ایده راه اندازی شما را به یک پیشنهاد SaaS در حال کار تبدیل نمی کند اما می تواند به کارهای خاص و محدود کمک کند.
در اینجا برخی از نمونه های کاربردی از سایت Partyrock آورده شده است:
- خلاصه جلسه و لیست موارد اقدام را هنگام ارائه یادداشت های جلسه ایجاد کنید.
- توضیحات شغلی و رزومه خود را با یکدیگر مقایسه کنید و شکاف ها را در رزومه خود برجسته کنید.
- دستور زبان و نوشتن بازخورد را با استفاده از Partyrock مانند ویرایشگر دریافت کنید.
سریع برای Partyrock پیچیده خواهد بود ، اما نمونه های بسیاری برای کمک به شما در شروع کار دارند. پس از ایجاد برنامه خود ، می توانید با تنظیم مطالب و سایر رفتارها ، آن را تنظیم کنید.
در حال حاضر Partyrock برای استفاده رایگان است ، اما اگر می خواهید از آن برای شغل خود استفاده کنید ، احتمالاً باید داده های اشتراک گذاری را با AWS غیرفعال کنید. شما همچنین باید سیاست حفظ حریم خصوصی Partyrock ، شرایط خدمات و سایر موارد حقوقی را به همراه سیاستهای AI-USE شرکت خود مرور کنید تا مطمئن شوید که چه کاری انجام می دهید باعث ایجاد مشکل نمی شود ، به خصوص اگر هر چیز حساس را در Partyrock قرار دهید بشر
برای یافتن گزینه غیرفعال کردن داده های اشتراک گذاری با AWS به “Backstage” در منوی Partyrock بروید.
کاری که ما با Partyrock انجام دادیم
ما چندین ایده مختلف را با Partyrock امتحان کرده ایم و من قصد ندارم همه آنها را طی کنم. برخی خوب کار نکردند و برخی از مرزهای اختصاصی. یک مثال فکر نمی کنم کسی به اشتراک گذاری من توجه کند ابزاری برای ارائه بررسی اولیه RFPS است.
RFP ها یا درخواست های پیشنهادی بخش بزرگی از کار در بخش عمومی است. هنگام کار با دولت ها و موسسات دولتی ، مانند مدارس دولتی ، نه شرکت های دولتی ، به طور کلی قوانینی در مورد اطمینان از رقابت کافی بین فروشندگانی که مایل به ارائه خدمات به سازمان هستند ، وجود دارد. این به طور کلی به معنای ایجاد اسنادی است که کارهایی را که باید انجام شود ، انتظارات و الزامات مربوط به کار ، چگونگی کارآیی یک پیشنهاد و انواع دیگر اطلاعات را برجسته می کند. این اسناد RFP ها نامیده می شوند و همان چیزی هستند که فروشندگان برای ایجاد پیشنهادی برای تلاش و برنده شدن در این کار استفاده می کنند. بعضی اوقات ، این RFP ها تعداد انگشت شماری از صفحات هستند. بعضی اوقات ، آنها صدها صفحه طول دارند. بررسی این اسناد برای دیدن اینکه آیا آنها با خدمات شما مطابقت دارند می توانند یک فرآیند طولانی و خسته کننده باشند و قالب و کیفیت اسناد RFP متناقض است. شما فقط نمی توانید به صفحه ای بروید که می گوید “خدمات درخواست شده”. بعضی اوقات ، این اطلاعات به وضوح خوانده می شود. بعضی اوقات ، کدهای ویژه نشانگر دسته بندی خدمات درخواست شده است ، و گاهی اوقات ، باید حدس بزنید که نویسنده چه چیزی را درخواست کرده است.
از آنجا که این اسناد به طور کلی لازم است که طبق قانون در دسترس عموم باشند ، نگرانی زیادی در مورد قرار دادن آنها به یک ابزار Genai وجود ندارد ، به خصوص که ما RFP برای پروژه های طبقه بندی شده در بخشی از شرکتی که من در آن کار می کنم دریافت نمی کنیم. RFP هایی که از قبل بصورت آنلاین قابل دسترسی هستند.
ما از Partyrock برای بازرسی از این اسناد و تعیین خدمات درخواست شده ، نحوه مطابقت آنها با خدماتی که ارائه می دهیم ، بودجه ها و جدول زمانی تخمین زده شده و انواع دیگر اطلاعاتی که می توانند به سرعت در تعیین اینکه آیا می خواهیم کل سند RFP را بخوانیم ، استفاده کردیم. بشر این یک زمان بزرگ است! با Partyrock ، سند PDF را روی صفحه می اندازیم و Partyrock را استخراج می کنیم و متن را بازرسی می کنیم. اگر از اسناد اسکن شده PDF بگیریم ، کار نمی کند ، اما آن RFP ها خیلی رایج نیستند. به طور معمول ، همه چیز بر روی رایانه نوشته شده است ، بنابراین استخراج متن از PDF سخت نیست.
مرحله بعدی – API های بستر
با تصفیه مطالب خود در Partyrock ، اکنون در حال آزمایش ادغام آمازون Bedrock در برخی از ابزارها و فرآیندهای خود هستیم. ما یک دسته از مهندسین نرم افزار هستیم و از برخی ابزارهای منبع باز استفاده می کنیم ، بنابراین گسترش چیزها با عملکرد جدید یک قدم بزرگ نیست.
Bedrock روش بدون سرور AWS برای استفاده از مدل های مختلف بنیادی است ، بدون اینکه یک دسته از زیرساخت ها را بچرخانید. ما می توانیم همه این کارها را با Sagemaker و سایر ابزارها انجام دهیم ، یا می توانیم در بالای بستر بسازیم. این همان کاری است که Partyrock انجام می دهد.
ما کمی نگران این بودیم که کار با اسناد و بستر ها به معنای تلاش با استفاده از Textract است. خوشحال شدم که اشتباه کردیم. من توانستم با استفاده از API Bedrock در 10 – 15 دقیقه یک اثبات سریع مفهوم بسازم.
با استفاده از یک فوری بسیار اساسی و یک نمونه نمونه کوچک که خودم نوشتم ، توانستم API Bedrock را صدا کنم و از مدل Nova Lite آمازون پاسخی دریافت کنم.
import { readFileSync } from 'node:fs';
import { join } from 'node:path';
import {
BedrockRuntimeClient,
ConverseCommand,
} from '@aws-sdk/client-bedrock-runtime';
const sampleDocument = readFileSync(join(__dirname, '..', 'sample.pdf'));
const client = new BedrockRuntimeClient({
region: 'us-east-1',
});
client
.send(
new ConverseCommand({
modelId: 'amazon.nova-lite-v1:0',
messages: [
{
role: 'user',
content: [
{
document: {
name: 'rfp',
format: 'pdf',
source: {
bytes: sampleDocument,
},
},
},
{
text: 'Review the RFP, and provide a summary of the services being requested',
},
],
},
],
}),
)
.then((resp) => {
console.log(JSON.stringify(resp, null, 2));
});
هنگامی که من می دانستم که می توانم نوع خروجی مورد نیاز خود را بدست آورم ، شروع به کار بر روی API کردم تا به ما اجازه دهد تا به راحتی با فرمت مورد نیاز خود با بستر تماس بگیریم.
دروازه API و بستر
من در ابتدا به طور مستقیم به ادغام مستقیم آمازون API Gateway با API Bedrock از طریق ادغام سرویس AWS نگاه کردم. من یک حامی بزرگ برای جلوگیری از عملکردهای غیر ضروری لامبدا و داشتن API Gateway در هر زمان ممکن است. AWS Hero Yan Cui اخیراً در LinkedIn ارسال شده و یک فیلم YouTube را بارگذاری کرده است که در مورد همان مورد بحث می کند. متأسفانه ، API Gateway در حال حاضر از Bedrock پشتیبانی نمی کند. حداقل ، به راحتی نیست. امیدوارم که به زودی اضافه شود.
💡 اگر از ادغام خدمات AWS با API Gateway استفاده نکرده اید ، باید از AWS به این آموزش نگاهی بیندازید.
بنابراین من یک تابع لامبدا ایجاد کردم که تماس API را به بستر انجام می دهد و API Gateway را از عملکرد لامبدا فراخوانی می کند. درمجموع ، ساخت یک API چند ساعت طول کشید که به اندازه کافی خوب باشد تا بتواند Genai را به فرآیندهای ما اضافه کند.
جاده پیش رو
ما هنوز باید از این API استفاده کنیم ، اما قادر به استفاده از Bedrock به راحتی به نظر می رسد مانند یک تغییر دهنده بازی است. Partyrock عالی بود که فقط چند نفر از ما چیزی را امتحان می کردیم ، اما اکنون که ما یک مورد استفاده داریم که ارزش آن را دارد ، زمان آن رسیده است که به طور مستقیم از Bedrock استفاده کنیم و هرچه بیشتر روند دستی را حذف کنیم.
