PrivateGPT یک اسکریپت پایتون برای بازجویی از فایل های محلی با استفاده از GPT4ALL، یک مدل زبان بزرگ منبع باز است. راه اندازی بسیار ساده است:
- مخزن را شبیه سازی کنید
-
LLM را دانلود کنید – حدود 10 گیگابایت – و آن را در یک پوشه جدید به نام قرار دهید
models. - اسنادی را که می خواهید بازجویی کنید در آن قرار دهید
source_documentsپوشه – به طور پیش فرض، متنی از آخرین ایالت اتحادیه در ایالات متحده وجود دارد. - را اجرا کنید
ingest.pyاسکریپت – این می تواند برای مدت طولانی. در این مک بوک M1 2 دقیقه بود - را اجرا کنید
privateGPT.pyاسکریپت و شما یک درخواست در ترمینال خود دریافت می کنید:
من از او پرسیدم که رئیس جمهور ایالات متحده در مورد وضعیت اوکراین چه می گوید و خلاصه آن را به من داد و این اطلاعات از کجا در سند آمده است.
مرتب!
