من 20 دلار در ماه برای Chatgpt Plus برای کمک به گردش کار پشتیبانی می کردم – تا اینکه در طی یک بحران بلیط چاپگر به یک نرخ دیگر رسیدم.
بنابراین من دستیار GPT خود را بر روی سرور ویندوز گرد و غبار ساختم.
بدون توکن بدون کلیدهای API. بدون ابر
آنچه من ساختم
- chatbot خود میزبان با استفاده از Ollama و mistral 7b
- Backend Flask و Retact Frontend
- پایگاه دانش JSON سفارشی که از بلیط های بسته HelpDesk به روز می شود
- میزبان کاملاً آفلاین در سخت افزار محلی
نمای کلی پشته
- فلاسک – مسیریابی پس زمینه و ادغام LLM
- React – UI برای پشتیبانی و بازخورد پشتیبانی
- Ollama – دونده محلی LLM با API REST
- سرور ویندوز 10 با رم 32 گیگابایتی و GTX 1660 Super
چرا من این کار را کردم
- محدودیت نرخ یا کلاهبرداری بیشتر
- کنترل کامل بر روی داده ها و ارسال ها
- از قفل فروشنده خودداری کنید
- و صادقانه؟ من فقط می خواستم ثابت کنم که می تواند انجام شود
من نوشتن کامل را در اینجا منتشر کردم:
مقاله کامل را در رسانه بخوانید
افت در سه شنبه
اگر در مورد راه اندازی ، بسته بندی های سریع یا نحوه عملکرد پایگاه دانش JSON کنجکاو هستید ، خوشحالم که به اشتراک می گذارم.
