یادداشت محلی LLM

فهرست مطالب
- ابزار
- نحوه اجرای LLM Localy
- نحوه استفاده از LLM برای آژانس تحقیقات شخصی
- سرور API ایجاد کنید
ابزار
اولاما
این می تواند با مدل های بزرگ زبان (LLMS) اجرا شود.
اگرچه هر مدل رابط مختلفی دارد ، اما دارای رابط یکپارچه برای استفاده از LCOAL LLM است ، بنابراین می توانید LLM ها را به راحتی اجرا کنید.
لانگچین
Langchain یک چارچوب سازنده برای ساخت با LLMS است.
لانگچین
لنگرافی
Langgraph چارچوب ارکستراسیون برای گردش کار عامل قابل کنترل است.
این حالت را تعریف می کند و گردش کار پیچیده ای را ایجاد می کند.
duckdockgo
این یک موتور جستجو است که از حریم شخصی کاربر محافظت می کند.
اردک
نحوه اجرای LLM به صورت محلی
من از Ollama برای اجرای LLMS به صورت محلی استفاده کردم.
دانلود اولاما
Ollama را از وب سایت رسمی بارگیری کنید.
اولاما
نصب کردن
Ollama را به دنبال نصب نصب کنید.
بارگیری LLM
LLM را که می خواهید بارگیری کنید بارگیری کنید.
ollama pull <model_name>
اجرای LLM
LLM را اجرا کنید
ollama run <model_name>
نحوه استفاده از LLM برای آژانس تحقیقات شخصی
من به مقاله فنی زیر مراجعه کردم.
نحوه ساخت یک عامل تحقیق شخصی تعاملی با LLAMA 3.2: یک راهنمای گام به گام با استفاده از Langchain و Ollama
سرور API ایجاد کنید
من سرور API را با استفاده از رندر و فلاسک ساختم.