برنامه نویسی

یادداشت محلی LLM

فهرست مطالب

  • ابزار
  • نحوه اجرای LLM Localy
  • نحوه استفاده از LLM برای آژانس تحقیقات شخصی
  • سرور API ایجاد کنید

ابزار

اولاما

این می تواند با مدل های بزرگ زبان (LLMS) اجرا شود.
اگرچه هر مدل رابط مختلفی دارد ، اما دارای رابط یکپارچه برای استفاده از LCOAL LLM است ، بنابراین می توانید LLM ها را به راحتی اجرا کنید.

لانگچین

Langchain یک چارچوب سازنده برای ساخت با LLMS است.
لانگچین

لنگرافی

Langgraph چارچوب ارکستراسیون برای گردش کار عامل قابل کنترل است.
این حالت را تعریف می کند و گردش کار پیچیده ای را ایجاد می کند.

duckdockgo

این یک موتور جستجو است که از حریم شخصی کاربر محافظت می کند.

اردک

نحوه اجرای LLM به صورت محلی

من از Ollama برای اجرای LLMS به صورت محلی استفاده کردم.

دانلود اولاما

Ollama را از وب سایت رسمی بارگیری کنید.
اولاما

نصب کردن

Ollama را به دنبال نصب نصب کنید.

بارگیری LLM

LLM را که می خواهید بارگیری کنید بارگیری کنید.

ollama pull <model_name>

اجرای LLM

LLM را اجرا کنید

ollama run <model_name>

نحوه استفاده از LLM برای آژانس تحقیقات شخصی

من به مقاله فنی زیر مراجعه کردم.
نحوه ساخت یک عامل تحقیق شخصی تعاملی با LLAMA 3.2: یک راهنمای گام به گام با استفاده از Langchain و Ollama

سرور API ایجاد کنید

من سرور API را با استفاده از رندر و فلاسک ساختم.

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا