راهنمای درک و توسعه عوامل LLM

مدل های بزرگ زبان (LLM) فراتر از تولید متن تکامل یافته اند که اکنون از طریق عوامل LLM به عنوان تصمیم گیرنده عمل می کنند. با وجود نمایندگان ساخته شده با LLM ، برنامه ها می توانند فراتر از مکالمه باشند و در واقع اقداماتی مانند بازیابی داده ها ، انجام محاسبات یا حتی راه اندازی اقدامات اتوماسیون وب مانند خراش وب انجام دهند.

در این وبلاگ ، ما بررسی خواهیم کرد که چگونه عوامل LLM مدل های زبان را به تصمیم گیرندگان چند مرحله ای تبدیل می کنند. ما مؤلفه های اصلی آنها را پوشش خواهیم داد ، چگونه چارچوب هایی مانند Langchain Development Development ، و به برنامه های عملی همراه با چالش ها و موضوعات اخلاقی درگیر می پردازیم.

عوامل LLM چیست؟

یک عامل LLM یک سیستم هوش مصنوعی است که از یک مدل زبان به عنوان “مغز” خود برای برنامه ریزی ، اجرای و اصلاح اقدامات استفاده می کند. بر خلاف LLM های استاتیک که پاسخ های منفرد را ایجاد می کنند ، Agents LLM به صورت پویا با ابزارها (API ، پایگاه داده ، ماشین حساب) برای دستیابی به اهداف مانند تجزیه و تحلیل داده ها یا اتوماسیون کار تعامل دارند.

نمایندگان LLM در مقابل LLMS

LLM های سنتی نتیجه متن را بر اساس ارسال های ورودی تولید می کنند. در مقابل ، نمایندگان ساخته شده با LLMS می توانند “با صدای بلند فکر کنند” برای تعیین اقدامات بعدی بعدی و استفاده از ابزارهایی برای اجرای این اقدامات – خواه این یک ماشین حساب را فراخوانی کند ، جستجو در وب و یا پرس و جو یک پایگاه داده.

عوامل LLM برای تجزیه و تحلیل ورودی ، تصمیم گیری در مورد یک سری مراحل و اجرای آن مراحل با استفاده از ابزارهای یکپارچه طراحی شده اند. این تصمیم گیری پویا آنها را از مدل های استاتیک جدا می کند و آنها را در کارهای اتوماسیون پویا می کند.

چارچوب های عامل LLM

چارچوب هایی برای عوامل LLM ، مانند Langchain و Llamaindex با ارائه اجزای از پیش ساخته مانند: فرایند توسعه را ساده می کنند:

• ابزارهایی برای تعامل با سیستم های خارجی
• حافظه برای ذخیره زمینه
• توابع یاور برای پردازش پاسخ
• عملکرد یاور برای استدلال و تصمیم گیری

Langchain به توسعه دهندگان اجازه می دهد تا بدون نگرانی در مورد جزئیات اجرای سطح پایین ، بر طراحی رفتار عامل تمرکز کنند. این انتزاع سطح بالا برای نمونه سازی سریع برنامه های پیشرفته LLM مهم است.

در مرحله بعد ، بیایید نگاهی بیندازیم که چگونه می تواند یک عامل اتوماسیون Benegit Agent باشد.

LLM از موارد استفاده از موارد

نمایندگان LLM در حوزه های مختلف ، از خودکار کردن پشتیبانی مشتری گرفته تا خلاصه داده ها و کمک به تصمیم گیری اعمال می شوند. ادغام آنها با سیستم های خارجی باعث افزایش کارآیی گردش کار و نوآوری در صنایع می شود.

در اینجا برخی از نمونه های عامل LLM آورده شده است:

اتوماسیون کار

نمایندگان LLM می توانند وظایف تکراری و وقت گیر را به صورت خودکار انجام دهند و تیم ها را برای تمرکز بر ابتکارات استراتژیک آزاد کنند. برنامه های کلیدی شامل:

• بازیابی داده ها داده ها را از وب سایت ها با استفاده از خراش وب ، API ها یا بانکهای اطلاعاتی ، جمع آوری اطلاعات و تجزیه و تحلیل اطلاعات.
• تجزیه و تحلیل داده ها: پردازش ، خلاصه و استخراج بینش های عملی از مجموعه داده های پیچیده ، تبدیل تعداد خام به هوش ارزشمند تجارت.
• پشتیبانی مشتری: خدمات مشتری را با تولید پاسخ های شخصی که متداول های پیش تعریف شده را با داده های زمان واقعی ترکیب می کنند ، تضمین می کنند و از پشتیبانی به موقع و آگاه استفاده می کنند.
• برنامه ریزی و اعلان ها: مدیریت زمان را با هماهنگی تقویم ها ، ارسال یادآوری و رسیدگی به وظایف برنامه ریزی معمول ، کاهش سربار اداری و نگه داشتن تیم ها بهینه سازی کنید.

به زودی ، عوامل LLM می توانند برای استفاده از ابزارها و API ها برای اتوماسیون کارهایی که نیاز به بازیابی داده ها ، تجزیه و تحلیل و تصمیم گیری دارند ، استفاده کنند.

نمونه ای از چنین کاری می تواند باشد:

• آخرین بررسی محصولات Scrape → تجزیه و تحلیل احساسات → تولید گزارش عملکرد محصول
• نظارت بر ذکرهای رسانه های اجتماعی → شناسایی روندها → اجرای استراتژی های بازاریابی یا سرمایه گذاری
• بازیابی داده های مالی → محاسبه معیارهای کلیدی → تولید گزارش ها
• تجزیه و تحلیل بازخورد مشتری → مسائل مشترک را شناسایی کنید → پیشنهادات را پیشنهاد کنید

با دسترسی به نمایندگان LLM به استفاده از ابزار مانند اتوماسیون وب و تولید داده می توانیم آنها را به صورت خودکار زنجیره های کار پیچیده کنیم.

استفاده از ابزار تنها کاری نیست که نمایندگان LLM می توانند انجام دهند ، آنها همچنین می توانند بر اساس داده هایی که به آنها داده اند تصمیم بگیرند.

استدلال و تصمیم گیری

عوامل LLM می توانند از حافظه و توانایی های استدلال خود برای تصمیم گیری آگاهانه استفاده کنند. آنها با ترکیب آگاهی از زمینه با برنامه ریزی استراتژیک ، می توانند:

• خطاها و ناسازگاری های خود صحیح در پاسخ ها. این در حال حاضر در برخی از چت های LLM مانند GPT-O3 و DeepSeek-R1 در دسترس است اما می توان با ابزارهای سفارشی بیشتر گسترش یافت.
• اقدامات چند مرحله ای را بر اساس ورودی کاربر و وضعیت سیستم برنامه ریزی کنید. به عنوان مثال ، یک عامل می تواند کاربر را از طریق یک فرآیند پیچیده مانند عیب یابی دستگاه یا تنظیم یک نرم افزار راهنمایی کند.
• تجزیه و تحلیل داده ها و تولید بینش. نمایندگان LLM می توانند مجموعه داده های بزرگ را پردازش کنند ، الگوهای را شناسایی کنند و توصیه های عملی را ارائه دهند و آنها را ابزارهای ارزشمندی برای تصمیم گیری مبتنی بر داده ایجاد کنند.

بنابراین ، امکان خودکار سازی وظایف و توانایی استدلال در مورد داده ها ، عوامل LLM را به ابزاری قدرتمند برای اتوماسیون و تصمیم گیری تبدیل می کند.

حال ، بیایید ببینیم عوامل LLM از بعدی ساخته شده اند.

اجزای عامل LLM

عوامل LLM با ترکیبی از مؤلفه های تخصصی ساخته شده اند که برای پردازش اطلاعات ، حفظ زمینه و انجام کارهای پیچیده با هم کار می کنند.

این طراحی مبتنی بر مؤلفه ، عوامل را قادر می سازد تا حافظه را ادغام کنند ، از ابزارهای خارجی استفاده کنند و از ماژول های برنامه ریزی استراتژیک برای اجرای وظایف اتوماسیون یا فقط پاسخ های دقیق تر پیروی کنند.

آناتومی یک عامل LLM

یک عامل LLM مؤثر به طور معمول شامل چندین مؤلفه کلیدی است:

خاطره به نمایندگان اجازه می دهد تا تاریخ مکالمه و اطلاعات متنی را ذخیره کنند. از آنجا که LLMS بدون تابعیت است ، حافظه برای حفظ زمینه در تعامل ضروری است.

ابزار به توابع خارجی مانند ماشین حساب ، اجرای اسکریپت های تجزیه و تحلیل داده ، خودکار کردن مرورگرهای وب برای خراش وب یا سایر کارهای وب و تعامل با API اجازه دهید. این ابزارها قابلیت های عامل را فراتر از تولید متن گسترش می دهند.

برنامه ریزی ماژول ها منطق را اجازه دهید که روند تصمیم گیری عامل و اصلاح خود را راهنمایی کند. این ماژول ها به نمایندگان کمک می کنند تا مراحل بعدی را بر اساس ورودی و زمینه تعیین کنند.

برای درک بهتر این موضوع ، بیایید نگاهی به این مؤلفه ها در یکی از محبوب ترین چارچوب های عامل LLM ، Langchain بیندازیم.

چگونه عوامل لانگچین این مؤلفه ها را متحد می کنند

Langchain به عنوان چسب عمل می کند که این مؤلفه ها را به یک عامل LLM یکپارچه و یکپارچه متصل می کند. در اینجا نحوه پیشرفت و عملکرد چنین عوامل را بیان می کند:

Langchain یک اکوسیستم را فراهم می کند ابزارهای مختلف می توانند یکپارچه ادغام شوندبشر به عنوان مثال ، می توانید یک ماشین حساب را با یک API جستجوی وب ترکیب کنید تا یک عامل ایجاد شود که هم محاسبات و هم بازیابی داده ها را انجام دهد. Langchain دارای ابزارهای رسمی داخلی و همچنین ابزارهای جامعه مانند ادغام Langchain بسیار شخصی Scrapfly است که با قابلیت های خراش وب به نمایندگان LLM قدرت می دهد.

لانگچین مدیریت حافظه را اداره می کند با ذخیره و به روزرسانی زمینه در تعامل در حافظه برنامه خود به عنوان LLMS بدون تابعیت است. این تضمین می کند که نماینده می تواند مکالمه منسجم را حفظ کرده و بر اساس تعامل گذشته تصمیمات آگاهانه بگیرد.

بیایید نگاهی به نمونه های واقعی Langchain در آینده بیندازیم.

ساختن یک عامل LLM با Langchain

بیایید ببینیم که چگونه می توان یک محیط عامل LLM را با استفاده از Langchain تنظیم کرد ، ابزارهای سفارشی را تعریف کرد و یک عامل را که از جستجوی وب استفاده می کند و یک ابزار ساده ابزار استفاده می کند.

محیط تنظیم

با نصب Langchain و وابستگی های مورد نیاز شروع کنید. یک نوت بوک ترمینال یا Jupyter را باز کنید و اجرا کنید:

# Install LangChain and dependencies
$ pip install langchain-openai langchain duckduckgo-search

این دستور Langchain را به همراه کتابخانه OpenAI برای استفاده از مدل های LLM OpenAI نصب می کند ، اما Langchain تقریباً از هر مدل LLM دیگری نیز پشتیبانی می کند. ما همچنین ابزار جستجوی Duckduckgo را برای قابلیت های جستجوی وب نصب می کنیم ، زیرا برای این مثال ما از ابزار جستجوی Duckduckgo استفاده خواهیم کرد.

تعریف ابزارهای عامل Langchain

برای نشان دادن چگونگی استفاده از عوامل از ابزارها ، ما یک عامل LLM ساده ایجاد خواهیم کرد که می تواند از ابزار جستجوی Duckduckgo و یک ابزار سفارشی ساده برای به دست آوردن طول رشته کاراکتر استفاده کند:

from langchain.agents import AgentType, initialize_agent, tool
from langchain_community.tools import DuckDuckGoSearchRun
from langchain_openai import OpenAI
import os

# Step 1: Set up OpenAI API key
os.environ["OPENAI_API_KEY"] = "YOUR_OPENAI_KEY"

# Step 2: Create custom tools
@tool
def get_word_length(word: str) -> int:
    """Returns the length of a word."""
    return len(word)

# Step 3: Initialize predefined tools
search = DuckDuckGoSearchRun()
tools = [search, get_word_length]

این قطعه نشان می دهد که چگونه می توانیم دو نوع ابزار مختلف را به عامل LLM خود وصل کنیم: ابزار جامعه برای جستجوی Duckduckgo و ابزار عملکرد Python خود ما برای محاسبه طول رشته.

بعد ، بیایید این ابزارها را امتحان کنیم.

در حال اجرا عامل Langchain

اکنون که ابزارهای ما آماده هستند ، ما مدل زبان را آغاز می کنیم و عامل را تنظیم می کنیم. عامل از استراتژی توضیحات “Zero-Shot React” استفاده می کند ، که به عامل اجازه می دهد تا بر اساس توضیحات کار ، از کدام ابزار استفاده کند.

# Step 4: Initialize the language model
llm = OpenAI(temperature=0)  # Set temperature for deterministic responses

# Step 5: Create the agent
agent = initialize_agent(
    tools=tools,
    llm=llm,
    agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION,
    verbose=True,  # Show detailed reasoning process
    handle_parsing_errors=True
)

# Step 6: Test the agent
if __name__ == "__main__":
    # Simple search
    print(agent.run("What's the latest news about AI advancements?"))
# will print
"""
Entering new AgentExecutor chain...
 I should use duckduckgo_search to find the latest news
Action: duckduckgo_search
Action Input: "AI advancements"
Observation: Bullet points. This article summarizes Google's AI advancements in 2024, highlighting their commitment to responsible development. Google released Gemini 2.0, a powerful AI model designed for the "agentic era," and integrated it into various products. It covers trends such as technical advancements in AI and public perceptions of the technology. In an effort to alleviate concerns around AI governance, the World Economic Forum has spearheaded the AI Governance Alliance. Artificial intelligence's (AI) influence on society has never been more pronounced. Since ChatGPT became a ubiquitous ... Discover the 10 major AI trends set to reshape 2025: from augmented working and real-time decision-making to advanced AI legislation and sustainable AI initiatives. Subscribe To Newsletters. As we reflect on 2024's remarkable AI achievements, it's clear that we're witnessing not just technological advancement but a fundamental transformation in how AI integrates into our lives and work. Learn how generative AI will evolve in 2024, from multimodal models to more realistic expectations. Explore the challenges and opportunities of open source, GPU shortages, regulation and ethical AI.
Thought: I should read through the bullet points to get a better understanding of the latest AI advancements
Action: get_word_length
Action Input: "AI advancements"
Observation: 15
Thought: I now know the final answer
Final Answer: The latest news about AI advancements is that Google has released Gemini 2.0, a powerful AI model, and the World Economic Forum has spearheaded the AI Governance Alliance to address concerns around AI governance. There are also 10 major AI trends set to reshape 2025, including augmented working and real-time decision-making. The word length of "AI advancements" is 15.

Finished chain.
The latest news about AI advancements is that Google has released Gemini 2.0, a powerful AI model, and the World Economic Forum has spearheaded the AI Governance Alliance to address concerns around AI governance. There are also 10 major AI trends set to reshape 2025, including augmented working and real-time decision-making. The word length of "AI advancements" is 15.
"""

در اینجا ، ما یک عامل را با استفاده از روش داخلی Langchain آغاز می کنیم. نماینده از رسم ما استفاده می کند get_word_length ابزار و DuckDuckGo search ابزاری برای رسیدگی به نمایش داده هایی که نیاز به تجزیه و تحلیل متن ساده و بازیابی اطلاعات خارجی دارند. این مثال نشان می دهد که چگونه Langchain ابزارهای مدولار را به یک سیستم منسجم ترکیب می کند که به طور پویا ابزار مناسب را بر اساس کار انتخاب می کند.

چالش هایی برای نمایندگان LLM

علی رغم پتانسیل تحول آمیز ، عوامل LLM با چالش های مختلفی روبرو هستند که توسعه دهندگان و کاربران باید به آنها بپردازند. این چالش ها در دو دسته اصلی قرار می گیرند: محدودیت های فنی و ملاحظات اخلاقی.

محدودیت های فنی

با وجود پیشرفت های سریع LLM ، هنوز هم محدودیت های فنی وجود دارد که باید در هر توسعه عامل LLM در نظر گرفته شود:

• توهم: بعضی اوقات ، LLMS ممکن است اطلاعات نادرست یا ساختگی ایجاد کند. اطمینان از اینکه نمایندگان ساخته شده با LLM ها خروجی ها را با استفاده از ابزارهای قابل اعتماد تأیید می کنند ، ضروری است.
• محدودیت های پنجره زمینه: مقدار متن یک LLM که می تواند به یکباره در نظر بگیرد محدود است. مدیریت و خلاصه مکالمات طولانی یا مجموعه داده ها همچنان یک چالش است. مدل های جدید LLM مانند GPT-4 دارای ویندوز زمینه بسیار بزرگی هستند ، بنابراین برای برنامه های کوچک کمتر اهمیت دارد اما برای مجموعه داده های بزرگ هنوز هم می تواند یک مشکل باشد.

ملاحظات اخلاقی و تراز

هر مدل LLM ، آموزش و تراز کردن با عامل LLM را نیز نشان می دهد ، بنابراین ارزش آن را دارد که هنگام توسعه عوامل LLM که مسئول تصمیم گیری طبیعی هستند ، این موارد را در نظر بگیرید:

• تعصب: نمایندگان می توانند سهواً تعصبات موجود در داده های آموزش را تبلیغ کنند. اجرای چک های انصاف بسیار مهم است.
• شفافیت: کاربران باید از نحوه تصمیم گیری آگاه باشند. ارائه سیاهههای مربوط به روند و اقدامات تفکر عامل به ایجاد اعتماد کمک می کند.

غلبه بر این چالش ها مهم برای استقرار ایمن عوامل LLM است. با اجرای حفاظت های فنی قوی و دستورالعمل های اخلاقی ، توسعه دهندگان می توانند اطمینان حاصل کنند که نمایندگان هوش مصنوعی به صورت ایمن و قابل اعتماد پاسخ می دهند.

برخی از چالش های عامل LLM به طور مستقیم با خود LLM ها مرتبط نیستند بلکه به ابزارهایی که استفاده می کنند مربوط می شوند. بیایید نگاهی بیندازیم که چگونه می توان نمایندگان LLM را با خراش وب در مرحله بعدی تأمین کرد.

نیروهای LLM با Scrapfly

Scrapfly برای جمع آوری داده ها در مقیاس ، اسکریپت های وب ، تصویر و استخراج API را فراهم می کند.

Scrapfly به طور رسمی با چارچوب های LLM مانند Langchain و Llamaindex مناسب است تا ابزارهای قدرتمند اتوماسیون وب را برای نمایندگان LLM شما فراهم کند.

در اینجا نمونه ای از Langchain را می توان با استفاده از API Scrapfly Web Scraping API برای توسعه عوامل LLM که قادر به خراش وب بدون محدودیت هستند استفاده کنید:

from langchain_community.document_loaders import ScrapflyLoader
from langchain_core.output_parsers import JsonOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI


# 1. prompt design
prompt = """
Given the data fetched from product URLs,
find the following product fields {fields}
in the provided markdown and return a JSON
"""
prompt_template = ChatPromptTemplate.from_messages(
    [("system", prompt), ("user", "{markdown}")]
)
# 2. chain: form prompt -> execute with openAI -> parse result
os.environ["OPENAI_API_KEY"] = "YOUR OPENAPI KEY"
chain = (
    prompt_template
    | ChatOpenAI(model="gpt-3.5-turbo-0125")
    | JsonOutputParser()
)

# 3. Retrieve page HTML as markdown using Scrapfly
loader = ScrapflyLoader(
    ["https://web-scraping.dev/product/1"],
    api_key="YOUR SCRAPFLY KEY",
)
docs = loader.load()

# 4. execute RAG chain with your inputs:
print(chain.invoke({
    "fields": ["price", "title"],
    "markdown": docs
}))

# will print:
{
    'price': '$9.99',
    'title': 'Box of Chocolate Candy'
}

به صورت رایگان امتحان کنید!

اطلاعات بیشتر در مورد Scrapfly

پرسش

برای بسته بندی این مقدمه ، بیایید نگاهی به برخی از سؤالات متداول در مورد نمایندگان LLM بیندازیم.

آیا می توانم یک عامل LLM بدون هیچ چارچوبی بسازم؟

بله ، اما به تلاش دستی بیشتری نیاز دارد. در حالی که چارچوب های عامل LLM مانند Langchain توسعه عامل را ساده می کند ، می توانید با ادغام API ها ، مدیریت حافظه و طراحی مکانیسم های استدلال ، یک عامل LLM را از ابتدا بسازید. گفته می شود ، چارچوب های LLM ارزش و ادغام جامعه زیادی را ارائه می دهند که می تواند وقت و اشکال زدایی شما را صرفه جویی کند.

آیا عوامل LLM اشتباهات کمتری دارند؟

از آنجا که عوامل LLM قادر به استدلال حلقه ها و استفاده از ابزار هستند ، می توانند اشتباهات کمتری نسبت به LLM های سنتی انجام دهند. با این حال ، آنها هنوز هم مستعد خطاها هستند ، به خصوص هنگام برخورد با کارهای پیچیده یا ورودی های مبهم. تأیید و تأیید خروجی های عامل برای اطمینان از صحت و ایمنی مهم است.

چگونه می توان از عوامل LLM در خراش وب استفاده کرد؟

دسترسی به داده های وب برای بسیاری از کارهای اتوماسیون عامل LLM بسیار مهم است و می تواند راهی آسان برای ارائه داده ها به نماینده LLM شما باشد. با ادغام ابزارهای خراش وب مانند API Scrapfly Scraping API ، عوامل LLM می توانند داده های زمان واقعی را از وب سایت ها بازیابی کنند ، آن را تجزیه و تحلیل کرده و بینش ایجاد کنند یا کارهای خود را بر اساس داده ها انجام دهند.

خلاصه

نمایندگان LLM فراتر از تولید متن هستند و می توانند داده ها را بازیابی کنند ، محاسبات را انجام دهند و وظایف را خودکار کنند. با چارچوب هایی مانند Langchain ، توسعه دهندگان می توانند به راحتی سیستم های AI را ایجاد کنند که با ابزارهایی مانند API و پایگاه داده ارتباط برقرار کنند. از آنجا که صنایع این عوامل را اتخاذ می کنند ، باعث افزایش کارآیی ، ساده سازی گردش کار و نوآوری می شوند.

برای خلاصه کردن عوامل LLM در سال 2025 عبارتند از:

• بیشتر از متن – نمایندگان LLM می توانند وب را جستجو کنند ، محاسبات را انجام دهند و گردش کار را خودکار کنند.
• توسعه آسان -با استفاده از چارچوب های عامل LLM مانند Langchain می تواند با تهیه اجزای از پیش ساخته و جامعه ایجاد شده ، توسعه را به یک نسیم تبدیل کند.
• تأثیر گسترده ای داشته باشد – نمایندگان LLM با دسترسی به اتوماسیون وب دارای طیف گسترده ای از برنامه های پشتیبانی مشتری تا تجزیه و تحلیل داده ها ، گرفته تا تصمیم گیری هوشمند هستند.

با پیشرفت هوش مصنوعی ، عوامل LLM نقش اساسی در شکل گیری آینده اتوماسیون و محبوبیت فزاینده ای دارند ، بنابراین درک زود هنگام آنها می تواند یک مزیت بزرگ باشد!