Agent architectures

Overview

we sometimes want LLM systems that can pick their own control flow to solve more complex problems! This is one definition of an [agent](https://blog.langchain.dev/what-is-an-agent/): _an agent is a system that uses an LLM to decide the control flow of an application.

다양한 종류의 AI agent 존재

Router

1. Single step decision, 1단계 의사 결정
2. Single decision에 중점, 상대적으로 자유도 낮음

Structured Output

응답 구조화

1. Output parsers: Client에게 미리 정의된 구조화된 응답 전달 e.g. JSON 응답 전달
2. Tool calling: 정의된 Tools을 사용하기 위해 구조화된 응답을 전달 e.g. 네이버 쇼핑 검색 Tool에게 JSON 형태로 요청

Tool-calling agent

1. Multi step decision, 다단계 의사 결정
2. 적절한 Tool을 활용 ReAct 가 범용적인 Agent이고 아래 특징을 갖음

Tool calling

Memory

일반적

1. Short-term memory
2. Long-term memory

LangGraph

1. State: User-defined memory
2. Checkpointer: 매단계 마다 상태를 저장하는 매커니즘
3. Store: user-specific or application-level data 저장 매커니즘 Manage memory on LangGraph

Planning

Tool-calling agent는 반복적으로 while-loop 호출.

Custom agent architectures

Router와 Tool-calling agent가 아닌 커스텀한 agent

Human-in-the-loop

인간 개입 agent Human-in-the-loop

1. Approving specific actions
2. Providing feedback

Parallelization

for efficient multi-agent systems and complex tasks. LangGraph에서 Send API로 지원

Subgraphs

for managing complex agent architectures, particularly in multi-agent systems.

1. 독립된 상태 관리
2. 에이전트 간 계층적 조직화 부모 그래프와 오버랩핑한 key를 통해 소통 Use subgraphs

Reflection

해당 매커니즘은 agent의 신뢰성을 향상 시킨다.

1. 테스크 평가
2. 피드백 및 조언
3. 학습 https://youtu.be/MvNdgmM7uyc?feature=shared

---

https://langchain-ai.github.io/langgraph/tutorials/workflows/

Workflows & agents

1. 일반적인 agentic systems 패턴
2. workflows와 agent를 구분하는 것이 유용

Workflows are systems where LLMs and tools are orchestrated through predefined code paths. Agents, on the other hand, are systems where LLMs dynamically direct their own processes and tool usage, maintaining control over how they accomplish tasks.

The Augmented LLM

LLM에 인자를 추가하는 단순한 방법

from pydantic import BaseModel, Field
 
## structured outputs
class SearchQuery(BaseModel):
    search_query: str = Field(None, description="Query that is optimized web search.")
    justification: str = Field(
        None, description="Why this query is relevant to the user's request."
    )
 
 
# Augment the LLM with schema for structured output
structured_llm = llm.with_structured_output(SearchQuery)
 
# Invoke the augmented LLM
output = structured_llm.invoke("How does Calcium CT score relate to high cholesterol?")
 
## tool calling
def multiply(a: int, b: int) -> int:
    return a * b
 
# Augment the LLM with tools
llm_with_tools = llm.bind_tools([multiply])
 
# Invoke the LLM with input that triggers the tool call
msg = llm_with_tools.invoke("What is 2 times 3?")
 
# Get the tool call
msg.tool_calls

Prompt chaining

이전의 결과를 다음 입력으로 연결하는 방법으로 판단됨. LangChain을 사용하는 것이 시퀀스에 따라 처리되는 것으로 이해

Parallelization

병렬로 테스크 진행 후 집계해서 결과 반환

Routing

입력을 분리하고 후속 작업으로 안내

Orchestrator-Worker

subtasks가 필요한 예측할 수 없는 복잡한 테스크 c.f. Parallelization → 유연성, subtasks는 미리 정의되는 것이 아닌 orchestrator가 스스로 결정

Evaluator-optimizer

명확한 평가 기준, 측정 가능한 값이 있을 때 효과적, e.g. 작가가 세련된 문서를 작성을 위 반복적으로 글을 수정하는 과정과 비슷

Agent

필요한 단계 수를 예측하기 어렵거나 불가능, 단계를 정할 수 없는 개방형 문제에 적합 LangChain에서는 미리 정의된 Agent 존재 e.g. https://langchain-ai.github.io/langgraph/reference/agents/#langgraph.prebuilt.chat_agent_executor.create_react_agent