Langgraph 외 다른 플랫폼

LLM 기반 에이전트 구현을 위한 다양한 플랫폼과 프레임워크가 존재합니다. 이들 중 일부는 langgraph처럼 에이전트 워크플로우 관리를 강조하지 않고, 다른 특화 기능에 초점을 맞추기도 합니다. 또한 Microsoft AutoGen처럼 대형 IT 기업의 솔루션도 등장하고 있어, 필요에 따라 langgraph와 비교하거나 병행 활용하는 전략을 고려할 수 있습니다.

 

1. Microsoft AutoGen
개요:
Microsoft AutoGen은 LLM 기반 작업 자동화를 위해 설계된 오픈소스 툴로, 서로 다른 LLM들이 상호 작용하며 문제를 해결할 수 있는 ‘에이전트-에이전트’ 프레임워크를 제공합니다. AutoGen을 통해 에이전트를 정의하면, 각 에이전트가 대화 형태로 협력하거나 경쟁하며 목표 달성을 위한 솔루션을 찾도록 유도할 수 있습니다.
특징:

• LLM 간 상호작용 지원:단일 에이전트가 아니라, 다수의 LLM 기반 에이전트를 정의하고 이들 간 대화를 통해 문제를 해결하는 구조를 지원합니다. 이를 통해 복수의 전문화된 에이전트가 협업함으로써 성능을 향상시킬 수 있습니다.

• 유연한 아키텍처:특정 워크플로우를 단일 그래프로 고정하기보다는, 대화 흐름에 따라 동적으로 의사결정 경로가 변할 수 있습니다.

• 활용 예시:제품 디자인 협업 에이전트, 복잡한 질문에 대해 서로 다른 접근법을 시도하는 다중 LLM 기반 Q&A 시스템 등.

langgraph와 비교하면, langgraph는 그래프 기반으로 워크플로우를 명시적으로 정의하고 관리하는 데 초점을 두는 반면, AutoGen은 LLM들 간의 상호작용에 기반한 동적 협업을 강조합니다. 즉, langgraph는 구조화된 프로세스 관리가 강점이고, AutoGen은 에이전트들 사이의 시나리오 플레이(대화, 토론)를 통한 문제 해결에 주력하는 스타일이라 할 수 있습니다.

 

2. Airbyte, Dagster, Prefect 등 파이프라인 도구 + LLM
개요:
Airbyte, Dagster, Prefect는 원래 데이터 파이프라인을 관리하고 ETL(추출-변환-적재) 작업을 자동화하기 위한 툴입니다. LLM 호출 단계를 이들 파이프라인에 삽입함으로써 데이터 처리 과정 중 자연어 질의나 텍스트 분석을 수행할 수 있습니다.
특징:

• 데이터 중심:파이프라인 관리에 특화되어 있어, 대규모 데이터 처리나 스케줄링, 모니터링에 강점이 있습니다.

• 한계점:LLM 기반 에이전트 전용이 아니므로 에이전트 구성 요소(계획, 메모리, 툴, 액추에이터) 관리에 있어 langgraph나 AutoGen처럼 정교한 LLM 중심 제어는 어렵습니다.

• 활용 예시:대규모 텍스트 데이터 처리 파이프라인에 LLM 필터링 단계를 추가해 품질 관리, 자동 레이블링, 데이터 통찰력 추출 등에 활용할 수 있습니다.

 

3. Haystack, Rasa, Hugging Face Transformers Integration
Haystack:

• 개요:정보 검색, 질의응답에 특화된 NLP 파이프라인 툴로, 문서 검색, 랭킹, 추출형 QA 등을 쉽게 연결할 수 있습니다.

• 특징:백엔드 검색 및 문서 처리를 위해 LLM 호출을 포함하는 파이프라인을 구축할 수 있지만, 에이전트 전체 워크플로우보다는 QA 시스템 구성에 초점을 둡니다.

• 활용 예시:고객 지원 봇에서 사용자 질문을 받으면 Haystack 파이프라인을 통해 관련 문서를 검색하고 LLM으로 답을 생성하는 식의 솔루션 구현 가능.

Rasa:

• 개요:대화형 AI 챗봇 개발 프레임워크로, Rule-based NLU/NLP 및 Dialog Management에 강점이 있습니다.

• 특징:Rasa는 LLM 기반 응답을 일부 포함할 수 있지만, 전체 대화 흐름을 LLM에 의존하기보다는 자체 NLU/NLG 파이프라인을 활용하거나 하이브리드 접근을 시도하는 경향이 있습니다.

• 활용 예시:Rasa 대화 흐름 중 특정 노드에서 LLM 호출을 통해 더 자연스러운 응답을 생성하거나, langgraph나 AutoGen과 연계해 추가 기능을 구현할 수 있습니다.

 

Hugging Face Transformers:

• 개요:다양한 LLM(오픈소스, 사전학습된 모델)에 접근할 수 있는 라이브러리 세트

• 특징:모델 호출 자체는 매우 유연하게 지원하지만, 워크플로우 전체 관리를 위한 고수준 추상화는 없습니다.

• 활용 예시:langgraph나 AutoGen에 Transformers 모델을 연결해 맞춤형 모델 선택 및 실험을 수행할 수 있습니다.

정리:

• langgraph: 그래프 기반 워크플로우 정의로 복잡한 LLM 에이전트 구조를 체계적으로 관리

• Microsoft AutoGen: 다중 LLM 에이전트 간 협력 및 대화를 통한 해결 전략 제시

• Airbyte/Dagster/Prefect: 데이터 파이프라인 툴과 LLM 통합을 통한 ETL+LLM 시나리오

• Haystack: 검색 및 QA 파이프라인에 LLM 통합

• Rasa: Rule-based 대화 관리에 LLM 활용 가능, 하이브리드 접근

• Hugging Face Transformers: 다양한 모델 활용 가능하지만, 워크플로우 관리는 별도 프레임워크 필요

이로써, langgraph 외에도 다양한 솔루션들이 존재하며, 각 플랫폼은 저마다의 강점을 지니고 있습니다. 에이전트 구현 시, 문제 특성과 요구사항에 따라 langgraph를 기본으로 채택하되 Microsoft AutoGen과 같은 협업 에이전트 프레임워크나 Haystack, Rasa 등의 NLP 툴을 조합하는 전략을 고려해볼 수 있습니다