본문 바로가기
에이전트

주요 AI 에이전트 개발 플랫폼 (MCP 서버 및 유사 시스템) 비교표

by aiagentx 2025. 5. 21.
반응형

 


이름운영 기업주요 기능 및 제공 방식문맥 관리 방식주요 사용 사례웹사이트/문서 링크

Model Context Protocol (MCP) Anthropic (오픈 표준) AI 모델과 외부 데이터 소스를 연결하는 개방형 표준 프로토콜en.wikipedia.org. 여러 개발 언어(Python, TypeScript, Java, C# 등)의 SDK를 제공하며, MCP 서버(커넥터) 구현 예시도 오픈소스로 공개en.wikipedia.orgen.wikipedia.org. Claude 데스크톱 앱 등에서 로컬 MCP 서버를 지원하여 사용자 환경과 직접 연동 가능. MCP 서버를 통해 파일 시스템, 데이터베이스, SaaS 도구 등 외부 시스템의 정보를 안전한 양방향 연결로 불러와 모델에 제공. 이를 통해 LLM이 필요한 정보를 실시간으로 접근하고 지속적인 문맥으로 활용할 수 있음. 서로 다른 툴/데이터세트 간에도 단일 프로토콜로 문맥을 교환하여 일관성 있는 컨텍스트 유지 가능en.wikipedia.org. 코딩 작업 보조 (IDE 통합): 예를 들어 Zed, Replit, Sourcegraph 등의 개발 도구에 MCP를 적용해 코드 맥락을 실시간 제공en.wikipedia.org. 기업용 비서: Block 등에서는 내부 지식베이스와 CRM 데이터에 MCP로 연결된 사내 AI 도우미를 구축하여 업무 질의에 최신 정보를 제공en.wikipedia.org. MCP 공식 사이트
OpenAI Agents (에이전트 SDK) OpenAI OpenAI가 제공하는 에이전트 개발 프레임워크로, Python 기반 SDK와 API로 제공됨openai.github.io. LLM에 도구(함수 호출 형태의 툴)와 지침을 장착하여 다단계 작업을 수행하고, 에이전트 간 작업 위임(“핸드오프”) 및 입력 검증을 위한 가드레일 기능 등을 지원openai.github.io. 또한 내장된 트레이싱으로 에이전트의 실행 흐름을 시각화/디버깅하고 평가나 모델 튜닝을 수행할 수 있음. 대화 세션의 문맥을 기본적으로 유지하며, 추가로 MCP 표준을 지원하여 외부 컨텍스트를 동적으로 주입할 수 있음en.wikipedia.org. 예를 들어 개발자가 파일시스템, DB 등 MCP 호환 서버를 연결하면 에이전트는 해당 툴의 정보를 실시간으로 불러와 답변에 활용en.wikipedia.org. 이러한 표준화를 통해 플러그인처럼 다양한 외부 도구를 손쉽게 통합 가능. 맞춤형 AI 비서 및 자동화 에이전트 개발: 예를 들어 사내 데이터베이스를 조회하고 보고서를 생성하는 업무 비서, 고객 질의에 외부 API를 호출해 답하는 챗봇 등. OpenAI의 ChatGPT 플러그인과 유사하게 GPT-4 모델 기반 에이전트에 웹 브라우징, 지식베이스 검색 등의 도구를 부여한 사례들이 있으며, ChatGPT 데스크톱 애플리케이션에서도 Agents SDK를 통한 플러그인 확장이 지원될 예정en.wikipedia.org. OpenAI Agents SDK 문서
Vertex AI Agents
(ADK & Agent Engine)
Google (Google Cloud) 구글 클라우드의 에이전트 개발/배포 플랫폼. 오픈소스 Agent Development Kit (ADK)을 통해 에이전트 논리를 Python 등으로 작성하고, Vertex AI의 관리형 실행환경인 Agent Engine에서 에이전트를 프로덕션 수준으로 배포·운영할 수 있음cloud.google.com. 또한 에이전트 간 협력을 위한 Agent2Agent 프로토콜을 제안하여 서로 다른 프레임워크나 벤더의 에이전트들도 공통 언어로 협업 가능. 플랫폼 차원에서 에이전트 품질 평가, 테스트, 모니터링 기능도 제공. 외부 데이터 연동을 위해 개방형 표준 MCP를 지원하며, Google Cloud의 자체 커넥터나 API로도 기업 시스템 및 데이터에 직접 연결 가능cloud.google.com. 예를 들어 Vertex AI 에이전트는 사용자의 질문을 구글 검색이나 사내 데이터베이스 질의로 보강해 보다 정확한 답변을 생성할 수 있다cloud.google.com. RAG(검색 기반 생성) 지원으로 최신 문서를 검색해 응답에 포함하거나, 지도 정보 등을 불러와 답변하는 등 도메인 특화 컨텍스트를 활용한다. 복합적인 사내 업무 자동화와 멀티 에이전트 시나리오에 활용. 예를 들어 한 에이전트가 고객 문의를 이해하여 하위 전문 에이전트들에게 작업을 분배하고(예: 주문조회 에이전트, 재고관리 에이전트 등), 최종 결과를 종합하여 응답하는 시스템을 구축 가능. 금융, 고객지원, 물류 등 여러 분야에서 자체 데이터와 결합된 AI 에이전트 구축에 이용됨. 특히 Gemini 등 최신 LLM 모델과 결합해 향상된 추론력을 업무에 적용할 수 있다. Vertex AI Agents 문서
Semantic Kernel
(MS Copilot SDK)
Microsoft Microsoft가 공개한 오픈소스 SDK로, 최신 LLM 모델들을 C#이나 Python 코드 기반에 손쉽게 통합하여 AI 에이전트(또는 플러그인 기능)를 개발할 수 있게 해준다azure.github.ioazure.github.io. 경량 프레임워크로 설계되어 개발자가 몇 가지 프리미티브만으로도 복잡한 작업 흐름을 구현할 수 있으며, 플러그인 구조를 통해 기존 시스템의 API나 데이터베이스를 OpenAPI 스펙으로 등록하여 LLM이 호출하도록 만들 수 있다azure.github.io. Microsoft 365 Copilot 및 Bing에서 사용되는 AI 오케스트레이션 계층을 개발자도 활용할 수 있도록 추상화한 것으로, 멀티스텝 계획 수립과 실행을 LLM에게 위임하는 Planner 기능, 입력/출력 필터 및 정책 적용을 위한 기능도 포함한다. 대화의 문맥과 장기 기억을 관리하기 위한 메모리 기능을 제공한다. 예컨데 벡터 DB 등에 내용을 임베딩하여 저장하고 필요할 때 유사도 검색으로 과거 정보를 호출해 프롬프트에 추가함으로써 지속적인 컨텍스트를 제공한다. 또한 MCP 표준과 연동되어 외부 MCP 커넥터로 등록된 지식 소스나 툴의 액션들을 에이전트에 자동 추가할 수 있어, 코파일럿 스튜디오에서 몇 번의 클릭만으로 사내 시스템을 에이전트에 연결 가능microsoft.com. Azure OpenAI 서비스 및 Microsoft Semantic Kernel 프레임워크 자체에서 MCP 통합을 공식 지원하여, 표준화된 방식으로 메모리/툴을 주입할 수 있다en.wikipedia.org. 기업용 Copilot 개발 및 AI 서비스 확장에 활용. 예를 들어 개발팀이 Semantic Kernel을 이용해 자사 CRM 시스템 플러그인과 사내 문서 벡터DB 메모리를 갖춘 영업 지원 Copilot을 구현하면, 해당 Copilot이 고객 질의에 대해 실시간 데이터베이스 조회 결과를 기반으로 답변하거나 업무 절차를 자동화할 수 있다. 현재 Microsoft는 Windows 11 등 OS 차원에서도 MCP 기반 에이전트 실행을 지원하기 시작했으며, Semantic Kernel은 이러한 에이전트들을 개발자가 유연하게 만들고 제어하는 데 쓰이는 핵심 도구이다. Semantic Kernel 문서
Agents for Amazon Bedrock Amazon (AWS) AWS의 Bedrock 플랫폼 내에서 제공되는 완전관리형 에이전트 서비스. 대규모 언어 모델(예: Jurassic-2, Claude 등 Bedrock 지원 모델)의 추론 능력을 활용하여 사용자의 고수준 요청을 다중 단계로 분해하고, 각 단계별로 정해진 액션을 자동으로 수행한다aws.amazon.com. 예를 들어 “주문 환불 처리” 요청이 들어오면 에이전트가 자체적으로 플랜을 작성하여 재고 DB 조회 → 환불 API 호출 → 확인 이메일 발송 순으로 작업을 오케스트레이션함. 이러한 계획 수립에는 ReAct 등 체인-of-thought 프롬프트 기법을 활용하며, 개발자는 별도 코딩 없이도 몇 단계의 설정만으로 에이전트를 구성할 수 있다. 또한 에이전트의 추론 과정을 추적할 수 있는 Trace 뷰와, 자동 생성된 프롬프트를 수정하여 동작을 미세조정할 수 있는 기능도 제공한다aws.amazon.com. 에이전트 내부적으로 사용자 세션별로 프롬프트를 구성해 단기 메모리를 유지하며, 2024년 업데이트로 다중 회화에 걸쳐 메모리 지속 기능이 추가되어 이전 상호작용 내용을 기억하고 컨텍스트로 활용할 수 있게 되었다infoworld.com. 또한 지식 통합을 위해 다양한 RAG 커넥터를 제공한다. S3 버켓이나 내부 문서, Salesforce, Confluence, SharePoint 등의 데이터 소스를 연결해두면, 에이전트가 사용자 질문 시 해당 지식베이스를 조회하여 최신 정보로 답변을 보강한다aws.amazon.comaws.amazon.com. 개발자는 세션 컨텍스트나 검색 결과가 프롬프트에 자동 반영되는 가드레일 설정을 통해 환각 감소 등 응답 품질을 높일 수 있다. 기업 업무 자동화 봇: 예를 들어 유통 기업에서 주문 처리 에이전트를 만들어 고객의 환불 요청을 접수하면 재고 시스템과 결제 시스템을 조회/갱신하고 결과를 통지하는 작업을 자동화aws.amazon.com. 보험 회사에서 청구 처리를 돕는 에이전트가 폼 입력 정보를 바탕으로 정책 규정을 검토하고 추가 자료 제출을 안내하는 사례 등aws.amazon.com. 개발자 입장에서는 복잡한 비즈니스 로직을 일일이 코딩하지 않고도 Bedrock 에이전트를 활용해 다양한 백엔드 시스템과 연계된 챗봇/업무 도우미를 빠르게 구현할 수 있다. AWS Bedrock Agents 소개
Llama 2
(+ 오픈소스 에이전트 통합)
Meta (Meta AI) Meta가 2023년에 공개한 차세대 대형 언어 모델로, 7억~700억 규모의 파라미터 버전과 최대 약 4천 토큰의 컨텍스트 윈도우를 지원하는 시리즈 모델이다medium.com. 연구 및 상업용으로 무료 공개되었으며(오픈 소스 라이선스에 준함), 개발자들은 이 모델을 자체 서버에 배포하거나 HuggingFace Hub 등을 통해 API로 활용할 수 있다. Meta 자체적으로는 MCP와 유사한 에이전트 서버 플랫폼을 별도로 제공하진 않지만, Llama 2는 LangChain, LlamaIndex 등 서드파티 프레임워크와 쉽게 연동되어 도구 사용, 플랜 생성 등의 에이전트 기능을 구현할 수 있다. 예를 들어 LangChain을 통해 Llama 2에 웹브라우저 액션이나 계산기 기능 등을 추가로 부여하는 것이 가능하며, 이러한 접근은 오픈 소스 커뮤니티에서 활발히 이루어지고 있다. LLM 자체의 최대 문맥 길이 이외의 장기 메모리 및 참조 정보는 외부 시스템과의 통합으로 달성한다. 예를 들어 Meta가 공개한 벡터 데이터베이스인 FAISS 등에 문서 임베딩을 저장해두고, 사용자의 질문이 들어오면 유사도가 높은 벡터를 검색하여 해당 내용 조각을 LLM의 프롬프트에 넣어 답변하는 RAG 기법이 널리 사용된다medium.com. 이런 방식으로 Llama 2 기반 챗봇은 기업 내부 문서나 개인 노트 등 장기간 축적된 정보를 대화 문맥으로 가져올 수 있다. 또한 Meta 연구진이 발표한 Toolformer 등의 기술을 통해 LLM이 자체적으로 API 툴 호출 시퀀스를 결정하는 실험도 이루어졌으며, 이를 활용한 오픈소스 에이전트 프로젝트들이 Llama를 기반 모델로 채택하고 있다. 개발자는 대화 히스토리를 별도로 저장했다가 프롬프트에 재주입하는 등의 방법으로 세션 상태를 관리해야 하며, 이를 돕는 메모리 모듈이 LangChain 등에도 구현되어 있다. 오픈소스 자동화 에이전트 분야에서 Llama 2의 영향력이 크다. 예를 들어 Auto-GPT나 BabyAGI 같은 오토노머스 에이전트 실험 프로젝트에 Llama 2를 탑재하여 인터넷 검색, 파일 읽기 등의 기능을 수행하면서 장기 목표를 달성하도록 시도하고 있다. 기업들도 민감한 정보를 클라우드 LLM에 직접 보내지 않기 위해 Llama 2를 자체 호스팅하고, 사내 데이터에 특화된 에이전트를 만드는 경우가 있다. 실제로 Meta는 AWS와 파트너십을 맺어 Amazon Bedrock을 통한 Llama 2 API 접근을 제공하고 있으며ai.meta.com, 2025년에는 보다 개인화된 컨텍스트 학습을 지원하는 Llama 3/4 기반의 Meta AI 비서 앱도 출시되어 메신저, 인스타그램 등에서 사용자 취향을 학습해 답변하는 등 컨텍스트 인식 기능을 선보이고 있다about.fb.comabout.fb.com. Llama 2 공개 소개글
 

출처: 각 플랫폼 공식 사이트 및 문서 en.wikipedia.orgen.wikipedia.orgcloud.google.commicrosoft.comaws.amazon.com

반응형