LangChain인지, LangGraph인지, CrewAI인지.
에이전트 앱 시작하기 전에 이 선택에서 하루가 날아간다면, 이 글이 그 시간을 돌려드릴 수 있어요.
이 10개 프레임워크, 이름만 다른 게 아니에요. 에이전트가 얼마나 자율적으로 움직이는지의 철학이 달라요. 그 기준 하나로 추려보면 선택이 빨리 나와요.
이게 왜 어려운가 하면
에이전틱 프레임워크가 뭔지 묻는다면, AI 에이전트가 도구를 쓰고, 기억하고, 다른 에이전트와 협업할 수 있도록 오케스트레이션해주는 레이어예요. 근데 이 오케스트레이션 방식이 프레임워크마다 근본적으로 달라요.
JetBrains가 2026년 10개 주요 프레임워크를 분석한 결과, 딱 세 가지 철학으로 나뉘어요.
| 패러다임 | 그래프 기반 | 역할 기반 | 체인 기반 |
|---|---|---|---|
| 에이전트 흐름 | 노드-엣지로 명시 정의 | 역할별 에이전트 분리 | 동적 자율 결정 |
| 예측 가능성 | 높음 (결정론적) | 중간 | 낮음 (유연) |
| 프로토타이핑 속도 | 느림 (사전 설계 필요) | 빠름 | 가장 빠름 |
| 적합한 단계 | 프로덕션 | 프로토→프로덕션 | 실험·학습 |
| 대표 프레임워크 | LangGraph, OpenAI SDK | CrewAI, AutoGen | LangChain, smolagents |
그래프 기반은 예측 가능성, 역할 기반은 협업 속도, 체인 기반은 유연성이 강점이에요. 정답은 없고, 뭘 만드느냐에 따라 달라져요.
10개 프레임워크 — 어디에 쓰는 건데요?
각각의 설계 철학과 적합한 케이스를 정리했어요. 내 케이스와 맞는 걸 찾아보세요.
| 프레임워크 | 핵심 철학 | 이럴 때 써요 | HITL 지원 |
|---|---|---|---|
| LangGraph | 명시적 상태 제어 | 고신뢰성 워크플로우, 규제 환경 | 강함 ★ |
| OpenAI Agents SDK | 호스팅 우선 배포 | SaaS 에이전트 빠른 출시 | 강함 ★ |
| LangChain | 개발자 생산성 | 프로토타이핑, LLM 백엔드 서비스 | 중간 |
| CrewAI | 팀 역할 분리 | 콘텐츠 파이프라인, 리서치 자동화 | 제한적 |
| AutoGen | 대화 기반 자율성 | 코딩 에이전트, 연구 실험 | 제한적 |
| LlamaIndex | 데이터·문서 우선 | 지식베이스, 엔터프라이즈 문서 지능화 | 중간 |
| Haystack | 프로덕션 RAG | RAG 시스템, 데이터 집약 AI | 중간 |
| Semantic Kernel | 엔터프라이즈 거버넌스 | MS 생태계, 기업 내부 AI 코파일럿 | 강함 |
| smolagents | 미니멀 투명성 | 학습, PoC, 경량 로컬 에이전트 | 최소 |
| Phidata | 도구 중심 실용주의 | 데이터 분석, 금융·운영 자동화 | 중간 |
HITL(Human-in-the-Loop)은 에이전트가 중요한 결정 지점에서 자동으로 멈추고 사람의 확인을 기다리는 기능이에요. 실수가 허용되지 않는 시스템일수록 HITL 지원이 핵심 선택 기준이 돼요.
주요 프레임워크를 좀 더 구체적으로 짚어볼게요.
LangGraph는 에이전트 흐름을 노드-엣지 상태 그래프로 명시적으로 정의해요. "장애가 나도 멈췄던 지점부터 재개 가능"한 내결함성 설계가 강점이고, 복잡한 분기 로직이 있는 고신뢰성 시스템, 규제 산업(금융·의료)에 잘 맞아요. 단점은 초기 그래프 설계에 시간이 걸린다는 점.
CrewAI는 에이전트에게 역할(Role), 목표(Goal), 배경(Backstory)을 주고 팀처럼 움직이게 해요. 커뮤니티 코스 인증자만 10만 명이 넘고, 진입 장벽이 낮아 프로토타이핑 속도가 빨라요. 다만 에이전트 행동의 예측 가능성은 상대적으로 낮아요.
AutoGen (Microsoft)은 에이전트들이 서로 대화하면서 문제를 풀어가는 방식이에요. Studio 웹 UI로 코드 없이 프로토타이핑도 가능하고, 창발적 문제 해결에 강점이에요. 단, 실행 흐름을 세밀하게 통제하기는 어려워요.
smolagents (Hugging Face)는 코드가 수천 줄 수준으로 유지될 만큼 미니멀해요. JSON 대신 Python 코드로 액션을 표현하는데, 이 방식이 더 효과적이라는 연구 결과가 있어요. 에이전트 작동 원리를 처음 배우는 분들한테 가장 투명하게 보여줘요.
LlamaIndex는 50개 이상 파일 형식 처리와 월 2,500만 패키지 다운로드를 기록하는 문서 지능화의 표준이에요. 에이전트보다 RAG와 문서 인덱싱이 핵심 강점이에요.
OpenAI Agents SDK는 에이전트, 핸드오프, 가드레일 세 원시 개념만으로 설계됐어요. 인프라 부담 없이 빠르게 배포하고 싶은 팀에 적합해요.
사용 사례별 매칭
케이스별 빠른 매칭
처음 에이전트 배우는 중 → smolagents. 가장 미니멀하고 작동 원리가 투명하게 보여요.
팀 협업 자동화 만들어요 → CrewAI. 역할 분리가 직관적이고 문서와 커뮤니티가 풍부해요.
RAG·문서 처리가 핵심이에요 → LlamaIndex 또는 Haystack.
프로덕션, 실수 허용 안 돼요 → LangGraph. HITL과 상태 복구가 가장 강해요.
OpenAI API로 빠르게 배포하고 싶어요 → OpenAI Agents SDK.
MS 생태계·엔터프라이즈 거버넌스 필요해요 → Semantic Kernel.
주의
CrewAI와 AutoGen은 에이전트 행동의 예측 가능성이 낮아요. 금융 거래, 의료 기록, 법률 처리처럼 실수가 비싼 시스템에는 적합하지 않아요. 이럴 땐 LangGraph 또는 Semantic Kernel을 선택하세요.
지금 바로 시작하는 법
- 패러다임 먼저 결정하세요
내가 만드는 게 "절차가 정해진 자동화"(그래프 기반)인지, "창발적 팀 협업"(역할 기반)인지, "빠른 실험"(체인 기반)인지. 이 하나가 후보를 반으로 줄여줘요. - smolagents로 에이전트 개념 잡기
pip install smolagents 한 줄, 세 줄 코드로 첫 에이전트가 돌아가요. 구조가 가장 투명해서 에이전트가 어떻게 생각하고 행동하는지 제일 잘 보여요. - 선택한 프레임워크 공식 퀵스타트 따라하기
CrewAI는 퀵스타트 5분, LangGraph는 단계별 공식 튜토리얼이 잘 구성돼 있어요. 각 공식 문서가 가장 빠른 온보딩 경로예요. - 연결할 도구(Tool) 목록 먼저 만들기
어떤 외부 API나 DB와 에이전트를 연결할지 먼저 목록화하세요. 도구 통합 방식이 프레임워크마다 달라서, 필요한 도구가 이미 지원되는지 확인하는 게 중요해요. - HITL 필요 여부 결정
자율 실행 vs 사람의 승인 체크포인트. 나중에 추가하기 어려운 아키텍처 결정이에요. 프로덕션 배포 전에 반드시 정해야 해요.
