분기 수익을 AI한테 물었어요. $12M이라고 답했어요.
정답은 $8.4M이었고요.
모델이 나빠서가 아니에요. 데이터도 다 연결돼 있었어요. 그냥 AI가 'revenue'가 revenue_recognized인지 revenue_net_of_returns인지 알 방법이 없었던 거예요.
AI 에이전트가 데이터 다 있는데 왜 틀려요?
엔터프라이즈 AI 도입이 실패하는 이유를 대부분 "모델이 문제"라고 봐요. 근데 실제로는 달라요. Cloudera와 Harvard Business Review의 2026년 3월 조사에 따르면, AI 도입 준비가 됐다고 답한 기업은 전체의 7%에 불과해요. 88%는 "컨텍스트는 있다"고 하면서도, 61%는 실제로 활용이 안 돼서 AI 도입을 미루고 있고요.
왜 이런 일이 생기냐면, 회사에는 AI가 모르는 것들이 너무 많아서예요. 'revenue'가 뭔지, 'customer'가 CRM과 빌링 시스템에서 각각 뭘 뜻하는지, 누가 어떤 파일에 접근 권한이 있는지 — 이런 것들은 Slack 스레드에 묻혀 있거나, 담당자 머릿속에만 있거나, 한 회사에서 27개 위치에 각기 다르게 정의돼 있어요.
Jedify의 공동창업자 Assaf Henkin은 이걸 정확하게 짚었어요. "에이전트에게 비즈니스 컨텍스트가 없으면, 할루시네이션을 내놓거나 관련 없는 정보를 처리하느라 토큰을 태운다"고요.
핵심
AI 에이전트 실패의 본질은 모델 성능이 아니에요. 데이터는 있지만 '의미'가 없는 거예요 — 회사가 어떻게 작동하는지 AI가 모르는 거죠.
RAG나 지식 그래프로 해결이 안 되는 이유
보통 이 문제를 RAG로 해결하려고 해요. 근데 RAG는 텍스트 문서를 가져올 수 있지만, "지금 이 맥락에서 revenue가 정확히 무엇인가"를 구조화된 방식으로 에이전트에게 전달하지는 못해요.
지식 그래프는 더 구조화돼 있지만, 설계 시점에 관계를 고정시켜요. 런타임에 "누가 이 파일에 접근 가능한지", "이 예외 결정의 선례가 있는지"를 동적으로 판단하는 건 어렵죠.
| RAG | 지식 그래프 | 컨텍스트 그래프 | |
|---|---|---|---|
| 역할 | 문서 검색·주입 | 엔터티 관계 구조화 | 비즈니스 의미 + 런타임 판단 |
| 업데이트 | 재임베딩 필요 | 설계 시점 고정 | 지속 자동 업데이트 |
| 권한 인식 | 없음 | 제한적 | 권한 노드 내장 |
| 의사결정 추적 | 없음 | 없음 | 결정 이력 보존 |
| 에이전트 자율성 | 보조 역할 | 부분적 | 완전 자율화 가능 |
Atlan AI Labs 벤치마크에서는 의미론적 메타데이터를 컨텍스트에 추가했을 때 AI가 생성한 SQL 쿼리 정확도가 38%나 향상됐어요. Gartner는 2028년까지 엔터프라이즈 AI 에이전트 시스템의 50%가 컨텍스트 그래프에 의존하게 될 것이라고 예측하고 있고요.
컨텍스트 그래프: 에이전트의 '회사 뇌'
이 공백을 메우려고 등장한 게 컨텍스트 그래프예요. 2026년 6월, 뉴욕 스타트업 Jedify가 $24M 시리즈 A를 유치하면서 이 카테고리가 본격적으로 주목받기 시작했어요. 리드 투자자는 Norwest, Snowflake Ventures가 전략적 투자자로 참여했고, 총 누적 투자액은 $33M이 넘어요.
컨텍스트 그래프가 하는 일은 이거예요. 데이터 웨어하우스, CRM, 금융 시스템 같은 구조화 데이터와 문서, Slack 스레드, 회의 녹취 같은 비정형 지식을 한 곳에 연결해요. 그리고 단순 연결에서 끝나지 않아요. 'revenue'가 이 회사에서 정확히 무엇을 뜻하는지, 이 직원이 어떤 데이터에 접근 가능한지, 이 예외는 과거에 어떤 선례로 처리됐는지 — 이런 것들을 런타임에 에이전트가 쿼리할 수 있는 형태로 저장해요.
Jedify는 이 과정에 Semantic Fusion™ 기술을 써요. 구조화 데이터와 비정형 지식을 자동으로 융합해서 에이전트가 쓸 수 있는 세만틱 모델을 만들어주는 거예요. Kore.ai의 분석에 따르면, 컨텍스트 그래프의 핵심 장점 중 하나는 에이전트가 결정을 내릴 때마다 그래프가 더 정확해진다는 거예요. 쓸수록 똑똑해지는 구조예요.
Foundation Capital의 분석도 비슷한 관점이에요. 컨텍스트 그래프는 "문서가 어떻게 돼야 한다"가 아니라 "실제로 어떻게 돌아가는지"를 캡처해요. Slack 스레드, 옆방 대화, 담당자 머릿속에 있던 그 지식을 꺼내서 AI가 쓸 수 있는 구조로 만드는 거예요.
우리 팀에 컨텍스트 그래프 적용하는 법
성공적인 기업들은 전사 전체부터 시작하지 않아요. 하나의 워크플로우, 하나의 날카로운 문제 지점에서 출발해요.
- 컨텍스트 갭 지점 찾기
에이전트가 반복적으로 틀리거나 인간에게 에스컬레이션하는 케이스를 목록으로 만들어요. 여기가 컨텍스트 그래프가 먼저 채워야 할 곳이에요. - 핵심 지표 한 개로 시작하기
'revenue' 같은 지표 하나를 골라서, 이 회사에서 정확히 어떤 정의를 쓰는지 단 하나의 정의로 수렴시켜요. 이게 컨텍스트 그래프의 씨앗이에요. - 데이터 소스 연결하기
Jedify 같은 플랫폼을 쓰거나 직접 온톨로지를 구성해요. 구조화 데이터(DW, CRM)와 비정형 지식(Slack, 문서)을 모두 연결하는 게 핵심이에요. - 권한 레이어 추가하기
누가 어떤 정보에 접근 가능한지를 컨텍스트 그래프에 인코딩해요. 에이전트가 자율적으로 판단할 때 이 권한을 지키게 해야 프로덕션에서 안전해요. - 작은 범위에서 검증 후 확장하기
하나의 워크플로우에서 에이전트 오답률이 줄었는지 측정해요. 효과가 보이면 다른 워크플로우로 확장해요. Jedify는 모델 무관하게 작동하니까 나중에 AI 모델을 교체해도 컨텍스트 그래프는 그대로 유지돼요.
주의
컨텍스트 그래프 플랫폼 선택 시 벤더 락인 여부를 꼭 확인하세요. 특정 AI 모델에 종속되면 나중에 전환 비용이 커요. Jedify처럼 모델 무관하게 작동하는 플랫폼이 장기적으로 유리해요.
