신뢰할 수 있는 AI 에이전트의 뒤편에 있는 아키텍처: LangChain, LangGraph, 그리고 새로운 엔터프라이즈 스택

대부분의 기업은 이제 AI 에이전트를 도입할 것인가 하는 질문을 넘어섰습니다. 더 어려운 질문이 도착했습니다: 통제를 포기하지 않으면서 자율 소프트웨어가 당신을 대신해 행동하게 하는 방법은 무엇일까요? 대답은 더 큰 모델이 아닙니다. 대답은 더 나은 아키텍처입니다. 이 전환을 가장 잘 보여주는 이야기 중 하나가 LangChain에서 LangGraph로의 진화이며, 그 교훈은 오늘날 멀티 에이전트 시스템을 구축하는 모든 조직에 직접 적용됩니다.

지금 왜 중요한가

에이전틱 AI는 실험 단계에서 프로덕션으로 넘어왔습니다. 2025년 10월, LangChain은 IVP가 주도하고 Sequoia, Benchmark, CapitalG, 그리고 ServiceNow, Workday, Cisco, Datadog, Databricks의 벤처 부문이 참여한 시리즈 B 라운드에서 기업 가치 12억 5천만 달러를 인정받으며 1억 2천 5백만 달러를 조달했습니다. 회사는 LangChain과 LangGraph에서 월간 다운로드 합계 약 9천만 건을 보고했으며, 포춘 500 기업의 3분의 1 이상이 자사 서비스를 사용한다고 밝혔습니다. 회사에 따르면 Klarna, Cloudflare, Workday, Cisco, LinkedIn과 같은 기업들이 프로덕션 환경에서 LangGraph를 운영하고 있습니다.

투자자와 기업 구매자들은 챗봇에 돈을 지불하는 것이 아닙니다. 그들은 에이전트를 신뢰할 수 있고 관측 가능하며 거버넌스 가능하게 만드는 계층에 돈을 지불합니다. 그것이 바로 이사회가 질문해야 하는 계층입니다.

무슨 일이 일어났는가

LangGraph는 LangChain이 만들었습니다. 별개의 회사가 아닙니다. 이야기는 Harrison Chase에서 시작됩니다. 그는 하버드에서 통계학과 컴퓨터 과학을 공부했고, Kensho에서 엔티티 링킹 작업을 했으며, 이후 Robust Intelligence에서 머신러닝 테스트 작업을 이끌었습니다. 2022년 10월 그는 대규모 언어 모델 위에 애플리케이션을 구축할 때 화려하지 않은 배관 문제, 즉 모델을 도구, 데이터 소스, 워크플로에 연결하는 문제를 해결하는 오픈소스 Python 프로젝트로 LangChain을 공개했습니다.

2023년 초, Chase는 프린스턴 출신 엔지니어로 Facebook에서 4년을 보냈고 Robust Intelligence에서의 전 동료였던 Ankush Gola와 함께 LangChain 회사를 공동 설립했습니다. Chase는 개발자들이 도구를 사용하고, 상태를 유지하고, 결정을 내리고, 복잡한 워크플로를 운영할 수 있는 신뢰할 수 있는 AI 에이전트를 구축하도록 돕는 제품 비전을 주도했습니다. Gola는 오픈소스 프로젝트 주변에 회사를 세우는 파트너가 되었으며, 상업적 성장과 운영을 담당했습니다.

이어진 순서는 모든 기술 리더에게 매우 유익합니다. LangChain은 LLM 애플리케이션을 구축하기 위한 프레임워크로 시작했습니다. 채택이 늘어나자 개발자들은 벽에 부딪혔습니다. 단순한 프롬프트 체인으로는 신뢰할 수 있고 통제되며 장기간 실행되는 에이전트 워크플로를 지원할 수 없었습니다. 2024년 1월, 회사는 사람의 승인 단계, 재시도, 영속성, 복잡한 오케스트레이션을 지원하는 상태 저장 AI 에이전트용 그래프 기반 런타임인 LangGraph로 응답했습니다. 2025년 10월, LangChain과 LangGraph 모두 1.0 안정성 이정표에 도달했으며, LangChain 프레임워크 자체가 LangGraph 런타임 위에 재구축되었습니다. 생태계를 시작한 프레임워크는 이제 자신이 만들어낸 오케스트레이션 엔진 위에서 실행됩니다.

기술 및 아키텍처적 함의

체인에서 그래프로의 전환은 단순한 이름 변경 이상입니다. 체인은 직선입니다. 입력이 고정된 순서를 통해 출력으로 흐릅니다. 그래프는 결정의 지도입니다. 에이전트는 분기하고, 반복하고, 재시도하고, 전문 에이전트에게 위임하고, 사람의 입력을 기다리며 일시 정지할 수 있습니다. 엔터프라이즈 아키텍트에게는 세 가지 속성이 가장 중요합니다.

첫째, 상태가 일등 시민이 됩니다. LangGraph는 체크포인팅을 통해 모든 에이전트 워크플로의 상태를 유지하므로, 프로세스가 승인을 기다리며 몇 시간 동안 멈췄다가 중단된 바로 그 지점에서 재개할 수 있습니다. 둘째, 휴먼 인 더 루프 제어가 런타임에 내장되어 나중에 덧붙여지는 것이 아닙니다. 승인 단계는 그래프의 노드이지 사용자 인터페이스에 사후에 추가되는 것이 아닙니다. 셋째, 오케스트레이션 패턴이 명시적이 됩니다. 감독 에이전트가 누가 무엇을 할 수 있는지에 대한 명확한 계약과 함께 계층 구조로 전문 에이전트를 조정할 수 있습니다.

실무적으로, 에이전트 오케스트레이션은 애플리케이션 서버가 한때 데이터베이스와 사용자 인터페이스 사이에 있었던 것처럼 파운데이션 모델과 비즈니스 시스템 사이에 위치하는 엔터프라이즈 스택의 새로운 미들웨어 계층으로 부상하고 있습니다. LangSmith와 같은 관측 가능성 플랫폼은 에이전트 행동을 추적하고 테스트할 수 있게 하여 그림을 완성합니다.

비즈니스 및 경쟁적 함의

원시적인 지능이 아니라 신뢰성이 엔터프라이즈 AI의 경쟁 해자입니다. 예를 들어 보험 청구 운영을 생각해 보세요. 청구 플랫폼은 감독 오케스트레이터 에이전트를 사용해 문서 접수, 증권 검증, 손해 평가, 사기 스크리닝을 위한 전문 에이전트를 통제할 수 있습니다. 시스템은 밤새 증거를 엮어내고, 증권 조항을 검증하고, 청구 해결 금액을 추정하고, 조사를 위해 이상 징후를 표시할 수 있습니다. 시스템이 할 수 없는 것은 지급을 승인하는 것입니다. 그 행동은 승인 게이트 뒤에 있으며, 권한이 있는 청구 담당자만이 이를 촉발할 수 있습니다.

이것이 바로 LangGraph가 지원하도록 설계된 패턴이며, 이것이 이 프레임워크가 보험, 은행, 헬스케어와 같은 규제 산업에 그토록 적합한 이유입니다. 상업적 논리는 단순합니다. 자동화의 가치는 잘못된 행동의 비용이 통제될 때만 증폭됩니다. 이 패턴을 마스터한 조직은 실수 비용이 저렴한 곳에서는 공격적으로 자동화하고, 실수 비용이 비싼 곳에는 엄격하게 게이트를 설치할 수 있습니다. 에이전트를 무감독 자동화로 취급하는 경쟁자는 두려움 때문에 너무 느리게 움직이거나, 너무 빠르게 움직여서 대중 앞에서 그 대가를 치를 것입니다.

위험 및 거버넌스 고려 사항

네 가지 위험이 이사회 차원의 주목을 받을 자격이 있습니다. 게이트 없는 자율성: 승인 체크포인트 없이 외부 시스템에 작용할 수 있는 에이전트는 운영 및 평판 책임입니다. 감사 가능성: 영속적 상태와 완전한 감사 추적은 규정 준수에 자산이지만, 보존, 접근, 개인정보 보호 통제가 처음부터 설계된 경우에만 그렇습니다. 집중 위험: LangGraph는 MIT 라이선스의 오픈소스로 프레임워크 수준에서의 록인을 제한하지만, 배포 및 관측 가능성을 둘러싼 상용 플랫폼 서비스는 여전히 다른 전략적 벤더 관계처럼 평가되어야 하는 의존성을 만듭니다. 규제 기대: 전 세계의 감독 체제는 중대한 결과를 가진 자동화된 결정에 대해 입증 가능한 인간 감독을 점점 더 기대하고 있으며, 승인 게이트는 이를 증명하는 가장 분명한 방법 중 하나입니다.

CEO가 해야 할 일

조직의 에이전트가 무엇에 답할 수 있는지만이 아니라 어디서 행동할 수 있는지를 질문하세요. 읽기만 하는 에이전트의 위험 프로파일은 거래하는 에이전트와 근본적으로 다릅니다.

서면 승인 게이트 정책을 요구하세요: 에이전트가 스스로 내릴 수 있는 결정은 무엇이고, 사람의 승인이 필요한 결정은 무엇이며, 각 게이트는 누가 소유하는가.

시연이 아니라 신뢰성 엔지니어링에 자금을 지원하세요. 관측 가능성, 평가, 상태 관리를 선택적 추가 항목이 아닌 에이전틱 AI의 핵심 비용으로 예산에 편성하세요.

오케스트레이션 프레임워크 선택을 다년간의 결과를 가진 전략적 인프라 결정으로 취급하고, 이사회 위험 위원회를 일찍 참여시키세요.

CTO가 해야 할 일

팀들이 맞춤형 에이전트 스택을 난립시키기 전에 오케스트레이션 계층을 표준화하세요. 통제, 영속성, 감사 요구 사항에 대비해 대안들과 함께 LangGraph를 평가하세요.

휴먼 인 더 루프를 아키텍처로 설계하세요. 승인 단계는 프런트엔드 관례가 아니라 완전한 상태 체크포인팅을 갖춘 워크플로 그래프의 지속 가능한 노드여야 합니다.

모든 것을 계측하세요. 모든 에이전트 결정은 규정 준수와 엔지니어링이 재생할 수 있는 추적을 생성해야 합니다.

조달, 청구, 벤더 관리와 같은 비대칭 워크플로부터 시작하세요. 여기서는 연구와 권고를 안전하게 자동화할 수 있고, 약정 행동은 게이트 뒤에 둘 수 있습니다.

탈출 옵션을 구축하세요. 에이전트 로직을 이식 가능하게 유지하고 오픈소스 프레임워크와 상용 플랫폼 서비스 사이의 경계를 문서화하세요.

전략적 결론

LangChain에서 LangGraph로의 여정은 모든 기업이 지금 해야 하는 여정을 거울처럼 비춥니다: 인상적인 프로토타입에서 통제된 프로덕션 시스템으로. 멀티 에이전트 시대의 승자는 가장 많은 에이전트를 가진 조직이 아닙니다. 승자는 자신의 에이전트가 정확히 무엇을 할 수 있는지 알고, 그것을 증명할 수 있으며, 그 신뢰를 비즈니스 전체로 확장할 수 있는 조직입니다.

참여 질문

조직에서 AI 에이전트가 스스로 결정할 수 있는 것과 사람이 승인해야 하는 것 사이의 경계를 어디에 그으시겠습니까? 댓글에서 여러분의 관점을 듣고 싶습니다.

수학적으로 생각하세요. 지능적으로 엔지니어링하세요. 전략적으로 이끄세요. 책임감 있게 만드세요. 글로벌하게 확장하세요. 인공지능을 통해 실제 비즈니스 가치를 창출하세요.

#ArtificialIntelligence #AgenticAI #MultiAgentSystems #LangChain #LangGraph #EnterpriseAI #AIArchitecture #TechnologyStrategy #ResponsibleAI #DigitalTransformation #CTO #CEO

Originally published on LinkedIn by Keshavan Thiagaraja. Read the original on LinkedIn.