지능을 소유하라: 지속되는 AI 경쟁 우위의 열쇠
TMT앞으로 5년 안에 모든 기업은 두 가지 방식 중 하나로 AI를 사용하게 됩니다. 비즈니스의 핵심 영역을 운영하는 데 쓰거나, 고객에게 판매하는 제품의 일부로 쓰는 것입니다. 어느 쪽이든 범용 지능만으로는 충분하지 않습니다.
실질적인 성과를 내려면 기업이 자신의 지능을 직접 소유해야 합니다. 소유한다는 것이 모든 계층을 처음부터 직접 만든다는 뜻은 아닙니다. 지능이 어떻게 동작하는지, 어떻게 관리되는지, 시간이 지날수록 계속 쌓여 가는지를 결정하는 부분을 통제한다는 뜻입니다.
기성품 지능은 개별 기업의 비즈니스를 알지 못합니다
기성품 AI는 범용적이기 때문에 유용합니다. 흔한 질문에 답할 수 있고 폭넓은 주제를 넘나들며 추론할 수 있습니다. 그래서 시작 단계에서는 도움이 됩니다. 하지만 범용 지능이 회사 내부의 업무 운영까지 해낼 수 있다고 가정한다면 지나친 단순화입니다.
기업마다 일하는 방식에는 아주 많은 고유한 세부 사항이 있습니다. AI를 회사 깊숙이 들일수록 이런 세부 사항이 더 중요해집니다. AI를 회사 운영의 핵심으로 삼으려 한다면, 이 세부 사항이 결정적으로 중요합니다.
구체적인 예로, AI로 보험금 청구 처리를 돕는 대형 보험사를 생각해 봅시다. 범용 모델도 보험 약관 문서를 읽고, 청구 내용을 요약하고, 일반적인 보장 개념을 설명할 수는 있습니다. 하지만 청구 건을 실제로 처리하는 일은 그 보험사 고유의 약관 문구, 주(州)별 규제 요건, 사기 징후, 과거 청구 패턴, 에스컬레이션 규칙, 고객 등급 체계, 위험 허용 범위에 달려 있습니다. 이런 세부 사항은 범용 모델의 가중치에 들어 있지 않습니다. 범용 모델은 "자기부담금(deductible)"이라는 단어의 뜻은 압니다. 하지만 이 고객이, 이 관할 지역에서, 이 약관 아래, 이 증빙을 가지고 낸 특정 유형의 청구를 어떻게 처리해야 하는지는 모릅니다.
AI 자체가 제품인 경우에도 같은 논리가 적용됩니다. AI 고객지원 에이전트나 법률 어시스턴트, 코딩 에이전트를 만드는 버티컬 AI 스타트업이라면, 기반 모델은 제품이 아닙니다. 같은 API는 누구나 호출할 수 있습니다. 제품은 모델을 둘러싼 시스템입니다. 에이전트가 다루는 워크플로, 검색해 오는 컨텍스트, 사용할 수 있는 도구, 품질을 정의하는 평가(eval), 쌓아 가는 메모리, 그리고 고객과 상호작용할 때마다 에이전트를 개선하는 피드백 루프가 곧 제품입니다.
두 경우 모두 경쟁 우위는 범용 지능에서 나오지 않습니다. 특정 비즈니스에 맞게 적응한 지능에서 나옵니다.
AI는 어느 회사나 쓸 수 있습니다. 하지만 범용 지능만으로는 의미 있는 투자 대비 효과(ROI)를 내거나 차별화된 제품을 만들기에 충분하지 않습니다. AI를 중심에 두고 세워진 기업은 자신의 지능을 직접 소유하게 될 것입니다.
지능을 소유한다는 것의 의미
지능을 소유한다는 것은 AI 스택의 모든 계층을 직접 만든다는 뜻이 아닙니다. 핵심적인 부분, 즉 지능이 어떻게 동작하는지, 무엇으로부터 배우는지, 비용이 얼마나 드는지, 시간이 지나면서 나아지는지를 결정하는 부분을 통제한다는 뜻입니다.
공급망에 비유하면 이해하기 쉽습니다. 소매업체가 자신이 쓰는 트럭과 선박, 창고 로봇을 전부 직접 제조할 필요는 없습니다. 하지만 무엇을 조달할지, 재고를 어떻게 옮길지, 수요를 어떻게 예측할지, 고객 경험을 어떻게 전달할지를 결정하는 시스템만큼은 직접 소유해야 합니다.
AI도 마찬가지입니다. 모델과 컴퓨팅 자원, 인프라는 사 올 수 있습니다. 하지만 그 투입물을 자기 비즈니스에 특화된 지능으로 바꿔 내는 시스템은 직접 소유해야 합니다.
여기에는 세 가지 요소가 있습니다. 에이전트 시스템을 통제하는 것, 경제성과 품질과 리스크를 직접 관리하는 것, 그리고 시간이 지날수록 지능을 복리로 쌓아 가는 것입니다.
에이전트 시스템 통제하기
에이전트는 날것의 지능과 실제 업무를 잇는 다리입니다. 모델은 지능을 제공합니다. 하네스는 그 지능이 어떻게 적용될지를 결정합니다. 컨텍스트는 특정 상황에서 무엇이 중요한지를 시스템에 알려 줍니다.
첫 번째 계층은 모델입니다. 모델을 소유한다는 것은 주권, 이식성, 배포 통제가 중요할 때 오픈 웨이트 모델을 사용한다는 뜻일 수 있습니다. 모델 선택권을 유지한다는 뜻일 수도 있습니다. 품질, 비용, 지연 시간, 프라이버시 요건이 달라질 때 제공사를 갈아탈 수 있는 능력 말입니다. 선택권은 종속(lock-in)을 피하게 해 준다는 점에서 방어적이고, 최고의 모델이 나오는 즉시 도입할 수 있게 해 준다는 점에서 공격적입니다.
두 번째 계층은 하네스입니다. 모델 출력을 실제 행동으로 바꾸는 오케스트레이션 로직입니다. 하네스는 라우팅, 도구 사용, 워크플로 단계, 스킬 등 컨텍스트가 어떻게 쓰이는지에 관한 모든 것을 통제합니다. 회사 고유의 동작 대부분이 여기에 담깁니다. 하네스가 닫혀 있다면, 에이전트가 어떻게 동작해야 하는지에 대한 다른 누군가의 가정을 그대로 받아들이는 셈입니다.
세 번째 계층은 컨텍스트 자체입니다. 문서, 정책, 도구, 스킬, 사용자 선호, 조직 차원의 지식, 메모리 같은 컨텍스트가 범용 지능을 특화된 지능으로 만듭니다. 그중에서도 메모리가 특히 중요합니다. 시스템이 시간이 지날수록 더 유용해지는 통로이기 때문입니다.
컨텍스트와 메모리를 소유하지 못하면, 시스템이 축적하는 지능도 소유하지 못하는 것입니다.
에이전트 시스템을 소유하려면 모델, 하네스, 컨텍스트 이 세 가지를 모두 통제할 수 있어야 합니다.
경제성, 품질, 리스크 직접 관리하기
AI가 실제 업무를 수행하기 시작하면, 기업은 다른 운영 체계와 마찬가지로 AI를 관리해야 합니다. 업무에 드는 비용을 통제하고, 품질을 측정하고, 시스템이 행동할 수 있는 범위를 정의하고, 행동했을 때 무슨 일이 있었는지 파악해야 한다는 뜻입니다.
지능은 그것이 만들어 내는 수익에 비해 저렴할 때에만 가치가 있으므로, 비용이 중요합니다. AI 도입이 빠르게 늘면서 비용도 함께 치솟았습니다. 우버의 반면교사 사례가 좋은 예입니다.
사용자, 조직, 에이전트 단위로 비용에 상한을 걸 수 있는 능력은 AI를 안정적으로 확장하는 데 필수적입니다.
품질은 가정할 것이 아니라 측정해야 합니다. 모델을 업그레이드하거나, 프롬프트를 바꾸거나, 도구를 추가하거나, 워크플로를 조정했다면 시스템이 나아졌는지 나빠졌는지 알아야 합니다. 이를 측정할 수 없다면 에이전트를 체계적으로 개선할 수 없고, 그렇다면 에이전트를 진정으로 통제하고 소유한다고 할 수 없습니다.
경계는 AI가 독립적으로 행동해도 되는 영역과 감독이 필요한 영역을 가릅니다. 에이전트가 어떤 데이터에 접근할 수 있는지, 어떤 도구를 쓸 수 있는지, 어떤 행동에 승인이 필요한지, 언제 사람에게 넘겨야 하는지를 기업이 통제해야 합니다. 지능을 소유한다는 것은 지능이 무엇을 할 수 있는지를 통제한다는 뜻입니다.
관측성(observability)은 시스템에 책임을 물을 수 있게 해 줍니다. 에이전트가 어떤 행동을 했다면, 그 에이전트가 무엇을 보았고, 무엇을 했고, 어떤 도구를 호출했고, 왜 그랬는지를 비즈니스가 들여다볼 수 있어야 합니다. 이는 시스템을 개선하는 데에도, 시스템을 감사하고 신뢰하는 데에도 중요합니다.
지능을 복리로 쌓기
최고의 AI 시스템은 쓸수록 좋아집니다. 100번째 상호작용은 1번째보다 더 가치 있어야 합니다. 그사이 시스템이 사용자, 워크플로, 정책, 실패 사례, 선호에 대해 더 많이 배웠기 때문입니다. 시스템이 배운 내용뿐 아니라 학습 과정 자체도 직접 소유해야 합니다.
시스템이 배운다는 것은 무슨 뜻일까요?
학습 루프는 트레이스에서 시작합니다. 트레이스는 에이전트가 실제로 무엇을 했는지 보여 줍니다. 어떤 컨텍스트를 보았는지, 어떤 도구를 호출했는지, 어디서 막혔는지, 무엇을 만들어 냈는지 말입니다. 피드백은 그 트레이스에 의미를 부여합니다. 그 행동이 유용했는지, 받아들여졌는지, 거부당했는지, 비효율적이었는지, 위험했는지, 틀렸는지를 알려 줍니다. 이렇게 트레이스와 피드백이 합쳐져 개선의 원재료가 됩니다.
이 트레이스와 그에 딸린 피드백을 활용해 프롬프트, 하네스, 도구를 바꾸는 방식으로 시스템을 개선할 수 있습니다. 그런데 그 변경만큼이나 중요한 것이 변경에 딸린 평가입니다. 변경할 때마다 그 변경을 담아내는 평가를 추가해서, 이후의 변경이 회귀를 일으키지 않도록 해야 합니다.
최소한 이렇게 배운 내용만큼은 직접 소유해야 합니다. 모델이 바뀌어도, 시스템이 바뀌어도 옮겨 갈 수 있어야 합니다. 나아가 이 루프 전체를 직접 소유해야 합니다. 다시 말하지만, 누군가 에이전트를 처음 쓸 때 얼마나 잘하느냐는 사실 중요하지 않습니다. 100번째 쓸 때 얼마나 더 좋아져 있느냐가 중요합니다. 그것이 중요하다면, 그 개선을 이끄는 루프를 직접 소유해야 합니다.
지능 소유를 점검하는 체크리스트
정말로 지능을 소유하고 있을까요? 이를 판단하기 위해 스스로 던져 봐야 할 질문들입니다.
- 내일 새로운 모델 제공사가 최고 성능(SOTA) 모델을 내놓는다면, 손쉽게 갈아탈 수 있는가?
- 사용 중인 모델 제공사가 모델 지원을 종료하면, 서비스 중단 없이 직접 호스팅할 수 있는가?
- 오케스트레이션 로직이 어떻게 동작하는지 알고 통제할 수 있어서, 매 단계마다 LLM에 정확히 무엇이 들어가는지 파악하고 통제할 수 있는가?
- 에이전트를 어느 클라우드에서든, 디바이스 위에서든 완전히 같은 방식으로 실행할 수 있는가?
- AI 지출을 사용자 단위로 모니터링하고 통제할 수 있는가?
- 누군가 에이전트가 왜 그런 행동을 했는지 물으면, 에이전트가 수행한 모든 단계의 전체 트레이스(그리고 그렇게 행동한 내부 논리)를 보여 줄 수 있는가?
- 모델을 교체해도 회귀가 생기지 않는다고 확신할 수 있는 평가 체계를 갖추고 있는가?
- 사용자가 에이전트를 100번째 사용할 때, 처음 사용할 때보다 그 사용자를 더 잘 알고 더 나은 경험을 제공하는가?
- 에이전트가 학습한 내용을 전혀 다른 시스템으로 통째로 옮겨 갈 수 있는가?
- 에이전트가 어떻게 학습하는지 통제할 수 있는가?
전략적 선택
기업이 AI 스택의 모든 계층을 직접 만들 필요는 없습니다. 어렵고, 범용적이고, 차별화 여지가 없는 부분은 사 오는 것이 맞습니다.
하지만 경쟁 우위가 복리로 쌓이는 계층, 즉 에이전트 시스템, 에이전트가 수행하는 업무를 둘러싼 거버넌스, 그리고 쓸수록 시스템을 더 좋게 만드는 피드백 루프만큼은 직접 소유해야 합니다.
AI는 어느 회사든 도입할 수 있습니다. 하지만 AI로 지속적인 가치를 만들어 내는 회사는 자신의 지능을 직접 소유한 회사일 것입니다.