버티컬 AI 시대

지난 3년이 챗GPT, 제미나이, 클로드 같은 LLM의 시대였다면 앞으로 3년은 버티컬 AI가 산업계의 화두가 될 것 같네요.

일반 사용자들은 기존처럼 빅테크의 범용 AI 모델을 계속 쓰겠지만, 산업현장에서는 API 호출 비용이 비싸고, 보안은 취약하며, 산업 현장이 요구하는 '극한의 정확도'를 충족하지 못하는 범용 모델 대신에 특정 분야에 특화된 버티컬 AI가 대세가 될 거라고 생각합니다. 정확도와 전력비에서 경쟁이 안되니까요. 

범용 AI 모델(General-Purpose AI)과 버티컬 AI(Vertical AI)는 비유하자면, 르네상스적 지식인과 한 분야만 깊게 파고드는 전문가의 차이입니다. 

버티컬 AI의 위력을 극적으로 보여준 사례는, 한국의 프로바둑 기사들이 연구와 복기에 일상적으로 사용하는  KataGo(카타고)입니다. 카타고는 파라미터 수가 범용 LLM의 수천, 수만 분의 일에 불과하지만, 바둑 분야에서는 어떤 거대 모델보다 압도적입니다. 특정 분야에 최적화된 '작은 전문가'가 범용 '거인'보다 훨씬 효율적이고 강력할 수 있음을 바둑판 위에서 증명한 셈입니다.

산업 현장이 버티컬 AI 모델을 택하는 이유는 명확합니다.

민감한 데이터를 범용 AI 모델에 전송하지 않는다는 점에서 데이터 보안을 강화할 수 있고, 자체 서버에서 구동하는 경량화 모델이 장기적으로 훨씬 경제적입니다.

범용 모델이 업무에서 95%의 정확성을 낼 수 있다면 버티컬 모델은 99%를 달성할 수 있습니다.

일반적으로 95%의 정확도는 훌륭하지만, 반도체 공정이나 정유 플랜트 등에서 5%의 오판은 수천억 원의 손실이나 대형 사고를 의미합니다. 산업 현장은 '대충 다 잘하는 AI'가 아니라 '이 하나를 완벽히 책임지는 AI'를 원하죠. 

버티컬 AI 시장에서 승부처는 기술력보다는 누가 시장을 선점하느냐가 결정합니다. 

버티컬 AI는 산업 현장에 투입되는 순간부터 운영 데이터를 축적하기 시작합니다. 예로 반도체 공정의 불량 패턴, 유전의 시추 데이터, 병원별 진료 기록 등이죠.

이 데이터로 모델이 개선되고 개선된 모델은 더 많은 고객을 끌어오고 따라서 더 많은 데이터가 축적되는 '데이터의 선순환'이 이루어집니다.

CES 2026에서 젠슨 황이 알파마요를 소개하며 자율주행의 챗GPT 모멘트라고 선언했지만, 머스크가 지적한 것처럼 고품질 합성 데이터는 현실 세계에서 발생하는 무한한 변수와 예상치 못한 에지 케이스(Edge Cases)를 채우는 데 상당한 시간이 필요합니다. 제조강국 한국이 피지컬 AI 분야에서 앞서나갈 수 있는 이유 중 하나죠.

챗GPT에서 제미나이로 갈아타는 건 쉽지만, 공장 전체 공정에 통합된 버티컬 AI를 교체하는 것은 시스템 전체를 재구축하는 일입니다. 

전환 비용이 압도적으로 높기 때문에 한번 자리 잡은 버티컬 AI는 쉽게 대체되지 않습니다. 락인 효과가 발생하는 거죠.

데이터 선순환 구조가 '후발주자가 따라잡기 어려운 격차'를 만든다면, 시스템 락인은  '빠져나올 수 없는 구조'를 만듭니다. 선점 기업은 이중방벽을 쌓아서 후발 주자의 진입을 효과적으로 막아낼 수 있고 시간이 갈수록 더 유리해집니다. 

올해 2월에 한국의 AI 기업 7개사가 사우디 아람코 디지털과 체결한 MOU는 한국형 버티컬 AI를 통째로 사우디에 이식하겠다는 구상입니다. 

NC AI, 업스테이지, 엑사온을 개발한 LG 연구원 등이 AI 알고리즘을 담당하고. 퓨리오사AI와 리벨리온이 최적화된 NPU 칩을 설계하며 메가존클라우드가 운영 솔루션을 제공하는, 한국형 AI 풀패키지 수출이죠.

퓨리오사가 설계하는 NPU 칩은 TSMC가 제작하지만 설계와 시스템 통합권을 한국 기업들이 꽉 쥐고 있으니 AI 풀패키지 수출이라고 해도 틀린 말은 아니죠. 

아직 MOU 단계지만 기존의 제품 수출과는 결이 다른 버티컬 AI 수출이라는 점에서 주목할 가치가 있습니다.

참고로 이 글에서 말하는 버티컬 AI는 범용 모델 위에 껍데기를 씌우는 파인튜닝이 아닙니다. 자체 서버에서 구동하는 경량화 특화 모델, 즉 독자 사전학습 모델의 도메인 최적화를 말합니다. 실제로 사우디 MOU에 참여하는 업스테이지의 솔라 오픈 100B는 프롬 스크래치 방식으로 독자 개발된 모델이고, LG AI연구원의 엑사원 역시 자체 설계/학습한 사전훈련 모델입니다.