모바일 왕국을 꿈꾸며!!! mobizen@mobizen.pe.kr

Posted
Filed under AI 이야기
“AI가 사람을 대체하는 것이 아니라, Agent가 역할을 나눠 맡으며 업무의 일부를 수행하는 시대가 왔다.”
지금 AI 기술의 최전선에 있는 개념은 단연 ‘AI Agent’다. 단순히 질문에 답변하는 수준의 챗봇을 넘어, 도구를 활용하고, 행동하고, 협업하며 목표를 수행하는 지능형 소프트웨어의 등장이 예고되고 있다. Agent는 더 이상 연구실 속 미래 기술이 아니다. 이미 다양한 산업에서 실제 PoC와 업무 자동화 프로젝트로 이어지고 있으며, 새로운 플랫폼 전쟁의 중심이 되고 있다.

하지만 이 기술은 정말 ‘ROI(투자 대비 효과)’가 나오는가? 가장 기초적인 질문에 대한 내용을 정리해보고자 한다.



1. 실전에서의 적용: 글로벌과 국내 사례
1.1. 글로벌
  • Klarna: 고객 상담 업무의 65% 이상을 AI Agent가 처리, 평균 응답시간 2.3초. 고객 만족도 향상과 비용 절감 효과 동시 달성.
  • Salesforce GPT: 세일즈 자동화 Agent로서 고객 행동 예측, 메일 작성, 추천 업무 수행. 내부 영업 생산성 약 30% 향상.
  • OpenDevin: 개발 보조 Agent로서, 버그 분석 → 수정 제안 → 문서 작성까지 수행. 엔지니어 시간 절감 효과 확인.
1.2. 국내
  • 엠로: 구매 Agent 도입으로 문서 생성 자동화, 발주관리 PoC 진행. 아직 확산보다는 테스트 단계.
  • 한국딥러닝: AI OCR 기반 문서처리 Agent로 9천 건 등기부등본 처리, 99.7% 시간 절감.
  • 올거나이즈 Alli: 노코드 Agent Builder를 통한 고객 지원/지식 검색 Agent 운영. 금융·제조권 중심 확산 중.
이처럼 일부 기업에서는 Agent 도입이 명확한 ROI를 만들어내고 있지만, 대다수는 여전히 검증 단계에 머무르고 있다.



2. Agent의 ROI를 계산해보면
2.1. 초기 구축
ScaleUpAlly에 따르면 고도화된 Agent는 $40,000~$150,000 이상(약 5천만~2억 원)  투자가 필요하다. 상세 내용을 구분해서 정리하자면 

  • 단순 Q&A Agent 수준: $10,000~$30,0000 (약 1,300만 원 ~ 약 4,000만 원)
  • CRM 연동·오케스트레이션 포함: $40,000~$70,000(약 5,300만 원 ~ 약 9,300만 원)
  • 고도화 Agent (검색/ML/워크플로우 포함): $150,000 (약 2억 원) 이상 가능

2.2. 월간 운영
Designveloper에 따르면 API 호출, 모니터링, 데이터 보정, 보안 등 포함 시 $3,000~$13,000(약 400만~1,800만 원) 수준이 월 비용으로 소요된다. 상세 내역을 구분하자면 아래와 같다.

  • LLM API 호출: $1,000 ~ $5,000 (약 130만 원 ~ 약 660만 원)
  • 검색 인프라 (벡터 DB 등): $500 ~ $2,500  (약 66만 원 ~ 약 330만 원)
  • 모니터링/로깅: $200 ~ $1,000(약 26만 원 ~ 약 130만 원)
  • 프롬프트 업데이트 (튜닝): $1,000 ~ $2,500 (약 66만 원 ~ 약 260만 원)
  • 보안 유지 비용: $500 ~ $2,000(약 400만 원 ~ 약 1,800만 원)

2.3. ROI
이를 단순 계산해보면, 초기 구축 비용이 최소 약 5천만 원, 월간 운영비가 400만 원이라고 가정할 때, 2년 기준 총비용은 약 2억 원에 달한다. 따라서 최소 연간 1억 원 이상의 비용 절감이나 추가 매출이 발생하지 않는다면 투자 대비 효과(ROI)를 입증하기 어렵다. 이는 AI Agent가 단순한 기술 도입이 아닌, 명확한 수치적 효과를 전제로 설계되어야 한다는 점을 보여준다.

TechMonitor, Capgemini, PagerDuty, BCG 등의 자료를 종합하면 기업들이 AI Agent에 기대하는 ROI는 평균 200%이다. 하지만, 실제 평균 ROI는 170% 수준으로 나타났다. 60% 이상의 기업이 기대치를 달성하지 못했거나 ROI 측정에 실패했으며 42%가 AI 프로젝트를 중단했다는 보고서도 있다.

사용자 삽입 이미지


3. 왜 많은 Agent가 ROI를 만들지 못하는가?
 
첫째는 현업과 동떨어진 구조를 시도하기 때문이다. Agent가 ROI를 창출하려면, 단지 기술적으로 작동하는 것을 넘어 실제 조직의 흐름 안에 들어가야 한다. 승인 체계, 데이터 흐름, 사용자 관성 등을 고려하지 않은 Agent는 초기 도입비만 남기고 활용되지 않는다. 하지만, 아직 문화적인 거부감이 커서 부가 서비스에 사용되는 경우가 많다.
 
둘째는 운영 전략이 부재하기 때문이다. ROI는 도입이 아니라 운영에서 나온다. Agent는 만들어지는 순간이 아니라 반복적으로 학습하고 개선되는 구조여야 한다. 이를 위한 운영 체계와 리소스를 확보하지 않으면, 도입 효과는 장기적으로 희석된다. 그런데, 구축 예산에 모든 것을 써버린 기업은 대부분 구축 이후에는 개선없이 방치하게 된다.

셋째, AI Agent를 단순히 비용 절감 도구로 오해하기 때문이다. 많은 기업들이 Agent를 단순히 사람을 줄이는 수단으로 접근한다. 하지만 실제 ROI는 인건비 감축보다는 생산성 증대, 오류 감소, 리드타임 단축 등 정량화된 효율성 개선에서 발생한다. 특히 국내는 Agent를 단순 인건비 절감 도구로 이해하는 경향이 강하다. 하지만 진짜 절감은 반복 운영 구조와 업무 최적화에서 나오는데, 애초부터 이러한 설계과 고려가 없다.
 
넷째, ROI 추적 시스템 부재이다. Agent의 성과를 수치로 추적할 수 없다면, 의사결정자의 신뢰를 얻을 수 없다. KPI, 비용 대비 성능, 반복 사용률 등 ROI를 측정할 수 있는 지표 체계를 사전에 설정해야만 한다.



4.  Agent의 미래 — SI에서 SaaS로?
 
지금까지의 논의를 종합해보면, AI Agent는 단순 기술 구현 단계를 지나 지속가능한 ROI를 낼 수 있는 구조적 진화가 필요하다. 특히 구축비와 운영비가 일정 수준 이상 고정되는 구조에서, 기업 입장에서는 다양한 도입과 운영 옵션을 고려하지 않을 수 없다.
 
하나의 흐름은 SaaS 기반 Agent 제품군의 확산이다. Microsoft 365 Copilot, Salesforce GPT와 같은 제품처럼, 특정 업무 목적에 맞춘 SaaS형 Agent는 초기 투자 없이 구독 형태로 시작할 수 있고, 운영/유지보수 부담도 낮다. 특정 도메인에서 ROI가 검증되면, 이 모델은 빠르게 확산될 수 있다.
 
또 다른 흐름은 Agent Builder 기반의 경량화된 커스터마이징 전략이다. LangChain, AutoGen, CrewAI 같은 프레임워크나 Google Vertex AI의 Builder 기능은 복잡한 개발 없이도 Agent를 빠르게 설계하고 테스트할 수 있게 해준다. 이는 ‘SaaS 수준까지 가지 않더라도’ 중소 규모 조직이 최소한의 비용으로 가능성을 탐색할 수 있는 경로다.
 
하지만 Builder만으로 운영비를 해결할 수 있는 것은 아니다. 대부분의 Builder는 여전히 기술자 중심의 툴이며, 프롬프트 조정, API 연결, 모니터링, 사용자 피드백 반영 등은 모두 비용과 리소스를 지속적으로 요구하는 운영 행위다. 결론적으로 AI Agent는 다음과 같이 양분될 가능성이 크다.

  • SaaS화 가능한 Agent : 반복성과 정형성이 높은 도메인 중심. 낮은 도입 비용, 빠른 확산, 낮은 운영 부담
  • SI 기반 + Builder 연계형 Agent: 특수 목적·복잡성 높은 워크플로우 중심. PoC-중심의 탐색 단계에서 유효
     
Agent는 단기 성과를 위한 트렌드가 아니라, 조직 구조와 업무 흐름에 맞춰 어떤 구조로 설계되고, 어떤 방식으로 운영되는가에 따라 생존 여부가 결정될 기술이다.

사용자 삽입 이미지




결론 — 지금 AI Agent를 도입해야 할까?
 
AI Agent는 기술이나 규제의 문제가 아니라, 결국 ROI의 문제다. 구축과 운영에 필요한 기본 비용은 조직의 규모와 무관하게 일정 수준 이상으로 고정된다. 그렇다면 Agent가 만들어내는 가치는 연간 최소 1억 원 이상이어야 ROI가 성립된다. 반대로 말하자면, 1억 원 이상의 가치를 만들어내는 업무에 적용되어야 한다.
 
그렇기 때문에 Agent는 반복적이고 구조화된 대형 트랜잭션을 가진 조직에게 적합하다. 그렇지 않다면, 지금은 SaaS나 Agent Builder가 충분히 고도화될 때까지 기다리는 것이 더 합리적인 전략일 수 있다. Agent는 트렌드가 아니다. ROI를 중심에 두지 않는 Agent 전략은 실패할 가능성이 높다.
2025/07/31 08:53 2025/07/31 08:53
Posted
Filed under AI 이야기
기존의 MSP 모델은 무너졌다. 이제는 전략을 다시 짜야 한다.
지난 글에서는 AI와 클라우드의 변화가 MSP에게 어떤 위기이자 기회를 던져주는지 이야기했다. 그렇다면, MSP는 어떻게 바뀌어야 하는가?



5. MSP의 근본은 'Gate Keeper'
과거에는 MSP가 고객과 CSP(예: AWS, Azure, GCP) 사이에서 계약·가격·서비스 조건을 대신 해석해주며 일종의 비즈니스 Gate Keeper 역할을 수행했다. 고객은 클라우드 사용에 익숙하지 않았고, CSP도 고객에게 기술적 복잡성을 감당하기 어려웠기에 MSP가 유용한 중개 지점이었기 때문이다.

5.1. AI 시대의 환경변화
하지만 이제는 상황이 완전히 달라졌다. 클라우드는 인터페이스가 간소화되었고, AI는 API만 있으면 누구나 사용할 수 있는 도구가 됐다. 이미 많은 기업들이 OpenAI나 Claude API를 직접 붙이고, SaaS 기반의 챗봇이나 문서 자동화 도구를 자유롭게 도입하고 있다.

이제 고객은 MSP에게 “AI 좀 써보고 싶은데 알려주세요”라고 묻지 않는다. 오히려 “MSP 없이도 우리는 시작할 수 있다”는 생각이 일반화되어 있다. 따라서 MSP는 기존 역할에 머무를 수 없으며, Gate Keeper로서의 존재 이유 자체가 달라져야 한다.

5.2. 고객의 니즈
그렇다고 고객의 니즈가 사라진 것은 아니다. 변화했을 뿐이다. 클라우드와 AI에 대한 고객들의 이해도가 높아지면서 오히려 특정 CSP나 단일 AI 모델에 Lock-in되지 않으려는 전략적 태도가 생겨나고 있다.

이미 기업의 약 37%가 이미 5개 이상의 LLM(예: OpenAI, Gemini, Claude 등)을 생산 환경에서 사용 중이며, 작년 대비 증가 추이이다. Claude는 코딩, Gemini는 설계, OpenAI는 복잡 QA에 강점이 있다는 것을 기업 CTO들은 너무 잘 이해하고 있기 때문이다.

사용자 삽입 이미지


이 흐름은 클라우드 기반 AI 전략에서 “Vendor Lock-in은 리스크다”라는 공감대가 형성되었음을 보여준다. MSP에게는 또 다른 기회가 생기는 시점이다.

5.3. 기술적인 Gate Keeper로서 진화
결국 MSP는 비즈니스 Gate Keeper에서 기술적 Gate Keeper로 진화해야 한다. 비즈니스적인 편의성을 넘어서 기술적인 편의성을 제공해야 한다는 의미이다. 기존처럼 고객의 SR을 “우리가 대신 해드릴게요”가 아니라 

“우리는 어떤 모델이 어떤 업무에 적합한지 판단하고,어떤 방식으로 CSP와 연결해 실제 워크플로우에 녹일지 설계해드립니다” 라는 방향으로 역할이 바뀌는 것이다.

이 방향은 쉽지 않다. 그렇기에, MSP는 자신이 감당할 수 있는 전략을 선택해야 한다. 그 전략은 대형 MSP와 소형 Vertical MSP라는 두 가지 경로로 나뉘게 된다.



6. 기술 기반 대형 MSP의 전략
MSP가 기술적 Gate Keeper로 진화한다는 선언은 그 자체로 의미가 있지만, 그것만으로 충분하지 않다. 현실에서 이 역할을 수행하려면 무엇이 필요한가? 이는 단순한 역량의 문제가 아니다. MSP의 구조 자체가 이 전략을 감당할 수 있도록 바뀌어야 한다. 특히 대형 MSP라면, AI와 클라우드를 통합적으로 운영하고 설계할 수 있는 기술 내재화와 전략 자산을 확보하는 것이 전제된다.

6.1. 기술적 Gate Keeper로서 필요한 역량
첫째, 오케스트레이션을 수행할 수 있는 능력이다. 고객은 이제 단일 CSP나 단일 AI 모델에만 의존하지 않는다. 다양한 모델과 서비스들을 조합해 사용하고자 하는 니즈가 증가하고 있으며, 그 조합을 기술적으로 설계하고 실행하는 능력은 MSP에게 필수적이다. 오케스트레이션은 단순한 통합이 아니라, API 구조, 응답 형태, 비용 체계, 지연 시간(latency), 데이터 보안 정책 등 다양한 요소를 고려하여 설계되어야 한다.

둘째, 데이터 아키텍처 설계 능력이다. 고객의 데이터를 CSP에 종속되지 않는 형태로 관리하면서도 AI 학습과 실행에 적합한 구조로 설계하는 것이 필요하다. 데이터 레이크, 데이터 파이프라인, 데이터 거버넌스는 모두 MSP가 기본적으로 내재화해야 할 역량이다.

셋째, Agent Builder로서의 역할이다. 업무 단위별로 고객의 AI 활용을 자동화할 수 있는 소형 에이전트를 구성하고, 이를 빠르게 반복 적용할 수 있는 구조를 설계할 수 있어야 한다. 단순히 챗봇을 붙이는 수준이 아니라, AI가 고객의 실질적인 워크플로우 안에서 작동하게 만드는 기획과 기술의 융합이 요구된다.

넷째, 비용 최적화를 위한 AI 기반 FinOps 역량이다. AI 시대의 클라우드는 고정비 구조보다 사용량 기반의 과금 체계가 더 뚜렷하게 작동하기 때문에, MSP는 AI 모델 사용량과 성능, 비용 간의 균형을 조율할 수 있어야 한다. 기존의 FinOps가 인프라 비용을 관리하는 방식이었다면, 이제는 AI 호출량, 모델 크기, latency에 따른 비용 구조를 분석하고 최적화하는 전략이 필요하다.

6.2. 중대형 MSP가 나아가야 할 전략
이러한 역량을 갖춘 MSP는 단순한 클라우드 운영 대행이 아니라, 고객의 AI 전략을 설계하고 실행하며 운영하는 전 과정에 개입하는 파트너로 자리매김할 수 있다. 그 전략의 핵심은 다음과 같다.
  • 기술 자산을 중심으로 한 플랫폼화. 예컨대 베스핀글로벌의 'OpsNow FinOps'처럼 클라우드 자산 가시화 및 비용 최적화를 지원하는 솔루션을 통해, 고객에게 명확한 가치를 전달한다.
  • 고객 맞춤형 조합을 구현 가능한 오케스트레이터 역할. CSP, AI API, 고객 내부 시스템을 유기적으로 연결해 실질적인 자동화를 설계하고 구축할 수 있어야 한다.
  • Agent Builder 전략을 기반으로 한 산업별 솔루션화. 특정 도메인에 맞는 AI 에이전트를 미리 구성해두고, 이를 템플릿 형태로 반복 활용함으로써 기획과 기술의 레버리지를 극대화한다.
  • AI FinOps 기반의 비용 관리 프레임워크 도입. AI 사용량 기반의 과금 체계에서 MSP는 고객의 사용량을 예측하고, 필요에 따라 조정하며, 예산 내에서 최대 효과를 얻을 수 있도록 지원해야 한다. 

사용자 삽입 이미지


결국 이러한 전략은 단기적인 외주 개발로는 절대 구현할 수 없는 구조다. 오히려 MSP가 독자적으로 기술 인프라를 구축하고, 장기적인 고객 파트너십을 설계하며, 자체 역량으로 운영할 수 있어야만 실현 가능한 전략이다. 이 방향은 대형 MSP만이 감당할 수 있는 길이며, 그만큼 명확한 투자와 선택이 요구된다.



7. 산업 특화 중심의 Vertical MSP 전략
반대로, 대형 MSP의 구조와 리소스를 갖추지 못한 다수의 MSP는 완전히 다른 전략을 택해야 한다. 기술을 내재화하기 어려운 상황에서 오케스트레이션이나 플랫폼화 전략을 흉내 내는 것은 오히려 리스크가 된다. 따라서 이들에게 실질적으로 가능한 길은 Vertical MSP로의 전환이다. 지금까지 Vertical MSP는 특정 CSP에 친화적인 MSP를 말했지만, 이제는 변화할 때이다.

AI시대의 Vertical MSP는 특정 도메인—의료, 제조, 건설, 물류, 교육 등—에 대해 깊은 이해를 갖고, 그 문맥에 맞는 클라우드+AI 조합을 기획하고 구성해주는 사업자다. 이 전략은 기술이 아니라 '문맥 이해력'이 핵심이 된다. AI API나 SaaS는 누구나 접속할 수 있지만, 그것을 현장에 맞게 조합하고, 고객이 바로 쓸 수 있는 형태로 포장할 수 있는 능력은 산업 경험과 도메인 전문성 없이는 불가능하다.

예를 들어, 의료기관을 위한 MSP라면 AI OCR + LLM 기반 문서 분류 + 리포트 자동화 기능을 조합한 '비정형 문서 처리 패키지'를 제공할 수 있다. 제조업을 위한 MSP는 비전 AI + anomaly detection + 생산 공정 모니터링을 하나의 구성으로 만들어줄 수 있다. 중요한 건, 이 모든 구성은 새로운 기술이 아니라, 이미 존재하는 도구들을 고객 문맥에 맞게 '써지게 만드는' 데 있다.

이 전략의 강점은 반복 가능성이다. 일단 현장 맥락에 맞는 패키지를 구성하면, 유사한 고객군에 반복적으로 제공할 수 있고, 유지보수 부담도 낮아진다. 또한 대형 MSP와 기술력으로 경쟁할 필요 없이, '누가 고객을 더 잘 아는가'라는 기준으로 경쟁할 수 있다. 이는 결국 MSP가 기술 기업이 아니라, '문맥 기술 기업'으로 자리잡는 과정이기도 하다.

Vertical MSP 전략은 단기적 생존 전략이 아니다. 오히려 AI가 점점 산업 깊숙이 들어오는 시대에, 가장 강력한 실전형 전략이 될 수 있다. 중요한 건 기술이 아니라 기획이다. 고객이 스스로 구현하기엔 번거롭고, 내부에 역량도 없고, 외주 업체는 맥락을 이해하지 못할 때, 그 간극을 메워주는 존재가 바로 Vertical MSP다.



8. 결론: MSP는 존재 이유를 다시 써야 한다
이제 MSP는 질문을 바꿔야 한다. "우리는 무엇을 제공할 것인가?"가 아니라, "우리는 왜 존재해야 하는가?"다. 클라우드가 처음 등장했을 때, MSP는 기술의 진입장벽을 낮춰주는 존재였다. 하지만 그 장벽이 사라진 지금, 과거의 역할은 더 이상 고객에게 가치로 인식되지 않는다.

오늘날 고객은 클라우드를 직접 계약하고, AI API를 직접 호출한다. 더 이상 MSP가 없어도 기술은 사용 가능하다. 그렇다면 MSP는 기술을 대신 써주는 조직이 아니라, 기술을 '써지게 만드는 조직'으로 다시 태어나야 한다. 이는 단순한 기술 외주업체나 운영 대행 업체에서 벗어나, 고객의 전략적 파트너로 진화해야 한다는 뜻이다.

이 글에서 제시한 두 가지 전략—기술 기반의 대형 MSP와 도메인 특화의 Vertical MSP—는 그 변화에 대한 실질적 대답이다. 두 전략은 상호 배타적이지 않지만, 동시에 하나의 조직이 모두 수행할 수도 없다. 따라서 MSP는 자신의 위치, 역량, 시장을 명확히 진단하고 방향을 선택해야 한다.

무엇보다 중요한 것은, 중간은 없다는 것이다. 기술 내재화 없이 오케스트레이션을 흉내 내거나, 도메인 이해 없이 패키지를 구성하는 전략은 오래가지 못한다. 진짜 전략은, 고객이 무엇을 필요로 하는지를 정확히 이해하고, 그것을 기술과 문맥의 조합으로 구현해내는 것이다.

AI 시대는 MSP에게 또 한 번의 기회를 주고 있다. 다만, 이번에는 과거와 같은 리셀링이나 인력 파견 모델로는 응답할 수 없다. 존재 이유를 새로 써야 할 시점이다. 그리고 그 이유는, 고객보다 앞서 기술을 읽고, 고객보다 깊이 맥락을 해석할 수 있는 MSP만이 쓸 수 있을 것이다.
2025/07/30 10:11 2025/07/30 10:11

모바일 컨텐츠 이야기