통신사가 보유 GPU 인프라로 자체 AI Cloud Service를 만드는 방법

통신사는 AI Cloud 사업을 시작하기에 독특한 위치에 있습니다.

이미 데이터센터를 운영하고 있거나, 전국 단위 네트워크와 기업 고객 기반을 갖고 있거나, 일부 사업자는 GPU·AI 인프라와 Edge / Regional Site까지 확보하고 있기 때문입니다.

실제로 2026년 들어 글로벌 통신사들이 GPU Cloud, AI Data Center, Sovereign AI, Edge AI를 하나의 인프라 전략으로 묶는 움직임을 공개하고 있습니다.

하지만 여기서 중요한 구분이 있습니다.

AI 인프라를 보유하는 것과 고객이 직접 소비할 수 있는 AI Cloud Service를 운영하는 것은 서로 다른 문제입니다.

GPU 서버가 있고 네트워크가 연결되어 있다고 해서 고객이 즉시 상품을 선택하고 주문하고 사용할 수 있는 것은 아닙니다.

통신사가 기존 자산을 실제 AI Cloud 사업으로 확장하려면 Infrastructure → Product → Self-Service / On-demand Cloud Service로 이어지는 운영 구조가 필요합니다.

통신사가 AI Cloud의 출발점에 유리한 이유

통신사마다 보유 자산은 다르지만 일반적으로 다음 역량 가운데 일부를 이미 갖고 있을 수 있습니다.

데이터센터와 전력·시설 운영 경험

AI Cloud는 GPU 서버만으로 만들어지지 않습니다.

전력, 냉각, 네트워크, 물리 보안, 장애 대응과 시설 운영이 함께 필요합니다.

기존 데이터센터 운영 경험은 AI 인프라를 장기간 안정적으로 운영하는 데 중요한 기반이 될 수 있습니다.

네트워크

통신사는 고객 사이트, 데이터센터, 지역 거점과 인터넷을 연결하는 네트워크 역량을 갖고 있을 수 있습니다.

특히 AI 서비스가 중앙 Data Center와 Regional / Edge 환경으로 분산될수록 네트워크와 Workload Placement의 관계가 중요해집니다.

기업 고객 관계

기존 B2B 고객에게 단순 회선이나 Hosting이 아니라 GPU·AI 인프라 서비스를 확장할 수 있는 사업적 접점이 존재할 수 있습니다.

GPU / AI Infrastructure

일부 통신사는 이미 AI Data Center나 GPU Cluster를 구축하고 있습니다.

이 경우 새로운 사업의 시작점은 “GPU를 살 것인가?”보다:

이미 확보한 자원을 어떤 상품과 운영 모델로 고객에게 제공할 것인가?

가 됩니다.

인프라가 있어도 Cloud Service는 자동으로 생기지 않습니다

예를 들어 통신사가 8-GPU 서버 여러 대를 보유하고 있다고 가정해 보겠습니다.

영업팀이 고객의 요청을 받아 서버를 배정하는 방식으로도 충분히 사업을 운영할 수 있습니다.

하지만 고객이 직접 AI Cloud Service를 소비하려면 다음 질문에 답할 수 있어야 합니다.

• 고객은 어떤 GPU 상품을 선택할 수 있는가?
• 지금 실제 가용 용량은 얼마인가?
• 고객 A와 고객 B의 계정·네트워크·스토리지는 어떻게 분리되는가?
• 주문은 실제 GPU / Network / Storage 프로비저닝으로 어떻게 이어지는가?
• 서비스 상태는 고객에게 어떻게 보이는가?
• 사용 기록은 무엇을 기준으로 측정하는가?
• 언제 과금을 시작하고 종료하는가?
• 사용이 끝난 자원은 어떻게 정리해 다시 판매 가능한 상태로 돌리는가?

이 질문들은 Hardware Inventory보다 Cloud Operations에 가깝습니다.

첫 번째 단계: GPU를 서비스 상품으로 정의합니다

통신사가 보유한 GPU 서버 목록은 고객용 Service Catalog와 다릅니다.

운영팀의 Inventory에는:

• GPU 종류
• 서버 ID
• Rack 위치
• Network 상태
• BMC
• 사용 상태

가 중요할 수 있습니다.

하지만 고객은 보통 특정 Asset ID를 주문하지 않습니다.

고객에게는:

• 전용 Bare Metal GPU
• GPU VM
• 예약형 GPU Capacity
• 특정 Network / Storage Option이 포함된 AI Environment

같은 서비스 상품이 필요합니다.

따라서 실제 AI Cloud 사업에서는:

Infrastructure Capability → Product / SKU → Service Catalog

로 이어지는 상품화 과정이 필요합니다.

두 번째 단계: 고객이 직접 요청할 수 있게 합니다

Self-Service는 단순히 Portal을 만드는 것이 아닙니다.

고객이 상품을 선택하면 그 요청이:

• IAM / 조직
• 계약 / 자격
• Quota
• 실제 가용 용량
• Reservation
• Provisioning
• Service State

와 연결되어야 합니다.

반복 가능한 주문은 System이 처리하고 운영팀은 예외, 장애, Capacity와 Policy를 관리하는 방향으로 역할이 바뀔 수 있습니다.

그리고 전용 Bare Metal GPU도 Self-Service / On-demand 방식으로 제공할 수 있습니다.

Cloud Service 여부는 Virtualization 여부보다 서비스 소비와 운영 구조에 더 가깝습니다.

세 번째 단계: 고객 간 운영 경계를 만듭니다

통신사가 Dedicated GPU를 고객별로 제공하더라도 Multi-Tenancy 문제는 사라지지 않습니다.

분리해야 하는 것은 GPU만이 아니기 때문입니다.

고객별로:

• Organization / User
• IAM
• Credential
• Network
• Storage
• Policy
• Quota
• Usage Record
• Billing Record

가 구분되어야 합니다.

즉:

Dedicated Hardware와 Tenant Isolation은 서로 다른 문제입니다.

네 번째 단계: 실제 프로비저닝을 반복 가능하게 만듭니다

AI Cloud 주문에는 GPU Server뿐 아니라 여러 인프라 요소가 연결됩니다.

예:

• Compute
• Network
• Storage
• Image / Runtime
• Credential / Access

고객이 같은 상품을 여러 번 주문할 때마다 엔지니어가 처음부터 다시 설계한다면 Cloud Business를 확장하기 어렵습니다.

중요한 것은 모든 것을 무조건 자동화하는 것이 아니라:

같은 상품을 반복적으로 제공할 때 상태와 결과를 일관되게 관리할 수 있는가?

입니다.

다섯 번째 단계: 중앙·지역·엣지 인프라를 하나의 서비스 관점으로 봅니다

통신사의 차별점은 중앙 데이터센터만이 아닐 수 있습니다.

일부 사업자는 Regional Site, MEC, Edge Infrastructure와 광범위한 Network를 보유하고 있습니다.

이 경우 AI Cloud Architecture에서는 단순히 “GPU가 어디에 있는가?”보다:

• 어떤 Workload를 어디에 배치할 것인가?
• Data는 어디에 있어야 하는가?
• Latency 요구는 무엇인가?
• 고객 계약상 허용되는 위치는 어디인가?
• 각 Site의 가용 Capacity는 무엇인가?

를 함께 봐야 합니다.

Training은 대규모 Central Cluster가 적합할 수 있고, 일부 Inference는 사용자나 데이터에 더 가까운 환경이 필요할 수 있습니다.

하지만 이는 Workload별 요구에 따라 달라집니다.

핵심은 Edge를 많이 보유했다는 사실 자체가 아니라:

서로 다른 위치의 AI Infrastructure를 하나의 Service / Policy / Capacity Model로 운영할 수 있는가?

입니다.

여섯 번째 단계: 기술 사용량과 상업적 사용 기록을 연결합니다

통신사는 Network와 Service Billing 경험을 갖고 있을 수 있지만 GPU Cloud의 Metering은 별도의 설계가 필요할 수 있습니다.

GPU Utilization이 곧 고객 Billing Record는 아닙니다.

상품에 따라 과금 기준은:

• Dedicated Server Allocation Time
• VM Runtime
• Reservation Period
• Workload Execution Unit

등이 될 수 있습니다.

따라서 기술 Telemetry와 고객별 Allocation / Service / Contract Record를 구분해서 관리해야 합니다.

일곱 번째 단계: 사용 종료 후 자원을 다시 상품으로 돌려놓습니다

Cloud Service는 Provisioning으로 끝나지 않습니다.

고객 사용 종료 후:

• Credential 회수
• Network Policy 정리
• Storage / Data 처리
• Image 초기화
• Hardware 상태 확인
• Usage Record 종료
• Available Capacity 복귀

가 필요할 수 있습니다.

자원 회수가 늦으면 GPU는 데이터센터 안에 있지만 다음 고객에게 판매할 수 없는 상태가 됩니다.

Telco AI Cloud와 Sovereign AI는 왜 함께 이야기될까요?

통신사의 데이터센터, 지역 네트워크, 현지 운영 역량은 Sovereign AI 수요와 연결될 수 있습니다.

최근 Sovereign AI 논의는 단순한 Data Residency를 넘어:

• 누가 운영하는가
• 어떤 관리자가 접근할 수 있는가
• 어떤 법적 관할에 놓이는가
• Infrastructure와 Model을 얼마나 통제할 수 있는가
• 외부 의존성이 어디에 있는가

까지 확장되고 있습니다.

따라서 국가·지역 내 AI Infrastructure를 운영하는 통신사가 Sovereign AI Service의 중요한 공급자 후보로 논의되는 것은 자연스럽습니다.

다만 “국내 데이터센터 = Sovereign AI”라고 단순화해서는 안 됩니다.

Sovereignty는 Workload별 통제 범위를 설계하는 문제입니다.

최근 시장에서는 어떤 방향이 보이고 있을까요?

2026년 SoftBank는 GPU Cloud, AI-RAN/MEC와 AI Data Center Software를 결합하는 “Telco AI Cloud” 비전을 발표했습니다.

SK Telecom도 AI Data Center, GPU Cloud, Sovereign AI Infrastructure를 연결하는 방향을 공개하고 있습니다.

이 사례들이 보여주는 공통점은:

통신사가 AI Infrastructure를 단순 보유하는 것을 넘어, 그 Infrastructure를 Service로 운영하는 Software / Operations Layer에 관심을 두고 있다는 점

입니다.

이는 모든 통신사가 동일한 전략을 취한다는 뜻은 아닙니다.

하지만 Telco가 Network Company에서 AI Infrastructure Service Provider로 역할을 확장할 수 있다는 시장 방향을 보여줍니다.

Thaki Cloud는 이 문제를 어떻게 볼까요?

Thaki Cloud의 Canonical Architecture는:

Customer Infrastructure → Thaki NeoCloud OS → Customer NeoCloud Service

입니다.

통신사 관점에서 Customer Infrastructure는 사업자가 보유하거나 운영하는 GPU, Server, Network, Storage, Data Center 또는 AI Factory가 될 수 있습니다.

Thaki NeoCloud OS는 GPU 및 AI 인프라를 보유한 사업자가 자체 브랜드의 Self-Service·On-demand NeoCloud 서비스를 구축하고 운영할 수 있도록 지원하는 클라우드 플랫폼입니다.

지원되는 배포 환경에서는 Service Catalog, Provisioning, Tenancy, Allocation / Scheduling, Usage Metering, Billing Integration, Observability와 Lifecycle 같은 운영 영역을 연결할 수 있습니다.

실제 Hardware, Network, Billing System과의 연동 범위는 프로젝트별 확인이 필요합니다.

정리하면

통신사가 AI Cloud 사업에 진입할 때 강점은 이미 보유한 인프라에 있을 수 있습니다.

하지만 사업화의 핵심은 GPU 수량보다:

Infrastructure → Product → Self-Service / On-demand AI Cloud Service

로 이어지는 운영 구조입니다.

Data Center, Network와 GPU는 강력한 기반입니다.

그 기반을 고객이 반복적으로 주문하고 사용할 수 있는 서비스로 바꾸는 것은 별도의 Cloud Operations 문제입니다.

FAQ

통신사가 GPU를 보유하면 바로 AI Cloud 사업을 할 수 있나요?

GPU는 중요한 기반이지만 상품화, 고객 / Tenant 관리, Provisioning, Metering, Billing과 Lifecycle이 연결되어야 반복 가능한 Cloud Service 운영이 가능합니다.

Telco AI Cloud는 반드시 Edge AI를 포함해야 하나요?

아닙니다. 통신사별 자산과 사업 모델이 다릅니다. Edge는 가능한 차별화 요소 중 하나입니다.

Dedicated Bare Metal GPU도 Telco AI Cloud 상품이 될 수 있나요?

가능합니다. Service Catalog, Self-Service / API, Provisioning, Usage Record와 Lifecycle이 연결되면 전용 물리 서버도 Cloud 방식으로 제공할 수 있습니다.

Telco AI Cloud는 Sovereign AI와 같은 개념인가요?

아닙니다. Telco AI Cloud는 사업 / 운영 모델이고 Sovereign AI는 통제와 관할 범위에 관한 개념입니다. 둘은 결합될 수 있습니다.

기존 Hosting과 On-demand GPU를 함께 운영할 수 있나요?

가능합니다. Dedicated Hosting, Reserved Capacity와 On-demand Service를 서로 다른 상품으로 병행할 수 있습니다.