전문투자자를 위한 3시간 · 원리 · 추이 · 한계 · 시장

인공지능,
처음부터 끝까지

기술의 실체를 논문 수준으로 이해하고, 2026년 시장 데이터를 그 위에 올려 읽는다.

강사: 조훈상  ·  2026년 9월 12일

오늘의 지도

3시간, 네 가지 질문

1부 · 20분

AI는 무엇인가

정의, 70년의 역사, 왜 2022년에 폭발했는가.

2부 · 65분

어떻게 작동하는가

토큰, 임베딩, 어텐션, 스케일링 법칙, 학습 3단계. 그리고 2023~26년 아키텍처의 변화.

3부 · 30분

어디서 막히는가

환각, 데이터 벽, 추론 붕괴 논쟁, 에너지, 평가의 오염.

4부 · 60분

시장은 무엇을 가격에 넣었나

설비투자 $650B, 매출 $200B, Nvidia 실적, 부채 구조, GPU 임대료, HBM, 시나리오와 선행 지표.

2부 뒤와 3부 뒤에 10분씩 쉽니다. 질문은 언제든 손 들어 주세요.

1부

AI는 무엇인가

정의 · 역사 · 왜 지금인가

정의

인공지능이란

사람이 하면 "똑똑하다"고 할 일을 컴퓨터가 하게 만드는 기술.

— 가장 쉬운 정의 (McCarthy, 1956 정의의 현대어 번역)

보고(이미지 인식), 듣고(음성 인식), 읽고 쓰고(언어 모델), 판단하고(추천·예측), 만들어 내는(생성) 것까지 모두 포함합니다.

대중적 서사와 기술적 실체

서사 vs 실체

대중적 서사
  • 스스로 생각하고 의도가 있다
  • 모든 것을 안다
  • 인간처럼 감정이 있다
  • 하나의 거대한 존재
기술적 실체 (2026)
  • 확률 분포를 학습해 다음을 예측하는 함수
  • 학습 분포 안에서만 잘한다
  • 감정을 모사할 뿐이다
  • 수백 개 회사가 만든 수천 개의 서로 다른 모델
세 개의 동심원

AI ⊃ 머신러닝 ⊃ 딥러닝

인공지능 (AI)

가장 넓은 말. 1950년대부터. 규칙을 사람이 일일이 써 준 프로그램(전문가 시스템)도 포함.

머신러닝 (ML)

규칙을 사람이 쓰지 않고, 데이터에서 컴퓨터가 스스로 찾게 하는 방식. 통계학과 최적화의 결합.

딥러닝 (DL)

뉴런을 흉내 낸 함수를 수십~수백 층 쌓은 것. 2012년 이후 모든 돌파구의 주역.

요즘 뉴스의 "AI"는 거의 전부 딥러닝, 그중에서도 생성형 AI를 말합니다.

핵심 개념 하나

규칙을 쓰는 대신, 예시를 보여 준다

옛날 방식 · 규칙 프로그래밍

"귀가 뾰족하고, 수염이 있고, 꼬리가 길면 고양이다."

→ 귀가 접힌 스코티시폴드는? 뒤에서 찍은 사진은? 규칙이 끝없이 늘어남.

머신러닝

고양이 사진 100만 장, 아닌 사진 100만 장을 보여 주고 "틀린 만큼 손잡이를 조금씩 돌려라."

→ 이 "손잡이"가 파라미터, "조금씩 돌리기"가 경사하강법.

모든 딥러닝은 결국 하나의 문장입니다. 틀린 정도(손실)를 재고, 그걸 줄이는 방향으로 파라미터를 아주 조금 움직이는 일을 수십억 번 반복한다.

역사

70년 동안 세 번의 겨울과 세 번의 봄

1956다트머스 회의. "인공지능"이라는 말이 태어남
1974~80첫 번째 AI 겨울. 약속은 컸고 컴퓨터는 느렸다
1986역전파 알고리즘 재발견 (Rumelhart, Hinton, Williams)
1997IBM 딥블루, 카스파로프에 승리
2012AlexNet, ImageNet 오류율 26%→16%. 딥러닝 시대 개막
2016알파고 4:1 이세돌
2017"Attention Is All You Need". 트랜스포머
2020GPT-3 1,750억 파라미터. 스케일링 법칙 논문
2022.11ChatGPT. 두 달 만에 1억 명
2024~26추론 모델, MoE 대중화, 에이전트, 투자 광풍
왜 하필 지금?

세 가지가 동시에 갖춰졌다

데이터

인터넷 30년치 텍스트. Common Crawl 기준 수십조 토큰 규모의 공개 웹.

계산력

행렬 곱셈에 특화된 GPU. 2012년 AlexNet은 GPU 2장, 2024년 프런티어 모델은 수만 장.

알고리즘

트랜스포머. 순차 처리(RNN)의 병목을 없애 GPU를 100% 활용하게 만든 구조.

역전파는 1986년, 신경망 언어모델은 2003년(Bengio)에 이미 있었습니다. 부족했던 건 아이디어가 아니라 규모였습니다.

AI의 종류를 쉽게

"판별하는 AI"와 "만드는 AI"

판별형 · 2012년 이후 주류

입력 x를 보고 라벨 y를 분류·예측한다. p(y|x)

  • 이 사진은 고양이인가?
  • 이 거래는 사기인가?
  • 이 엑스레이에 결절이 있나?
생성형 · 2022년 이후 주류

데이터의 분포 자체를 배워 새 표본을 만든다. p(x)

  • 이 주제로 글을 써 줘
  • 이런 그림을 그려 줘
  • 이 코드의 버그를 고쳐 줘

오늘 강의의 나머지는 대부분 생성형 AI, 그중에서도 대규모 언어 모델(LLM) 이야기입니다.

2026년 현재 주요 선수들

이름은 다르지만 뿌리는 같다

회사모델·제품특징
OpenAIGPT 시리즈, ChatGPT2022년 붐의 시작. 추론 모델(o 시리즈) 선도
Google DeepMindGemini검색·지메일·안드로이드 통합, 초장문 컨텍스트
AnthropicClaude긴 문서, 코딩, 에이전트, 안전 연구
MetaLlama오픈 웨이트. 누구나 내려받아 실행
DeepSeek / Alibaba (중국)DeepSeek V3·R1, Qwen저비용 MoE, 오픈 웨이트로 2025년 판도 변화
네이버 / LG / 업스테이지 등하이퍼클로바X, 엑사원, 솔라한국어 특화, 국가 AI 컴퓨팅 사업

전부 2017년 트랜스포머 구조 위에 있습니다. 차이는 데이터·규모·학습 후처리·시스템.

1부 정리

기억할 세 문장

AI는 규칙을 쓰는 대신 손실을 줄이는 방향으로 파라미터를 조정하는 프로그램이다.
아이디어는 1980년대에 있었고, 데이터 · GPU · 트랜스포머가 만나 2022년에 폭발했다.
판별형에서 생성형으로. 이제 분포를 배워 새 것을 만든다.
2부

어떻게 작동하는가

토큰 · 임베딩 · 어텐션 · 스케일링 · 학습 3단계 · 2023~26년 아키텍처 추이

모든 것의 시작

단 하나의 목적 함수

언어 모델은 "다음 토큰의 확률 분포"를 출력하는 함수입니다.

P(xt | x1, x2, …, xt−1)

학습 목표는 학습 데이터 전체에 대해 이 확률의 로그를 최대화(교차 엔트로피 최소화)하는 것. 이 단순한 게임을 수십조 토큰으로 반복하면 문법·상식·논리·말투가 부산물로 생깁니다.

번역, 요약, 코딩은 따로 가르친 적이 없습니다. 인터넷에 그런 글이 있었을 뿐입니다.

데모 · 후보를 클릭

자기회귀 샘플링

오늘 아침에 나는     

모델은 후보마다 확률을 매기고 하나를 표본 추출합니다. 고른 뒤 다시 다음 토큰을 고릅니다(자기회귀 생성).

포인트 항상 1등만 고르지 않습니다. 분포를 얼마나 뾰족하게 할지가 temperature, 상위 몇 개만 볼지가 top-p. 같은 질문에 답이 달라지는 이유입니다.

1단계 · 입력

토큰화와 임베딩

토큰화 (BPE)

글자를 자주 붙어 나오는 조각으로 묶음. 어휘 크기 10만~25만 개.

"인공지능은" → [인공, 지능, 은]
"unbelievable" → [un, believ, able]

한국어는 영어보다 같은 뜻에 토큰이 1.5~2배 든다. 비용과 컨텍스트에 직접 영향.

임베딩

각 토큰을 수천 차원 벡터로. 학습이 끝나면 의미가 기하학이 된다.

왕 − 남자 + 여자 ≈ 여왕

(Mikolov et al., 2013, word2vec). 현대 LLM은 문맥에 따라 같은 단어의 벡터가 달라진다.

2단계 · 핵심 연산

셀프 어텐션

Attention(Q, K, V) = softmax( QKᵀ / √dk ) V
Q (query)지금 토큰이 "무엇을 찾는가" K (key)각 토큰이 "무엇을 갖고 있는가" V (value)실제로 가져올 정보 softmax관련도를 합이 1인 가중치로. 가중 평균으로 문맥을 섞는다 √dk내적이 커지면 softmax가 포화되므로 나눠 준다

"은행에 갔더니 배가 고파서 배를 샀는데 강에 배가 지나갔다." 같은 "배"가 앞뒤 토큰에 다른 가중치를 주어 다른 벡터가 된다.

Vaswani et al., "Attention Is All You Need", NeurIPS 2017
3단계 · 블록 쌓기

디코더 전용 트랜스포머 한 층

입력 벡터
RMSNorm
멀티헤드
어텐션
+ 잔차
RMSNorm
FFN
(MLP)
+ 잔차
출력 벡터

어텐션

토큰 사이의 정보 이동. 멀티헤드 = 관계를 여러 관점에서 동시에(문법·의미·위치).

FFN

토큰 안의 변환. 파라미터의 약 2/3가 여기. 지식이 저장되는 곳으로 해석됨 (Geva et al., 2021).

잔차·정규화

100층 넘게 쌓아도 학습이 되게 하는 배관. 없으면 기울기가 사라진다.

이 층을 GPT-3는 96층, 최신 프런티어 모델은 100층 이상 쌓고, 마지막에 어휘 크기의 softmax로 다음 토큰 분포를 낸다. 마스킹으로 미래 토큰은 못 보게 한다.

왜 트랜스포머가 이겼나

병렬성, 그리고 비용

RNN / LSTM (2017년 이전)
  • 토큰을 하나씩 순서대로 처리. t번째를 계산하려면 t−1이 끝나야 함
  • GPU 수천 장을 붙여도 순차 병목
  • 긴 문장에서 앞 내용을 잊음
트랜스포머
  • 문장 전체를 행렬 하나로 동시에 계산. GPU에 딱 맞음
  • 거리와 무관하게 어떤 토큰이든 직접 참조
  • 대가: 어텐션 비용이 문장 길이의 제곱 O(n²)

이 O(n²)이 2부 후반의 "최근 추이" 절반을 설명합니다. 100만 토큰 컨텍스트는 1,000토큰의 100만 배가 아니라 1조 배의 어텐션 계산입니다.

규모의 법칙

스케일링 법칙

손실은 파라미터 N, 데이터 D, 계산량 C에 대해 멱법칙으로 부드럽게 줄어든다.

L(N, D) ≈ E + A/Nα + B/Dβ

Kaplan et al. (OpenAI, 2020) → Hoffmann et al. "Chinchilla" (DeepMind, 2022)

Chinchilla의 교훈

같은 계산량이면 모델을 키우기보다 데이터를 더 먹여라. 최적 비율은 파라미터 1개당 약 20토큰.

GPT-3(175B, 300B 토큰)는 "덜 학습된" 모델이었다. 이후 Llama 3(8B, 15T 토큰)처럼 작은 모델에 훨씬 많은 데이터를 넣는 흐름이 됨.

이 법칙이 "돈을 더 넣으면 더 똑똑해진다"는 투자 논리의 수학적 근거입니다. 4부에서 이 법칙이 어디까지 유효한지 다시 봅니다.

정량 · 스케일링 법칙의 계수

Chinchilla 적합식과 계산량 산식

L(N, D) = 1.69 + 406.4 / N0.34 + 410.7 / D0.28
C ≈ 6 · N · D  (FLOPs)
E = 1.69줄일 수 없는 손실. 언어 자체의 엔트로피. 규모를 무한히 키워도 여기서 멈춤 지수 0.34 / 0.28손실 개선이 N, D의 멱함수. 성능 2배 개선에 자원 수십 배 필요 6ND순전파 2ND + 역전파 4ND. 학습 비용 추정의 표준 근사

예시 계산

70B 파라미터, 1.4T 토큰 (Chinchilla 최적 비율 20:1)
C = 6 × 7×10¹⁰ × 1.4×10¹² ≈ 5.9×10²³ FLOPs

H100 BF16 실효 ~4×10¹⁴ FLOP/s (MFU 40%) → GPU 1장 47년, 1,024장 약 17일

GPU 시간당 $2.35 기준 학습 클라우드 비용 ≈ $1.0M. 10²⁶ FLOPs 프런티어 모델은 이의 170배

투자 함의: 손실은 자원의 로그에 선형. 같은 폭의 개선에 매번 더 큰 자본이 든다. Capex 성장률이 매출 성장률보다 높아야 하는 구조적 이유이자, 어디선가 멈춰야 하는 이유.

Hoffmann et al., "Training Compute-Optimal Large Language Models", 2022 (Approach 3 적합 계수) · MFU 가정은 업계 통상치
숫자로 보는 규모

프런티어 모델 한 개를 만드는 데

1025~26FLOPs. 학습 총 연산량. EU AI법은 10²⁵ 이상을 "시스템적 위험" 모델로 규제

1013토큰. 학습 데이터. 사람이 평생 읽는 양(약 10⁹)의 1만 배

104~5GPU 장 수. 수개월. 전력 수십~수백 MW

정확한 값은 대부분 비공개. 자릿수 감각만 가져가시면 됩니다. Epoch AI 추정 기준.

학습 파이프라인

사전 학습과 사후 학습 파이프라인

사전 학습 (Pre-training) 웹 전체로 다음 토큰 예측. 비용의 95% 이상. 결과물은 "베이스 모델". 지식은 있지만 질문에 답할 줄 모른다. 이어서 쓰기만 한다.
지도 미세조정 (SFT) 사람이 쓴 "지시 → 모범 답" 수만~수십만 쌍. 대화 형식과 지시 따르기를 익힘.
선호 학습 (RLHF / DPO) 답 두 개 중 사람이 나은 쪽을 고름 → 보상 모델 → 강화학습(PPO). 2023년 이후 DPO처럼 보상 모델 없이 직접 최적화하는 방식이 표준화. 유용·무해·정직 방향으로 정렬.
(2024~) 검증 가능한 보상 RL (RLVR) 수학·코드처럼 정답을 기계로 채점할 수 있는 문제로 강화학습. 추론 모델의 핵심. 아래 "최근 추이"에서.
Ouyang et al., "Training language models to follow instructions with human feedback", 2022 · Rafailov et al., "DPO", 2023
추론(서빙) 단계

한 토큰을 내보내는 비용

KV 캐시

앞 토큰들의 K, V를 저장해 두고 재사용. 없으면 토큰마다 전부 다시 계산. 긴 대화일수록 GPU 메모리를 잡아먹는 주범.

프리필 vs 디코드

입력을 읽는 단계는 병렬(계산 병목), 출력은 한 토큰씩(메모리 대역폭 병목). 서빙 비용 구조가 여기서 갈린다.

양자화·증류

16비트를 4~8비트로 줄이고, 큰 모델의 출력을 작은 모델이 흉내 내게 학습. 폰에서 도는 모델의 원리.

2025년 기준 프런티어 모델 API 가격은 2023년 대비 약 100분의 1. 학습은 비싸지고 추론은 싸지는 비대칭이 4부의 투자 논쟁과 이어집니다.

정량 · 추론 유닛 이코노믹스

토큰 1개의 원가 산식

연산토큰당 ≈ 2 × Nactive FLOPs. 70B 밀집 모델 = 1.4×10¹¹ KV 캐시토큰당 = 2 × 층수 × (KV 헤드 × 헤드차원) × 바이트. Llama-3-70B (GQA 8헤드): 2×80×1024×2B ≈ 0.33 MB/토큰. GQA 없으면 2.6 MB 디코드 병목토큰마다 전체 가중치를 HBM에서 읽음. 70B×2B = 140GB / 3.35TB/s ≈ 42ms/토큰 (배치 1). 배치를 키워야 원가가 떨어짐 MFU학습 30~45%, 추론은 배치·길이에 따라 10~40%

예시 계산 · 원가 하한

H100 1장, 연산 상한 기준: 4×10¹⁴ / 1.4×10¹¹ ≈ 2,900 토큰/s

시간당 $2.35 ÷ (2,900 × 3,600) → ≈ $0.22 / 100만 토큰 (이론 하한, 실효 MFU 25% 시 ≈ $0.35)

2026년 프런티어급 API 출력 가격 $2~15 / 100만 토큰 → 컴퓨트 대비 5~40배. 마진은 여기서 나오고, 가격 경쟁도 여기로 온다

MoE는 Nactive를 줄여 연산 원가를 낮추지만 HBM 용량은 총 N에 비례. GQA·MLA는 KV 캐시를 줄여 배치를 키움. 모든 아키텍처 추이가 이 두 줄의 원가를 겨냥한다.

Kaplan et al. 2020 (2N 근사) · Meta Llama 3 model card (80층, d=8192, KV 8헤드×128) · NVIDIA H100 SXM 사양 (HBM3 3.35TB/s)
정량 · 가격 곡선

토큰 단가는 어디까지 떨어졌나

시점모델 (프런티어급)출력 $/1M 토큰비고
2023.3GPT-4 (8k)$60붐 초기 가격
2024.5GPT-4o$151년 만에 1/4
2025프런티어 다수$8~15추론 모델은 생각 토큰까지 과금
2025~26오픈 웨이트 MoE (DeepSeek 등)$0.3~2프런티어 대비 1/10~1/50
2026소형 증류 모델$0.1~0.6컴퓨트 하한 $0.2~0.4에 근접

동일 능력 기준 가격은 연 약 10배 하락 (Epoch AI·a16z 추정 9~900배/년, 과제별 편차 큼). 무어의 법칙보다 훨씬 가파르다.

함의

매출 = 가격 × 물량. 가격이 연 10배 떨어지면 물량이 연 10배 이상 늘어야 매출이 유지됨. 2024~26년은 물량이 이겼다(매출 3~7×). 이 관계가 깨지는 순간이 사이클 전환점.

OpenAI 가격표 이력 · Epoch AI "LLM inference prices" · a16z "LLMflation" (2024)
2부 후반

2023~2026
아키텍처는 어떻게 바뀌었나

"트랜스포머는 여전히 기준이지만, 더 이상 유일한 블록은 아니다."

추이 1 · 희소화

Mixture of Experts (MoE)

FFN을 여러 "전문가"로 쪼개고, 토큰마다 라우터가 상위 k개만 켠다.

  • 총 파라미터와 토큰당 활성 파라미터가 분리됨
  • DeepSeek-V3 (2024.12): 총 671B, 활성 37B. 학습 비용 약 557만 달러 주장 (GPU 임차 기준, 연구 인건비·실패 제외)
  • 2025~26년 공개된 오픈 웨이트 프런티어급 모델은 거의 전부 MoE

왜 중요한가

같은 추론 비용으로 훨씬 큰 "지식 저장소"를 갖는다. 대신 메모리는 전부 필요하고, 라우팅 불균형·학습 불안정이 난제.

"돈을 덜 쓰고도 된다"는 2025년 1월 DeepSeek 쇼크의 기술적 실체.

Shazeer et al., 2017 · Fedus et al., "Switch Transformer", 2021 · DeepSeek-AI, "DeepSeek-V3 Technical Report", 2024
추이 2 · 어텐션 비용 줄이기

O(n²)과의 싸움

기법아이디어대표
FlashAttention수학은 그대로, GPU 메모리 접근 순서만 바꿔 2~4배 가속Dao et al., 2022~24
GQA / MLAK, V 헤드를 공유하거나 저차원으로 압축해 KV 캐시 축소Llama 2·3, DeepSeek-V2·V3
슬라이딩 윈도우 + 전역 혼합대부분 층은 근처만 보고, 일부 층만 전체를 봄Gemma 2·3, Mistral
희소·선형 어텐션관련 있는 토큰만 골라 보거나 커널 근사로 O(n)NSA (DeepSeek, 2025), Lightning Attention
상태공간 모델 (SSM)어텐션 대신 순환 상태로 O(n). 긴 입력에 유리, 정밀 검색은 약함Mamba (Gu & Dao, 2023), Mamba-2
하이브리드SSM 층 다수 + 어텐션 층 소수. 2025~26년 실무 합의점Jamba, Nemotron-H, Granite 4, Qwen3-Next

결론: 순수 트랜스포머가 사라지진 않았지만, "어텐션은 비싼 자원이니 필요한 층에만"이 새 기본값이 됨.

추이 3 · 생각하는 시간

추론 모델과 테스트 타임 컴퓨트

답하기 전에 긴 "생각 토큰"을 생성하게 하고, 정답 여부만으로 강화학습.

  • OpenAI o1 (2024.9): 학습뿐 아니라 추론 시 계산량을 늘려도 성능이 오른다는 두 번째 스케일링 축
  • DeepSeek-R1 (2025.1): 순수 RL만으로 자기검증·되돌아가기 같은 행동이 창발함을 공개 논문으로 입증
  • 2025~26: 모든 프런티어 모델이 "생각 강도"를 조절하는 옵션 탑재

단서

효과는 검증 가능한 영역(수학·코드·논리)에 집중. 지식 집약 과제에서는 생각을 길게 해도 정확도가 거의 안 오르고 환각이 늘 수 있다는 2025년 연구.

비용은 답 길이에 비례. 같은 질문에 20~80% 지연.

DeepSeek-AI, "DeepSeek-R1", arXiv 2501.12948 · Muennighoff et al., "s1", 2501.19393 · "Test-Time Scaling … Not Effective for Knowledge-Intensive Tasks Yet", 2509.06861
추이 4 · 감각과 손

멀티모달, 그리고 에이전트

멀티모달 (2023~)
  • 이미지를 패치로 잘라 토큰처럼 넣음 (ViT 방식). 텍스트와 같은 트랜스포머가 처리
  • 2024년부터 음성·영상 입출력을 한 모델이 처리하는 "네이티브" 방식이 표준
  • "보고 듣고 말하는" 능력은 별도 모델을 이어 붙인 게 아니라 같은 다음 토큰 예측
에이전트 (2025~)
  • 모델이 도구 호출(검색·코드 실행·브라우저)을 토큰으로 출력하고 결과를 다시 읽는 루프
  • MCP 같은 도구 연결 표준 등장
  • 문제: 단계가 길어질수록 오류가 누적. 도구 호출 체인에서 20~40% 실패율 보고

2026년 프런티어 시스템은 "모델 하나"가 아니라 모델 + 검색 + 도구 + 검증기 + 라우팅의 시스템입니다.

추이 5 · 작아지기

증류, 오픈 웨이트, 온디바이스

증류

큰 모델의 답(또는 확률 분포)으로 작은 모델을 학습. R1의 추론 능력을 1.5B~70B 모델에 옮긴 것이 대표 사례. 프런티어 능력이 12~18개월 뒤 10분의 1 크기에서 재현되는 패턴.

오픈 웨이트

Llama, Qwen, DeepSeek, Gemma, Mistral. 가중치 공개로 누구나 자체 서버에서 실행. 중국 모델이 2025년 이후 오픈 진영을 주도.

온디바이스

3~8B 모델이 폰·노트북 NPU에서 실행. 개인정보가 밖으로 안 나가고 지연이 없음. 애플·삼성·구글 모두 기본 탑재.

투자 관점 함의: 최상위 능력은 소수 회사가 독점하지만, "충분히 좋은" 능력은 빠르게 범용재(commodity)가 된다.

2부 정리

기억할 네 문장

본질은 다음 토큰 확률 분포. 어텐션이 문맥을 섞고 FFN이 지식을 저장하며, 이 층을 100개 쌓는다.
스케일링 법칙이 "돈 = 성능"의 근거였고, Chinchilla가 "데이터가 더 중요"로 수정했다.
2023~26년의 변화는 MoE(희소화) · 어텐션 절약 · 추론 시 계산 · 멀티모달/에이전트 · 소형화 다섯 갈래.
트랜스포머는 여전히 기준이지만 순수 트랜스포머 시대는 끝나가고, 시스템 전체가 제품이다.
휴식

10분잠시 쉬어 갑니다

돌아오면: 이 기술은 어디서 막히는가. 그리고 누가 얼마를 걸고 있는가.

3부

어디서 막히는가

환각 · 데이터 벽 · 추론 붕괴 논쟁 · 컨텍스트 · 평가 · 에너지 · 안전

한계 1

환각은 버그가 아니라 목적 함수의 귀결

다음 토큰 예측은 그럴듯함을 최적화하지 참을 최적화하지 않는다.

  • OpenAI (Kalai et al., 2025): 사전 학습에서 환각은 통계적으로 불가피하며, 현행 벤치마크가 "모른다"에 0점, 추측에 부분 점수를 주므로 후처리가 오히려 추측을 강화한다고 분석
  • 과제별 환각률(2026 업계 추정): 추출형 QA 3~8%, 자유 생성 15~25%, 다단계 에이전트 20~40%
  • 큰 모델일수록 줄지만 0이 되지 않음. 저자원 언어·교차 모달에서 급증

2023년 뉴욕

변호사가 ChatGPT가 만든 판례 6건을 법원에 제출. 전부 존재하지 않았다. "이 판례 진짜야?"에 AI는 "네"라고 답했다.

확인하는 도구가 아니라 초안 도구.

Kalai, Nachum, Vempala, Zhang, "Why Language Models Hallucinate", OpenAI 2025 · Lakera, "LLM Hallucinations in 2026"
한계 2

데이터 벽

Chinchilla가 "데이터가 병목"이라 했는데, 인터넷의 양질 텍스트는 유한하다.

  • Epoch AI (2024): 공개 인간 생성 텍스트 유효 재고 약 300조 토큰. 현 추세면 2026~2032년 사이 소진
  • 대응: 합성 데이터(모델이 만든 데이터로 학습), 다중 에폭, 멀티모달(영상은 아직 많음), 비공개 데이터 라이선스
  • 위험: 합성 데이터만 반복 학습하면 분포가 붕괴하는 "모델 붕괴" (Shumailov et al., Nature 2024)

왜 추론 모델이 나왔나

데이터를 더 못 구하니 같은 데이터에서 더 많이 짜내는 방향으로. RL과 테스트 타임 컴퓨트는 데이터 벽에 대한 우회로이기도 하다.

Villalobos et al., "Will we run out of data?", Epoch AI 2024 · Shumailov et al., "AI models collapse when trained on recursively generated data", Nature 2024
한계 3 · 논쟁 중

"생각의 환상" 논쟁 (2025~26)

Apple, "The Illusion of Thinking" (2025.6)
  • 하노이탑·강 건너기 같은 조절 가능한 퍼즐로 추론 모델 실험
  • 쉬운 문제: 일반 모델이 낫다. 중간: 추론 모델이 낫다. 어려운 문제: 둘 다 정확도 0으로 붕괴
  • 붕괴 직전엔 오히려 생각 토큰을 덜 쓴다. 알고리즘을 알려 줘도 못 따라 한다
반박과 재검증
  • "The Illusion of the Illusion of Thinking" (2025.6): 출력 토큰 한도 초과와 풀 수 없는 문제를 오답 처리한 실험 설계 결함
  • 재현 연구 (2507.01231): 설계 결함을 고쳐도 하노이탑 8개 원판 정도에서 여전히 실패. 출력 한도만의 문제는 아님
  • 2026년 합의: 붕괴는 존재하나 "생각이 환상"이라 하긴 과함. 긴 정확한 실행이 약점
Shojaee et al., Apple 2025 · Opus & Lawsen, arXiv 2506.09250 · "Rethinking the Illusion of Thinking", arXiv 2507.01231
한계 4

긴 컨텍스트의 착시

  • "Lost in the Middle" (Liu et al., 2023): 긴 입력에서 앞·뒤 정보는 잘 쓰고 가운데는 놓친다. 100만 토큰을 "받는" 것과 "쓰는" 것은 다르다
  • 바늘 찾기(needle-in-a-haystack) 벤치마크는 통과해도, 여러 정보를 조합해야 하는 과제에선 성능이 길이에 따라 급락
  • "On the Fundamental Limits of LLMs at Scale" (2025.11): 계산 가능성·정보이론으로 환각, 컨텍스트 압축, 추론 열화, 검색 취약성, 모달 불일치 5가지를 규모로 못 넘는 한계로 도출
  • 실무 대응: RAG(검색 후 필요한 부분만 넣기), 요약 계층화, 에이전트의 메모리 설계
Liu et al., TACL 2024 · arXiv 2511.12869
한계 5

점수를 믿을 수 있나

벤치마크 오염

시험 문제가 학습 데이터에 섞여 들어감. 새 벤치마크가 나오면 6~12개월 안에 포화. "박사급"이란 홍보와 실사용 체감의 괴리 원인.

선택적 공개

회사가 유리한 지표만 공개. 독립 평가(LMArena, SWE-bench Verified, ARC-AGI, HLE)로 교차 확인 필요.

연구 지형

2025년 LLM 논문의 30% 이상이 한계 연구. 가장 많이 다뤄진 순: 추론 → 일반화 → 환각 → 편향 → 보안.

"LLLMs: A Data-Driven Survey of Evolving Research on Limitations of LLMs", arXiv 2505.19240
한계 6

물리적 한계: 전력, 칩, 메모리

  • 단일 학습 클러스터가 수백 MW ~ 1 GW급. 원전 1기 출력과 비슷. 데이터센터가 전력망·냉각수 이슈로 지역 반대에 부딪힘
  • 최첨단 GPU 공급은 TSMC 첨단 공정과 HBM 메모리(SK하이닉스·삼성)에 병목. 한국이 AI 공급망에서 갖는 실제 지렛대
  • GPU 감가상각 기간 논쟁: 회계상 5~6년 vs 실제 기술 수명 2~3년. 4부 버블 논쟁의 핵심 변수

효율의 역설

토큰당 비용이 100분의 1로 떨어졌지만 총 사용량이 그 이상 늘어 총 전력은 증가. 제번스의 역설.

한계 7

안전과 정렬

  • 탈옥·프롬프트 주입: 에이전트가 읽는 웹페이지·이메일에 숨긴 명령이 모델을 조종. 도구 권한이 늘수록 피해 반경 확대
  • 아첨(sycophancy): 사용자 선호로 학습하니 듣기 좋은 말을 함. RLHF의 부작용
  • 해석 불가능성: 수천억 파라미터 안에서 "왜 이 답을 했는지" 완전히 설명 못 함. 기계적 해석 가능성 연구가 일부 회로를 밝히는 단계
  • 규제: EU AI법(2024 발효, 2026 본격 적용), 한국 AI기본법(2026.1 시행). 고영향 AI 표시·위험관리 의무
3부 정리

기억할 세 문장

환각은 목적 함수와 평가 방식의 귀결이라 규모로 없어지지 않는다.
데이터·전력·칩이라는 물리적 벽이 있고, 추론 모델과 MoE는 그 벽을 우회하려는 시도다.
추론 붕괴 논쟁의 합의점: 능력은 진짜지만 신뢰성이 아직 아니다. 긴 정확한 실행이 약점.
휴식

10분잠시 쉬어 갑니다

돌아오면 돈 이야기입니다. 2026년 한 해 설비투자 규모부터.

4부

시장은 무엇을
가격에 넣었나

공급 측(설비투자·Nvidia·부채) → 수요 측(매출) → 가격(임대료·밸류에이션) → 시나리오

공급 측 1 · 2026년 설비투자

빅테크 Capex

Amazon≈ $200B (2025: $125B)
Google$175~185B (2025: $91B)
Microsoft$110~120B (2025: $90B)
Meta≈ $100B+
Oracle≈ $50B

$630~690B상위 4~5개사 2026 합계 추정. 2025년 $388B 대비 +60~75%. 약 75%가 AI 인프라

  • Goldman Sachs 2026 추정 $465B → $527B 상향(집계 범위 상이)
  • UBS 장기: 2027 $1.4T, 2028 $1.6T
  • 클라우드 매출 대비 capex 비율 100% 초과. 영업현금흐름의 대부분을 재투자
Futurum "AI Capex 2026" · CreditSights · Goldman Sachs Research · Yahoo Finance (2026). 회사별 수치는 가이던스·추정 혼합
공급 측 2 · 가장 중요한 실적

Nvidia Q2 FY27 (2026.7.26 종료)

$96.2B분기 매출. YoY +106%, QoQ +18%

$89.0B데이터센터 매출. YoY +117%. 총매출의 92.5%

75.0%매출총이익률 (GAAP = non-GAAP)

Q3 FY27 가이던스매출 $108.0B ±2%, GM 74.0% ±50bp. Vera Rubin 3분기 도입 중국데이터센터 Hopper 대중국 출하 <1%. 가이던스에 중국 컴퓨트 매출 0 가정 구매 약정$279B, 대부분 메모리(HBM) 조달. 공급망에서 한국이 나오는 지점 궤적Q3 FY26 $57.0B → Q4 $68.1B → Q1 FY27 $78B 가이던스 → Q2 $96.2B. 4분기 연속 가이던스 상회
NVIDIA Form 8-K, Q2 FY2027 CFO Commentary (SEC, 2026.8) · NVIDIA Newsroom Q3·Q4 FY2026
정량 · 가이던스 역산 (예시)

Nvidia, 시장이 넣은 가정

항목값근거
Q3 FY27 가이던스$108B8-K
연환산 매출≈ $432B×4
순이익률 가정55%최근 분기 50%대 중반
연환산 순이익≈ $238B
시가총액≈ $4.5T보도
P/E (연환산)≈ 19×

19배가 말하는 것

S&P 500 평균과 비슷한 배수에 YoY +106% 성장이 붙어 있다. 시장은 이 성장이 지속되지 않는다고 이미 가정하고 있다. 즉 엔비디아 주가의 리스크는 성장 둔화 자체가 아니라 마진 붕괴(경쟁 ASIC, 고객 협상력) 또는 매출 절대 감소(재고 사이클).

예시 계산. 컨센서스 추정치가 아니며 가이던스 단순 연환산.

교차 확인: 상위 5개 고객이 데이터센터 매출의 절반 이상. 4부 앞 슬라이드의 capex 표에서 하이퍼스케일러 한 곳이 가이던스를 10% 낮추면 엔비디아 매출에 어떤 영향인지 역산해 볼 것.

공급 측 3 · 누가 빚으로 짓나

부채 구조

주체구조읽을 점
하이퍼스케일러 공모채2025년 약 $121B 발행. 5년 평균의 4배 이상. 2026년 수천억 달러 전망현금 풍부한 회사도 채권으로 전환 시작
Meta × Blue Owl데이터센터 SPV. 펀드 80% / Meta 20%. 만기 2049, IG 등급부외(off-balance) 구조. 연결 재무제표에서 capex가 안 보임
Oracle$14B+ 데이터센터 연계 채권. 투자자 요구 수익률 상승, 유통시장에서 연속 리프라이싱신용시장이 이미 개별 프로젝트를 차별화 중
CoreWeaveGPU 담보 $7.5B 시설 (Blackstone), 변동금리 평균 ~11%. 2026.1 상환 개시. 최초 IG 등급 GPU 담보 파이낸싱3년 수명 자산에 IG 등급. 신용평가사의 가정이 시험대
144A 사모채·사모신용SEC 미등록. 기관 전용. $60B+ 데이터센터 개발 자금공시 밖에서 커지는 레버리지. 총 규모 파악 불가가 리스크
Bisnow, "Wall Street Is Funding The AI Build-Out With Bonds The SEC Never Sees" · Quinn Emanuel Client Alert (2026) · EnergyNow "The $3 Trillion AI Data Center Build-Out" (2026.2)
정량 · 감가상각 민감도 (예시)

GPU 내용연수 1년이 EPS에 미치는 영향

가정6년 정액4년 정액3년 정액
연간 GPU·서버 capex$100B$100B$100B
정상 상태 연 감가상각$16.7B$25.0B$33.3B
6년 대비 세전이익 차이—−$8.3B−$16.7B
순이익 $100B 회사의 EPS 영향 (세율 20%)—−6.7%−13.3%

현실

빅테크는 2020~23년 서버 내용연수를 3년 → 5~6년으로 늘려 이익을 올렸다. AI GPU는 세대 교체가 12~18개월. 감사인·투자자의 압력으로 다시 줄이는 순간 이익이 역방향으로 움직인다.

순환 금융과 결합하면: 자산 수명이 짧을수록 "선행 투자"라는 방어 논리가 약해진다.

예시 숫자. 실제 회사는 GPU와 건물·네트워크가 섞여 있어 영향은 이보다 작다. 10-K "property and equipment" 각주에서 내용연수 변경 문구를 확인할 것.

수요 측 1 · 매출은 따라오는가

생성형 AI 매출 런레이트

≈ $175~200B업계 전체 연환산 매출 (중복 제거, 2026.6). Epoch AI

Anthropic연환산 $65B (2026.7). 2025년 말 $9B. 투자자 가이던스 2026 마감 $100~120B OpenAI연환산 $40B (2026.8). 1년 전 $13B. 월 약 $3.3B 합산 성장2024 3.1× → 2025 4.7× → 2026 연환산 7.5×

회계 주의 OpenAI는 클라우드 경유 매출의 수취분만, Anthropic은 총액을 인식. 단순 비교 시 Anthropic이 과대. 두 회사 합산은 약 $100B.

2025년 논쟁의 근거였던 "OpenAI 매출 $13B vs 컴퓨트 지출 $60B"는 1년 만에 매출이 3배가 되며 구도가 바뀌었다. 수요는 진짜다. 질문은 지속성과 마진.

Epoch AI, "An update on AI's most important number" (2026) · TechCrunch/CNBC 2026.8.17 · Epoch AI revenue reports dataset
수요 측 2 · 공급과 수요를 한 표에

Capex $650B vs 매출 $200B

항목2026 연환산
빅테크 AI 관련 capex≈ $450~500B
생성형 AI 산업 매출≈ $175~200B
Nvidia 데이터센터 매출 (연환산)≈ $356B
매출/AI capex 비율≈ 0.4
Bain 2030 필요 매출$2T (현 궤적 대비 $800B 부족)

두 가지 해석

강세: 매출이 연 3~7배 성장 중. 이 속도면 Bain의 $2T는 2028~29년에 도달. Capex는 3~5년 앞선 선행 투자이므로 비율 0.4는 정상.

약세: 매출의 절반이 두 회사, 그중 상당액이 빅테크 자체 크레딧·순환 계약. 성장률 7.5×는 낮은 기저 효과. GPU 수명 3년이면 capex는 "선행"이 아니라 "소모".

쟁점은 규모가 아니라 자산 수명과 마진.

정량 · 회수 산식 (예시)

이 capex가 정당화되려면

투입2026년 AI capex ≈ $450B (빅테크 합계의 AI 비중) 자산 수명GPU 3~4년, 건물·전력 15~20년. 가중 평균 약 5년 연 감가$450B / 5 ≈ $90B 자본비용WACC 9% × $450B ≈ $40B 손익분기 영업이익≈ $130B/년 추가 필요 필요 추가 매출영업이익률 30% 가정 → ≈ $430B/년. 2026년 한 해 투자분만으로

현재 위치

생성형 AI 산업 매출 런레이트 ≈ $200B. 2026년 capex 한 해분을 회수하려면 매출이 약 2배 더 필요하고, 2027년 capex($900B 시나리오)까지 합치면 $1T 규모.

연 3× 성장이면 2028년 도달. 연 1.5× 성장이면 2030년에도 미달. 성장률 가정 하나가 결론을 가른다.

예시 계산. 클라우드 대체 수요(기존 워크로드 이전)와 내부 효율 개선 효과는 제외. Bain의 "2030년 $2T" 추정과 같은 방향.

가격 1 · 실시간 온도계

H100 임대료 지수

2023 피크≈ $8.00/hr
2024 초$8~10/hr
2025 하반기$1.70/hr (1년 계약 저점, 2025.10)
2026.3$2.35/hr (1년 계약, +38%)
2026 Q2 온디맨드$1.80~3.50/hr (밴드 $1.49~6.98)
  • 2025년 300개 이상의 "네오클라우드" 진입으로 H100 세대는 공급 과잉
  • 2026년 반등은 Blackwell 전환 지연 + 추론 수요 증가
  • 세대별로 가격이 갈림: H100은 범용재, B200/GB300은 여전히 타이트

투자 함의

구세대 GPU의 잔존가치가 3년 안에 75% 하락. GPU 담보 대출과 5~6년 감가상각의 가정과 직접 충돌.

SemiAnalysis H100 Rental Price Index · Silicon Data · IntuitionLabs (2026)
가격 2 · 밸류에이션

비상장 프런티어 랩

회사기업가치 (2026 보도)연환산 매출EV/런레이트비고
OpenAI≈ $730B$40B≈ 18×2029년까지 누적 영업손실 $140B 전망. 2023년 $80B의 9배
Anthropic≈ $380B$65B≈ 6×총액 인식 기준. 순액 환산 시 배수 상승
Nvidia (상장)≈ $4.5T≈ $385B≈ 12×GM 75%, 순이익률 50%대. PER는 성장률 대비 낮게 형성

비상장 수치는 라운드·2차 거래 보도 기준. 정확한 값보다 매출 배수가 급락 중이라는 방향이 핵심. 2025년 OpenAI EV/매출 ≈ 40× → 2026 ≈ 18×. 밸류에이션이 매출을 못 따라가는 게 아니라 매출이 밸류에이션을 따라잡는 중.

Medium/Kannan (2026.3) · TechCrunch (2026.8) · NVIDIA 8-K. 비상장 가치는 보도 추정
프레임워크

프런티어 랩을 어떻게 평가할 것인가

항목SaaS 관행프런티어 랩에서 다른 점
매출 인식구독 ARRAPI 종량제 + 구독 혼합. 총액/순액 기준 회사마다 다름. 런레이트 ≠ ARR
매출총이익률75~85%추론 컴퓨트가 매출원가. 보도 기준 40~60%. 가격 인하와 추론 모델(토큰 증가)이 양방향 압력
R&D매출의 20~30%학습 컴퓨트가 R&D. 매출 초과 가능. 자본화 여부에 따라 영업이익 크게 달라짐
부외 약정거의 없음클라우드 컴퓨트 구매 약정 수백억~천억 달러. 부채처럼 취급해야 함
해자전환 비용, 네트워크능력 우위는 12~18개월. 지속 해자는 유통(기본 탑재), 데이터, 에이전트 워크플로 락인
고객 집중분산매출 상당액이 투자자(클라우드)에서 회수되는 순환 구조. 독립 매출 비중 별도 산출
적정 배수EV/ARR 8~15×매출총이익률 조정 후 EV/GP로 비교. 2026년 OpenAI 18×·Anthropic 6× 는 GP 기준으로는 더 높음

IPO 서류가 나오면 확인 순서: 매출 인식 기준 → 매출원가 정의 → 컴퓨트 약정 → 관계자 매출 비중.

구조적 우려

순환 금융 (circular financing)

Nvidia가 OpenAI에 최대 $100B 투자 약정 (2025.9)
OpenAI는 그 돈으로 데이터센터를 짓고, Nvidia GPU를 산다
Nvidia 매출과 OpenAI 기업가치가 동시에 오른다
Microsoft ↔ OpenAI, Amazon/Google ↔ Anthropic(클라우드 크레딧으로 투자, 그 크레딧이 매출로 회수), Oracle ↔ OpenAI, CoreWeave ↔ Nvidia 지분·구매 보증

외부 자금 없이 장부 가치와 매출이 동시에 부풀 수 있는 구조. 1999년 통신장비의 벤더 파이낸싱(Lucent, Nortel)과 동일 패턴. 다만 당시와 달리 자금 공급자가 현금 창출 능력이 있는 빅테크라는 점이 차이.

확인할 것: Nvidia 매출 중 자사 투자 고객 비중, 클라우드 매출 중 자사 투자 랩 비중. 공시 압력이 커지는 중.

Axios (2025.9.25) · ai-circular-economy.com
양쪽 논거

버블인가, 아닌가

버블이다
  • Capex $650B vs 매출 $200B. 매출의 절반이 두 회사, 그중 일부가 순환 거래
  • 부외 SPV·144A·GPU 담보채로 레버리지가 공시 밖에서 증가
  • GPU 실질 수명 2~3년 vs 회계 5~6년. 이익 과대계상 → 정책 변경 시 EPS 충격
  • DeepSeek·오픈 웨이트: 프런티어 능력이 12~18개월 뒤 범용재. 해자가 얇다
  • Fed·IMF가 2025~26년 공식 문서에서 AI 자산 가격 조정 위험 경고
아니다 (또는 버블이어도 인프라는 남는다)
  • 매출 성장이 연 3~7×. 2025년 "매출 없는 투자" 비판은 1년 만에 반박됨
  • 투자 주체가 영업현금흐름 $100B+ 빅테크. 1999년 차입 스타트업이 아님
  • Nvidia GM 75%, 4분기 연속 가이던스 상회. 아직 수요가 공급을 초과
  • 추론 비용 100분의 1 하락 → 수요 그 이상 증가 (제번스)
  • 철도·전기·광섬유 모두 과잉 투자 후 인프라는 남았다
역사적 비교

과잉 투자의 세 가지 선례

시기무엇에결과지금과의 차이
1840년대 영국철도철도 주식 폭락, 다수 회사 파산. 노선은 남아 산업혁명의 동맥이 됨인프라가 100년 감
1999~2001광섬유·통신깔린 광섬유의 95%가 수년간 "다크 파이버". 이후 유튜브·넷플릭스의 기반광섬유는 20년 감. GPU는 3년
1999~2000닷컴나스닥 78% 하락. 아마존·구글은 살아남아 세계를 바꿈당시 매출 0인 회사 다수 vs 지금은 $200B 실매출

공통 교훈: 기술이 진짜인 것과 자산 가격이 맞는 것은 별개. 둘 다 참일 수 있다. 이번 사이클의 고유 변수는 자산 수명이 짧다는 것. 과잉 투자의 잔존물이 광섬유처럼 남지 않고 감가로 사라질 수 있다.

한국의 자리

HBM: 공급망의 실제 지렛대

SK하이닉스 2025매출 97.1조 원 ($64.1B), 사상 최대 SK하이닉스 Q1 2026매출 52.58조 원, YoY +198%. 분기 최대 이익 HBM 점유율SK하이닉스 50% (Q2 2026, 전년 64%에서 하락). 삼성 2위, HBM4E 샘플 업계 최초 출하 (2026.5). 마이크론 3위 HBM4 (Rubin용)UBS: SK하이닉스 약 70% 점유 전망. 하반기 출하 가시화 자본시장SK하이닉스 나스닥 상장 (2026.7). 미국 역대 2위 규모 주식 매각 업황WSTS 2026 반도체 시장 $975B, +25%. 메모리 +30%

읽는 법

Nvidia 구매 약정 $279B의 대부분이 메모리. 코스피 반도체 비중은 곧 Nvidia 데이터센터 매출에 대한 레버리지 베타.

리스크: 점유율 하락 추세(64→50%), 삼성·마이크론 HBM4 진입으로 가격 결정력 약화, 사이클 고점 논쟁.

CNBC 2026.4.23 · Counterpoint Research · Fortune 2026.7.11 · SK hynix Newsroom 2026 Outlook
시나리오

2027~28년 세 가지 경로

강세기본약세
가정매출 연 3× 유지. 에이전트가 기업 워크플로 대체매출 성장 둔화(연 1.5~2×). Capex 2027 정점 후 평탄매출 성장 급감. 감가상각 정책 변경. 신용 이벤트
Capex2028 $1.5T+2027 $900B 정점2027부터 감소. 가이던스 하향
NvidiaGM 유지, Rubin 사이클 재가속GM 70% 내외로 정상화, 성장률 둔화재고 조정, 주문 취소. 2022년 게이밍 재고 사이클 재연
메모리HBM 공급 부족 지속2027 HBM4 공급 확대로 가격 정상화범용 DRAM 사이클 하락과 동조
프런티어 랩2027 흑자 전환IPO. 매출 배수 5~8×로 수렴다운라운드. 소규모 랩 통합
첫 신호2026 Q4 capex 가이던스 상향클라우드 매출 성장 < capex 성장GPU 내용연수 단축 공시, 사모채 스프레드 확대

확률을 붙이지 않았습니다. 각자의 시각으로 채우는 것이 이 표의 용도입니다.

모니터링

버블 판단의 선행 지표 8개

매출 / AI capex

현재 ≈ 0.4. 2027년 말 0.6 미만이면 약세 시나리오.

클라우드 매출 성장 vs capex 성장

매 분기 AWS·Azure·GCP. capex 성장이 2년 연속 매출 성장을 앞서면 경고.

Nvidia 가이던스 대비 실적

4분기 연속 상회 중. 첫 미달 분기가 사이클 전환 신호.

H100·B200 임대료

세대별 지수. 최신 세대 가격이 출시 12개월 내 50% 하락하면 과잉.

GPU 감가상각 정책

빅테크 10-K 각주. 내용연수 단축 시 EPS 즉시 하향.

사모채·144A 스프레드

Oracle·CoreWeave 연계 채권의 유통 수익률. 신용시장이 주식시장보다 먼저 움직인다.

순환 거래 비중

Nvidia·클라우드 매출 중 자사 투자 고객 비중 공시.

프런티어 랩 매출 인식

총액/순액 기준 통일 여부. IPO 서류가 나오면 첫 확인 대상.

기술 → 시장 연결

2·3부의 기술 사실이 뜻하는 것

기술 사실시장 함의
Chinchilla: 데이터가 병목, 데이터 벽 2026~32학습 capex 성장 둔화 가능. 대신 추론 capex로 이동. 메모리 대역폭 수요 ↑ (HBM 유리)
MoE·증류: 프런티어 능력이 12~18개월 뒤 10분의 1 비용모델 자체는 범용재. 마진은 응용·데이터·유통으로. 순수 모델 회사의 배수 하방
추론 모델: 테스트 타임 컴퓨트 스케일링토큰당 가격은 떨어져도 토큰 수가 폭증. 추론 GPU·전력 수요의 구조적 근거
어텐션 O(n²) → 하이브리드·SSM연산보다 메모리가 병목. Nvidia 약정 $279B가 메모리인 이유
환각·에이전트 20~40% 실패율고위험 업무 자동화는 아직. 매출 성장이 "보조 도구" 단계에 머물 위험
전력 수백 MW~GW 클러스터전력·냉각·변압기가 2차 병목. 유틸리티·가스터빈·원전 재평가
앞으로 2~3년

무엇이 달라질까

기술

하이브리드 아키텍처 표준화, 추론 모델의 검증 가능 영역 확대, 에이전트 신뢰성이 최대 과제.

산업

"AI 기능"이라는 말이 사라지고 모든 소프트웨어에 스며듦. 충분히 좋은 모델은 범용재. 마진은 응용과 데이터로 이동.

자본

2027~28년이 capex 대비 매출 검증의 해. 프런티어 랩 IPO가 회계 투명성의 분기점.

규제

EU AI법 본격 적용, 한국 AI기본법 시행. 순환 거래·부외 부채 공시 압력.

예측은 틀립니다. 방향과 확인 지표만 보세요.

4부 정리

기억할 네 문장

Capex $650B vs 매출 $200B. 그러나 매출이 연 3~7배 성장 중이라 2025년식 "매출 없는 버블" 논거는 약해졌다.
남은 쟁점은 자산 수명(GPU 3년)과 공시 밖 레버리지. 신용시장이 먼저 말한다.
기술이 진짜인 것과 가격이 맞는 것은 별개. 이번 사이클은 잔존물이 광섬유처럼 남지 않을 수 있다.
한국 반도체는 Nvidia 데이터센터 매출의 레버리지 베타. 점유율 추세와 HBM4 경쟁이 핵심 변수.
참고 문헌

더 읽을 것

원리

  • Vaswani et al., Attention Is All You Need (2017)
  • Kaplan et al., Scaling Laws for Neural LMs (2020)
  • Hoffmann et al., Chinchilla (2022)
  • Ouyang et al., InstructGPT (2022)
  • Rafailov et al., DPO (2023)

추이

  • DeepSeek-V3 Technical Report (2024)
  • DeepSeek-R1, arXiv 2501.12948
  • Gu & Dao, Mamba (2023)
  • Fedus et al., Switch Transformer (2021)
  • "Current Trends in AI Architectures", Electronics 15(15) 2026

한계

  • Kalai et al., Why LMs Hallucinate (2025)
  • Shojaee et al., Illusion of Thinking (Apple 2025)
  • arXiv 2507.01231, Rethinking the Illusion
  • Villalobos et al., Will we run out of data? (2024)
  • arXiv 2511.12869, Fundamental Limits at Scale

투자

  • NVIDIA 8-K, Q2 FY2027 CFO Commentary
  • Epoch AI, AI's most important number (2026)
  • Bain, Technology Report 2025
  • Goldman Sachs Research, AI capex (2026)
  • SemiAnalysis, H100 Rental Price Index
  • Bisnow / Quinn Emanuel, data center debt (2026)
  • Counterpoint, HBM market share Q2 2026
Q&A

질문 받습니다

기술 쪽이든 시장 쪽이든. 숫자의 출처가 궁금하면 참고 문헌 슬라이드를 함께 보겠습니다. (투자 조언이 아닙니다.)

감사합니다

기술은 진짜다.
그래서 더 정확히 봐야 한다.

2026년 9월 12일 · 본 자료의 시장 수치는 공개 보도·공시 기준이며 투자 권유가 아닙니다.

← → 이동 · F 전체화면 · 모바일은 좌우 스와이프