준비된 AI가 전부 소진되었습니다 — 세계 최대 ‘오픈’ 모델이 이틀 만에 입장을 막은 이유
안녕하세요, 아크릴 테크블로그의 음유시인 갈리엄(Galliam)입니다. “준비된 재료가 소진되어 입장을 마감합니다”, 이 팻말을 보고 슬퍼하지 않을 사람이 있을까요(갈리엄은 두쫀쿠 열풍 당시 저 팻말에 막혀 눈물을 자주 훔쳤습니다)? 얼마 전 AI 업계에서도 ‘입장 마감’ 팻말이 걸리면서 많은 이들이 아쉬움을 감추지 못했는데요, 바로 중국 Moonshot AI가 ‘세계 최대규모 오픈 모델’이라는 타이틀과 함께 선보인 Kimi K3가[1] 출시 이틀만에 신규 이용자의 유입을 막은 사태가 벌어진 것입니다.[2] 아이러니한 점은 Kimi K3가 돈을 아끼기 위해 아주 ‘효율적으로’ 지어진 모델이었음에도 불구하고 이런 일이 발생했다는 것인데요. 오직 효율만을 위해 빚어진 Kimi K3가 왜 단 이틀만에 문을 닫았는지, 그의 등장에 업계는 왜 들썩였는지, 지금부터 알아보시죠
맛과 양 두 마리 토끼를 다 잡은 모델의 등장?
이번 Kimi K3 모델은 파라미터가 무려 2.8조 개나 되는 초거대 모델이에요. 총 크기로는 이제껏 공개된 오픈 모델 중 가장 크다고 하는데요, 굉장히 독특한 설계가 담겨있습니다. 바로 MoE(Mixture of Experts) 기법을 통해 896명의 전문가 중 입력 토큰마다 16명만 사용하는 방법인데요. 이 덕에 덩치는 역대급인데 한 번 답할 때 실제 드는 힘은 미들급 수준으로 가볍게 들 수 있는거죠.[3] 게다가 오는 27일에 가중치(weight)를 Modified-MIT 라이선스로 공개한다고 하니, 수많은 개발자들과 유저들이 열광하고 달려든 거죠. 물론 학습 데이터 전부가 아닌 ‘완성된 가중치’만 공개하는 오픈 웨이트긴 하지만요.[4]
오늘의 모델 — MoE 구조를 라멘집 메뉴판으로
K3는 크기나 성능에서만 두각을 나타내는 데 그치지 않았어요. K3는 무려 GPT 5.5, Opus 4.8보다 높은 벤치마크를 기록했다고 밝혔거든요. 실제로 Arena.ai의 프론트엔드 코드 평가에서 Kimi K3가 Elo 1679로 1위를 당당히 차지하기도 했고요.[5]Microsoft의 Kimi K3 도입 검토 소식은 여기에 힘을 양껏 실어주는 것 같았죠.[6] 하지만, 한 과목의 1등이 전교 1등으로 이어지는 것은 아니죠.
1등이긴 합니다. 1등이긴 한데요
K3는 독립 평가기관 Artificial Analysis의 종합 지능 지수(v4.1)에서 57.1점으로 3위를 기록했다고 해요. 클로드 Opus 4.8, GPT 5.5보다는 앞섰지만, 결국 현 시점 최강자인 GPT 5.6과 클로드 Fable 5한테는 밀린거죠.[7] 이건 Moonshot 스스로도‘가장 강력한 모델인 Fable 5와 GPT 5.6 Sol엔 아직 못 미친다’라며 인정했고요.[8] 여기에 이전 버전보다 K3가 독립 측정에서 환각률이 12% 높은 51%라는 점, 동일한 워크로드에 대해 GPT 5.6 Sol 대비 토큰 사용량이 1.9배라는 점 등, 아쉬운 점이 이만저만이 아니었어요.[7]
성적표 — 벤치마크 결과를 레드 레터보드 메뉴판으로
여기에 지난 2월 Claude의 앤트로픽에서 Kimi를 가리키며 지적했죠. 바로 Moonshot을 비롯한 중국 AI 업체 몇몇이 산업 규모의 지식 증류(Knowledge Distillation)를 행했다고 주장했거든요.[9] 이에 대해 Moonshot은 확인도 부인도 하지 않는 한편, 중국 대사관은 근거 없는 주장이라며 부인함으로써 열기를 더하기도 했어요.[10]
그럼에도 불구하고 2.8조라는 엄청난 규모의 파라미터, 초특급 스케일의 MoE 설계, Modified-MIT의 공개 등, Kimi K3는 이 모든 소란을 안고도 전세계 AI 업계를 흔드는 데 성공했어요. 어느덧 신규 유저가 폭등하기 시작했고, Kimi의 시대가 도래할 것만 같았죠. 단 2일간은요.
입장 마감입니다. 이유는…
이토록 효율 하나만을 내세우며 치고 올라온 Kimi K3는 출시 이틀만인 7월 19일 신규 구독을 멈췄어요. 이유는 하나, 밀려든 수요가 Moonshot의 GPU 클러스터를 한계점까지 밀어붙였기 때문이에요. 이에 결국 Kimi 측은 새로운 자리가 날 때까지 기존 사용자의 사용만 유지하기로 했어요.[2][11] Kimi K3라는 신메뉴를 개시한 Moonshot 식당이 “재료 소진”이라는 팻말이 걸린 순간이었죠. 그토록 효율적인 설계로 무장한 K3였는데, 어째서 버티지 못한 것일까요?
정답은 K3의 서빙 조건에 있어요. Moonshot은 Kimi K3를 제대로 사용하려면 고대역폭으로 촘촘히 묶인 ‘64장 이상 가속기’ 스케일의 슈퍼노드를 권장했어요.[12] 제아무리 MoE를 활용했더라도 896명의 전문가에게 토큰을 실시간으로 배달하려면 그에 준하는 인프라가 필요하거든요. 오픈 웨이트를 직접 받아 돌리려고 해도, 전체 정밀도로는 약 1.5TB, INT4로 압축한다 한들 600GB 가량의 GPU 메모리가 필요해요.[13] 여기에 엎친 데 덮친 격으로 미국의 수출 규제로 인해 NVIDIA의 칩 수급이 점점 어려워지고 있으니, Moonshot 입장에서는 수요에 맞춰 인프라를 증설하기가 힘들었을 것이고, 결국 신규 가입 중단을 선포한 셈이죠.[3]
주방 사정 — 서빙 인프라의 벽을 카페 카운터 메뉴판으로 (실사합성3_카페_주방사정)
레시피 좋죠, 주방만 받쳐준다면
Kimi K3는 ‘모델을 얼마나 잘 짓느냐’에 대해서는 이미 최선을 다한 축에 해당해요. 하지만 결국 ‘얼마나 잘 굴리느냐’ 즉, 서빙의 벽에 막히고 말았죠. 아무리 효율적인 아키텍쳐도 결국 서빙과 스케줄링, 캐싱과 배칭에서 실질적인 이득의 정도가 갈리기 마련이에요. 오는 27일 공개 예정인 가중치도 비슷해요. Kimi K3의 레시피가 있다한들, 1.5TB 규모 주방을 차리는 것부터 큰 숙제거든요. 아키텍쳐도 아키텍쳐지만, 그에 준하는 인프라 운용기술도 동반되어야 하는거죠.
AI 인프라 수급의 어려움은 수출 규제로 힘들어하는 Moonshot 만의 이야기가 아니에요. 단순히 수요에 따라가면서 인프라를 증설하는 것은 현실적으로 어려울수도 있다는 거에요. 달리 말하면, 인프라의 효율화가 제 2의 K3 입장 마감 사태를 막는 돌파구가 될 수 있다는 거죠. AI 인프라의 효율화라… 굉장히 뛰어난 무언가 떠오르는 군요(조나단 GPUBASE가 떠올랐다는 당신은 이미 명예 아크릴리언 <3).
맺음
저 갈리엄은 오늘 Kimi에 대한 이야기를 정리하면서 다음 말이 떠올랐어요.
“완벽함이란 사소한 것들을 잘 해내는 데서 온다”
세계적인 셰프 고든 램지(Gordon Ramsay)의 스승으로도 유명한 영국의 명셰프 마르코 피에르 화이트가 했던 말인데요, AI 인프라를 바라보는 저희 모두에게 해당되는 말이 아닐까 싶습니다. MoE 같은 모델 사용법만큼이나 PerF, RDMA 등, 인프라 효율화 역시 작은 지점부터 하나하나 잘 해나가다 보면 언젠가 우리 모두가 염원하는 인프라 효율화가 현실화될 것 같다고 생각하거든요. 갈리엄은 입장 마감한 두쫀쿠 앞에서 눈물을 흘렸지만, 여러분의 AX는 결코 문을 닫아서는 안 되니까요. 아, 참고로 AI 맛집 아크릴의 팻말에는 이런 말이 적혀 있습니다, “AI to AX. Realized”. 이상, 아크릴 테크블로그의 음유시인 갈리엄이었습니다.
참고 자료 (References)
[1] CNBC — “China's Moonshot AI unveils Kimi K3 that rivals OpenAI, Anthropic” (2026.07.17) https://www.cnbc.com/2026/07/17/moonshot-ai-kimi-k3-model-openai-anthropic-china.html
[2] TechNode — “Kimi K3 overwhelms capacity just days after launch, suspends new consumer subscriptions” (2026.07.20) https://technode.com/2026/07/20/kimi-k3-overwhelms-capacity-just-days-after-launch-suspends-new-consumer-subscriptions/
[3] Tom's Hardware — “China's 2.8-trillion-parameter Kimi K3 beats Claude Fable 5 in Frontend Code Arena benchmark”(2026.07.17) https://www.tomshardware.com/tech-industry/artificial-intelligence/moonshot-releases-2-8-trillion-parameter-kimi-k3
[4] Hugging Face Blog — “Kimi K3 Model Overview: 2.8T Parameters, MXFP4 Quantization, and What the Open Weights Mean for the Community” (2026.07) https://huggingface.co/blog/ResterChed/kimi-k3-model-overview-mxfp4-quantization-open-wei
[5] Arena.ai (X) — “Kimi-K3 is now #1 in the Frontend Code Arena with 1679 pts” (2026.07) https://x.com/arena/status/2077824029126504525
[6] TechNode — “Microsoft reportedly evaluates Moonshot AI's Kimi K3 for Copilot” (2026.07.23) https://technode.com/2026/07/23/microsoft-reportedly-evaluates-moonshot-ais-kimi-k3-for-copilot/
[7] Artificial Analysis — “Kimi K3 achieves #3 in the Artificial Analysis Intelligence Index, comparable to Opus 4.8 and GPT-5.5”(2026.07.17) https://artificialanalysis.ai/articles/kimi-k3-achieves-3-in-the-artificial-analysis-intelligence-index-comparable-to-opus-4-8-and-gpt-5-5
[8] THE DECODER — “Kimi's open model K3 nears GPT-5.6 Sol and Fable 5 while signaling the end of super cheap Chinese AI”(2026.07.16) https://the-decoder.com/kimis-open-model-k3-nears-gpt-5-6-sol-and-fable-5-while-signaling-the-end-of-super-cheap-chinese-ai/
[9] CNBC — “Anthropic joins OpenAI in flagging 'industrial-scale' distillation campaigns by Chinese AI firms” (2026.02.24) https://www.cnbc.com/2026/02/24/anthropic-openai-china-firms-distillation-deepseek.html
[10] South China Morning Post — “Trump tech official accuses China's Moonshot AI of stealing from Anthropic” (2026.07.23) https://www.scmp.com/news/us/diplomacy/article/3361510/trump-tech-official-accuses-chinas-moonshot-ai-stealing-anthropic
[11] South China Morning Post — “Kimi K3 developer suspends new subscriptions amid compute constraints” (2026.07.21) https://www.scmp.com/tech/article/3361172/kimi-k3-developer-suspends-new-subscriptions-amid-compute-constraints
[12] Northflank — “Kimi K3: benchmarks, pricing, hardware requirements, and self-hosting” (2026.07) https://northflank.com/blog/what-is-kimi-k3-self-hosting
[13] Hyperstack — “Kimi K3: A Technical Deep Dive into the First Open 3T-Class Model” (2026.07) https://www.hyperstack.cloud/technical-resources/tutorials/kimi-k3-a-technical-deep-dive-into-the-first-open-3t-class-model