Kimi K3 공개 소식이 오늘 개발자 커뮤니티의 중심에 섰다. 2.8조 파라미터, 100만 토큰 문맥, 네이티브 비전, 장시간 코딩이라는 숫자만 보면 오픈 모델이 한 번에 다음 체급으로 넘어간 느낌이다.
7월 16일 올라온 Kimi 공식 발표는 공개 반나절 만에 Hacker News 1위까지 올라갔다. 7월 17일 12시 KST 기준 HN 토론은 1,244점과 댓글 780개를 기록했고, GeekNews에도 바로 소개됐다. 숫자와 반응만 보면 이번 주 가장 뜨거운 모델 발표가 맞다.
근데 공식 글을 끝까지 읽고 나니 “3조급 오픈 모델이 나왔다”보다 먼저 봐야 할 문장이 여럿 보였다. 가중치는 발표 당일 아직 내려받을 수 없고, 권장 배포 환경은 가속기 64개 이상이며, 100만 토큰 세션도 하네스가 생각 기록을 온전히 넘긴다는 조건이 붙는다. 모델의 크기보다 운영 조건이 더 흥미로운 발표였다.
Kimi K3 오픈 모델에서 실제로 공개된 것
2.8조 전체 파라미터가 매 토큰마다 움직이진 않는다
Kimi K3는 2.8T 규모의 MoE 모델이다. 공식 설명에 따르면 896개 전문가 가운데 16개를 활성화한다. 그래서 2.8조라는 전체 숫자를 매 토큰마다 모두 계산하는 밀집 모델처럼 읽으면 안 된다. 거대한 전문가 풀에서 일부 경로를 선택해 계산하는 구조다.
핵심 구성은 Kimi Delta Attention, Attention Residuals, Stable LatentMoE다. 이름은 화려하지만 방향은 비교적 명확하다. 긴 시퀀스와 깊은 레이어에서 정보가 흐르는 방식을 바꾸고, 전문가 수를 크게 늘리면서도 라우팅과 학습 안정성을 잡으려는 설계다. Kimi는 이 조합이 K2보다 전체 스케일링 효율을 약 2.5배 높였다고 주장한다.
나는 여기서 “파라미터가 많으니 무조건 똑똑하다”보다 “이 크기를 어떻게 실제 서비스 비용으로 바꿨나”가 더 궁금했다. 모델 규모는 발표 한 줄에 들어가지만, 라우터 불균형과 통신 병목은 운영팀 밤샘으로 돌아오기 때문이다. 특히 전문가가 896개까지 늘어나면 좋은 라우팅 하나가 논문 지표와 실제 처리량을 동시에 좌우한다.
오픈이라는 표현과 오늘 내려받을 수 있다는 말은 다르다
공식 글은 Kimi K3를 세계 최초의 공개 3T급 모델이라고 부른다. 동시에 전체 가중치는 2026년 7월 27일까지 공개하고, 기술 보고서도 그때 함께 내놓겠다고 적었다. 즉 발표 당일 기준으로는 Kimi.com, Kimi Work, Kimi Code, API에서 사용할 수 있지만 전체 가중치를 받아 독립 검증하는 단계는 아직 열리지 않았다.
이 차이는 작지 않다. 모델 카드, 라이선스, 텐서 구성, 체크포인트 크기, 로컬·클라우드 런타임 호환성을 확인하기 전까지 “오픈”의 실제 범위를 판단하기 어렵다. 공개 예정과 공개 완료를 섞으면 벤더가 제공한 데모를 독립 재현처럼 말하게 된다.
그래서 내 기준에서 이번 발표는 오픈 모델의 완성보다 공개 약속이 붙은 프리뷰에 가깝다. 약속된 날짜에 가중치와 기술 보고서가 실제로 나오고, vLLM 같은 생태계 구현이 따라붙어야 오픈 모델로서의 두 번째 평가가 시작된다.
벤치마크보다 배포 조건이 먼저 보였다
권장 환경은 개인 워크스테이션이 아니라 슈퍼노드다
Kimi는 K3 추론에 MXFP4 가중치와 MXFP8 활성값을 사용한다고 설명한다. 낮은 정밀도로 계산량과 메모리를 줄이는 방향이다. 그래도 공식 권장 배포 환경은 고대역폭 통신 도메인 안의 가속기 64개 이상이다. 이 한 줄이 2.8조 모델의 현실을 꽤 잘 보여준다.
며칠 전 Bonsai 27B가 휴대폰 메모리 경계에 들어온 조건을 봤을 때는 모델을 어디까지 작게 내려보낼 수 있는지가 핵심이었다. Kimi K3는 반대편 끝에 있다. 한 모델을 얼마나 크게 만들 수 있는지 보여주지만, 직접 배포하려면 개인 개발자나 작은 팀이 감당하기 어려운 통신 구조가 필요하다.
이게 나쁘다는 뜻은 아니다. 오픈 모델은 꼭 노트북에서 돌아야 하는 게 아니다. 클라우드 사업자와 대형 연구팀이 자체 인프라에서 검증하고 최적화할 수 있다는 것만으로도 의미가 있다. 다만 “오픈 모델이니 API 종속에서 바로 벗어난다”는 기대에는 비용표가 빠져 있다.
공식 API 가격은 싸지만 같은 비용으로 재현되진 않는다
Kimi API의 발표 가격은 캐시 적중 입력 100만 토큰당 0.30달러, 캐시 미적중 입력 3달러, 출력 15달러다. 회사는 코딩 워크로드에서 공식 API 캐시 적중률이 90%를 넘는다고 적었다. 숫자만 보면 2.8조 모델의 서비스 가격은 꽤 공격적이다.
근데 이 가격은 Mooncake 기반 분산 추론, 대규모 캐시, 높은 사용률을 전제로 한 사업자 가격이다. 가속기 64개를 직접 묶어 같은 단가를 재현할 수 있다는 뜻은 아니다. 자체 호스팅의 가치는 단순 토큰 가격보다 데이터 경계, 커스텀 런타임, 감사 가능성에서 나와야 한다.
내가 팀에서 검토한다면 API와 자체 배포를 바로 가격으로 비교하지 않을 것 같다. 먼저 민감 데이터가 외부로 나가도 되는지, 장시간 세션을 어느 정도 캐시할 수 있는지, 실패한 요청을 재시도할 때 비용이 얼마나 튀는지부터 본다. 큰 모델은 평균 단가보다 긴 꼬리 비용이 더 무서울 때가 많다.
100만 토큰과 장시간 코딩에 붙은 조건
생각 기록을 잃으면 세션 품질이 불안정해질 수 있다
공식 제한 사항에서 제일 눈에 들어온 건 thinking history였다. K3는 이전 생각 기록을 보존하는 방식으로 학습됐고, 에이전트 하네스가 그 기록을 온전히 다시 넘기지 않거나 세션 중간에 다른 모델에서 K3로 교체하면 생성 품질이 크게 불안정해질 수 있다고 적었다.
100만 토큰 문맥이 있어도 세션 관리가 틀리면 품질이 무너질 수 있다는 얘기다. 긴 컨텍스트는 저장 용량이 아니다. 어떤 메시지와 도구 결과를 남기고, 압축하고, 다시 주입하는지까지 맞아야 한다. 모델이 100만 토큰을 받는다는 사실과 우리 에이전트가 100만 토큰짜리 작업을 안정적으로 끝낸다는 사실은 다르다.
그래서 Kimi는 호환성을 검증한 Kimi Code 같은 하네스를 권장하고 세션 도중 모델 교체를 피하라고 한다. 나는 이 제한을 솔직하게 적은 점은 좋게 본다. 동시에 OpenAI 호환 엔드포인트만 맞추면 기존 에이전트에 모델 이름 하나 바꿔 꽂을 수 있다는 기대에는 선을 긋는다.
과도한 선제 행동은 성능이 아니라 권한 문제다
또 하나의 제한은 excessive proactiveness다. 장시간 어려운 작업을 강조해 학습한 결과, 작은 문제나 모호한 의도를 만났을 때 사용자를 대신해 예상 밖의 결정을 내릴 수 있다고 공식 문서가 경고한다. 시스템 프롬프트나 AGENTS.md에 행동 경계를 더 명시하라는 권고도 붙었다.
이 부분은 실제 운영에서 굉장히 중요하다. 에이전트가 오래 버틴다는 건 좋은 일인데, 멈춰야 할 때도 오래 버티면 사고가 된다. 파일 삭제, 의존성 변경, 외부 API 호출, 배포처럼 되돌리기 비싼 단계는 모델의 자신감이 아니라 별도 승인 게이트로 막아야 한다.
Kimi K3를 코딩 에이전트에 붙인다면 나는 먼저 세 가지를 고정할 것 같다. 변경 가능한 디렉터리, 실행 가능한 명령, 사람이 승인해야 하는 외부 부작용이다. 그리고 세션 중간 모델 교체 금지, 생각 기록 보존 여부, 컨텍스트 압축 시점도 로그에 남긴다. 2.8조 모델을 붙이는 일보다 이 네 줄을 지키는 일이 더 중요하다.
Kimi K3 벤치마크를 읽을 때 남겨둘 의심
하네스가 다르면 모델 점수만 비교하기 어렵다
공식 발표는 DeepSWE, Terminal-Bench, FrontierSWE, 업무 자동화와 멀티모달 평가를 길게 제시한다. DeepSWE 리더보드와 FrontierSWE처럼 외부 기준을 참조한 점은 좋다. 하지만 각 모델이 Kimi Code, Claude Code, Codex 등 서로 다른 하네스로 평가된 항목도 있다.
Kimi도 각주에서 이 조건을 꽤 자세히 밝힌다. 일부 Claude Fable 5 결과는 제3자 평가이며 fallback이 포함될 수 있고, 특정 평가는 모델마다 가장 좋은 하네스를 썼다. 이건 부정행위라는 얘기가 아니다. 에이전트 벤치마크에서 모델과 하네스를 분리하기가 그만큼 어렵다는 뜻이다.
나는 벤치마크 표에서 1점 차이를 읽기보다 같은 저장소, 같은 도구 권한, 같은 시간 제한, 같은 비용 예산으로 다시 돌려보는 편이 낫다고 본다. 특히 K3가 강조한 15시간 커널 최적화나 48시간 칩 설계는 결과물의 정확성뿐 아니라 재현 비용과 사람의 검수 시간도 같이 봐야 한다.
지금 바로 검증할 것은 작은 운영 루프다
가중치 공개 전에는 API나 Kimi Code로 작은 반복 실험부터 할 수 있다. 거대한 데모보다 아래 같은 작업이 더 빨리 현실을 보여준다.
1. 동일한 저장소 이슈를 세 번 실행해 diff 일관성을 본다
2. 30분 세션에서 도구 실패 뒤 복구 성공률을 기록한다
3. 컨텍스트 압축 전후의 테스트 통과율을 비교한다
4. 모호한 요구에서 승인 없이 바꾼 파일 수를 센다
5. 입력 캐시 적중·미적중을 나눠 실제 비용을 계산한다
6. 세션 중 모델 교체를 일부러 시도해 품질 변화를 본다
Artificial Analysis의 Kimi K3 페이지처럼 독립 측정이 쌓이기 시작했지만, 발표 첫날의 숫자는 계속 바뀔 수 있다. 오늘의 1위보다 일주일 뒤 재현 결과가 더 중요하다. 특히 가중치가 예고대로 공개되면 제3자 런타임과 양자화, 실제 메모리, 처리량 데이터가 한꺼번에 나올 가능성이 크다.
3조 파라미터보다 먼저 확인할 것
오픈 모델의 다음 경쟁은 운영 가능성이다
Kimi K3가 별일 아니라는 얘기는 아니다. 2.8조 MoE, 100만 토큰, 네이티브 비전, 장시간 코딩을 한 모델에 묶고 공개 가중치까지 약속한 건 분명 큰 사건이다. Hacker News의 큰 반응도 단순한 숫자 놀음만으로 설명되진 않는다. 많은 개발자가 독점 모델 바깥에서도 최전선 성능을 검증할 선택지를 기다리고 있었다.
동시에 Kimi는 종합 성능이 Claude Fable 5와 GPT-5.6 Sol 같은 강한 독점 모델에 아직 뒤지고, 사용자 경험에도 눈에 띄는 격차가 있다고 공식 제한 사항에 적었다. 발표사가 직접 남긴 이 문장을 빼고 벤치마크 1위 항목만 읽으면 평가가 한쪽으로 기운다.
다만 오늘 확정된 것과 열흘 뒤 확인할 것을 나눠야 한다. 지금 확정된 건 호스팅 제품과 API, 공식 평가, 아키텍처 개요다. 아직 남은 건 전체 가중치, 기술 보고서, 라이선스의 실제 범위, 독립 재현, 64개 이상 가속기 환경의 처리량이다.
내 결론은 꽤 단순하다. Kimi K3는 “누구나 당장 돌리는 3조 모델”이 아니라 “누구나 검증할 수 있는 3조 모델이 될 수 있는가”를 시험하는 발표다. 7월 27일 약속이 지켜지면 오픈 모델의 체급이 실제로 커진다. 그때부터는 파라미터 수보다 배포 비용, 하네스 호환성, 승인 게이트, 재현 가능한 벤치마크가 승부를 가를 것 같다.