스펙시트 뜯어보기

Gemini 3.7 Flash 무엇이 달라졌나, 3.6과 비교 총정리

mdit — Fri, 21 Aug 2026 01:21:07 +0900

Gemini 3.7 Flash가 2026년 8월 13일 정식 출시됐다. 3.6 Flash 대비 속도·벤치마크 수치, 가격 변동, 마이그레이션 시 주의할 점을 데이터 기준으로 정리했다.

Gemini3.7Flash, 무엇을 기준으로 비교해야 할까

구글이 2026년 8월 13일 Gemini 3.7 Flash를 정식(GA) 공개했다. 직전 세대인 3.6 Flash가 나온 지 불과 3주 만이라, "뭐가 그새 달라졌나" 궁금한 독자가 많을 것이다. 결론부터 말하면 이번 업데이트는 완전히 새로운 모델이라기보다 속도와 코딩·자동화 작업 능력을 끌어올린 개선판에 가깝다. 일반 문서 작성이나 대화 품질에서 체감할 만한 차이를 발표문이 보장하는 것은 아니다.

비교할 때 확인해야 할 기준은 크게 세 가지다. 첫째는 실제 처리 속도와 응답 지연, 둘째는 코딩·자동화 벤치마크 점수, 셋째는 가격과 그 가격이 언제까지 유지되는지다. 특히 가격은 "지금 싸다"는 인상만 보고 판단하면 안 되는 구조라 아래에서 별도로 다룬다. 이 글은 구글 공식 문서와 독립 벤치마크 기관인 Artificial Analysis의 측정치를 함께 놓고, 3.6 Flash·경쟁 모델과 어떻게 다른지 정리했다.

비교 기준 정리

Gemini 3.7 Flash를 판단할 때 놓치기 쉬운 항목을 표로 정리했다. 스펙 자체보다 "이 값이 무엇을 의미하는지"를 함께 봐야 오해가 없다.

항목	Gemini 3.7 Flash 수치	확인 시점	주의점
입력 컨텍스트	1,048,576토큰	2026-08-20 기준	이미지·비디오·오디오·PDF 입력 가능, 출력은 텍스트만
출력 토큰 한도	65,536토큰	2026-08-20 기준	사고(thinking) 토큰도 이 안에서 소모
사고 수준	low / medium / high 3단계	GA 발표 시점	minimal 단계 미지원 — 3.6 대비 최저 비용 바닥이 높아짐
지식 컷오프	2026년 3월	모델카드 기준	일부 도메인은 2025년 1월까지만 반영
가격(입력/출력)	$0.75 / $3.75 (100만 토큰당)	2026년 12월 31일까지	2027년 1월 1일부터 $1.50/$7.50으로 정확히 2배 인상 예고

여기서 가장 중요한 함정은 가격이다. 같은 도입가가 3.6 Flash에도 그대로 적용되기 때문에, 3.7로 옮긴다고 비용이 저렴해지는 구조가 아니다. 비용 절감이 목적이라면 캐시($0.075/1M)와 Batch API(표준가 50% 할인)를 함께 걸어야 실질 단가가 내려간다.

옵션·유형별 비교

3.6 Flash·경쟁 모델과 나란히 놓고 봐야 "무엇이 달라졌나"가 분명해진다. 아래는 구글 자체 벤치마크와 독립 측정 기관 Artificial Analysis(AA)의 수치를 함께 정리한 것이다.

비교 항목	Gemini 3.7 Flash	Gemini 3.6 Flash	비고
FrontierCode 1.1 Main	43.6%	34.4%	구글 자체 측정
DeepSWE v1.1	65.3%	48.6%(모델카드)/49.0%(블로그)	두 공식 문서 수치가 미세하게 다름(확인 필요)
AA Intelligence Index	56(high)	52(high)	+4점 상승, 독립 기관 측정
출력 속도	초당 373토큰	초당 209토큰	AA 실측, 약 1.8배
응답 첫 토큰(TTFT)	12.10초	21.12초	AA 실측, 약 43% 단축
블렌디드 단가(추정)	$0.58/1M	$0.63/1M	캐시:입력:출력 7:2:1 가정 시

경쟁 모델과 비교하면 위치가 더 뚜렷해진다. DeepSWE v1.1 기준으로 GPT-5.6 Terra가 69.6%로 3.7 Flash(65.3%)보다 앞서고, AA Intelligence Index에서도 GPT-5.6 Terra와 Muse Spark 1.2가 각각 57점으로 3.7 Flash(56점)를 근소하게 앞선다. 다만 태스크 완료 시간은 GPT-5.6 Terra 대비 약 40% 빠르고, 태스크당 비용은 high 기준 평균 $0.40 수준(medium은 $0.26)으로 나타났다. 즉 "가장 똑똑한 모델"은 아니지만 속도·비용 대비 효율에서 강점이 있는 포지션이다.

상황별 추천

초저지연·대량 분류 파이프라인을 이미 3.6 Flash로 돌리고 있다면 굳이 지금 옮길 필요는 없다. 가격이 동일하고, 3.6 Flash는 사고 수준과 기존 ·top_p 파라미터를 그대로 쓰는 코드가 무리 없이 돌아간다.

응답 지연이 병목이거나 에이전트 루프 실패율이 문제였다면 3.7 Flash로 전환할 이유가 분명하다. TTFT가 21초에서 12초로 줄고, GDM-MRCR v2(128k) 기준 장문 컨텍스트 처리 정확도도 97.0%(3.6은 91.8%)로 개선됐다.

코딩·자동화 작업 비중이 크고 예산이 빠듯하다면 GPT-5.6 Terra보다 품질은 소폭 낮아도 속도 40% 우위와 태스크당 비용 $0.40 수준을 고려할 만하다. 반대로 품질 최우선이고 예산에 여유가 있다면 GPT-5.6 Terra나 Claude Sonnet 5도 함께 검토하는 편이 낫다. 참고로 Gemini 3.5 Pro급 플래그십 모델이 필요한 고난이도 작업이라면, 3.5 Pro 출시가 계속 지연되고 있어(2026년 8월 20일 기준 공식 일정 미공개) 현재는 3.1 Pro 계열이나 타사 모델이 대안이다.

자주 하는 실수

첫째, 지금 가격을 고정값으로 계산하는 실수다. $0.75/$3.75는 2026년 12월 31일까지의 한시 도입가이며 2027년 1월 1일부터 정확히 2배가 된다. 장기 운영 비용을 산정할 때 이 시점을 반영하지 않으면 예산이 크게 어긋난다.

둘째, 벤치마크 표를 조건 확인 없이 그대로 신뢰하는 것이다. 모델카드에는 사고 수준·도구 허용 여부·시도 횟수 같은 측정 조건이 각주로 명시돼 있지 않아, 3.7 Flash와 경쟁 모델 간 비교가 완전히 동일한 조건인지는 확인되지 않았다. 특히 경쟁사 수치를 인용한 2차 집계 매체는 같은 항목도 다른 값을 보도하는 경우가 있어(예: Claude Sonnet 5의 DeepSWE 점수가 매체마다 53.8%와 54.0%로 갈림) 1차 자료(모델카드·공식 블로그) 확인이 필요하다.

셋째, 마이그레이션을 코드 수정 없이 진행하는 것이다. ·top_p·top_k·candidate_count·thinking_budget 파라미터가 제거됐고, thinking_budget은 문자열 enum인 thinking_level로 바뀌었다. Prefilled model turn도 더 이상 지원하지 않으며, 멀티턴 대화는 서버측 previous_interaction_id를 써야 한다. 이 부분을 놓치면 API 호출 자체가 실패한다.

정리

Gemini 3.7 Flash는 3.6 Flash 대비 속도(초당 처리량 약 1.8배)와 코딩·자동화 벤치마크 점수는 뚜렷이 올랐지만, 가격은 동일하고 종합 지능 지수는 GPT-5.6 Terra·Muse Spark 1.2에 근소하게 못 미친다. 이미 3.6 Flash로 충분한 초저지연·저비용 파이프라인이라면 급하게 옮길 이유는 없고, 응답 지연이나 코딩 자동화 정확도가 문제였다면 전환할 가치가 있다. 무엇보다 2027년 1월 인상 예고 가격과 마이그레이션 파라미터 변경 두 가지는 반드시 확인하고 넘어가야 한다.

참고 자료

조사 기준일: 2026년 08월 21일

본문의 수치는 아래 자료에서 확인한 것입니다. 제조사 공식 자료(T1)와 전문 매체 실측(T2)을 구분해 표기했습니다. 가격·공급 상황은 변동이 크므로 기준일 이후의 값은 다시 확인해야 합니다.

Tier 1
- Google 공식 블로그, "Gemini 3.7 Flash: our most intelligent workhorse model" — https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-gemini-3-7-flash/ (확인 2026-08-21)
- Google AI for Developers, 모델 문서 — https://ai.google.dev/gemini-api/docs/models/gemini-3.7-flash (확인 2026-08-21)
- Google DeepMind, 모델 페이지 — https://deepmind.google/models/gemini/flash/ (확인 2026-08-21)
- Anthropic, Claude API Pricing — https://platform.claude.com/docs/en/about-claude/pricing (확인 2026-08-21)
- OpenAI, API Pricing — https://developers.openai.com/api/docs/pricing (확인 2026-08-21)
Tier 2
- Artificial Analysis, 모델 페이지 — https://artificialanalysis.ai/models/gemini-3-7-flash (확인 2026-08-21)
- 9to5Google, "Gemini 3.7 Flash launches three weeks after last model, live in Spark" — https://9to5google.com/2026/08/13/gemini-3-7-flash-launch/ (확인 2026-08-21)
- GSMArena, "Google already launches Gemini 3.7 Flash" — https://www.gsmarena.com/google_already_launches_gemini_37_flash-news-74165.php (확인 2026-08-21)
- Search Engine Journal, "Google Brings Gemini 3.7 Flash To AI Mode In Search" — https://www.searchenginejournal.com/google-brings-gemini-3-7-flash-to-ai-mode-in-search/585923/ (확인 2026-08-21)

GLM-5.3 로컬 실행 요건과 대안 총정리 (2026.08 기준)

mdit — Fri, 21 Aug 2026 01:04:31 +0900

GLM-5.3은 2026년 8월 20일 기준 가중치가 공개되지 않아 로컬 실행이 불가능하다. GLM-5.2 기준 양자화별 메모리 요건과 API 비용을 비교해 실행 가능 여부를 판단한다.

GLM 5.3 개요

GLM-5.3을 지금 내 서버에서 돌릴 수는 없다. Z.ai가 2026년 8월 18일 공식 릴리즈 노트에 이 모델을 올렸지만, 같은 시점(2026-08-20) 기준으로 조직의 GitHub·Hugging Face 저장소에는 GLM-5.3 가중치가 존재하지 않는다. 모델 자체는 컨텍스트 1M 토큰, 최대 출력 128K 토큰, 텍스트 전용(비전 입력 미지원) 구조이며 추론(reasoning)이 필수로 걸려 있어 effort 레벨을 ·· 중 하나로 지정해야 한다. 이 글은 "로컬실행요건"이라는 개발자 관점 질문에 답하기 위해, 아직 공개되지 않은 5.3 대신 동일 베이스로 알려진 GLM-5.2의 실측 하드웨어 요건을 기준으로 정리하고, API로 GLM-5.3을 쓰는 경우의 비용까지 함께 다룬다. 벤치마크 성능 비교나 도입 여부 판단은 다루지 않는다.

1. GLM-5.3 로컬 실행이 아직 불가능한 이유

결론은 단순하다. 가중치 파일 자체가 없다. GitHub zai-org/GLM-5 저장소의 README는 GLM-5.2·5.1·5까지만 다루고 GLM-5.3을 언급하지 않으며, Hugging Face에도 대응하는 모델 카드가 없다(2026-08-20 확인). 공식 가격표(docs.z.ai/guides/overview/pricing)에는 GLM-5.3이 100만 토큰당 입력 $1.4, 캐시 입력 $0.26, 출력 $4.4로 등재돼 있어 API 호출은 가능하지만, 현재 접근 경로는 GLM Coding Plan 구독과 ZCode 중심이고 일반 API의 완전 개방 여부는 문서 간 서술이 엇갈려 확인이 필요한 상태다.

발표 시점 자체도 혼란스럽다. 매체(the-decoder)는 발표일을 2026-08-14로 보도했고, 안전 평가·하드닝을 위해 가중치 공개를 약 2주 유예한다고 전했다. 반면 Z.ai 공식 릴리즈 노트의 항목 날짜는 2026-08-18로 표기돼 있어 4일의 간극이 있다. 이 유예가 사고가 아니라 CyberGym 벤치마크에서 84.5%라는 높은 점수가 나온 뒤 취한 의도된 조치라는 점도 함께 보도됐다(SCMP, 2026-08-14). 따라서 "약 2주 후(2026-08-28 전후)" 공개설은 T2 보도에 근거한 추정일 뿐, Z.ai가 명시한 확정 날짜는 아니라는 점을 분명히 해둔다(확인 필요).

2. GLM-5.2 기준 실질 하드웨어 요건

GLM-5.3의 정확한 로컬 요건을 지금 계산할 수는 없지만, 같은 베이스(744B 총 파라미터 / 40B 활성 MoE, 1M 컨텍스트)를 쓰는 GLM-5.2의 실측 수치는 5.3 공개 이후에도 거의 그대로 이어질 가능성이 높다. Unsloth가 배포한 GGUF 실제 파일 크기와, Unsloth 공식 문서가 제시하는 양자화 비트별 최소 메모리(RAM+VRAM 합산)는 다음과 같다.

양자화	GGUF 파일 크기	최소 메모리(RAM+VRAM)
BF16	1,510GB	-
Q8_0	801GB	약 810GB
UD-Q4_K_XL	467GB	372~475GB
UD-IQ4_XS	365GB	290~360GB
UD-Q3_K_XL	343GB	290~360GB
UD-IQ2_M	239GB	245GB
UD-IQ1_S	217GB	223GB

여기서 가장 중요한 함정은 "24GB GPU 한 장으로 돌린다"는 표현이 그래픽카드 VRAM만을 의미하지 않는다는 점이다. Unsloth 문서가 말하는 2bit(UD-IQ2_M) 구성은 시스템 RAM을 포함한 합산 245GB가 전제이며, 256GB 통합 메모리 Mac이나 24GB GPU 1장 + 대용량 시스템 RAM 조합에서만 성립한다. 그래픽카드 VRAM 24GB만 갖춘 일반 데스크톱으로는 최상위 양자화조차 실행되지 않는다. 파라미터 수 표기도 출처마다 744B(GitHub)·753B(Hugging Face)·754B(Unsloth GGUF)로 갈려, 메모리 산정 시 소폭의 오차 요인으로 남는다.

3. 서빙 프레임워크·마이그레이션 체크리스트

로컬 서빙을 준비한다면 프레임워크 최소 버전을 먼저 맞춰야 한다. GLM-5.2 공식 모델카드(Hugging Face)가 명시한 지원 프레임워크는 아래와 같다.

프레임워크	최소 버전
SGLang	v0.5.13.post1 이상
vLLM	v0.23.0 이상
Transformers	최신 버전
KTransformers	지원
Unsloth	지원

GLM-5.3으로 넘어갈 때 반드시 손봐야 할 코드는 reasoning 설정이다. 기존에 thinking.type: "disabled"로 추론을 꺼두던 방식은 GLM-5.3에서 더 이상 동작하지 않는다. 추론이 필수 항목으로 바뀌었기 때문에 thinking.type: "enabled" + reasoning_effort: "low"로 교체해야 하며, 기본값이 로 설정돼 있어 아무 설정 없이 그대로 호출하면 출력 토큰 비용이 예상보다 크게 튈 수 있다. 라이선스도 확인이 필요한 지점이다. GLM-5.2는 Hugging Face 모델카드에는 , GitHub 저장소에는 Apache-2.0으로 표기돼 있어 두 문서가 서로 다른 라이선스를 명시하고 있으며, GLM-5.3 가중치에 어떤 라이선스가 붙을지는 아직 공개되지 않았다(확인 필요).

4. 로컬 vs API — 비용 판단 기준

로컬 서버를 구축할지, API를 그대로 쓸지는 결국 메모리 투자 비용과 사용량의 함수다. 2026년 8월 기준 GLM-5.3 API 가격은 100만 토큰당 입력 $1.4, 캐시 입력 $0.26(한시적 무료 표기), 출력 $4.4다. 4bit(UD-Q4_K_XL, 467GB) 구성을 로컬로 갖추려면 대용량 서버급 메모리 투자가 필요하고, 이 비용을 상쇄하려면 상당한 호출량이 쌓여야 손익분기가 맞는다. 반복되는 긴 컨텍스트를 다루는 워크로드라면 캐시 입력 단가가 낮아 API 쪽이 특히 유리하다.

로컬을 굳이 택할 이유는 비용 최적화보다 데이터를 외부로 내보낼 수 없는 요건일 때다. 이 경우에도 GLM-5.3 가중치가 공개되기 전까지는 GLM-5.2로 파이프라인을 미리 구성해두는 것이 현실적인 대안이다. 같은 서빙 스택(SGLang·vLLM 버전)과 메모리 예산이 그대로 재사용될 가능성이 높기 때문에, 5.2 기준으로 인프라를 검증해두면 5.3 가중치가 풀렸을 때 재투자 부담이 줄어든다. 다만 이는 두 모델이 "동일 베이스"라는 전제에 기반한 예상이며, GLM-5.3의 정식 배포 사양(FP8 지원 여부, MTP 레이어 포함 여부 등)은 아직 공식 확인이 안 된 항목이다.

5. 확인 필요 항목 및 자주 묻는 질문

아래는 2026년 8월 20일 기준으로 아직 공식 문서로 확인되지 않은 항목이다. 단정하지 않고 미확인 상태로 남겨둔다.

GLM-5.3 가중치 공개 확정 날짜 (매체 추정만 존재, 공식 날짜 미확인)
GLM-5.3 가중치의 정확한 라이선스 (GLM-5.2조차 문서 간 mit·Apache-2.0으로 엇갈림)
GLM-5.3의 FP8 배포 여부·MTP 레이어(speculative decoding) 지원 여부
일반 API의 완전 개방 여부 및 GLM Coding Plan 구독료 실액
로컬 실측 토큰/초 처리량 (신뢰할 수 있는 1·2등급 출처를 확보하지 못함)

Q. GLM-5.3이 풀리면 GLM-5.2보다 메모리가 더 필요할까?
공식 발표 자료 어디에도 파라미터 규모가 커졌다는 언급은 없다. 같은 744B/40B 활성 구조를 유지한다는 전제가 맞다면 위 표의 요건이 그대로 적용될 가능성이 높지만, 이는 추정이며 5.3 자체의 공식 사양 문서가 나와야 확정된다.

Q. 개인 워크스테이션(GPU 24GB, RAM 64GB)으로는 아예 안 되나?
Unsloth 최소 요건표 기준으로 가장 가벼운 1bit(UD-IQ1_S)조차 합산 223GB가 필요하므로, RAM 64GB 수준의 일반 워크스테이션으로는 어떤 양자화 단계에서도 실행이 불가능하다.

정리

GLM-5.3은 2026년 8월 20일 기준 가중치가 공개되지 않아 로컬 실행 자체가 불가능하며, API로만 접근할 수 있는 단계다. 하드웨어 계획을 지금 세워야 한다면 같은 베이스로 알려진 GLM-5.2의 실측 요건(2bit 최소 245GB, 4bit 372~475GB)을 기준으로 삼는 것이 현실적이며, 파라미터 수·라이선스 표기가 출처마다 엇갈리는 점은 감안해야 한다. 가중치 공개 날짜와 정식 배포 사양은 아직 확인되지 않았으므로, 이후 공식 문서가 나오는 시점에 다시 점검할 필요가 있다.

참고 자료

조사 기준일: 2026년 08월 21일

Tier 1
- https://z.ai/blog/glm-5.3 (확인일 2026-08-21, r.jina.ai 경유 전문 확인)
- https://docs.z.ai/guides/llm/glm-5.3 (확인일 2026-08-21)
- https://huggingface.co/zai-org (조직 전체 모델 목록, 확인일 2026-08-21)
- https://huggingface.co/zai-org/GLM-5.2 (모델카드, 확인일 2026-08-21)
Tier 2
- https://www.marktechpost.com/2026/08/14/z-ai-ships-glm-5-3-without-retraining-the-base-model-better-at-complex-coding-and-long-horizon-tasks/ (확인일 2026-08-21)
- https://mlq.ai/news/zai-delays-glm-53-weights-after-cybersecurity-tests-show-strong-exploit-capability/ (검색 결과 기반, 직접 fetch 실패 — 403)
- https://the-decoder.com/zhipu-ai-releases-glm-5-3-claims-its-the-strongest-open-weights-coding-model/ (확인일 2026-08-21)
- https://venturebeat.com/technology/glm-5-3-hits-the-api-at-1-4-4-4-per-million-tokens (검색 스니펫 기반, 확인 필요 — 직접 fetch 안 함)
- 서드파티 GLM-5.2 로컬 배포 가이드 다수(Spheron, AI Made Tools, Nitin Rachabathuni) — 검색 스니펫 기반, 개별 fetch 안 함, 수치는 참고용

DeepSeek V4 로컬 실행 요건 정리 — Flash 128GB, Pro는 8장 노드

mdit — Thu, 20 Aug 2026 12:57:06 +0900

DeepSeek V4-Flash와 V4-Pro를 로컬에서 돌리기 위한 실제 요건을 vLLM 공식 레시피와 GGUF 실측치로 정리했습니다. 필요 메모리 92~169GB, Pro 체크포인트 893GB, API 오프피크 단가 비교까지 2026년 8월 기준으로 확인했습니다.

DeepSeek V4 개요

개인 하드웨어로 자가호스팅이 가능한 쪽은 V4-Flash뿐이고, V4-Pro는 8장 GPU 노드가 전제입니다. 근거는 두 가지입니다. V4-Flash-0731은 MI325X 256GB 단일 GPU(TP1)에서 공식 검증됐고 GGUF 8비트가 169GB면 로드됩니다. 반면 V4-Pro-0813은 Hugging Face 저장소 총량만 893GB에 safetensors 66샤드 구성이며, vLLM 공식 레시피가 요구하는 최소 구성이 B300 8장·H200 8장·MI355X 8×288GB·GB200 NVL4 2트레이입니다(2026년 8월 20일 확인). 이 글은 두 모델의 실행 요건을 VRAM·체크포인트 용량·양자화별 메모리·프레임워크 버전·컨텍스트 상한 다섯 축으로 정리했고, 학습 방법론이나 프롬프트 엔지니어링은 다루지 않습니다.

구성부터 짚으면 V4-Pro는 총 1.6T 파라미터에 활성 49B, V4-Flash는 총 284B에 활성 13B인 MoE 2종입니다. 컨텍스트는 양쪽 모두 1M으로 발표됐습니다. 프리뷰는 2026년 4월 24일 공개, Flash 정식판(0731)은 2026년 7월 31일, Pro GA는 2026년 8월 13일입니다. 가중치 정밀도가 혼합인 점이 실행 계획에 직접 영향을 줍니다 — MoE 전문가 파라미터는 FP4, 나머지 대부분은 FP8입니다. 라이선스는 리포지터리와 가중치 모두 MIT라 상용 자가호스팅에 걸림돌이 없습니다.

주의할 대목은 DeepSeek 공식 모델카드에 최소 GPU·VRAM 요건이 없다는 사실입니다. 이 글의 하드웨어 수치는 vLLM 공식 레시피와 NVIDIA 모델카드를 1차 근거로 삼았고, GGUF 메모리 요건은 Unsloth 문서와 제3자 실측을 2차 근거로 구분해 표기했습니다.

1. Flash vs Pro — 자가호스팅 가능선이 갈리는 지점

실질적인 판단은 모델 선택이 아니라 "8장 노드를 가졌는가"입니다. vLLM 공식 레시피가 검증한 구성을 그대로 옮기면 경계선이 뚜렷합니다.

구분	V4-Flash-0731	V4-Pro-0813
총/활성 파라미터	284B / 13B	1.6T / 49B
공식 검증 최소 구성	DGX Station 1 GPU(TP1), MI325X 1×256GB(TP1)	B300 8장 또는 H200 8장
대체 검증 구성	MI355X 4×288GB(TP4), RTX PRO 6000 8×96GB(TP8)	MI355X 8×288GB, GB200 NVL4 2트레이(4+4)
체크포인트	148.66 GiB(MI325X 검증 기준)	약 960GB 혼합정밀도 / 디스크 893GB
병렬 설정	TP1~TP8	TP8 + DP8, kv-cache fp8
컨텍스트 제약	MI325X 검증 시 max-model-len 4096	H200 8장 구성은 800K 상한
vLLM 요건	0.25.0+ (DSpark 사용 시)	0.20.0+, 융합 체크포인트는 0.25.0

Flash 쪽에서 눈여겨볼 부분은 DSpark 추론 가속(speculative decoding) 모듈입니다. V4-Flash-0731에는 이 모듈이 함께 붙어 있고, 그래서 Hugging Face 헤더 표기가 304B(본체 284B + 드래프트 모듈)로 나옵니다. RTX PRO 6000 8×96GB에서 DSpark을 함께 쓰려면 vLLM nightly 이미지가 필요하다는 조건이 레시피에 붙어 있습니다.

Pro 쪽은 숫자만 봐도 개인 범위를 벗어납니다. 66샤드 중 첫 샤드가 1.85GB, 이후 13.9GB 단위로 이어지고 총 893GB입니다. 프리뷰 시점 가중치는 865GB였으니 정식판에서 28GB 늘었습니다. 다운로드 대역폭과 디스크 I/O만으로도 사전 준비가 하루 단위 작업이 됩니다.

파라미터 표기가 자료마다 어긋나는 점은 짚어둘 필요가 있습니다 — Flash가 284B(발표) vs 304B(HF 헤더), Pro가 1.6T(발표)·1.7T(HF 헤더)·1.57T/48B(Unsloth) 로 갈립니다. 드래프트 모듈 포함 여부 차이로 추정되지만 공식 문서로 확인하지 못했습니다.

2. GGUF 양자화별 실제 메모리 요건

소비자 GPU나 CPU 환경이라면 vLLM 경로가 아니라 GGUF(llama.cpp·Ollama·LM Studio) 경로만 실용적입니다. Unsloth 문서가 공개한 Flash-0731 기준 요건은 다음과 같습니다(공식 발표가 아닌 제3자 배포 문서 기준).

양자화	필요 메모리	파일 크기
1비트(UD-IQ1_S)	92GB	82.5GB
2비트	102GB	—
3비트(UD-IQ3_XXS)	110~135GB	103~104GB
4비트(UD-Q4_K_XL)	162GB	155GB
8비트(UD-Q8_K_XL)	169GB	162GB

DSpark을 병용하면 각 티어에 약 10GB가 추가됩니다. 드래프트는 별도 파일로 배포되며 Q8_0이 10.9GB, BF16이 11.3GB입니다.

여기서 중요한 함정이 하나 있습니다. 이미 FP4로 학습된 모델이라 저비트 양자화의 용량 이득이 거의 없습니다. Pro-0813 GGUF를 보면 UD-Q4_K_XL이 850GB, UD-Q8_K_XL이 873GB로 차이가 23GB에 불과합니다. "4비트로 내리면 절반이 되겠지"라는 통상적 계산이 이 모델에서는 성립하지 않습니다. Unsloth 문서도 Pro-0813이 1.57T 파라미터·토큰당 48B 활성이라 Flash-0731보다 훨씬 많은 메모리를 요구한다고 적고 있습니다.

속도 쪽 실측이 이 판단을 뒷받침합니다. MI300X 192GB HBM3 환경에서 양자화 5종을 돌린 측정치가 36.92~37.75 t/s 범위로 사실상 동일했습니다. 파일 크기가 1.4배 차이나도 생성 속도가 안 변한다는 뜻이고, 병목이 연산이 아니라 메모리 대역폭이라는 해석으로 이어집니다. 용량을 줄여 속도를 얻으려는 전략은 여기서 통하지 않습니다.

실행 플래그는 llama.cpp 기준 --n-gpu-layers 2, DSpark 사용 시 --spec-draft-n-max 3이 권장됩니다. 이 조합으로 B200 1장에서 60 t/s → 120 t/s(1.9배) 로 보고됐습니다. 단 DSpark의 수용률과 품질 영향을 잰 제3자 측정치는 아직 없고, 1.9배·2배는 모두 제공자 측 수치입니다.

3. CPU 전용 실행 — 로드는 되지만 쓸 만한지는 다른 문제

"내 PC에서 돌아간다"와 "업무에 쓸 수 있다"를 구분해야 합니다. CPU 전용 실측 사례가 이 간극을 정확히 보여줍니다.

항목	실측값
CPU	Xeon 8코어/16스레드
사용 가능 RAM	123GiB
빌드	llama.cpp b10273
모델	UD-IQ3_XXS(97.05GiB 로드)
프리필(512토큰)	12.33 t/s
생성(128토큰)	5.61 t/s
피크 메모리	109,503,840 KiB
컨텍스트	32,768에서 스왑 없이 유지

생성 5.61 t/s는 초당 다섯 토큰 남짓입니다. 코드 리뷰나 장문 요약처럼 출력이 긴 작업에서는 응답 하나에 수 분이 걸립니다. 배치 처리·야간 파이프라인이라면 감당하겠지만 대화형 사용에는 부적합한 구간입니다.

RAM 산정도 주의가 필요합니다. Unsloth 문서의 3비트 권장치가 110GB인데 실측 피크가 십진 환산 약 112GB입니다. 권장치는 "가중치가 들어가는 지점"이고 OS·KV 캐시·프레임워크 여유는 별도라는 뜻이므로, 3비트 구성이라면 128GB를 하한으로 잡는 편이 안전합니다.

1M 컨텍스트를 기본값으로 열지 않는 것도 실무 규칙입니다. 채팅 용도는 8,192, 코드 작업은 32,768에서 시작하라는 권고가 로컬 가이드 쪽에서 반복됩니다. Think Max 추론 모드만 예외적으로 384K 이상으로 잡으라고 공식 모델카드가 권고합니다.

참고로 1M KV 캐시의 실측 메모리 수치는 확인하지 못했습니다. "총 메모리 170~175GB(가중치 158GB + 1M KV 약 10GB)" 형태로 유통되는 수치가 있으나 1차 출처를 찾지 못해 인용하지 않습니다. V4 기술 리포트 원문(arXiv 2606.19348로 표기됨)도 PDF 파싱에 실패해 본문 대조가 안 된 상태입니다.

4. Blackwell NVFP4 경로와 프레임워크 버전 함정

Blackwell 세대 GPU를 가졌다면 GGUF보다 NVFP4 양자화판이 유리합니다. NVIDIA가 2026년 5월 28일 V4-Flash NVFP4 양자화판을 nvidia-modelopt v0.44.0 기준으로 공개했습니다.

항목	원본	NVFP4
GPQA Diamond	0.894	0.891
AA-LCR	0.658	0.655

정확도 손실이 소수점 셋째 자리 수준입니다. 대가는 프레임워크 요구 조건입니다 — GB300에서 TP4/TP8이 검증됐고, vLLM은 0.22.1rc1.dev504라는 특정 dev 빌드에서 확인됐으며, SGLang은 PR #25820이 필요합니다. 병합되지 않은 PR을 전제로 한다는 말은 운영 환경에 그대로 올리기 어렵다는 뜻입니다.

버전 요건을 한 번 더 정리하면 다음과 같습니다.

경로	최소 요건
Flash 기본(vLLM)	vLLM 0.25.0+(DSpark 사용 시)
Flash + RTX PRO 6000 + DSpark	vLLM nightly 이미지
Pro 기본	vLLM 0.20.0+
Pro + DSpark 융합 체크포인트	vLLM 0.25.0
NVFP4	vLLM 0.22.1rc1.dev504 / SGLang은 미병합 PR
GGUF	llama.cpp b10273 이상에서 실측 확인

구 모델명을 참조하는 코드가 남아 있다면 즉시 정리해야 합니다. deepseek-chat과 deepseek-reasoner는 2026년 7월 24일 이후 완전 폐지됐습니다. Pro GA와 함께 Responses API 네이티브 지원과 thinking effort 3단계(low/high/max) 가 추가됐으니 호출 계층도 함께 손보는 편이 낫습니다.

5. API vs 로컬 — 단가로는 API가 이깁니다

비용만 놓고 보면 자가호스팅이 API를 이기는 구간이 좁습니다. 2026년 8월 16일 16:00 UTC부터 피크/오프피크 이원화가 적용됐고 오프피크는 정확히 피크의 절반입니다(2026년 8월 20일 확인, 100만 토큰당 USD).

모델	캐시미스 입력	캐시히트 입력	출력
v4-flash 오프피크	$0.22	$0.007	$0.66
v4-flash 피크	$0.44	$0.014	$1.32
v4-pro 오프피크	$0.66	$0.022	$1.98
v4-pro 피크	$1.32	$0.044	$3.96

피크 시간대는 01:00–04:00, 06:00–10:00 UTC이고 그 외는 전부 오프피크입니다. 컨텍스트 1M, 최대 출력 384K가 공통 조건입니다. 배치성 작업을 오프피크로 옮기는 것만으로 비용이 절반이 되므로 스케줄링이 가장 값싼 최적화입니다. 일부 매체가 $0.435/$0.87로 표기한 사례가 있는데 공식 가격표와 어긋나고 기준 시점·산출 방식도 불명입니다.

그러니 로컬을 택하는 근거는 단가가 아닙니다. v4-flash 오프피크 출력이 100만 토큰당 1달러 미만인데 로컬 3비트 CPU 구성은 생성 5.61 t/s입니다. 자가호스팅의 정당한 사유는 데이터 통제(외부 전송 금지 업무), 오프라인 요건, 장기 상시 부하 세 가지로 좁혀집니다.

품질 위치도 참고할 만합니다. Artificial Analysis Intelligence Index v4.1.1 기준 Pro-0813(max)이 53점으로 107개 모델 중 3위, 출력 77.0 t/s, TTFT 1.67초입니다. 세부는 GPQA Diamond 93%, Terminal-Bench v2.1 79%, GDPval-AA v2 55%, HLE 39%, SciCode 49%, CritPt 18% 입니다. Flash-0731은 v4.1.1 기준 52점, 출력 107.2 t/s, TTFT 1.22초이고 출시 시점 v4.1에서는 50점, GDPval-AA v2 Elo 1559, 출력 토큰 사용량이 전세대 대비 12% 감소(약 206M) 로 측정됐습니다.

발표 수치와 독립 측정 사이의 간극은 알고 있어야 합니다. DeepSeek 자체 발표는 Pro-0813 Terminal Bench 2.1이 87.9, HLE 42.7/60.0인데 AA 측정은 각각 79%와 39%입니다. DeepSeek가 하네스·시도 횟수·effort를 공개하지 않아 직접 대조가 불가능하고, HLE 60.0이 도구·검색 허용 조건인지는 공식 문서에 명시가 없습니다. Flash-0731 발표치는 Terminal Bench 2.1 82.7, NL2Repo 54.2입니다.

마지막으로 체크포인트 용량 표기가 자료마다 다릅니다 — HF 167GB, vLLM 레시피 148.66 GiB, BF16 GGUF 162GB. 드래프트 모듈과 정밀도 포함 범위가 문서별로 달라 보이지만 어느 기준이 맞는지는 확인하지 못했습니다. 스토리지를 산정할 때는 가장 큰 값에 여유를 더해 잡는 편이 안전합니다.

정리

V4-Flash-0731은 단일 256GB GPU 또는 8×96GB에서 공식 검증됐고, GGUF 8비트 169GB면 128~192GB급 워크스테이션에 들어갑니다. 반면 V4-Pro-0813은 8장 노드와 893GB 디스크가 전제라 개인 하드웨어 범위를 벗어납니다. FP4 네이티브 모델이라 저비트 양자화의 용량 이득이 거의 없고(Pro Q4 850GB vs Q8 873GB) MI300X 실측에서 양자화 티어를 바꿔도 속도가 37 t/s 부근에 머물렀으니, 병목은 연산이 아니라 대역폭입니다. 1M 컨텍스트를 기본값으로 열지 말고(H200 8장 구성도 800K 상한) 채팅 8,192·코드 32,768에서 시작하는 편이 안전하며, 비용만 따진다면 오프피크 API가 로컬보다 저렴한 구간이 넓습니다.

참고 자료

조사 기준일: 2026년 08월 20일

Tier 1 (모두 2026-08-20 확인)
- DeepSeek API Docs, DeepSeek V4 Preview Release (2026-04-24): https://api-docs.deepseek.com/news/news260424/
- DeepSeek API Docs, DeepSeek-V4-Pro GA Release (2026-08-13): https://api-docs.deepseek.com/news/news260813/
- DeepSeek API Docs, Change Log: https://api-docs.deepseek.com/updates/
- DeepSeek API Docs, Models & Pricing: https://api-docs.deepseek.com/quick_start/pricing/
- HF deepseek-ai/DeepSeek-V4-Pro: https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro
- HF deepseek-ai/DeepSeek-V4-Flash: https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash
- HF deepseek-ai/DeepSeek-V4-Flash-0731: https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash-0731
- HF deepseek-ai/DeepSeek-V4-Pro-0813 파일 목록(893GB, 66샤드): https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro-0813/tree/main
- HF nvidia/DeepSeek-V4-Flash-NVFP4 (2026-05-28): https://huggingface.co/nvidia/DeepSeek-V4-Flash-NVFP4
- vLLM Recipes, DeepSeek-V4-Flash: https://recipes.vllm.ai/deepseek-ai/DeepSeek-V4-Flash
- vLLM Recipes, DeepSeek-V4-Pro: https://recipes.vllm.ai/deepseek-ai/DeepSeek-V4-Pro
- (파싱 실패) DeepSeek V4 Model Card PDF: https://fe-static.deepseek.com/chat/transparency/deepseek-V4-model-card-EN.pdf
Tier 2 (모두 2026-08-20 확인)
- Unsloth Docs, DeepSeek-V4: How to Run Locally: https://unsloth.ai/docs/models/deepseek-v4
- HF unsloth/DeepSeek-V4-Flash-0731-GGUF: https://huggingface.co/unsloth/DeepSeek-V4-Flash-0731-GGUF
- HF unsloth/DeepSeek-V4-Pro-0813-GGUF: https://huggingface.co/unsloth/DeepSeek-V4-Pro-0813-GGUF
- ComputingForGeeks, Run DeepSeek V4 Flash Locally: https://computingforgeeks.com/run-deepseek-v4-flash-locally/
- Atomic Chat, How to Run DeepSeek V4 Flash Locally: https://atomic.chat/blog/guides/how-to-run-deepseek-v4-flash-locally
- Artificial Analysis, DeepSeek V4 Flash 0731: https://artificialanalysis.ai/models/deepseek-v4-flash
- Artificial Analysis, V4 Flash 0731 scores 50 (v4.1): https://artificialanalysis.ai/articles/deepseek-v4-flash-0731-scores-50-on-the-artificial-analysis-intelligence-index-10-points-above-previous-deepseek-v4-flash
- Artificial Analysis, DeepSeek V4 Pro 0813: https://artificialanalysis.ai/models/deepseek-v4-pro
- OfficeChai, DeepSeek V4 0813 Pro Benchmarks: https://officechai.com/ai/deepseek-v4-0813-pro-benchmarks/
- Simon Willison, deepseek-ai/DeepSeek-V4-Flash-0731 (2026-07-31): https://simonwillison.net/2026/Jul/31/deepseek-v4-flash-0731/

Grok 4.6 달라진 점 총정리 — 초보자용 비교 가이드

mdit — Thu, 20 Aug 2026 12:36:03 +0900

2026년 8월 12일 공개된 Grok 4.6이 4.5에서 무엇이 달라졌는지, 컨텍스트·가격·속도·독립 측정치를 기준으로 비교했습니다. 발표문과 실측 사이 간극까지 정리합니다.

Grok 4.6, 무엇을 기준으로 비교해야 할까

Grok 4.6에서 실제로 달라진 것은 "한 번에 읽는 분량"이 아니라 "여러 단계짜리 일을 끝까지 붙잡는 능력"입니다. 2026년 8월 12일 공개된 xAI 공식 포스트를 보면 컨텍스트 창은 500,000토큰으로 4.5와 같고, 독립 측정기관 Artificial Analysis의 지능 지수는 56에서 61로 5점 올랐습니다(2026년 8월 20일 확인). 이 글은 그 변화를 컨텍스트·가격·속도·검증 가능성 네 축으로 비교했습니다. 파라미터 수나 내부 아키텍처는 공식 문서에 없어 다루지 않습니다.

여기서 판단 기준이 갈립니다. 새 모델 소식을 볼 때 대부분 "점수가 올랐는지"만 보는데, 체감을 결정하는 건 세 가지입니다. 첫째, 응답이 시작되기까지 기다리는 시간. Artificial Analysis 측정에서 Grok 4.6은 첫 토큰까지 45.15초가 걸렸습니다. 같은 가격대 추론 모델의 중앙값은 2.79초였습니다. 둘째, 내가 이 모델을 쓸 수 있는 곳이 있는지. 공식 포스트에 적힌 채널은 Cursor, Grok Build, API, 그리고 OpenRouter·Vercel·Cloudflare 같은 파트너뿐이고 소비자용 Grok 앱·grok.com·X·SuperGrok은 언급이 없습니다(확인 필요 — 공식 문서 미확인). 셋째, 같은 단가인데 실제 청구액은 달라질 수 있다는 점. 이 세 축을 빼놓고 지수만 보면 판단이 어긋납니다.

용어를 한 줄로 정리하면, 컨텍스트 창은 모델이 한 번의 대화에서 참고하는 글자 분량이고, 추론 강도(reasoning effort)는 답하기 전에 얼마나 오래 생각할지 정하는 설정입니다. Grok 4.6은 low / medium / high(기본) / xhigh 4단계를 지원합니다.

비교 기준 정리

Grok 4.6과 4.5를 놓고 볼 때 확인해야 할 항목을 표로 정리했습니다. 모든 수치는 2026년 8월 20일 기준입니다.

비교 항목	단위·기준	초보자가 놓치는 주의점
컨텍스트 창	토큰	4.6도 500,000토큰, 4.5와 같습니다. "더 커졌다"고 오해하기 쉬운 지점입니다
입력·출력 형식	텍스트/이미지	입력은 텍스트+이미지, 출력은 텍스트만. 문서상 출력 길이 제한은 없다고 표기됩니다
지식 컷오프	날짜	2026년 2월 1일. 그 이후 사건은 모델이 스스로 알지 못합니다
추론 강도	4단계	low·medium·high·xhigh. 기본값이 high라서 아무 설정 없이 쓰면 가장 비싼 쪽으로 돌아갑니다
입력 단가	1M 토큰당 달러	$2(프롬프트 200k 미만) → 200k 이상이면 $4
캐시 입력 단가	1M 토큰당 달러	$0.50 → 200k 이상 구간 $1.00. 4.5의 $0.30에서 오른 유일한 항목입니다
출력 단가	1M 토큰당 달러	$6 → 200k 이상이면 $12
지능 지수	Artificial Analysis Index	61(추론 강도 high 조건, 9개 평가 합산)
태스크당 실측 비용	달러	Grok 4.6 high $0.84 vs 4.5 high $0.36
출력 속도	tokens/second	59.9 tok/s(동급 평균 74보다 느림)
안전 문서	모델카드 유무	모델카드·시스템카드 미공개. 개선 주장을 대조할 1차 문서가 없습니다

이 표에서 가장 중요한 줄은 가격의 2단 구조입니다. xAI 개발자 문서는 프롬프트가 기준 토큰 수에 도달한 요청이면 그 요청의 모든 토큰에 상위 요율을 적용한다고 명시합니다. 초과분만 비싸지는 게 아니라 요청 전체가 비싸집니다. 광고 문구의 "$2 / $6부터"는 프롬프트가 200,000토큰에 닿지 않을 때만 유효한 값입니다. 500k 컨텍스트를 실제로 활용하는 순간 단가는 두 배가 됩니다.

옵션·유형별 비교

먼저 같은 계열 안에서 4.5와 4.6이 어떻게 다른지 봅니다.

항목	Grok 4.5 (high)	Grok 4.6 (high)	변화
컨텍스트	500,000토큰	500,000토큰	변화 없음
AA 지능 지수	56	61	+5
입력 단가(200k 미만)	$2	$2	동결
출력 단가(200k 미만)	$6	$6	동결
캐시 입력	$0.30	$0.50	약 67% 인상
태스크당 실측 비용	$0.36	$0.84	약 2.3배

읽어야 할 결론은 분명합니다. 단가는 그대로인데 실제 지출은 두 배 넘게 늘었습니다. 토큰 값이 오른 게 아니라 모델이 답을 만들며 쓰는 토큰 자체가 늘어난 구조입니다. Artificial Analysis는 지능 지수 완주에 출력 72M 토큰, 비용 $1,068.47을 소모했다고 기록했습니다. "같은 값에 더 똑똑해진 교체"가 아니라 "더 많이 생각하고 더 많이 청구되는 교체"인 셈입니다.

경쟁 모델과의 위치도 함께 봐야 합니다. 2026년 8월 20일 기준 가격과 지수입니다.

모델	입력/출력(1M 토큰당)	AA 지능 지수	장문 구간 특징
Grok 4.6 (high)	$2 / $6 → 200k↑ $4 / $12	61	200k에서 단가가 두 배로 꺾입니다
Claude Opus 5 (max·xhigh)	$5 / $25	63(최상위)	최고 정확도, 단가는 2.5~4배
Claude Fable 5 (fallback)	$10 / $50, 캐시 히트 $1	62	1M 컨텍스트 전 구간 동일 단가
GPT-5.6 Sol (max)	$5 / $30로 알려짐	61(동점)	원문 페이지 접근 실패로 가격은 확인 필요

Artificial Analysis 리더보드에서 Grok 4.6은 변종 포함 182개 모델 중 6위, 1위 Claude Opus 5(63)와는 2점 차입니다. 다만 Claude Fable 5는 90만 토큰 요청도 9천 토큰 요청과 같은 토큰당 단가로 과금한다고 공식 문서가 밝히고 있어, 장문 구간에서는 Grok의 단가 우위가 절반으로 줄어듭니다.

한 가지 짚어야 할 것이 있습니다. 발표 당일 널리 인용된 "1753 ELO"는 xAI 자사 표의 GDPval-AA v2 항목 값입니다. 2026년 8월 LMArena 상위권이 약 1,525점대인 것과 비교하면 애초에 다른 스케일인데, 일부 매체가 이를 챗봇 아레나 점수로 옮겨 적었습니다. 사실과 다른 인용입니다.

속도 측정치도 서로 엇갈립니다. Artificial Analysis는 첫 토큰까지 45.15초, OpenRouter 실측은 지연 0.83초(P50), 처리량 52 tok/s(P50), 24시간 가동률 99.92%로 기록했습니다. 추론 토큰을 포함해 세는지 여부 때문으로 추정되지만 측정 정의 문서를 대조하지 못했습니다(확인 못 함).

상황별 추천

지금 당장 Grok 4.6을 만져보고 싶은 일반 사용자라면, 서두르지 않아도 됩니다. 공식 안내에 적힌 채널은 Cursor·Grok Build·API·파트너(OpenRouter, Vercel, Cloudflare)뿐이고, 2026년 8월 14일 GitHub Copilot에 추가됐습니다. 소비자용 Grok 앱 지원 여부와 EU 가용성은 공식 문서에 언급이 없습니다(확인 필요 — 공식 문서 미확인). 규제 지역에서 서비스를 준비한다면 별도 확인 없이 도입을 확정하는 건 위험합니다.

긴 문서를 한 번에 넣고 오래 돌리는 작업이 목적이라면, Grok 4.6의 구조를 알고 들어가야 합니다. 프롬프트를 200,000토큰 직전에서 압축하거나 분할하는 것이 가장 큰 절감 지점입니다. 200k에 닿는 순간 그 요청의 모든 토큰이 $4 / $12로 계산되므로, 199k와 201k의 청구액 차이는 단순한 1% 차이가 아닙니다. 반대로 애초에 200k를 훌쩍 넘는 워크로드가 상시라면, 전 구간 동일 단가인 Claude Fable 5 쪽이 계산이 단순하고 캐시 히트 단가도 유리합니다.

대화형으로 빠르게 주고받는 용도라면 Grok 4.6은 맞지 않습니다. 출력 속도 59.9 tok/s는 동급 평균 74보다 느리고, 첫 응답 지연 측정치는 45초대입니다. 사람이 화면을 보며 기다리는 UX에서는 체감이 나쁩니다. 이럴 때는 추론 강도를 high(기본)에서 medium이나 low로 내려 다시 측정해볼 만합니다.

최고 정확도가 필요한 판단 업무라면 Claude Opus 5(AA 63)가 여전히 위에 있습니다. 단가를 우선하되 성능은 동급이어도 좋다면, GPT-5.6 Sol과 지수 61로 동점인 Grok 4.6이 $2 / $6 구간에서 유리합니다. 검증 가능한 안전 문서가 도입 조건인 조직은 Grok 4.6을 선택하기 어렵습니다. 모델카드·시스템카드가 공개되지 않았기 때문입니다.

기존에 Grok 4.5를 쓰던 개발자라면 교체 자체는 간단합니다. 모델 ID를 grok-4.6으로 문자열만 바꾸면 되고, 툴 콜·구조화 출력·추론 강도 4단계를 지원합니다. 다만 캐시 의존도가 높은 에이전트는 실질 인상을 겪습니다. 캐시 입력이 $0.30에서 $0.50으로 올랐기 때문입니다. Grok Build와 Cursor에서는 첫 주 사용량 2배 제공이 공식 안내에 있었으니, 해당 창구를 통한 시험은 비용 부담이 덜했을 것입니다.

자주 하는 실수

첫째, 가격을 "$2 / $6"로만 기억하는 것입니다. 가장 흔하고 가장 비싸게 치르는 실수입니다. 공식 포스트는 "$2부터"라고만 적고 2단 구조를 본문에 설명하지 않습니다. 개발자 문서에 들어가서야 200k 이상 요청 전체가 $4 / $12로 계산된다는 조항이 나옵니다. 여기에 fast 변종은 2배라는 조건까지 겹칩니다. 예산을 짤 때 광고 단가만 넣으면 장문 워크로드에서 실제 청구액이 계획의 두 배 이상으로 뜁니다.

둘째, 벤치마크 점수만 보고 총비용을 계산하지 않는 것입니다. 지수는 56에서 61로 올랐고 토큰 단가는 동결됐으니 "무료 업그레이드"로 보입니다. 그런데 태스크당 실측 비용은 $0.36에서 $0.84로 약 2.3배입니다. 벤치마크 점수와 청구서는 다른 축입니다. 점수 표를 볼 때는 그 점수를 낸 조건(추론 강도 high)과 그 조건에서 소모한 토큰량을 함께 봐야 합니다.

셋째, 발표문의 "즉시 사용 가능"을 내 환경에도 적용되는 말로 읽는 것입니다. 공식 포스트의 가용 채널 목록에 소비자 앱이 없고, GitHub Copilot은 이틀 뒤에 추가됐으며 일부 엔터프라이즈는 관리자 활성화가 필요합니다. 안전 서술도 한 문장 수준으로만 제시됐습니다. 발표 당일 코멘터리에 안전 문서화가 다른 주요 개발사보다 뒤처진다는 지적과 4.5에서 얼마나 개선된 것인지 불확실하다는 회의론이 함께 실렸다는 점도 참고할 만합니다. Grok 4.7이 3~4주 내 나온다는 발언도 있었지만 일정·스펙 모두 미확정입니다.

정리

Grok 4.6에서 달라진 것은 컨텍스트가 아니라 사고 지속력입니다. 500,000토큰은 그대로이고 독립 측정 지수만 56 → 61로 올랐으며, 그 대가로 태스크당 실측 비용이 약 2.3배가 됐습니다. 고를 기준은 한 줄로 요약됩니다 — 프롬프트가 200,000토큰 아래로 유지되는 대량 배치 작업이면 Grok 4.6이 가격 대비 가장 낫고, 장문 컨텍스트·저지연 대화·검증 가능한 안전 문서가 필요하면 Claude 계열을 봐야 합니다. 모든 가격·점수는 2026년 8월 20일 기준이며, 소비자 앱 지원과 EU 가용성은 아직 공식 문서로 확인되지 않았습니다.

참고 자료

조사 기준일: 2026년 08월 20일

Tier 1 (모두 2026-08-20 확인)
- https://x.ai/news/grok-4-6 (2026-08-12)
- https://docs.x.ai/developers/grok-4-6
- https://docs.x.ai/developers/models
- https://docs.x.ai/developers/release-notes
- https://x.ai/news/grok-4-6-github-copilot (2026-08-14)
- https://platform.claude.com/docs/en/about-claude/pricing
Tier 2 (모두 2026-08-20 확인)
- https://artificialanalysis.ai/models/grok-4-6
- https://artificialanalysis.ai/leaderboards/models
- https://openrouter.ai/x-ai/grok-4.6
- https://www.testingcatalog.com/icymi-xai-releases-grok-4-6-for-long-running-agent-work/
- https://www.techmeme.com/260812/p39
접근 실패(본문 대조 못 함)
- https://venturebeat.com/technology/spacexai-debuts-grok-4-6-... (HTTP 403)
- https://openai.com/index/advancing-the-price-performance-frontier-with-gpt-5-6/ (HTTP 403)
- https://arena.ai/leaderboard (리더보드 값 미노출)

오픈웨이트 LLM 로컬 실행 가능성 비교: 24GB VRAM 기준 순위표 읽는 법

mdit — Wed, 19 Aug 2026 13:52:23 +0900

오픈웨이트 LLM 순위 상위권 중 실제로 개인 PC에서 돌아가는 모델은 몇 개일까. Kimi K3 1.56TB부터 Qwen3.8-27B 18GB까지 파라미터·VRAM·라이선스를 2026년 8월 기준 수치로 비교했다.

오픈소스 LLM 순위, 무엇을 기준으로 비교해야 할까

오픈웨이트 모델 순위표를 보고 "1위 모델을 내 PC에 깔아보자"고 생각했다면 시작부터 어긋난 접근이다. 2026년 8월 18일 기준 Artificial Analysis Intelligence Index v4.1.1에서 오픈웨이트 1위인 Kimi K3는 Hugging Face 리포지토리 실물이 safetensors 96샤드 합계 약 1.56TB다. 샤드 하나가 16.6~17GB이니, 샤드 한 개조차 웬만한 그래픽카드 메모리를 가득 채운다. 순위표는 이 사실을 알려주지 않는다.

이 간극은 통계로도 확인된다. Hugging Face가 2026년 8월 14일 공개한 집계를 보면 누적 다운로드의 83%를 10억 파라미터 미만 모델이 가져가고, 1,000억 파라미터 초과 모델은 1%에 그친다. 2026년 활동만 한정해도 700억 초과는 3%다. 순위표 상단과 실제 사용 분포가 거의 반대 방향을 가리키는 셈이다.

비교 기준은 세 축으로 나뉜다. 첫째는 역량 지수(종합 벤치마크), 둘째는 하드웨어 적합성(총 파라미터·양자화 후 용량·컨텍스트 KV 캐시), 셋째는 라이선스와 배포 경로다. 이 셋 중 하나만 보고 결정하면 반드시 어딘가에서 막힌다. 성능만 보면 다운로드조차 못 하고, 용량만 보면 쓸모없는 모델을 받으며, 라이선스를 빠뜨리면 회사 제품에 넣은 뒤 문제가 생긴다.

이 글은 2026년 8월 18일 확인 기준으로 세 축을 함께 놓고 비교한다. 수치는 각 모델의 공식 모델 카드와 Artificial Analysis 측정치를 출처로 삼았고, 확인하지 못한 항목은 미확인 상태를 그대로 표기했다.

비교 기준 정리

로컬 실행 가능성을 판단할 때 실제로 확인해야 하는 항목은 다음과 같다. 순위표 한 칸에 담기지 않는 것들이 대부분이다.

기준 항목	단위·형태	확인 방법	놓치기 쉬운 점
총 파라미터	B(십억)·T(조)	모델 카드 상단	활성 파라미터가 작아도 총량은 전부 메모리에 올라간다
활성 파라미터	B	MoE 모델만 해당	연산량만 줄지, 적재량은 안 줄어든다
양자화 후 실물 용량	GB	Ollama 태그·GGUF 리포	Q4 기준 대략 총 파라미터의 절반 GB가 목표선
컨텍스트 창	토큰	모델 카드	창을 다 쓰면 KV 캐시가 가중치 위에 추가로 얹힌다
종합 역량 지수	AA Index	Artificial Analysis	단일 벤치와 순서가 다르다
출력 장황도	총 출력 토큰	AA 모델 페이지	점수표에 안 나오는 실사용 대기 시간
라이선스	문자열	LICENSE 원문	같은 브랜드 안에서도 조건이 갈린다
공식 로컬 태그	Ollama·LM Studio	런타임 라이브러리	cloud 태그만 있으면 로컬 실행 경로가 없다

가장 자주 오해되는 항목은 활성 파라미터다. Qwen3.6-35B-A3B는 토큰당 30억 파라미터만 활성화하는 MoE 구조지만, 가중치 350억 개 전체를 메모리에 적재해야 한다. 실제로 이 모델의 공식 배포 가이드는 GPU 8장 텐서 병렬을 권장하고, 메모리 부족(OOM) 시 컨텍스트 창을 줄이라고 안내한다. "3B만 활성이니 가볍다"는 설명은 연산 효율 이야기지 메모리 이야기가 아니다.

두 번째로 중요한 건 공식 로컬 태그의 존재 여부다. Ollama 라이브러리 기준으로 glm-5.2는 태그가 glm-5.2:cloud 하나뿐이며 로컬 양자화 태그가 없다. 역시 cloud 태그로 등재돼 있다. 다만 gpt-oss처럼 로컬 태그와 cloud 태그를 함께 가진 사례도 있으므로, cloud 태그가 있다고 해서 "클라우드 전용"이라 단정할 수는 없다.

세 번째는 양자화에 따른 장문맥 품질 저하인데, 이 항목은 어떤 벤더도 공식 수치를 내놓지 않는다. Q4로 내렸을 때 100만 토큰 컨텍스트 성능이 얼마나 떨어지는지, 1차 자료는 2026년 8월 18일 기준 확인하지 못했다. 이 부분은 미확인 영역으로 남겨두는 것이 정확하다.

옵션·유형별 비교

먼저 종합 순위와 로컬 실행 가능성을 나란히 놓아보자. AA Intelligence Index v4.1.1은 GDPval-AA v2, Terminal-Bench v2.1, GPQA Diamond 등 9개 평가의 가중 합산이며 단일 벤치가 아니다.

순위	모델	AA 지수	총 파라미터	로컬 1대 실행
1	Kimi K3 (max)	60	2.8T	불가
2	DeepSeek V4 Pro	53	1.6T	불가
3	GLM-5.2 (max)	53	753B	불가
4	Qwen3.8 27B	52	27B	가능(18GB)
5	Motif 3	47	314B	불가
6	MiniMax-M3	45	428B	불가
8	Nemotron 3 Ultra	38	550B	불가
9	Solar Open2 250B	37	250B	불가
10	Muse Glimmer (high)	35	30B	가능(17GB Q4)
11	gpt-oss-120b (high)	24	117B	가능(65GB)

상위 11개 중 소비자용 그래픽카드 한 장에 들어가는 모델은 사실상 두 개다. 참고로 전체 모델(비공개 포함) 1위는 Claude Opus 5(max) 63으로, 오픈웨이트 최상단과 프런티어의 지수 격차는 3점이다.

다음은 24GB VRAM 한 장을 전제로 한 3파 비교다.

항목	Qwen3.8-27B	Muse Glimmer 30B	Gemma 4 31B
배포 주체	Alibaba	Meta	Google
라이선스	Apache 2.0	Apache 2.0	Apache 2.0
Q4 로컬 용량	18GB(Ollama 공식)	17GB(24GB VRAM 타깃)	모델 카드 미기재
컨텍스트	262,144 → 1,000,000	131,072+	256K
모달리티	텍스트·이미지·영상	텍스트·이미지	텍스트·이미지·영상
AA 지수	52	35	30
자사 SWE-bench	Pro 61.7	Verified 76.0	미기재
측정 출력 속도	자료 미확인	110.9 tok/s	36.0 tok/s
로컬 실행 명령	`ollama run qwen3.8:27b`	Ollama·LM Studio 통합	gemma4 로컬 태그 미확인

Qwen3.8-27B는 dense 27B 구조에 Apache 2.0이며, Ollama v0.32.12(2026년 8월 14일)에서 정식 지원됐다. Apple Silicon용으로는 qwen3.8:27b-mlx 태그가 별도로 있다. 다만 AA 평가 과정에서 출력 토큰 1억 6,000만 개를 소모해 중앙값 4,300만의 약 3.7배를 기록했고, 페이지에는 매우 장황하다는 평가가 붙었다.

Muse Glimmer 30B는 모델 카드가 양자화별 목표 VRAM을 직접 명시한 드문 사례다. K-Quant 17GB판은 24GB VRAM, K-Quant-Dynamic판은 32GB VRAM이 목표다. 추측 디코딩용 DFlash 드래프터(16토큰 블록 예측)와 ExecuTorch 빌드가 함께 배포된다.

8~16GB 구간에서는 선택지가 좁아진다. gpt-oss-20b는 Ollama 기준 14GB, 시스템 메모리 16GB, MXFP4 4.25비트로 돌아가지만 2025년 8월 원본이 그대로 유지 중이고, 형제 모델 gpt-oss-120b의 AA 지수는 24로 오픈웨이트 최하단이다. Gemma 4 E2B(유효 2.3B)는 자사 벤치 MMLU Pro 60.0, AIME 2026 37.5로 요약·분류·오디오 처리용이지 추론용이 아니다.

상황별 추천

개인이 24GB 그래픽카드 한 장으로 최고 성능을 원하는 경우 — Qwen3.8-27B가 현재 유일하게 "순위표 상단이면서 소비자 GPU에 들어가는" 선택지다. AA 지수 52로 오픈웨이트 4위인데, 위 세 자리는 각각 2.8T·1.6T·753B다. 다만 262K 컨텍스트를 실제로 쓰려면 KV 캐시가 18GB 위에 별도로 얹히므로 여유가 빠듯하다. 출력이 장황해 체감 대기 시간이 길다는 점도 감수해야 한다.

에이전트·툴 호출 자동화가 목적이라면 Muse Glimmer 30B를 먼저 살펴볼 만하다. AA 지수는 35로 낮지만 자사 SWE-Bench Verified 76.0, MCP Atlas 75.5를 제시하고, Meta 공식 개발자 페이지가 컨슈머 GPU 또는 Mac 1대로 충분하다고 명시한다. 배포 엔지니어링이 패키징 단계에서 끝나 있다는 점이 실질 차이다. AA 측정 API 가격은 입력 100만 토큰당 0.32달러, 출력 1.35달러로 동급 오픈웨이트 대비 비싼 편이라는 평가가 붙어 있다(2026년 8월 18일 기준).

노트북·맥북 에어급 8~16GB 환경이라면 gpt-oss-20b가 무난한 기본값이다. 성능 기대치는 낮춰야 한다. 라즈베리파이·Jetson Orin Nano 같은 임베디드 오프라인 실행이 목적이면 Gemma 4 E2B·E4B가 Google 공식 주장 범위에 든다.

사내 온프레미스 구축이고 한국어 비중이 높다면 후보는 둘이다. Motif 3(Moreh)는 MIT 라이선스, 314B/13.2B 활성, AA 지수 47로 오픈웨이트 5위이며 이는 MiniMax-M3(45)·Solar Open2(37)보다 위다. Solar Open 2 250B-A15B(Upstage)는 활성 15B, 1M 컨텍스트, 한·영·일 공식 지원이나 라이선스는 자체 Upstage Solar License다. 둘 다 개인 로컬 실행 범위 밖이며, 서버급 멀티 GPU 구성이 전제다.

셀프호스팅으로 최상위 성능을 노리는 경우 라이선스가 갈림길이다. DeepSeek V4-Pro(1.6T)와 GLM-5.2(753B)는 MIT로 이 급에서 조건 없는 허용에 해당한다. Kimi K3는 성능 1위지만 자체 "Kimi K3 License"로 매출·이용자 수 조건이 붙는다.

자주 하는 실수

첫째, 브랜드명만 보고 라이선스를 같다고 가정하는 것. 같은 Qwen3.8 계열 안에서도 27B는 Apache 2.0이지만, Qwen3.8-2.4T-A95B(Max 계열)는 qwen3.8-max 전용 라이선스다. 12개월 누적 매출 5,000만 달러 이상 기업이 MaaS·AI 코딩 어시스턴트 사업에 쓰려면 별도 상용 계약이 필요하고, 월간 사용자 1억 초과 또는 월 매출 2,000만 달러 초과 제품은 UI에 모델명을 표시해야 한다. 다만 제3자에게 기능을 제공하지 않는 내부 사용은 5,000만 달러 임계의 예외다. 개인 사용은 대체로 문제없지만, 회사 제품 탑재 계획이 있다면 모델별 LICENSE 원문을 한 번은 열어야 한다.

둘째, 발표 시점 순위를 현재형으로 인용하는 것. Gemma 4 공식 블로그가 제시한 "오픈 모델 3위(31B)·6위(26B)"는 본문에 명시된 대로 2026년 4월 1일 스냅샷이다. 4개월 반이 지난 2026년 8월 18일 기준 AA v4.1.1에서 Gemma 4 31B는 지수 30으로 상위 10위권 경계에 있다. 같은 맥락에서 자사 벤치 조건도 확인해야 한다. 조건이 다른 값끼리 비교하면 성립하지 않는다.

셋째, 단일 벤치 서열을 종합 서열로 착각하는 것. 자사 발표 SWE-bench Verified 기준으로는 MiniMax-M3 80.5 > Motif 3 76.2 > Muse Glimmer 76.0 순이지만, AA 종합 지수는 Qwen3.8 27B 52 > Motif 3 47 > MiniMax-M3 45 > Muse Glimmer 35로 순서가 다르다. 여기에 더해 가중치를 내려받는 순간 벤더의 거부 정책은 사라진다는 점도 계산에 넣어야 한다. SaferAI 측정에서 GLM-5.2는 주어진 공격적 사이버·생물 과제를 하나도 거부하지 않았고, Z.ai는 안전 프레임워크와 사전 배포 테스트 결과를 공개하지 않았다.

정리

순위표 1위와 내 장비에서 돌아가는 모델은 완전히 다른 목록이며, 2026년 8월 18일 기준 오픈웨이트 상위 11개 중 소비자 GPU 한 장에 들어가는 건 Qwen3.8-27B(18GB)와 Muse Glimmer 30B(17GB Q4) 정도다. 총 파라미터·양자화 후 용량·공식 로컬 태그를 먼저 확인하고, 그다음 AA 지수 같은 종합 역량을 보는 순서가 실용적이다. MoE 모델의 활성 파라미터는 연산량 지표일 뿐 적재량 지표가 아니라는 점, 그리고 라이선스는 같은 브랜드 안에서도 갈린다는 점이 가장 자주 놓치는 두 함정이다. 하나로 줄이면 이렇다 — 성능 순위표가 아니라 "내 VRAM 용량 → 양자화 후 실물 GB → 라이선스 → 종합 지수" 순서로 좁혀 들어가야 실제로 쓸 모델이 남는다.

참고 자료

조사 기준일: 2026년 08월 18일

Tier 1 — 공식 1차 자료 (모두 2026-08-18 WebFetch로 원문 확인)

모델 카드·공식 블로그
- Hugging Face moonshotai/Kimi-K3 모델 카드 — https://huggingface.co/moonshotai/Kimi-K3
- Hugging Face moonshotai/Kimi-K3 파일 트리(1.56 TB, 96샤드) — https://huggingface.co/moonshotai/Kimi-K3/tree/main
- Hugging Face deepseek-ai/DeepSeek-V4-Pro — https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro
- Hugging Face deepseek-ai/DeepSeek-V4-Flash — https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash
- Z.ai(zai-org) 공식 블로그 "GLM-5.2: Built for Long-Horizon Tasks", 게시 2026-06-17 — https://huggingface.co/blog/zai-org/glm-52-blog
- Hugging Face Qwen/Qwen3.8-27B — https://huggingface.co/Qwen/Qwen3.8-27B
- Hugging Face Qwen/Qwen3.8-2.4T-A95B — https://huggingface.co/Qwen/Qwen3.8-2.4T-A95B
- Qwen3.8-Max LICENSE 원문 — https://huggingface.co/Qwen/Qwen3.8-2.4T-A95B/blob/main/LICENSE
- Hugging Face Qwen/Qwen3.6-35B-A3B — https://huggingface.co/Qwen/Qwen3.6-35B-A3B
- Hugging Face Qwen/Qwen3.5-9B — https://huggingface.co/Qwen/Qwen3.5-9B
- Google "Gemma 4: Byte for byte, the most capable open models", 2026-04-02 — https://blog.google/innovation-and-ai/technology/developers-tools/gemma-4/
- Google AI for Developers, Gemma 4 model card — https://ai.google.dev/gemma/docs/core/model_card_4
- Hugging Face meta-models/Muse-Glimmer-30B — https://huggingface.co/meta-models/Muse-Glimmer-30B
- Meta 개발자 사이트, Muse Glimmer — https://developer.meta.com/ai/models/muse-glimmer/
- Hugging Face Motif-Technologies/Motif-3 — https://huggingface.co/Motif-Technologies/Motif-3
- Hugging Face upstage/Solar-Open2-250B — https://huggingface.co/upstage/Solar-Open2-250B
- Hugging Face MiniMaxAI/MiniMax-M3 — https://huggingface.co/MiniMaxAI/MiniMax-M3
- NVIDIA Newsroom "NVIDIA Debuts Nemotron 3 Family of Open Models", 2025-12-15 — https://nvidianews.nvidia.com/news/nvidia-debuts-nemotron-3-family-of-open-models
로컬 런타임 공식 자료
- Ollama 릴리스 v0.32.12, 2026-08-14 — https://github.com/ollama/ollama/releases/tag/v0.32.12
- Ollama 모델 라이브러리(전체) — https://ollama.com/library
- Ollama qwen3.8 태그 목록 — https://ollama.com/library/qwen3.8
- Ollama glm-5.2 태그 목록(cloud 단일 태그) — https://ollama.com/library/glm-5.2
- Ollama 태그 목록 — https://ollama.com/library/gpt-oss

Tier 2 — 독립 검증 (모두 2026-08-18 확인)

Artificial Analysis, 오픈웨이트 모델 순위(Intelligence Index v4.1.1) — https://artificialanalysis.ai/models/open-source (동일 페이지 2회 조회 교차 검증)
Artificial Analysis, 전체 모델 리더보드 — https://artificialanalysis.ai/leaderboards/models
Artificial Analysis, Qwen3.8 27B — https://artificialanalysis.ai/models/qwen3-8-27b
Artificial Analysis, Muse Glimmer — https://artificialanalysis.ai/models/muse-glimmer
Artificial Analysis, Gemma 4 31B — https://artificialanalysis.ai/models/gemma-4-31b
Hugging Face 블로그 "State of Open Models: Summer 2026", 2026-08-14 — https://huggingface.co/blog/state-of-open-models-summer-2026
Hugging Face GGUF 리포 다운로드 순위 — https://huggingface.co/models?sort=downloads&search=gguf
Hugging Face GLM-5.2 GGUF 검색 결과 — https://huggingface.co/models?search=GLM-5.2-GGUF
Nathan Lambert(interconnects.ai) "GLM-5.2 is the step change for open agents", 2026-06-22 — https://www.interconnects.ai/p/glm-52-is-the-step-change-for-open
Nathan Lambert(interconnects.ai) "Kimi K3: The open-weights escalation", 2026-07-20 — https://www.interconnects.ai/p/kimi-k3-the-open-weights-escalation
TechCrunch "Moonshot's upcoming Kimi 3 is expected to close the gap with Anthropic's Opus 4.8", 2026-07-16 — https://techcrunch.com/2026/07/16/moonshots-upcoming-kimi-3-is-expected-to-close-the-gap-with-anthropics-opus-4-8/
TechCrunch "Open-weight AI models are catching up to the frontier. The safety gap remains.", 2026-08-04 — https://techcrunch.com/2026/08/04/open-weight-ai-models-are-catching-up-to-the-frontier-the-safety-gap-remains/
MarkTechPost "Best Local LLMs You Can Run on a Single 24GB GPU in 2026", 2026-07-19 — https://www.marktechpost.com/2026/07/19/best-local-llms-you-can-run-on-a-single-24gb-gpu-in-2026-qwen-gemma-mistral-deepseek-compared/

조사하지 않은 영역

Tier 3(레딧·X·유튜브·Hacker News 등 커뮤니티): 이번 리서치 범위에서 제외. 로컬 실행 체감 속도·양자화 품질 저하에 대한 사용자 보고는 이 문서에 반영되지 않았다.
검색 과정에서 다수의 SEO형 요약 사이트(벤치마크 집계 블로그, 모델 소개 페이지 등)가 노출됐으나, 원문 대조가 불가능하거나 1차 자료를 재가공한 것이어서 인용하지 않았다.

Stripe OpenRouter 인수설, 개발자 게이트웨이 선택 기준 총정리

mdit — Tue, 18 Aug 2026 21:40:23 +0900

2026년 8월 18일 기준 Stripe의 OpenRouter 인수는 공식 발표가 없는 미확인 보도 단계입니다. 수수료 5.5%, BYOK 5%, Vercel·Cloudflare 게이트웨이 비교로 실제 판단 기준을 정리했습니다.

Stripe OpenRouter 인수, 무엇을 기준으로 비교해야 할까

가장 먼저 짚어야 할 사실이 있습니다. 2026년 8월 18일 기준 이 인수는 공식적으로 확인되지 않았습니다. Stripe 뉴스룸의 최신 항목은 2026년 7월 21일 Ramp 관련 스테이블코인 결제 발표이고, OpenRouter 블로그의 최신 항목은 2026년 8월 17일 Activity Dashboard 발표입니다. 양쪽 어디에도 인수 관련 게시물이 없습니다. Stripe는 과거 OpenChannel 인수를 뉴스룸에 게시한 전례가 있으므로, 이번 부재는 채널 관행 문제가 아닙니다.

보도 상황은 이렇습니다. Bloomberg가 2026년 8월 16일 70억 달러 초과 규모의 인수 합의를 보도했고, 이후 대부분의 기사가 이 보도를 원출처로 인용했습니다. TechCrunch는 어느 쪽도 공식 확인하지 않았다고 명시했고, Fortune 역시 관계자 취재이며 최종 가격은 바뀔 수 있다고 단서를 달았습니다. 금액도 매체마다 갈립니다. 2026년 7월 Wall Street Journal 선행 보도는 약 100억 달러, Axios는 80억 달러 근접, Bankless 계열은 80억 달러 초과 현금+주식 혼합으로 전했습니다.

그래서 개발자가 지금 비교할 대상은 "인수가 사실인가"가 아닙니다. 인수 성사 여부와 무관하게 이미 확정된 과금 구조와 락인 비용입니다. 판단 기준은 세 가지로 좁혀집니다. 첫째 크레딧·BYOK 수수료율, 둘째 게이트웨이 교체 시 실제로 발생하는 마이그레이션 비용, 셋째 라우팅 동작이 내 코드 변경 없이 바뀌는지 여부입니다. 인수 후 수수료·데이터 정책·라우팅 중립성 변경 계획은 공개된 내용이 전혀 없다고 Forkast가 2026년 8월 17일 명시했으므로, 이 부분은 현재 확인 불가 항목으로 남깁니다.

비교 기준 정리

게이트웨이를 비교할 때 흔히 "토큰 마크업이 있느냐"만 봅니다. 그러나 실제 청구서를 결정하는 변수는 더 많습니다. 아래는 2026년 8월 18일 기준으로 확인된 항목별 기준과 주의점입니다.

비교 항목	단위·기준	확인된 값(OpenRouter)	주의점
토큰 마크업	추론 요금 대비 %	0%	마크업 0%가 곧 총비용 0 추가는 아닙니다
크레딧 구매 수수료	충전 금액 대비 %	5.5%, 최소 $0.80	소액 충전 시 최소 수수료가 실효율을 크게 올립니다
암호화폐 결제	결제 금액 대비 %	5%	카드 결제보다 0.5%p 낮습니다
BYOK 수수료	정가 기준 추론 비용의 %	5%	기준이 요청 수가 아니라 정가 기준 비용입니다
BYOK 면제 한도	월 단위 정가 기준 비용	PAYG 월 $25,000 / Enterprise 월 $200,000	한도 초과분부터 5% 적용
로깅 옵트인 할인	사용 요금 대비 %	1% 할인	기본 정책은 프롬프트·응답 무로깅
데이터 보존	정책 옵션	Zero Data Retention, EU 인리전 라우팅 제공	자사 문서 기준(2026년 6월 19일)
카탈로그 규모	모델·프로바이더 수	500+ 모델 / 80+ 프로바이더	자사 비교 문서(2026년 6월 19일)는 300+ / 70+로 불일치

여기서 두 가지를 특히 유의해야 합니다. 첫째, BYOK 수수료 기준이 "정가 기준 추론 비용"입니다. 프로바이더와 직접 계약해 할인가를 받고 있더라도, 수수료 계산의 기준선은 OpenRouter에서 그대로 썼을 때의 정가입니다. 할인율이 클수록 상대적 수수료 부담이 커지는 구조입니다.

둘째, 규모 지표는 시점을 반드시 확인해야 합니다. 인수설을 다룬 다수 보도가 "개발자 800만 명, 모델 400개 이상"을 현재형으로 썼지만, 그건 2026년 5월 28일 Series B 발표 시점 수치입니다. 같은 발표에서 조달액은 1억 1,300만 달러였고, 리드 투자자는 CapitalG였습니다. 일부 보도가 언급한 "1억 6,400만 달러 라운드"는 누적 조달액을 라운드 규모로 잘못 옮긴 듯합니다. 또한 거의 모든 매체가 "5.4배 프리미엄" 계산의 기준으로 삼은 13억 달러 밸류에이션은 공식 Series B 발표문에 없는 수치여서, 그 배수 계산에는 1차 근거가 없습니다.

옵션·유형별 비교

세 개 게이트웨이의 실제 과금 구조를 비교하면 다음과 같습니다. 모두 2026년 8월 18일 확인 기준이며, Vercel 문서는 2026년 8월 1일 최종 업데이트 표기입니다.

구분	OpenRouter	Vercel AI Gateway	Cloudflare AI Gateway
토큰 마크업	0%	마크업·플랫폼 수수료 없음	프로바이더 정가 통과, 마크업 없음
크레딧 수수료	5.5%(최소 $0.80)	없음(결제 처리 수수료는 사용자 부담, Enterprise는 인보이스로 회피)	Unified Billing 크레딧 5%
BYOK	정가 기준 5%, 월 $25,000·$200,000까지 면제	수수료 없음(유료 티어 필요)	문서상 별도 BYOK 수수료 언급 없음
부가 기능 과금	라우팅 자체는 추가 요금 없음	Custom Reporting 쓰기 $0.075/1,000건, 쿼리 $5/1,000건, 프로바이더 허용목록 $0.10/1,000 성공요청, 팀 ZDR $0.10/1,000요청	영구 로그 무료 10만건·유료 게이트웨이당 1,000만건, Guardrails는 Workers AI 토큰 별도
카탈로그	500+ 모델 / 80+ 프로바이더	무료 티어는 전체 카탈로그의 일부만	문서상 명시 없음

핵심 차이는 BYOK 구간에서 벌어집니다. OpenRouter는 면제 한도를 넘기면 정가의 5%를 물리지만, Vercel은 BYOK에 마크업·수수료가 없다고 명시합니다. 다만 여기에 반전이 있습니다. Vercel은 팀 단위 ZDR과 프로바이더 허용목록을 건당 과금하므로, 규정 준수 요건이 강한 조직에서는 총액이 역전될 수 있습니다. 월 1,000만 요청 규모에서 팀 ZDR만 켜도 $1,000이 붙습니다.

Cloudflare는 코어 기능이 무료이고 Unified Billing 수수료가 5%로 OpenRouter보다 0.5%p 낮습니다. 대신 모델 카탈로그 폭과 자동 라우팅 깊이는 OpenRouter에 못 미칩니다. Portkey는 대체재가 아니라 앞단에 얹는 보완재로 보는 편이 정확하며, Developer 무료(월 10K 로그), Production 월 $49(월 100K 로그) 구성입니다. 다만 이 가격은 OpenRouter가 자사 비교 문서에 옮겨 적은 값이므로 Portkey 공식 가격표 재확인을 권합니다.

인수 이전부터 존재한 결합도 함께 봐야 합니다. OpenRouter는 2026년 1월 29일 시점에 이미 Stripe Invoicing·Stripe Tax·Radar for Fraud Teams 위에서 청구를 운영했고, 2026년 4월 29일에는 Stripe Projects 연동을 발표해 stripe projects add openrouter/api 한 줄로 계정 생성·API 키 발급·청구 연결·.env 주입이 끝나는 구조를 만들었습니다. 이미 결제 계층이 Stripe였다는 사실은, 인수가 성사돼도 API 엔드포인트·SDK 호환성이 즉시 깨질 이유가 없다는 근거입니다.

상황별 추천

모델 카탈로그 폭과 자동 라우팅이 핵심 요구사항이라면 OpenRouter입니다. 500개 이상 모델과 시장 지출 기반 Auto Router는 나머지 두 곳에 대응물이 없습니다. 대가로 크레딧 충전 시 5.5%를 냅니다. 월 크레딧 충전액이 $2,000 수준이면 수수료는 $110입니다. 이 금액이 카탈로그 접근권과 라우팅 자동화의 값이라고 판단되면 합리적입니다.

BYOK로 대량 트래픽을 흘릴 계획이면 현재 조건에서 Vercel AI Gateway가 구조적으로 저렴합니다. OpenRouter의 PAYG 면제 한도 월 $25,000을 넘기는 순간부터 초과분에 5%가 붙는 반면, Vercel BYOK는 수수료가 없다고 명시합니다. 정가 기준 월 $100,000을 쓰는 조직이라면 OpenRouter 쪽 초과 수수료가 월 $3,750 수준입니다. 단, 팀 단위 ZDR·프로바이더 허용목록이 필수인 규제 환경이라면 건당 과금을 더해 다시 계산해야 합니다.

이미 Cloudflare 스택에 붙어 있고 캐싱·레이트리밋·로그가 주 목적이면 Cloudflare AI Gateway가 맞습니다. 코어 기능 무료에 Unified Billing 수수료 5%로 가장 낮고, 유료 게이트웨이당 영구 로그 1,000만 건이 포함됩니다. 카탈로그가 넓지 않아도 되는 단일 모델·소수 모델 워크로드에 적합합니다.

응답 품질이 걸린 프로덕션 경로라면 openrouter/auto 사용 여부를 지금 점검해야 합니다. 2026년 8월 10일 Auto Router가 전면 교체됐습니다. 경량 분류기가 프롬프트를 약 30종 세부 태스크로 분류한 뒤, 최근 7일간 커뮤니티가 실제로 지출한 모델을 조회해 라우팅합니다. 추가 수수료는 없고 실행 모델의 표준 요금만 냅니다. 문제는 내 코드를 바꾸지 않아도 라우팅 결과가 시장에 따라 움직인다는 점입니다. 품질 고정이 필요하면 명시적 모델 지정을, 최신 동작을 먼저 확인하려면 openrouter/auto-beta를 쓰는 편이 낫습니다.

자주 하는 실수

첫째, 기사 제목만 보고 인수를 확정 사실로 받아들이는 것입니다. 다수 매체가 "Acquires", "Closes"처럼 완료형 제목을 달았지만, 같은 기사 본문은 관계자 취재이고 양사가 코멘트를 거부했으며 최종 가격이 변동 가능하다고 적고 있습니다. 제목과 본문 사이에 간극이 있습니다. 규제 심사, 클로징 조건, 예상 완료 시점은 어느 매체도 다루지 않았으므로 전부 확인 불가 항목입니다.

둘째, "마크업 0%"를 총비용 0 추가로 오해하는 것입니다. OpenRouter의 추론 마크업은 실제로 0%지만, 비용은 크레딧 구매 단계에서 5.5%로 발생합니다. 세 게이트웨이 모두 토큰 마크업이 없다고 명시하므로, 마크업 항목만 비교하면 세 곳이 동일해 보이고 실제 차이가 전부 가려집니다. 비교는 크레딧 수수료·BYOK 수수료·부가 기능 건당 과금 세 줄에서 결정됩니다.

셋째, 탈출 비용을 재보지 않고 게이트웨이를 고르는 것입니다. OpenRouter는 OpenAI 호환 인터페이스여서 교체 자체는 베이스 URL·키 수준 작업으로 보입니다. 그러나 실제 락인은 다른 곳에 있습니다. 모델 슬러그 네이밍, 프로바이더 라우팅 정책, Guardrails·Classifiers 같은 고유 기능, 그리고 누적된 사용량 로그입니다. 자사 코드가 이 중 몇 개에 의존하는지 세어 보면 그게 마이그레이션 비용입니다. 2026년 8월 17일 출시된 Activity Dashboard로 현재 지출 분포를 뽑아 두면 비교 근거가 생기지만, 함께 공개된 Analytics API는 베타 상태입니다. 자동화를 붙일 계획이라면 정식 출시 시점과 과금이 미공개라는 전제를 두고 접근해야 합니다.

넷째, 벤치마크 수치를 조건 없이 인용하는 것입니다. 신규 Auto Router 발표문의 MMLU Pro 수치는 default 설정에서 신규 85.2%±0.3 대 구버전 86.6%±0.1로 신규가 더 낮고, max 티어에서만 91.4%±0.3 대 88.8%±0.3으로 역전됩니다. "새 라우터가 더 낫다"는 결론은 비용 티어 설정에 의존하는 조건부 주장입니다.

정리

2026년 8월 18일 기준 Stripe의 OpenRouter 인수는 Bloomberg 등 언론 보도만 있고 공식 발표가 없는 상태이며, 금액도 70억~100억 달러로 매체마다 상충합니다. 인수 여부와 무관하게 개발자가 지금 계산해야 할 값은 크레딧 5.5%, BYOK 정가 기준 5%(PAYG 월 $25,000 면제), 그리고 게이트웨이 교체 시의 락인 항목 수입니다. BYOK 대량 트래픽은 Vercel, Cloudflare 스택 내 캐싱·로그 중심은 Cloudflare, 카탈로그 폭과 자동 라우팅은 OpenRouter가 유리합니다. 인수 뉴스보다 2026년 8월 10일 Auto Router 교체가 응답 품질에 더 직접적인 영향을 주므로, openrouter/auto를 프로덕션에 쓰고 있다면 그쪽을 먼저 점검하는 편이 실용적입니다.

참고 자료

조사 기준일: 2026년 08월 18일

Tier 1 (공식 1차 자료, 모두 2026-08-18 확인)
- Stripe Newsroom 목록 — https://stripe.com/newsroom/news (최신 항목 2026-07-21, 인수 발표 부재 확인)
- Stripe Newsroom, "Stripe powers OpenRouter's global AI model access for millions of developers" (2026-01-29) — https://stripe.com/newsroom/news/openrouter-and-stripe
- OpenRouter Blog, Announcements 목록 — https://openrouter.ai/blog/announcements/ (인수 발표 부재 확인)
- OpenRouter, "OpenRouter Raises $113M Series B" (2026-05-28) — https://openrouter.ai/blog/announcements/series-b/
- OpenRouter, "Model Routing Powered by Wisdom of the Market" (2026-08-10) — https://openrouter.ai/blog/announcements/introducing-the-new-auto-router/
- OpenRouter, Activity Dashboard / Analytics API beta (2026-08-17) — https://openrouter.ai/blog/announcements/activity-dashboard/
- OpenRouter, "Create OpenRouter Accounts via CLI with Stripe Projects" (2026-04-29) — https://openrouter.ai/blog/announcements/openrouter-on-stripe-projects/
- OpenRouter FAQ (수수료·BYOK·데이터 정책) — https://openrouter.ai/docs/faq
- OpenRouter BYOK 문서 — https://openrouter.ai/docs/features/byok
- OpenRouter, "OpenRouter vs Portkey" (2026-06-19) — https://openrouter.ai/blog/insights/openrouter-vs-portkey/
- OpenRouter 홈페이지 (500+ 모델·80+ 프로바이더·10M+ 사용자·월 200T+ 토큰) — https://openrouter.ai/
- Vercel AI Gateway Pricing (문서 last_updated 2026-08-01) — https://vercel.com/docs/ai-gateway/pricing
- Cloudflare AI Gateway Pricing — https://developers.cloudflare.com/ai-gateway/reference/pricing/
Tier 2 (독립 취재, 모두 2026-08-18 확인)
- TechCrunch, "Stripe will reportedly acquire AI gateway startup OpenRouter for $7B+" (2026-08-16) — https://techcrunch.com/2026/08/16/stripe-will-reportedly-acquire-ai-gateway-startup-openrouter-for-7b/
- Fortune, "Stripe clinches over $7 billion deal to buy AI firm OpenRouter" (2026-08-16) — https://fortune.com/2026/08/16/stripe-7-billion-deal-ai-firm-openrouter-acquisition/
- Electronic Payments International (2026-08-17) — https://www.electronicpaymentsinternational.com/news/stripe-acquire-openrouter/
- Tech Startups (2026-08-17) — https://techstartups.com/2026/08/17/stripe-acquires-openrouter-for-over-7-billion-more-than-5x-its-valuation-three-months-ago/
- Forkast (2026-08-17) — https://forkast.news/stripe-acquires-openrouter-for-7b-turning-model-routing-into-a-payments-infrastructure-problem/
- Forbes, Sandy Carter (2026-08-17) — https://www.forbes.com/sites/sandycarter/2026/08/17/stripes-7-billon-openrouter-deal-could-create-ais-ledger/
- Yahoo Finance(Bankless 재게재, 2026-08-18) — https://finance.yahoo.com/technology/ai/articles/stripe-acquiring-ai-router-openrouter-174506790.html
- Latent.Space AINews (2026-08-17) — https://www.latent.space/p/ainews-stripe-buys-openrouter-for
대조 실패 (본문에서 근거로 쓰지 않았거나 간접 인용만 함)
- Bloomberg (2026-08-16, 페이월) — https://www.bloomberg.com/news/articles/2026-08-16/stripe-nears-deal-to-buy-ai-firm-openrouter-for-over-7-billion
- Axios (2026-08-17, HTTP 403) — https://www.axios.com/2026/08/17/stripe-openrouter-paypal
- Dataconomy (2026-08-17, HTTP 403), TechTimes (2026-08-17, HTTP 403)
- Wall Street Journal 2026-07 선행 보도 — 원문 미확보, Fortune·EPI를 통한 간접 확인만
Tier 3 (커뮤니티) — 이번 리서치 범위에서 제외. 검색 결과에 Hacker News 스레드가 노출됐으나 열람하지 않았고 어떤 내용도 이 문서에 반영하지 않았다.

GPT-5.6 Luna 80% 인하 vs Gemini 3.7 Flash 도입가 — 2026년 8월 AI API 단가 재계산 실무 가이드

mdit — Tue, 18 Aug 2026 21:05:05 +0900

2026년 7~8월 OpenAI GPT-5.6 Luna 80% 인하, Claude Sonnet 5 인상 철회, Gemini 3.7 Flash 기한부 도입가, DeepSeek 인상까지 성격이 다른 네 사건을 공식 가격표 기준으로 대조하고, 실제 청구액을 다시 계산하는 절차를 단계별로 정리했습니다.

AI API 가격 인하 시작 전 확인할 것

2026년 8월의 모델 단가 뉴스를 하나의 흐름으로 읽으면 예산 계획이 어긋납니다. 이 한 달에 겹친 사건은 성격이 네 가지로 갈립니다. 첫째, OpenAI는 2026년 7월 30일자로 GPT-5.6 Luna를 80%, Terra를 20% 인하했고 이것은 만료일이 없는 정가 변경입니다. 둘째, Anthropic은 2026년 9월 1일 예정이던 Claude Sonnet 5의 $3/$15 인상을 시행하지 않기로 했는데, 이는 인하가 아니라 $2/$10이 그대로 정가로 확정된 것입니다. 셋째, Google의 Gemini 3.7 Flash $0.75/$3.75는 2026년 12월 31일까지만 유효한 도입가이며 2027년 1월 1일부터 $1.50/$7.50이 적용됩니다. 넷째, DeepSeek은 같은 달 반대 방향으로 움직여 피크·오프피크 이중 요금제를 게시했습니다.

이 글의 모든 가격은 2026년 8월 17일 각 벤더 공식 가격 문서에서 확인한 값이며 단위는 100만 토큰당 USD입니다. 블렌디드 단가는 입력:출력 = 3:1 가정(BenchLM 방식)으로 계산했습니다.

반드시 짚어둘 전제가 하나 더 있습니다. 정가 인하율이 곧 청구액 절감률은 아닙니다. 토크나이저가 바뀌면 같은 원문에서 나오는 토큰 수가 달라지고, 프롬프트 길이 구간을 넘기면 요율 자체가 바뀝니다. 독립 집계인 BenchLM 토큰 가격 지수는 2026년 8월 15일 기준 전월 대비 −3.2%, 전년 대비 +36.4%로, 장기 하락과 단기 상승이 동시에 관측됩니다. 즉 "값이 급락 중"이라는 서사와 실제 지수는 방향이 다릅니다.

준비물·필요 서류

단가 재계산에 들어가기 전 아래 자료를 손에 쥐고 있어야 합니다. 하나라도 빠지면 계산 결과가 아니라 추정치가 나옵니다.

준비 항목	구체적 내용	확인 위치
자사 토큰 분포 로그	요청별 입력·출력 토큰 수, 캐시 히트율, 프롬프트 길이 히스토그램(200k·256k·272k 초과 비율 필수)	자사 API 게이트웨이 로그
벤더 공식 가격표 4종	OpenAI, Anthropic, Google, DeepSeek 원문. T2 요약 글은 근거로 쓰지 않습니다	각 사 공식 docs
만료일 목록	Gemini Flash 계열 2026-12-31 만료, Anthropic Fast mode research preview 여부	벤더 발표문
트래픽 시간대 분포	UTC 기준 시간별 호출량. DeepSeek 피크 판정에 직접 쓰입니다	모니터링 대시보드
캐시 재사용 횟수	5분 캐시·1시간 캐시별 평균 재사용 횟수	애플리케이션 계측
조달 경로 비교표	벤더 직판 vs 마켓플레이스 표기가	OpenRouter 등

가격 기준선으로 쓸 정가는 다음과 같습니다(2026년 8월 17일 확인). GPT-5.6 Luna는 입력 $0.20 / 캐시 입력 $0.02 / 출력 $1.20, Terra는 $2.00 / $0.20 / $12.00, Sol은 $5.00 / $0.50 / $30.00입니다. 인하 전 Luna는 $1 / $6, Terra는 $2.50 / $15였으므로 Luna의 출력 단가는 5분의 1로 떨어졌습니다. Anthropic 쪽은 Sonnet 5 $2/$10, Sonnet 4.6 $3/$15, Haiku 4.5 $1/$5, Opus 5 $5/$25, Fable 5 $10/$50이고, 캐시 읽기는 입력가의 0.1배, 5분 캐시 쓰기 1.25배, 1시간 캐시 쓰기 2배입니다.

Batch API는 Anthropic에서 입출력 모두 50% 할인이므로 배치 가능 워크로드는 별도 열로 관리해야 합니다.

단계별 진행 순서

1단계 — 기준일을 못 박고 가격표를 원문에서 다시 받는다(소요 20~30분). 이 분야는 열흘이면 자료가 틀립니다. 실제로 2026년 8월 5일자 가격 정리 자료 중에는 "Sonnet 5가 9월 1일 $3/$15로 환원된다"는 항목이 그대로 남아 있는 사례가 있습니다. 그 인상은 취소됐습니다. 주의점: 사내 문서에 가격을 넣을 때는 "2026-08-17 확인"처럼 기준일을 병기하십시오.

2단계 — 토크나이저 보정을 먼저 적용한다(소요 1~2시간). Anthropic 공식 가격 문서는 Claude 4.7 이후 모델과 Mythos Preview가 새 토크나이저를 쓰며 같은 텍스트에 약 30% 더 많은 토큰을 생성한다고 밝히고 있습니다. Sonnet 4.6 이하는 이전 토크나이저입니다. 따라서 Sonnet 4.6($3/$15) → Sonnet 5($2/$10) 전환은 토큰당 33% 인하지만, 문서당 실효 비용은 블렌디드 $6.00 → 약 $5.20으로 13% 절감 수준입니다. 주의점: 한국어 텍스트에서 증가폭이 몇 %인지는 공식 실측치가 공개되지 않았습니다(확인 필요). 자사 샘플로 직접 재봐야 합니다.

3단계 — 프롬프트 길이 절벽을 점검한다(소요 30분~1시간). Grok 4.6은 프롬프트가 200k를 넘으면 요청 전체가 $2/$6에서 $4/$12로 재과금됩니다. 컨텍스트가 500k인 모델에서 200k는 쉽게 넘는 선입니다. 별도 트래커는 Qwen3.7 Flash가 256K 초과 시 요율이 6.7배로 뛴다고 지적합니다. 주의점: 평균값이 아니라 분포의 상위 구간을 봐야 합니다. 평균 150k라도 상위 20%가 절벽을 넘으면 비용은 평균 계산의 두 배가 됩니다.

4단계 — 시간대 요금제를 KST로 환산한다(소요 30분). DeepSeek 공식 문서 기준 피크는 01:00–04:00과 06:00–10:00 UTC이며 나머지가 오프피크입니다. 이를 환산하면 한국시간 10:00–13:00, 15:00–19:00이 피크입니다. 한국 근무시간 대부분이 여기 들어갑니다. 오프피크가 피크의 50%라는 이점은 야간 배치에만 실효가 있습니다. V4-Flash는 캐시 미스 $0.22(오프피크)/$0.44(피크), 출력 $0.66/$1.32입니다. 주의점: 공식 페이지에 변경 고지와 시행일 표기가 없어 언제부터 이 요금인지는 공식 문서만으로 확정되지 않습니다(확인 필요).

5단계 — 속도 옵션의 손익분기를 계산한다(소요 1시간). OpenAI 가격표상 Fast mode는 전 모델 정확히 2배(Sol $10/$60, Terra $4/$24, Luna $0.40/$2.40)인데 체인지로그가 밝힌 속도는 Sol 기준 표준 대비 최대 2.5배입니다. 과금은 확정 2배, 이득은 상한값이므로 실측 배속이 2배 미만이면 손해입니다. 주의점: 제3자 실측 속도 데이터는 확인하지 못했습니다.

6단계 — 성능 대비 단가로 다시 줄 세운다(소요 1~2시간). Artificial Analysis Intelligence Index v4.1.1 기준 Gemini 3.7 Flash(medium) 53점, GPT-5.6 Luna(medium) 39점입니다. 지수 1점당 단가는 Luna $0.00436, 3.7 Flash $0.01094로 3.7 Flash가 2.5배 비쌉니다. 반대로 절대 성능은 3.7 Flash가 14점 높습니다. 재시도 비용이 큰 코딩·에이전트 작업에서는 비싼 쪽이 총비용을 낮출 수 있습니다.

7단계 — 만료일을 달력에 등록한다(소요 15분). 2026년 12월 31일: Gemini 3.7 Flash·3.6 Flash 도입가 종료. 2027년 1월 1일 2배 적용입니다.

자주 놓치는 부분

첫째, 인하율의 기준선을 확인하지 않는 실수입니다. Gemini 3.7 Flash의 "50% 인하"는 3주 전인 2026년 7월 21일 출시된 3.6 Flash 정가 $1.50/$7.50을 기준선으로 삼은 값입니다. 게다가 3.6 Flash도 같은 날 $0.75/$3.75로 함께 내려갔으므로, 3.7 Flash는 더 싼 모델이 아니라 같은 값의 더 나은 모델로 읽어야 정확합니다.

둘째, 정가표만 보고 최저가를 확정하는 실수입니다. OpenRouter는 GPT-5.6 Luna를 $0.10/$0.60으로 표기하며 50% 할인 적용 중이라고 밝히고 있습니다 — OpenAI 정가의 절반입니다. 마켓플레이스가 벤더 직판보다 30% 이상 싼 사례도 보고됐습니다. 단 프로모션이므로 지속성은 보장되지 않습니다.

셋째, 발표됐지만 아직 못 쓰는 기능에 SLA를 거는 실수입니다. OpenAI Ultrafast mode는 2026년 8월 13일 공지된 limited preview이고 공식 가격표에 요금 행이 아직 없습니다. Anthropic Fast mode는 research preview로 Opus 5·4.8 한정, 1st-party API 전용이며 Bedrock·Vertex·AWS 마켓플레이스에서는 쓸 수 없고 Batch API와 병용도 불가합니다. Opus 4.7에서 speed: "fast"는 에러를 반환합니다. Claude Mythos 5는 limited availability 표기입니다.

넷째, 리전 승수를 빼먹는 실수입니다. Anthropic에서 inference_geo: "us"는 입력·출력·캐시 전 항목에 1.1배 승수가 붙고, Bedrock·Vertex 리전 엔드포인트는 글로벌 대비 10% 프리미엄입니다.

다섯째, 캐시 정책의 손익분기를 오해하는 실수입니다. Anthropic은 5분 캐시는 1회 재사용, 1시간 캐시는 2회 재사용부터 이득입니다. OpenAI는 캐시 입력이 정가의 1/10로 고정됩니다.

일곱째, 원가 하락이 제품 요금에 반영된다고 가정하는 실수입니다. 2,457개 AI 도구를 추적한 조사에서 65.1%가 여전히 유료이고 무료는 5.0%입니다. 해당 저자들은 도구 값이 올랐다고 주장하지는 않되, 입력 원가 하락이 판매 방식에 보이지 않는다는 점을 명시합니다.

체크리스트 정리

기준일 병기 확인 — 모든 가격에 "2026-08-17 확인" 같은 확인 시점을 붙였는가. 8월 초 자료는 Sonnet 5 항목이 이미 틀렸다.
토크나이저 보정 적용 — Claude 4.7 이후 모델로 옮기면서 약 30% 토큰 증가를 반영했는가. 33% 인하가 실효 13% 절감으로 바뀐다.
길이 절벽 통과율 측정 — Grok 4.6의 200k, Qwen3.7 Flash의 256K를 넘는 요청 비율을 분포로 확인했는가.
KST 피크 시간 대조 — DeepSeek 오프피크 50% 할인이 한국 근무시간(10~13시, 15~19시 피크) 밖에서만 유효하다는 점을 반영했는가.
속도 옵션 손익분기 — Fast mode 확정 2배 요금 대비 실측 배속이 2배를 넘는지 자사 프롬프트로 측정했는가.
만료일 등록 — 2026년 12월 31일 Gemini Flash 도입가 종료를 달력에 넣었는가. 2027년 1월 1일 2배다.
프리뷰 기능 배제 — Ultrafast(limited preview), Anthropic Fast mode(research preview), Mythos 5(limited availability)를 프로덕션 계획에서 분리했는가.

참고 자료

조사 기준일: 2026년 08월 17일

Tier 1 (원문 열람·대조 완료)
- OpenAI API Pricing — https://developers.openai.com/api/docs/pricing.md (확인 2026-08-17)
- OpenAI API Changelog (2026-07-30 / 08-05 / 08-13 항목) — https://developers.openai.com/api/docs/changelog (확인 2026-08-17)
- OpenAI GPT-5.6 Luna 모델 문서 — https://developers.openai.com/api/docs/models/gpt-5.6-luna (확인 2026-08-17)
- OpenAI Developer Community 공지 "Announcing a major Price drop for 5.6 Terra and Luna and Fast mode for 5.6-Sol" (2026-07-30 게시) — https://community.openai.com/t/announcing-a-major-price-drop-for-5-6-terra-and-luna-and-fast-mode-for-5-6-sol/1388484 (확인 2026-08-17)
- Anthropic Claude Platform Pricing — https://platform.claude.com/docs/en/about-claude/pricing (확인 2026-08-17)
- Google "Gemini 3.7 Flash: our most intelligent workhorse model" (2026-08-13) — https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-gemini-3-7-flash/ (확인 2026-08-17)
- Google "Introducing Gemini 3.6 Flash, 3.5 Flash-Lite, and 3.5 Flash Cyber" (2026-07-21) — https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-3-6-flash-3-5-flash-lite-3-5-flash-cyber/ (확인 2026-08-17)
- Gemini Developer API Pricing (페이지 최종 갱신 2026-08-13) — https://ai.google.dev/gemini-api/docs/pricing (확인 2026-08-17)
- DeepSeek API Pricing — https://api-docs.deepseek.com/quick_start/pricing (확인 2026-08-17)
- xAI Models & Pricing — https://docs.x.ai/docs/models (확인 2026-08-17)
Tier 2 (원문 열람·대조 완료)
- Artificial Analysis — Gemini 3.7 Flash (medium) vs GPT-5.6 Luna (medium), Intelligence Index v4.1.1 — https://artificialanalysis.ai/models/comparisons/gemini-3-7-flash-medium-vs-gpt-5-6-luna-medium (확인 2026-08-17)
- BenchLM Token Price Index (2026-08-15 스냅샷) — https://benchlm.ai/token-price-index (확인 2026-08-17)
- BenchLM LLM Pricing Trends (2026-08-15 갱신) — https://benchlm.ai/llm-pricing-trends (확인 2026-08-17)
- Forbes, Gerui Wang, "Why OpenAI's 80% Price Cut Could Trigger A Race To The Bottom In AI" (2026-07-31) — https://www.forbes.com/sites/geruiwang/2026/07/31/why-openais-80-price-cut-could-trigger-a-race-to-the-bottom-in-ai/ (확인 2026-08-17)
- ToolDirectory, "Are AI tools getting cheaper in 2026? The data says no" (2026-08-15 갱신) — https://tooldirectory.ai/blog/ai-model-prices-fell-tool-prices-didnt-2026 (확인 2026-08-17)
- DigitalApplied, "AI API Pricing, August 2026: Cuts, Promos, and Traps" (2026-08-05) — https://www.digitalapplied.com/blog/ai-api-pricing-august-2026-cuts-promos-tracker (확인 2026-08-17)
- Slashdot(VentureBeat 인용), "Google's Gemini 3.7 Flash Targets Coding and Agents With a 50% Price Cut" (2026-08-13) — https://developers.slashdot.org/story/26/08/13/217215/googles-gemini-37-flash-targets-coding-and-agents-with-a-50-price-cut (확인 2026-08-17)
- Eden AI, DeepSeek 가격 변동 분석 (2026-08-13) — https://www.edenai.co/post/deepseek-price-shake-up-how-pricing-volatility-changes-ai-api-economics (확인 2026-08-17)
- OpenRouter, GPT-5.6 Luna 모델 페이지 — https://openrouter.ai/openai/gpt-5.6-luna (확인 2026-08-17)
열람 실패 (본문 대조 불가 — 인용 금지)
- OpenAI, "Advancing the price-performance frontier with GPT-5.6" — https://openai.com/index/advancing-the-price-performance-frontier-with-gpt-5-6/ (HTTP 403, 2회 시도, 2026-08-17)
- @claudeai X 게시물 — https://x.com/claudeai/status/2086891169217122586 (HTTP 402, 2026-08-17)
- CNBC, "OpenAI cuts prices for two of its GPT-5.6 AI models…" (2026-07-30) — https://www.cnbc.com/2026/07/30/open-ai-price-cut-gpt.html (HTTP 403, 2026-08-17)
- Qz, "DeepSeek raising API prices by up to 1,100% starting Aug. 16" — https://qz.com/deepseek-api-price-increase-v4-peak-off-peak-081326 (HTTP 403, 2026-08-17)
- Dataconomy, "DeepSeek Warns Developers Of Significant API Price Increases" (2026-08-06) — https://dataconomy.com/2026/08/06/deepseek-significant-api-price-increase-2026/ (HTTP 403, 2026-08-17)
Tier 3 (커뮤니티): 이번 리서치 범위에서 제외함.

Qwen3.8 27B 로컬 실행 요건 총정리: 17GB의 진짜 의미

mdit — Mon, 17 Aug 2026 22:09:02 +0900

Qwen3.8 27B를 개인 PC와 맥에서 돌리려면 얼마가 필요한지 정리했습니다. 4비트 17~19GB의 정확한 해석, 배포처별 GGUF 용량 차이, 262K 컨텍스트 KV 캐시 16GB, 엔진별 속도 격차까지 2026년 8월 기준 자료로 대조했습니다.

Qwen3.8 27B 핵심만 먼저 정리하면

결론부터 말하면 이 모델의 공식 모델카드에는 VRAM 요구 수치가 단 한 줄도 없습니다. 로컬 실행 요건이라고 돌아다니는 숫자는 전부 Unsloth·Ollama·vLLM·SGLang 같은 배포·엔진 측 문서에서 나온 값이라, 인용할 때 출처와 조건을 함께 봐야 합니다. 가장 널리 인용되는 4비트 양자화 17~19GB는 그래픽카드 메모리만 뜻하지 않고 "RAM + VRAM 합계"를 가리킵니다. 이 한 단어 차이 때문에 "16GB 맥북에서 된다"는 말이 절반만 맞습니다.

실제 체감 기준선은 통합 메모리 또는 VRAM 24GB 이상입니다. 16GB급 기기에서는 2비트로 낮춰야 겨우 돌아가고, 속도는 초당 3토큰 안팎으로 떨어집니다. 여기에 컨텍스트를 늘리면 262K에서 f16 KV 캐시만 약 16GB가 추가로 붙고, 이미지·영상을 쓰려면 비전 프로젝터(mmproj) 0.63~0.93GB가 별도로 더해집니다. 기본 추론 강도가 라서 설정을 그대로 두면 간단한 요청 하나에 20분 넘게 쓰는 사례도 독립 리뷰에서 보고됐습니다. 이 글은 2026년 8월 17일 확인 기준 자료를 정리한 것이며, 양자화 배포본과 엔진 버전이 주 단위로 바뀌므로 재확인이 필요합니다.

Q1. 4비트 17GB면 제 16GB 그래픽카드에서 돌아가나요?

아닙니다. 여기서 가장 많이 오해가 생깁니다. Unsloth 공식 문서가 제시하는 표는 양자화별 필요 메모리를 아래와 같이 안내하며, 핵심 원칙으로 "RAM+VRAM ≈ 양자화 파일 크기"를 제시합니다. 17GB는 그래픽카드 단독 용량이 아니라 시스템 메모리와 VRAM을 합친 예산입니다.

양자화	필요 메모리(RAM+VRAM)	실질적 위치
2비트	11~13GB	품질 손실 큼, 최후의 수단
3비트	13~16GB	16GB 기기의 현실적 상한
4비트	17~19GB (권장)	RTX 5080·4090, 24GB Mac
6비트	24GB	여유 있는 24GB급
8비트	31GB	32GB 이상
BF16	56GB	서버·다중 GPU

문서는 4비트가 "RTX 5080, 4090 또는 24GB RAM Mac" 수준 기기에서 동작한다고 적고, 예산에 미달해도 디스크 오프로딩으로 동작은 하되 훨씬 느려진다고 덧붙입니다. 문제는 그 "느려짐"의 정도입니다.

제3자 실측 정리에 따르면 M2 Pro 16GB 통합 메모리에서 4비트는 프롬프트 처리 후 생성이 아예 실패했고, 2비트로 낮췄을 때 합성 벤치 7.11 tok/s, 7,072토큰짜리 실사용 프롬프트에서는 2.91 tok/s까지 하락했습니다(2026년 8월 17일 확인, 공식 확인 자료가 아닌 제3자 측정치입니다). 노트북 환경(12GB GPU + 32GB 시스템 RAM, 동적 Q4 오프로드) 측정은 긴 응답 3.26 tok/s, 짧은 응답 4.42~4.53 tok/s였습니다. 같은 문서가 제시한 체감 기준은 3 tok/s 미만은 불편, 3~8은 인내 필요, 8~20은 대화·코딩에 쾌적입니다. 계산 기반 추정 사이트 역시 권장 최소를 24GB 카드(4090·3090·5090)로 잡고, 16GB 카드는 Q3_K_M이나 부분 CPU 오프로드로 제한된다고 명시합니다.

Q2. 배포처마다 Q4_K_M 용량이 다른데 어떤 걸 받아야 하나요?

같은 이름표가 붙었는데 파일 크기가 다릅니다. 그리고 그 차이가 16GB 카드에서 되느냐 안 되느냐를 가르는 폭이라 그냥 넘길 수 없습니다.

배포처	Q4_K_M	그 외	비고
LM Studio 커뮤니티	16.8GB	Q6_K 22.4GB / Q8_0 29GB	llama.cpp b10430으로 제작, mmproj 언급 없음
Unsloth	17.11GB	2비트 UD-IQ2_XXS 9.01GB, 3비트 UD-Q3_K_XL 13.44GB	동적 양자화 계열
ggml-org(llama.cpp)	18.97GB	Q8_0 28.6GB / BF16 53.8GB	MTP 헤드 별도 파일 제공
Ollama	18GB + 931MB	—	합계 약 18.9GB, 비전 프로젝터 포함

최소 16.8GB와 최대 18.97GB, 약 2GB가 벌어집니다. 선택 기준은 이렇게 정리됩니다. 메모리가 빠듯하면 LM Studio 빌드가 가장 작고, 속도를 끌어올리고 싶으면 MTP(다중 토큰 예측) 헤드가 분리 제공되는 ggml-org 빌드가 유리합니다(MTP Q8_0 3.16GB, MTP BF16 5.95GB). 이미지·영상 입력이 필요하면 mmproj가 함께 제공되는 Ollama 배포본이 설정 부담이 적습니다.

주의할 점은 비전입니다. 이 모델은 이미지·비디오를 네이티브로 받는 비전-언어 모델이지만, 로컬에서는 프로젝터가 본체와 분리된 별도 파일입니다. LM Studio·ggml-org GGUF 페이지에는 mmproj 언급이 없어, 받은 파일이 텍스트 전용일 가능성이 있습니다. 메모리 계산에도 0.63~0.93GB를 따로 더해야 합니다. GGUF는 llama.cpp 릴리즈 b10430 기준으로 만들어졌고 내부 아키텍처 식별자가 입니다. 구버전 Ollama나 LM Studio는 이 아키텍처를 읽지 못할 수 있으니 먼저 런타임부터 갱신하는 편이 안전합니다.

Q3. 262K 컨텍스트를 쓰려면 메모리가 얼마나 더 필요한가요?

가중치만 올려놓고 끝이 아닙니다. 컨텍스트 길이에 비례해 KV 캐시가 별도로 쌓입니다. 이 모델의 구조는 64개 층이 16 × (3 × Gated DeltaNet → 1 × Gated Attention) 형태로 배열돼, 64개 층 중 48개가 선형 어텐션이고 16개만 전체 어텐션입니다. KV 헤드도 4개뿐입니다. 이 두 조건 덕분에 동급 밀집 모델보다 캐시가 작습니다.

컨텍스트	f16 KV 캐시	FP8 캐시	Q4 가중치 포함 총량(개략)
8K	약 0.5GB	약 0.25GB	약 17.5GB
32K	약 2GB	약 1GB	약 19GB
128K	약 8GB	약 4GB	약 25GB
262K(원생 최대)	약 16GB	약 8GB	약 33GB 이상

여기서 나오는 결론이 명확합니다. 24GB 카드 한 장으로 262K 컨텍스트는 사실상 불가능하며, 현실적 상한은 Q4 + 32K~64K 조합입니다. 262K를 쓰려면 캐시를 절반으로 줄이는 것이 전제라, vLLM 공식 레시피도 두 예시 모두 --max-model-len 262144 --kv-cache-dtype fp8을 함께 씁니다.

1M 컨텍스트는 별개의 이야기입니다. 모델카드 표현은 "262,144 natively and extensible up to 1,000,000 tokens"인데, 확장은 기본값이 아니라 config.json의 rope_parameters를 YaRN 설정으로 직접 고쳐야 열립니다(rope_theta 1000만, 4.0 등). 그리고 모델카드 자신이 부작용을 경고합니다 — 스케일링 계수가 입력 길이와 무관하게 고정되므로 짧은 텍스트 성능이 떨어질 수 있어, 장문 처리가 필요할 때만 바꾸라는 권고입니다. vLLM에서는 중첩된 text_config 오버라이드가 추가로 필요합니다. 한 가지 남는 변수는 선형 어텐션 48개 층의 상태 메모리가 위 표에서 제외돼 있다는 점입니다. 제3자 두 곳이 동일하게 단서를 달았고 이에 대한 1차 수치는 아직 없어, 장문에서는 표보다 더 필요할 수 있습니다(확인되지 않은 항목입니다).

Q4. 공개된 속도가 3 tok/s부터 206 tok/s까지인데 뭘 믿어야 하나요?

둘 다 사실이고, 서로 다른 축의 숫자입니다. 같은 가중치라도 엔진·양자화·가속 기법 조합에 따라 결과가 70배까지 벌어집니다. 그래서 속도를 볼 때는 반드시 "어느 장비에서, 어느 경로로"를 함께 확인해야 합니다.

조건	측정치	근거 등급
M2 Pro 16GB, 2비트, 긴 프롬프트	2.91 tok/s	제3자 측정
노트북 12GB GPU + 32GB RAM, Q4 오프로드	3.26~4.53 tok/s	제3자 측정
M5 Max 128GB / DGX Spark, LM Studio Q4_K_M	15~30 tok/s	독립 리뷰
Ryzen AI Max+ 395, llama.cpp Vulkan, MTP=4	최대 24.5 tok/s	원문 대조 실패, 검색 인덱스 인용
DGX Spark, SGLang	38.28 tok/s	원문 대조 실패
Radeon AI PRO R9700 32GB 1장, Vulkan, MTP=2	최대 51.8 tok/s	원문 대조 실패
RTX 5090 1장, NVFP4 + DSpark 투기적 디코딩	206.1 tok/s	원문 대조 실패

주의할 것은 표의 맨 아래 두 줄입니다. AMD 공식 블로그는 3회 시도 모두 타임아웃, SGLang 공식 게시물은 HTTP 402로 열리지 않아 원문을 직접 대조하지 못했습니다. 검색 인덱스에 인용된 형태로만 확인한 값이므로 공식 보증치로 다루지 않는 편이 맞습니다.

가장 실용적인 지렛대는 MTP 투기적 디코딩입니다. 한 독립 리뷰는 llama.cpp에서 --spec-type draft-mtp를 켜자 LM Studio 기본 GGUF 대비 약 72% 빨라졌다고 보고했습니다. 다만 관련 PR 본문이 명시한 지원 모델 목록에 Qwen3.8이 열거되지 않아, 3.8에서 공식 지원 범위인지는 확인되지 않았습니다(동작한 정황만 있습니다). 엔진 선택 기준을 요약하면 이렇습니다. 24GB 미만·Mac·AMD 소비자 하드웨어라면 GGUF 경로가 사실상 유일한 선택이고, 32GB급 NVIDIA Blackwell로 다중 요청을 받아야 한다면 NVFP4 + vLLM/SGLang이 자릿수가 다른 처리량을 냅니다.

Q5. 설치는 끝났는데 답변이 21분씩 걸립니다. 무엇을 먼저 봐야 하나요?

기본 추론 강도부터 내려야 합니다. 이 모델은 사고 모드가 기본 활성이고, reasoning_effort의 기본값이 최상단인 입니다(, 선택 가능, Unsloth 문서는 까지 4단계로 안내). 독립 리뷰의 실측이 이 기본값의 대가를 보여줍니다 — 펠리컨 SVG를 그리는 단순 요청 한 번에 추론 토큰 22,276개를 써서 출력 3,223토큰을 만들며 21분이 걸렸고, 컨텍스트 한도도 8,192에서 262,144로 올려야 했습니다. 해당 리뷰의 첫 권고는 기본값을 무시하고 낮은 추론 강도 또는 추론 없이 시작하라는 것입니다.

두 번째로 preserve_thinking도 기본 활성이라 이전 턴의 추론 블록이 계속 유지됩니다. 컨텍스트 소비와 캐시 전략에 직접 영향을 주므로 서비스에 붙이기 전에 정책을 정해두는 편이 좋습니다. 샘플링 값은 두 공식 문서가 동일하게 제시해 교차 확인됐습니다.

모드	temperature	top_p	top_k	기타
사고(thinking)	1.0	0.95	20	presence_penalty 0.0
비사고(instruct)	0.7	0.80	20	presence_penalty 1.5

설치 단계에서 걸리는 함정도 미리 정리해 둡니다. NVIDIA 장치에서 MXFP4는 선형 어텐션을 지원하지 않으므로 NVFP4를 써야 합니다(vLLM 공식 레시피 명시). vLLM은 0.17.0 이상, transformers 5.8.0 이상을 요구하고, SGLang에서 투기적 디코딩을 켜면 미지정 시 48로 재설정되며 Mamba 계열 설정은 TP=1 전제입니다. 공개 직후 chat template 회귀(빈 think 태그 등)가 여러 곳에서 언급되지만 확인 가능한 1차 경로가 없어 이 글에서는 단정하지 않습니다.

끝으로 판단에 필요한 두 가지를 덧붙입니다. 첫째, 이 모델의 종합 지능에 대한 독립 측정치는 현재 존재하지 않습니다. Artificial Analysis에 아직 등재되지 않아, 공개된 성능 수치는 전부 자사 발표이거나 그것을 옮긴 것입니다. 자사 표 안에서도 Terminal Bench 2.1은 73.0 대 78.2, GPQA Diamond는 89.2 대 91.3으로 비교 대상에 뒤집니다. 둘째, 로컬과 호스팅의 비용 구조입니다. 2026년 8월 17일 확인 기준 OpenRouter 가격은 입력 100만 토큰당 $0.40, 출력 100만 토큰당 $3.00이며 컨텍스트는 262K입니다. 출력 단가가 입력의 7.5배인 구조에서 사고를 켜고 쓰면 비용이 빠르게 불어나므로, 역설적으로 "과다 사고" 성향이 로컬 실행의 경제적 근거를 강화합니다. 반대로 지연이 중요한 대화형 용도라면 호스팅이 유리합니다.

정리

"17GB면 된다"는 문장의 진짜 뜻은 "RAM과 VRAM을 합쳐 17GB"이며, 실질적 기준선은 24GB 이상 메모리입니다. 여기에 컨텍스트에 비례하는 KV 캐시(262K에서 f16 약 16GB)와 비전 프로젝터 0.63~0.93GB를 따로 더해 예산을 짜야 하고, 같은 Q4_K_M도 배포처에 따라 16.8~18.97GB로 2GB가 벌어진다는 점을 확인한 뒤 내려받는 편이 안전합니다.

속도 수치는 엔진·양자화·MTP 사용 여부에 따라 초당 3토큰에서 206토큰까지 갈리므로 남의 장비 숫자를 그대로 대입하면 거의 틀립니다. 설치 직후에는 기본값 부터 낮추는 것이 체감을 가장 크게 바꿉니다. 다만 공식 모델카드에 메모리 요건이 전혀 없고 독립 벤치마크도 아직 없다는 점을 전제로, 이 글의 모든 수치는 2026년 8월 17일 확인 시점 기준이며 배포본과 엔진 버전에 따라 바뀔 수 있습니다.

참고 자료

조사 기준일: 2026년 08월 17일

Tier 1 — 원문을 열어 대조한 1차 자료

Hugging Face 모델 API, Qwen/Qwen3.8-27B (createdAt / lastModified / 파일 목록) — https://huggingface.co/api/models/Qwen/Qwen3.8-27B — 2026-08-17 확인
Qwen 공식 모델카드 Qwen/Qwen3.8-27B (README 원문 포함 2회 조회로 교차 확인) — https://huggingface.co/Qwen/Qwen3.8-27B — 2026-08-17 확인
Qwen 공식 FP8 변형 Qwen/Qwen3.8-27B-FP8 — https://huggingface.co/Qwen/Qwen3.8-27B-FP8 — 2026-08-17 확인
Qwen 공식 전작 모델카드 Qwen/Qwen3.6-27B — https://huggingface.co/Qwen/Qwen3.6-27B — 2026-08-17 확인
vLLM 공식 레시피, Qwen3.8-27B — https://recipes.vllm.ai/Qwen/Qwen3.8-27B — 2026-08-17 확인
SGLang 공식 문서 쿡북, Qwen3.8-27B — https://docs.sglang.io/cookbook/autoregressive/Qwen/Qwen3.8-27B — 2026-08-17 확인
Unsloth 공식 문서, Qwen3.8 로컬 실행 — https://unsloth.ai/docs/models/qwen3.8 — 2026-08-17 확인
Ollama 공식 라이브러리, qwen3.8:27b — https://ollama.com/library/qwen3.8:27b — 2026-08-17 확인
LM Studio 팀 GGUF 배포본 — https://huggingface.co/lmstudio-community/Qwen3.8-27B-GGUF — 2026-08-17 확인
ggml-org(llama.cpp) GGUF 배포본 — https://huggingface.co/ggml-org/Qwen3.8-27B-GGUF — 2026-08-17 확인
llama.cpp MTP 지원 PR #22673 (병합일 상충 — 5절 참조) — https://github.com/ggml-org/llama.cpp/pull/22673 — 2026-08-17 확인

Tier 2 — 독립 측정·제3자 검증·매체

Simon Willison, "Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things" (2026-08-16) — https://simonwillison.net/2026/Aug/16/qwen-38-27b/ — 2026-08-17 확인
ofox.ai, "Run Qwen 3.8 27B Locally (2026): 17 GB Total, Not 17 GB VRAM" — https://ofox.ai/blog/qwen-3-8-27b-run-locally-vram-gguf-2026/ — 2026-08-17 확인
kingy.ai, "Qwen3.8-27B Local Hardware Guide" — https://kingy.ai/blog/qwen3-8-27b-local-hardware-requirements/ — 2026-08-17 확인
canitrun.dev, Qwen 3.8 27B VRAM 요건(계산 기반) — https://canitrun.dev/models/qwen3.8-27b/ — 2026-08-17 확인
GIGAZINE (2026-08-17) — https://gigazine.net/gsc_news/en/20260817-qwen3-8-27b/ — 2026-08-17 확인
OpenRouter, qwen/qwen3.8-27b 가격·컨텍스트 — https://openrouter.ai/qwen/qwen3.8-27b — 2026-08-17 확인
Artificial Analysis, Qwen3.6-27B 페이지(3.8 미등재 확인용) — https://artificialanalysis.ai/models/qwen3-6-27b — 2026-08-17 확인

원문 대조 실패 — T1으로 올리지 않은 자료

AMD 공식 블로그, "Run Qwen 3.8 27B on AMD Ryzen AI Max Agentic PCs and Radeon GPUs" — https://www.amd.com/en/blogs/2026/run-qwen-3-8-27b-on-amd-ryzen-ai-max-and-radeon-graphics-cards-day-0.html — 3회 조회 모두 타임아웃/ECONNRESET (2026-08-17)
AMD 공식 기술 문서, "Day 0 Support for Qwen 3.8 on AMD Instinct GPUs" — https://www.amd.com/en/developer/resources/technical-articles/2026/day-0-support-for-qwen-3-8-on-amd-instinct-gpus.html — ECONNRESET (2026-08-17)
SGLang 공식 계정 게시물(206.1 / 38.28 tok/s) — https://x.com/sgl_project/status/2088281320422322413 — HTTP 402 (2026-08-17)
Qwen 공식 발표 블로그 — https://qwen.ai/blog?id=qwen3.8 — 본문 회수 실패(JS 렌더링), qwenlm.github.io/blog/qwen3.8/는 404 (2026-08-17)

수치로 채택하지 않은 자료 (커뮤니티 집계 기반, 3절 마지막 행 근거)

local-ai-zone.github.io, Qwen3.8-27B 종합 분석 — https://local-ai-zone.github.io/blog/qwen3-8-27b-comprehensive-analysis.html — 2026-08-17 확인. 스스로 출처를 Hugging Face 토론·Ollama 보고 등 커뮤니티 집계로 밝히고 있고, 제시 수치가 공식 배포 파일 크기 및 다른 실측 KV 값과 어긋난다.

로컬 LLM GPU 선택 기준 2026 총정리 (RTX 5090·DGX Spark)

mdit — Mon, 17 Aug 2026 01:36:03 +0900

로컬 LLM용 그래픽카드를 고를 때 VRAM 용량, 메모리 대역폭, 양자화 포맷 지원 중 무엇을 먼저 봐야 하는지 2026년 8월 기준 공식 사양과 독립 측정치로 정리했습니다. RTX 5090·RTX PRO 6000·DGX Spark·Mac Studio 실측 비교 포함.

로컬 LLM GPU 핵심만 먼저 정리하면

로컬 LLM용 그래픽카드 선택은 "VRAM 용량 → 메모리 대역폭 → 양자화 포맷 지원"이라는 3단 관문으로 정리됩니다. 첫 관문인 용량은 모델이 메모리에 통째로 올라가느냐를 결정합니다. 여기서 탈락하면 속도가 수십 배 떨어지니 다른 사양은 볼 필요도 없습니다. 두 번째 관문인 대역폭은 초당 몇 글자가 나오는지를 좌우하는데, 통합 메모리 제품이 여기서 크게 밀립니다. LMSYS 독립 측정에서 DGX Spark는 gpt-oss-20b 배치 1 조건에서 초당 49.7토큰, 같은 조건의 RTX PRO 6000은 215토큰으로 약 4배 차이가 났고 병목은 273GB/s 통합 메모리 대역폭으로 지목됐습니다(2025-10-13 측정 기준). 세 번째 관문은 가장 많이 간과되는데, VRAM이 넉넉해도 쓰려던 양자화 파일이 안 올라가는 경우가 실제로 보고됐습니다. 여기에 2026년 특유의 변수가 하나 더 붙습니다. 지금 가격을 움직이는 건 GPU 성능 경쟁이 아니라 메모리 수급이며, 국내 RTX 50 시리즈는 2026년 8월부터 최대 30% 인상됐습니다(ZDNet Korea 2026-08-03 보도 기준). 3개월 전 가격표로 만든 가성비 계산은 지금 대부분 깨져 있다고 보는 편이 안전합니다.

Q1. VRAM 용량과 메모리 대역폭 중 무엇을 먼저 봐야 하나요?

순서가 정해져 있습니다. 용량이 먼저고, 대역폭은 그다음입니다. 용량은 통과·탈락을 가르는 이진 조건이고, 대역폭은 통과한 뒤의 속도를 정하는 연속 조건입니다. 모델 가중치가 VRAM에 다 안 들어가면 시스템 메모리나 SSD로 넘어가면서 체감 속도가 무너집니다. 반대로 일단 들어가기만 하면 한두 세대 지난 카드도 실용 범위에 들어옵니다.

용량 눈금은 모델 쪽 요구사항에서 역산하는 게 정확합니다. gpt-oss-120b는 117B 파라미터에 활성 5.1B인 MoE 구조로, MXFP4 양자화를 적용해 80GB GPU 한 장에 올라가도록 설계됐다고 공식 모델 카드에 명시돼 있습니다. gpt-oss-20b는 21B/활성 3.6B로 저지연·로컬 용도로 규정돼 있습니다. 이걸 기준선으로 잡으면 아래 표가 나옵니다.

VRAM 용량	4비트 기준 실용 모델 급	대표 제품	비고
16GB	20B급	RTX 5060 Ti 등	컨텍스트 길게 잡으면 빠듯
24~32GB	30B급	RTX 5090(32GB), Radeon AI PRO R9700(32GB)	대화형 보조에 적합
72~96GB	120B급 단일 카드	RTX PRO 5000(72GB), RTX PRO 6000(96GB)	80GB 기준선 충족
128GB	120B급 이상 적재	DGX Spark, Ryzen AI Max+ 395, Mac 계열	적재는 되나 속도는 별개

대역폭은 같은 용량 안에서 체감을 가릅니다. RTX PRO 6000은 1,792GB/s, DGX Spark는 273GB/s로 약 6.6배 차이가 나고, 이 값이 그대로 단일 사용자 응답 속도 차이로 이어집니다. Mac Studio M3 Ultra의 819GB/s는 통합 메모리 진영에서 예외적으로 높은 편이나, 이번 조사에서 M3 Ultra의 독립 LLM 실측치는 확보하지 못했습니다.

Q2. DGX Spark 같은 128GB 통합 메모리 박스, 그래픽카드 대신 살 만한가요?

"큰 모델을 올릴 수 있느냐"와 "빠르게 답이 나오느냐"는 완전히 다른 축이고, 이 제품군은 전자에만 강합니다. 마케팅 문구의 1페타플롭은 FP4 텐서 연산 이론 피크값이지 실사용 처리량이 아닙니다.

LMSYS의 독립 리뷰(2025-10-13 측정 기준) 수치를 보면 성격이 뚜렷합니다.

조건	DGX Spark	RTX 5090	RTX PRO 6000
gpt-oss-20b(MXFP4) 배치 1 프리필	2,053 tok/s	8,519 tok/s	10,108 tok/s
동일 조건 디코딩	49.7 tok/s	205 tok/s	215 tok/s
메모리 대역폭	273GB/s	512-bit GDDR7	1,792GB/s

같은 리뷰에서 Llama 3.1 8B는 배치 1의 20.5 tok/s에서 배치 32의 368 tok/s로 확장됐습니다. 이게 핵심 단서입니다. 동시 요청을 몰아서 처리하는 배치 작업에서는 총 처리량이 올라가지만, 사용자 한 명이 기다리는 체감 속도는 개선되지 않습니다. 그래서 IDE 코딩 보조나 실시간 대화에는 부적합, 야간 일괄 처리·문서 대량 요약에는 합리적이라는 결론이 나옵니다.

가격도 짚어야 합니다. DGX Spark 정가는 3,999달러에서 4,699달러로 인상됐고, NVIDIA 공식 공지(2026-02-25 게시)는 사유를 산업 전반의 메모리 공급 제약으로 적으면서 하드웨어나 구성 변경은 없다고 명시했습니다. 성능 개선 없이 17.5% 오른 셈입니다.

⚠️ 위 측정치는 2025년 10월 시점의 소프트웨어 스택 기준입니다. NVIDIA는 2026-01-05 개발자 블로그에서 llama.cpp MoE 모델 평균 35% 향상을 공지했으므로 현재 격차는 다를 수 있습니다. 동급 조건의 2026년 독립 재측정은 이번 조사에서 찾지 못했습니다.

Q3. VRAM만 크면 되는 줄 알았는데, 양자화 포맷 지원이 왜 문제가 되나요?

용량 충족은 필요조건일 뿐 충분조건이 아닙니다. 실제로 192GB VRAM 구성에서 대부분의 양자화 포맷이 실행에 실패한 사례가 공개돼 있습니다.

StorageReview는 2025-12-01 리뷰에서 Maxsun Arc Pro B60 Dual 48GB 4장(GPU 8개, 총 192GB VRAM)을 EPYC 9374F 서버에 얹고 Intel LLM Scaler 개발 브랜치와 vLLM으로 측정했습니다. 처리량 자체는 나쁘지 않았습니다. GPT-OSS 20B가 GPU 4개·배치 16에서 626.84 tok/s, Mistral 24B가 GPU 8개·배치 256에서 574.16 tok/s를 기록했습니다. 문제는 다른 데 있었습니다. MXFP4로 학습된 gpt-oss 계열만 동작했고 INT4·FP8·AWQ는 전부 실패했습니다. 리뷰어는 초기 드라이버 단계이며 결과가 예비적이라고 단서를 달았습니다.

이 사례가 주는 실무 교훈은 명확합니다. 커뮤니티에서 받아 쓰는 GGUF·AWQ 체크포인트를 자유롭게 돌릴 계획이라면, VRAM 숫자보다 소프트웨어 스택 호환성을 먼저 확인해야 합니다. 확인 순서는 이렇습니다.

AMD를 고려한다면 ROCm 공식 지원 목록에 해당 카드가 있는지 확인합니다. 현행 프로덕션 버전은 ROCm 7.14.0이며 RX 9070 XT, RX 7900 XTX, Radeon AI PRO R9700·R9600D 등이 포함돼 있습니다. 단, 이 문서는 Linux 전용이며 Windows 정보를 담고 있지 않습니다.
목록 밖이라면 Ollama의 Vulkan 백엔드가 사실상의 폴백입니다. 공식 문서상 Vulkan은 기본 활성화 상태이고, Windows는 대개 무설정, Linux는 별도 구성 요소 설치가 필요합니다.
NVIDIA는 컴퓨트 능력 5.0 이상 + 드라이버 550 이상이 기준선이며, CC 5.0~6.2 구형 카드는 드라이버 570 이상이 필요합니다.

한 가지 더 있습니다. Ollama 문서는 스케줄러가 GPU 라이브러리가 보고하는 VRAM 값을 근거로 배치를 결정한다고 밝히고 있습니다. 드라이버가 VRAM을 제대로 보고하지 못하는 환경에서는 모델 크기 근사치에 의존한 추정 스케줄링이 일어난다는 뜻입니다.

Intel Arc Pro B60의 2026년 정식 릴리스에서 INT4·AWQ 문제가 해결됐는지는 이번 조사에서 확인하지 못했습니다. 구매 전 최신 릴리스 노트를 직접 확인하시기 바랍니다.

Q4. 지금 사는 게 나을까요, 다음 세대를 기다리는 게 나을까요?

"기다리면 싸진다"는 전제 자체가 2026년에는 근거가 약합니다. 확인된 사실들이 대부분 반대 방향을 가리킵니다.

항목	변동 내용	기준 시점
DGX Spark 정가	$3,999 → $4,699 (+17.5%)	2026-02-25 공지, 전 지역 적용
국내 RTX 50 시리즈	최대 30% 인상	2026-08-03 보도
RTX 5090 국내 실판매가	730만원대	동일
RTX 5070(12GB)	약 20만원 인상 → 110만원대	동일
AMD 파트너 공급가	GPU 다이+VRAM 키트 최소 10% 인상	2026-07-31 통보, 8월 적용

국내 인상 근거로는 TSMC 선단 공정 웨이퍼 가격 인상과 GDDR7 개당 20달러 초반대 상승이 지목됐으며, 취재원은 국내 복수 수입사·유통사 관계자입니다. AMD 인상 대상은 완제 그래픽카드가 아니라 파트너 공급용 키트이므로 기존 재고는 당분간 이전 가격이 유지될 수 있다는 단서가 붙었습니다.

MSRP 기준 계산도 지금은 성립하지 않습니다. 2026-08-17 확인 시점 기준, NVIDIA RTX 5090 공식 제품 페이지의 가격·출시일란은 플레이스홀더 상태로 비어 있습니다. 사양은 32GB GDDR7, 512-bit, CUDA 코어 21,760개, TGP 575W로 정상 표기돼 있으나 가격만 빠져 있습니다. NVIDIA가 MSRP를 공식 조정한 것인지 표시만 비운 것인지는 확인되지 않았습니다.

대기 전략의 근거로 자주 거론되는 24GB RTX 5080 Super 등 RTX 50 SUPER 시리즈는 GDDR7 수급 문제로 무기한 연기 또는 취소됐다는 보도가 다수 있으나 NVIDIA 공식 발표는 확인되지 않았습니다(확인 필요 — 미확인 사항). 미확인 정보를 조달 계획의 전제로 삼는 것은 권하기 어렵습니다.

확정된 신제품은 하나입니다. NVIDIA는 2026-05-31 Computex에서 RTX Spark를 발표했고, 128GB 통합 메모리·20코어 Grace CPU·6,144 CUDA 코어에 ASUS·Dell·HP·Lenovo·MSI 등이 파트너로 참여합니다. 다만 출시 시점이 "올가을"이라 2026-08-17 기준으로는 구매할 수 없습니다. 같은 발표에서 제시된 llama.cpp 2배·vLLM 2.6배 성능 향상 수치는 측정 모델·배치·양자화 조건이 명시돼 있지 않습니다.

Q5. 예산과 용도별로 정리하면 어떤 선택지가 남나요?

용도를 먼저 확정하고 제품을 고르는 순서가 낭비를 줄입니다. 네 갈래로 나뉩니다.

첫째, 대화형 속도가 최우선인 경우(코딩 보조·실시간 채팅). 32GB급 단일 dGPU가 답입니다. RTX 5090은 32GB GDDR7·575W로 배치 1 디코딩 205 tok/s를 냈지만 국내 730만원대(2026-08-03 기준)라는 벽이 있습니다. 대안으로 Radeon AI PRO R9700(32GB, 300W, 정가 $1,299)과 R9600D(32GB, 640GB/s, TBP 150W 싱글 슬롯 패시브)가 있고 둘 다 ROCm 7.14 공식 지원 목록에 포함돼 있습니다. AMD 사양·가격 정보는 amd.com 접근 차단으로 원문 대조를 하지 못해 2차 출처 기준입니다. 특히 R9600D의 150W 싱글 슬롯 구성은 슬롯·전력이 빡빡한 케이스에 다중 장착할 때 사실상 유일한 선택지입니다.

둘째, 120B급을 단일 카드에 올려야 하는 소규모 사내 서버. RTX PRO 6000 Blackwell 96GB GDDR7 ECC가 이번 조사에서 확인된 단일 기기 최고 디코딩 성능(215 tok/s)입니다. 1,792GB/s 대역폭, 600W, 듀얼 슬롯 구성입니다. RTX PRO 5000 72GB는 2025-12-18 정식 출시됐고 2,142 TOPS를 표방하나 NVIDIA가 가격을 공개하지 않았습니다. 리셀러 기준 1만 달러 안팎 언급은 있으나 원문 대조를 하지 못했습니다.

셋째, 용량 우선·속도 타협. DGX Spark(128GB, 273GB/s, $4,699), Ryzen AI Max+ 395 계열(128GB, 이론 256GB/s), Mac Studio M3 Ultra(96GB부터, 819GB/s)가 후보입니다. Ryzen AI Max+ 계열은 실효 대역폭이 180GB/s 수준이라는 사용자 보고가 반복 관찰되는데, 이는 공식 확인 자료가 아니며 수치 근거로 쓸 수 없습니다. 반대로 ROCm이 추론용으로 쓸 만해졌다는 평가도 함께 관찰됩니다. 맥 진영은 MacBook Pro M5 Pro·M5 Max가 최대 128GB 구성을 지원하며 대역폭은 M5 Max 40코어 기준 614GB/s입니다. 2026-08-17 기준 Apple 공식 Mac Studio 구성은 M4 Max와 M3 Ultra 두 종이며, M5 Mac Studio 관련 보도는 전부 미확인 루머입니다.

넷째, 절대 피해야 할 판단. ① 1인칭 사용 후기에 나오는 중고 다중 GPU 시세를 예산 근거로 삼는 것 — 중고 RTX 3090 4장 구성이 5090 2장보다 유리하다는 계산이 커뮤니티에 반복 등장하고 $600~800대가 거론되나, 지역·시점 편차가 크고 공식 확인 자료가 없습니다. ② RTX 3090의 NVLink로 VRAM을 통합해 대형 모델을 돌린다는 주장 — 이를 뒷받침하는 공식 문서를 찾지 못했고(확인 필요 — 미확인 사항), llama.cpp·vLLM의 다중 GPU 처리는 메모리 통합이 아니라 텐서·레이어 분할입니다.

정리

로컬 LLM용 GPU는 VRAM 용량으로 후보를 거르고, 메모리 대역폭으로 체감 속도를 예측하며, 양자화 포맷 지원으로 최종 검증하는 순서로 고르면 실패 확률이 가장 낮습니다. 대화형 용도라면 32GB급 dGPU, 120B급 단일 카드 운용이라면 72~96GB 프로 카드, 배치 처리 위주라면 128GB 통합 메모리 박스가 각각의 자리에 맞습니다. 2026년 8월 현재 가격을 움직이는 변수는 성능이 아니라 메모리 수급이며, DGX Spark 17.5% 인상과 국내 RTX 50 최대 30% 인상이 모두 같은 원인을 지목하고 있습니다. RTX 50 SUPER 24GB 라인업 등 미확인 정보를 대기 전략의 근거로 삼지 말고, 확정된 사양과 실측 수치만으로 판단하시기 바랍니다.

참고 자료

조사 기준일: 2026년 08월 17일

Tier 1 — 원문 WebFetch 대조 완료 (전부 2026-08-17 확인)
- NVIDIA DGX Spark 제품 페이지 — https://www.nvidia.com/en-us/products/workstations/dgx-spark/
- NVIDIA Developer Forums, "2/23/2026 Price Change Announcement" (2026-02-25 게시) — https://forums.developer.nvidia.com/t/2-23-2026-price-change-announcement/361713
- NVIDIA GeForce RTX 5090 제품 페이지 — https://www.nvidia.com/en-us/geforce/graphics-cards/50-series/rtx-5090/
- NVIDIA RTX PRO 6000 Blackwell Workstation Edition — https://www.nvidia.com/en-us/products/workstations/professional-desktop-gpus/rtx-pro-6000/
- NVIDIA Blog, RTX PRO 5000 72GB Blackwell GA (2025-12-18) — https://blogs.nvidia.com/blog/rtx-pro-5000-72gb-blackwell-gpu/
- NVIDIA GeForce News, Computex 2026 발표 (2026-05-31) — https://www.nvidia.com/en-us/geforce/news/computex-2026-nvidia-geforce-rtx-announcements/
- NVIDIA Developer Blog, DGX Spark 소프트웨어·모델 최적화 (2026-01-05) — https://developer.nvidia.com/blog/new-software-and-model-optimizations-supercharge-nvidia-dgx-spark
- Apple Mac Studio 기술 사양 — https://www.apple.com/mac-studio/specs/
- Apple MacBook Pro 기술 사양 — https://www.apple.com/macbook-pro/specs/
- AMD ROCm 설치 문서, System requirements (ROCm 7.14.0) — https://rocm.docs.amd.com/projects/install-on-linux/en/latest/reference/system-requirements.html
- Ollama 공식 문서, GPU — https://docs.ollama.com/gpu
- Hugging Face, openai/gpt-oss-120b 모델 카드 — https://huggingface.co/openai/gpt-oss-120b
Tier 2 — 원문 WebFetch 대조 완료
- LMSYS Org, "NVIDIA DGX Spark In-Depth Review" (2025-10-13) — https://www.lmsys.org/blog/2025-10-13-nvidia-dgx-spark/
- StorageReview, "Intel Arc Pro B60 Battlematrix Preview: 192GB of VRAM for On-Premise AI" (2025-12-01) — https://www.storagereview.com/review/intel-arc-pro-b60-battlematrix-preview-192gb-of-vram-for-on-premise-ai
- igor'sLAB, "AMD Radeon AI PRO R9600D: 32 GB VRAM for local AI" (2026-05-12) — https://www.igorslab.de/en/amd-radeon-ai-pro-r9600d-32-gb-vram-local-ai/
- ZDNet Korea, "엔비디아 '지포스 RTX 50' 그래픽카드, 이달부터 최대 30% 가격 인상" (2026-08-03) — https://zdnet.co.kr/view/?no=20260803150150
Tier 2 — 검색 결과 수준만 확인 (원문 대조 실패, 403/차단)
- Tom's Hardware GPU 가격 추적 — https://www.tomshardware.com/pc-components/gpus/lowest-gpu-prices-tracking (본문 접근 실패)
- TechPowerUp, AMD 10% GPU 가격 인상 — https://www.techpowerup.com/343197/amd-prepares-10-gpu-price-hike-amid-memory-shortage (403)
- VideoCardz, AMD Radeon GPU·메모리 키트 8월 10% 인상 — https://videocardz.com/newz/amd-radeon-gpu-and-memory-kit-prices-reportedly-rising-10-in-august (403)
- Phoronix, Radeon AI PRO R9700 Linux 성능 리뷰 — https://www.phoronix.com/review/amd-radeon-ai-pro-r9700 (403)
- TechPowerUp, RTX 50 SUPER GDDR7 수급 관련 보도 — https://www.techpowerup.com/342705/gddr7-shortage-could-stop-nvidia-geforce-rtx-50-series-super-rollout (403)
- Intel Newsroom, Crescent Island 발표 — https://newsroom.intel.com/artificial-intelligence/intel-to-expand-ai-accelerator-portfolio-with-new-gpu (미대조)
Tier 3 — 수치 근거로 사용 금지
- Hacker News, 로컬 LLM 관련 게시물 (2026-07-14 ~ 07-28) — hn.algolia.com API로 확인
- r/LocalLLaMA 인용문 (Strix Halo·ROCm·3090 다중 구성) — reddit.com 직접 접근 차단으로 원 스레드 미대조
- 루리웹 "RTX 5090 가격 근황" — https://bbs.ruliweb.com/community/board/300143/read/75505978
접근 실패로 이번 조사에서 배제한 출처
- amd.com 전 도메인 (제품 페이지·블로그·개발자 기술 문서) — ECONNRESET / 타임아웃 반복. AMD 하드웨어 관련 사양·가격은 전부 T2 이하로 처리했다.
- openai.com (gpt-oss 발표문) — 403. 대신 Hugging Face 공식 모델 카드로 대체 확인.
- 다나와 가격비교 MCP 커넥터 — 인증 미완료로 이번 세션에서 사용 불가. 국내 실시간 최저가 대조를 하지 못했다. claude.ai 커넥터 설정에서 인증하면 다음 조사에서 국내 가격을 T2로 직접 확인할 수 있다.

Gemini 3.7 Flash 마이그레이션 총정리, 3.6 대비 무엇이 달라졌나

mdit — Mon, 17 Aug 2026 01:27:01 +0900

2026년 8월 13일 GA로 풀린 구글 신형 모델의 실제 단가·벤치마크·API 변경점을 공식 문서와 대조했습니다. 발표문의 '반값'과 '가장 똑똑한'이 어디까지 사실인지, 갈아탈 때 깨지는 설정은 무엇인지 정리합니다.

Gemini 3.7 Flash 개요

구글이 2026년 8월 13일 Gemini 3.7 Flash를 GA(정식 출시)로 공개했습니다. 모델 ID는 gemini-3.7-flash, 같은 날 Gemini API 릴리즈 노트에 정식 등재됐습니다. 눈에 띄는 건 직전 모델인 3.6 Flash가 2026년 7월 21일에 나왔다는 점입니다. 두 모델의 출시 간격이 불과 3주입니다.

이 짧은 간격의 답은 구글이 직접 쓴 모델카드에 있습니다. DeepMind 모델카드는 3.7 Flash를 Gemini 3 제품군의 다음 반복이며 "추론 기반부의 알고리즘 개선"이 특징이라고 적었습니다. 처음부터 새로 사전학습한 모델이 아니라, 기존 기반 위에서 추론 방식을 손본 개선판이라는 뜻입니다. 3주 만에 새 번호가 붙은 배경이 여기 있습니다.

문제는 발표문과 실제 문서 사이의 간극입니다. 구글은 "3.6 Flash 원가의 절반"과 "가장 지능적인 워크호스 모델"을 내세웠지만, 2026년 8월 17일 확인 시점에 공식 가격표를 열어보면 3.6 Flash도 단가가 같습니다. 이 글에서는 공식 문서와 제3자 측정치를 대조해, 실제로 달라진 것과 마케팅 표현을 구분합니다. 특히 API를 직접 쓰는 개발자가 마이그레이션 때 반드시 확인해야 할 파괴적 변경(breaking change) 한 가지를 짚습니다.

1. 스펙과 API 변경점: 이 사라졌다

먼저 기본 사양입니다. 입력 토큰 한도는 1,048,576개(약 100만), 출력 토큰 한도는 65,536개입니다. 지식 컷오프는 2026년 3월, 다만 모델카드는 일부 도메인은 2025년 1월까지로 제한된다고 명시합니다. 최신 정보가 필요한 작업이라면 Search grounding 병행이 사실상 필수입니다.

가장 중요한 변경은 추론 강도 제어 방식입니다.

항목	Gemini 3.6 Flash	Gemini 3.7 Flash
추론 강도 제어	`thinking_budget` (숫자)	`thinking_level` (문자열 enum)
지원 단계	minimal 포함	low / medium / high 3단계만
기본값	—	medium
temperature / top_p / top_k	사용	생성 설정에서 제거 대상

thinking_level: minimal은 3.7 Flash에서 지원되지 않습니다. 3.6에서 minimal로 돌리던 요청을 그대로 3.7에 넘기면 깨집니다. 이번 마이그레이션에서 유일하게 명확한 파괴적 변경입니다. 실시간 채팅 응답, 인시던트 자동 대응처럼 지연 예산이 빡빡한 파이프라인이 minimal에 의존해왔다면, low 단계로 내려도 목표 지연을 맞추는지 먼저 재봐야 합니다.

여기에 더해 구글 공식 마이그레이션 문서는 ·top_p·top_k를 생성 설정에서 제거하라고 안내합니다. 기본값 medium은 문서상 "대부분의 작업에 최적 품질"로 설명되므로, 별도 튜닝 없이 전환하면 medium으로 동작합니다.

지원 기능도 확인이 필요합니다. 캐싱·코드 실행·File search·Function calling·Google Maps grounding·Search grounding·Structured outputs·URL context·Batch API·Flex·Priority 추론이 지원되고, Computer use는 Preview 단계입니다. 반면 오디오 생성, 이미지 생성, Live API는 미지원입니다. 음성 대화형 서비스를 구상 중이라면 이 세 가지가 빠졌다는 점을 설계 초기에 반영해야 합니다.

2. 가격: "절반"은 반쯤만 맞는 말입니다

이번 발표에서 가장 오해를 부르는 지점입니다. 아래는 2026년 8월 17일 공식 가격 페이지 확인 시점 수치입니다.

구분	도입가 (~2026.12.31)	2027.01.01 이후
입력 100만 토큰	$0.75	$1.50
출력 100만 토큰	$3.75	$7.50
컨텍스트 캐싱	$0.075	$0.15
Gemini 3.6 Flash 입력	$0.75 (동일)	—
Gemini 3.6 Flash 출력	$3.75 (동일)	—

핵심은 마지막 두 줄입니다. 같은 가격표에서 Gemini 3.6 Flash도 입력 $0.75 / 출력 $3.75로 표기돼 있습니다(2026년 8월 17일 기준, 서로 다른 두 차례 조회에서 같은 결과 확인). 3.6 Flash도 같은 도입 가격으로 내려온 상태입니다.

2026년 8월 17일 기준으로 3.6에서 3.7로 갈아타도 토큰 단가상의 이득은 0입니다. "원가의 절반"이라는 표현은 3.6 Flash의 출시 당시 가격이었던 $1.50 / $7.50과 비교할 때만 성립합니다. 3.6 Flash는 2026년 7월 21일 발표 당시 입력 100만 토큰당 $1.50, 출력 $7.50으로 공지됐습니다.

예산 계획에서 더 중요한 건 도입가 종료 시점입니다. 2026년 12월 31일에 프로모션이 끝나고 2027년 1월 1일부터 정확히 두 배가 됩니다. 연간 예산을 짠다면 12월까지 $0.75/$3.75, 1월부터 $1.50/$7.50 두 구간으로 나눠 계산해야 합니다. 해커뉴스에는 "다섯 달 뒤에도 이 모델을 쓰고 있을 사람이 있겠나"는 냉소적 반응도 나왔습니다(2026년 8월 17일 확인, 커뮤니티 의견이며 공식 확인 자료가 아닙니다).

부가 항목도 정리합니다. Search grounding은 Gemini 3.x 전체 공유로 월 5,000회 무료, 초과분은 1,000회당 $14입니다. 배치 처리는 입출력 모두 50% 할인됩니다. 대량 비동기 작업이라면 배치 경로를 먼저 검토하는 편이 유리합니다.

미확인 사항이 하나 있습니다. Cursor 공식 문서는 출력 단가를 $3.50으로 표기해 구글 공식가 $3.75와 다릅니다(2026년 8월 17일, 2회 교차 조회에서 동일). 오기인지 재판매 단가 차이인지는 이번 조사에서 확인하지 못했습니다.

3. 벤치마크: 자사 수치와 제3자 지수가 갈립니다

구글이 발표문에 실은 자사 벤치마크는 개선폭이 큽니다.

벤치마크	3.7 Flash	3.6 Flash	차이
FrontierCode 1.1 Main	43.6%	34.4%	+9.2%p
DeepSWE v1.1	65.3%	49.0%	+16.3%p
WebDev Arena (Elo)	1588	1538	+50
GDP.pdf	34.0%	22.0%	+12.0%p
AutomationBench	30.4%	17.0%	+13.4%p

모델카드에는 Terminal-bench 2.1 85.8%, GDM-MRCR v2(128k) 97.0%, Harvey LAB-AA 90.7% 수치도 추가로 실렸습니다.

다만 이 표를 그대로 믿기 어려운 이유가 있습니다. GDP.pdf·AutomationBench·FrontierCode 1.1이 공개 표준 벤치마크인지 구글 내부 평가인지를 공식 자료에서 확인하지 못했습니다.

제3자 측정으로 넘어가면 그림이 달라집니다. Artificial Analysis Intelligence Index v4.1.1 기준, 3.7 Flash(high)는 56점으로 3.6 Flash보다 4점 올랐습니다(medium 53, low 51). 그러나 같은 지수에서 GPT-5.6 Terra(max) 57점, Muse Spark 1.2(xhigh) 57점에 1점 차로 뒤진 3위권입니다.

"가장 지능적인 워크호스 모델"이라는 표현은 구글 자사 제품군 내부 순위일 때만 성립합니다. 대신 3.7 Flash가 확실히 앞서는 축이 있습니다. 평균 Time per Task 1.7분으로 GPT-5.6 Terra(max)보다 40% 빠르고, 출력 속도는 약 340 tok/s로 Terra 및 GLM-5.2의 약 3배입니다. 지수 1과제당 비용은 $0.40으로 3.6 Flash보다 30% 저렴합니다. 단가가 같은데도 과제당 비용이 줄었다는 건 같은 결과를 더 적은 토큰으로 낸다는 뜻입니다.

WebDev Arena Elo 1588도 주의가 필요합니다. 발표 시점 예비(preliminary) 집계이며 표본 2,544표 수준으로 보고됐습니다. 아레나 점수는 투표가 쌓이며 움직입니다(원 리더보드 페이지는 직접 대조하지 못했습니다).

4. "오늘부터 사용 가능"의 실제 조건

발표문의 GA 표기를 배포 계획의 근거로 삼으면 곤란합니다. 채널별 실제 조건은 다음과 같습니다.

채널	실제 조건
개발자	Google AI Studio, Android Studio, Google Antigravity
기업(웹)	global·us·eu 리전 한정 + 관리자 토글 필수
기업(모바일)	8/13 "미제공"으로 정정 → 8/14 GA
개인	Gemini 앱 Spark 기능 + AI Pro/Ultra 구독자, 160개국 이상
검색 AI Mode	영어 + AI Pro/Ultra 구독자 한정

Gemini Enterprise 릴리즈 노트에는 정정 항목이 남아 있습니다. 8월 13일자로 "Gemini 3.7 Flash는 Gemini Enterprise 모바일 앱에서 사용할 수 없다"로 정정됐고, 하루 뒤인 8월 14일에야 모바일 앱 GA가 별도 공지됐습니다(역시 관리자 토글 필요). 웹 역시 관리자가 "Gemini 3.7 Flash" 기능 토글을 켜야 사용자에게 노출되며, 워크플로 에이전트 반영에는 최대 1일의 전파 지연이 있습니다.

개인 사용자 쪽도 오해하기 쉽습니다. 제미나이 앱에서 3.7 Flash를 쓰려면 Spark 기능 안에서, 유료 AI Pro 또는 Ultra 구독자여야 하고, 8월 13일 시점에는 순차 롤아웃 상태였습니다. 무료 사용자는 대상이 아닙니다. 8월 14일부터는 구글 검색 AI Mode에도 투입됐지만 영어·유료 구독자 한정이며 "Ask anything" 바의 모델 메뉴에서 고르는 방식입니다(다만 이 발표의 1차 근거인 구글 검색 제품 VP의 게시물 원문은 대조하지 못했습니다).

안전성 쪽은 Frontier Safety 평가에서 CBRN·사이버보안·유해 조작·ML R&D 영역 모두 임계 역량 수준에 도달하지 않았다고 적혀 있습니다. 반면 모델카드가 스스로 밝힌 한계에는 "간헐적인 속도 저하 또는 타임아웃 문제"가 들어 있습니다.

5. 갈아탈까 말까: 상황별 판단과 FAQ

Q. 지금 3.6에서 3.7로 옮겨야 합니까?
가격만 보면 옮길 이유가 없고, 성능만 보면 옮길 이유가 있습니다. 2026년 8월 17일 기준 단가가 같으므로 판단은 순수하게 품질 대비 전환 비용 문제입니다. 독립 지수 +4점, 자사 DeepSWE +16.3%p, 과제당 비용 30% 감소를 얻는 대신 파라미터 정리 작업이 듭니다. 대부분의 워크로드에서는 사실상 무료 업그레이드입니다.

Q. 옮기지 말아야 할 경우는 언제입니까?
thinking_level: minimal에 의존하는 저지연 파이프라인입니다. 3.7은 이 단계를 지원하지 않으니, low로도 지연 예산을 못 맞춘다면 3.6 유지가 합리적입니다. 다만 3.6 Flash의 지원 종료(deprecation) 일정은 공식 공지가 없어 확인하지 못했습니다. 무기한 유지를 전제로 설계하는 건 위험합니다.

Q. GPT-5.6 Terra와 비교하면 어떻습니까?
종합 지수는 57 대 56으로 Terra가 근소 우위이나, 3.7 Flash는 과제당 시간이 40% 짧고 출력 속도가 약 3배입니다. 지능 최상단이 필요하면 Terra, 처리량·응답시간이 지배적이면 3.7 Flash가 맞습니다. 다만 OpenAI 측 공식 가격은 이번 조사에서 확인하지 못해 비용 비교는 하지 않습니다.

Q. 커뮤니티 실사용 반응은 어떻습니까?
2026년 8월 17일 확인 기준이며 공식 확인 자료가 아닌 개인 의견임을 전제로 정리하면, 비전·이미지→HTML 변환 작업에서 가격 대비 기대 이상이라는 평가가 있는 반면, UI 생성은 여전히 Claude Opus 5가 낫다는 비교가 반복됩니다. API 키 발급과 온보딩 마찰(계정 플래그 지연, AI Studio와 GCP 콘솔 분리)을 두고 나온 불만도 많았습니다. 실서비스 운영 중 계정이 자동 다운그레이드·업그레이드되며 장애가 났다는 개별 사례도 있었으나 소수 보고입니다.

Q. 왜 3주 만에 새 버전이 나왔습니까?
공식적으로는 추론 기반부의 알고리즘 개선입니다. 배경 맥락으로 플래그십 Gemini 3.5 Pro가 코딩 성능 문제로 지연되고 있다는 블룸버그 취재 보도가 있습니다. I/O 2026(5월)에서 6월 출시를 예고했으나 미출시 상태이며, 6월 말 학습 데이터를 갱신했지만 결과가 실망스러웠다는 내용입니다. 다만 3.5 Pro의 현재 상태를 명시한 구글 공식 문서는 찾지 못했고, 3.7 Flash 조기 출시와의 인과관계는 추정일 뿐입니다.

정리

이번 발표에서 실제로 달라진 건 가격이 아니라 성능입니다. 2026년 8월 17일 확인 기준 3.6 Flash도 같은 $0.75/$3.75로 내려왔으므로 비용을 이유로 마이그레이션할 근거는 없고, 파라미터 정리라는 전환 비용은 실재합니다. 그럼에도 독립 지수 +4점, 과제당 비용 30% 감소, 출력 속도 약 3배라는 성능 이득은 충분히 옮길 만합니다.

확인할 건 thinking_level: minimal 의존 여부 하나입니다. 여기에 걸리지 않는다면 전환을 미룰 이유가 없습니다. 마지막으로 2027년 1월 1일부터 단가가 정확히 두 배가 된다는 점을 지금 재무 모델에 반영해두시기 바랍니다.

참고 자료

조사 기준일: 2026년 08월 17일

Tier 1 (원문 대조 완료)
- Introducing Gemini 3.7 Flash — https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-gemini-3-7-flash/ (확인 2026-08-17)
- 제미나이 3.7 플래시를 소개합니다 (한국어판) — https://blog.google/intl/ko-kr/company-news/technology/introducing-gemini-3-7-flash-kr/ (확인 2026-08-17)
- Gemini 3.7 Flash 모델카드 — https://deepmind.google/models/model-cards/gemini-3-7-flash/ (published 2026-08-13, 확인 2026-08-17)
- Gemini 3.7 Flash 모델 페이지 — https://ai.google.dev/gemini-api/docs/models/gemini-3.7-flash (확인 2026-08-17)
- What's new in Gemini 3.7 Flash — https://ai.google.dev/gemini-api/docs/latest-model (확인 2026-08-17)
- Gemini API Pricing — https://ai.google.dev/gemini-api/docs/pricing (확인 2026-08-17, 2회 교차 조회)
- Gemini API Release notes — https://ai.google.dev/gemini-api/docs/changelog (확인 2026-08-17)
- Gemini Enterprise release notes — https://docs.cloud.google.com/gemini/enterprise/docs/release-notes (확인 2026-08-17)
- Introducing Gemini 3.6 Flash, 3.5 Flash-Lite, and 3.5 Flash Cyber — https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-3-6-flash-3-5-flash-lite-3-5-flash-cyber/ (2026-07-21, 확인 2026-08-17)
- Gemini 3.6 Flash 모델 페이지 — https://ai.google.dev/gemini-api/docs/models/gemini-3.6-flash (확인 2026-08-17)
Tier 2 (원문 대조 완료)
- Artificial Analysis — Gemini 3.7 Flash (high) — https://artificialanalysis.ai/models/gemini-3-7-flash (확인 2026-08-17)
- Artificial Analysis — "On the Intelligence vs. Time per Task Pareto frontier" — https://artificialanalysis.ai/articles/gemini-3-7-time-frontier (확인 2026-08-17)
- 9to5Google — Gemini 3.7 Flash launch — https://9to5google.com/2026/08/13/gemini-3-7-flash-launch/ (확인 2026-08-17)
- 9to5Google — Gemini 3.5 Pro delays (블룸버그 인용) — https://9to5google.com/2026/07/16/gemini-3-5-pro-delays/ (확인 2026-08-17)
- Search Engine Journal — Google Brings Gemini 3.7 Flash To AI Mode In Search — https://www.searchenginejournal.com/google-brings-gemini-3-7-flash-to-ai-mode-in-search/585923/ (확인 2026-08-17)
- Cursor Docs — Gemini 3.7 Flash — https://cursor.com/docs/models/gemini-3-7-flash (확인 2026-08-17, 2회 교차 조회)
Tier 2 (접근 실패 — 인용하지 않음)
- VentureBeat — 50% introductory price cut — https://venturebeat.com/technology/googles-gemini-3-7-flash-targets-coding-and-agents-with-a-50-introductory-price-cut (HTTP 429)
- Axios — Google's Gemini 3.7 Flash arrives before Gemini 3.5 Pro — https://www.axios.com/2026/08/13/google-gemini-37-flash (HTTP 403)
- Northeast Times — leadership shakeup — https://northeasttimes.com/2026/08/14/google-launches-gemini-3-7-flash-amid-ai-leadership-shakeup/ (HTTP 403)
Tier 3 (수치 근거 아님)
- Hacker News — Gemini 3.7 Flash — https://news.ycombinator.com/item?id=49289112 (확인 2026-08-17)
- Hacker News — Gemini 3.6 Flash — https://news.ycombinator.com/item?id=48993130 (확인 2026-08-17)

스펙시트 뜯어보기

Gemini 3.7 Flash 무엇이 달라졌나, 3.6과 비교 총정리

Gemini3.7Flash, 무엇을 기준으로 비교해야 할까

비교 기준 정리

옵션·유형별 비교

상황별 추천

자주 하는 실수

정리

함께 보면 좋은 글

참고 자료

GLM-5.3 로컬 실행 요건과 대안 총정리 (2026.08 기준)

GLM 5.3 개요

1. GLM-5.3 로컬 실행이 아직 불가능한 이유

2. GLM-5.2 기준 실질 하드웨어 요건

3. 서빙 프레임워크·마이그레이션 체크리스트

4. 로컬 vs API — 비용 판단 기준

5. 확인 필요 항목 및 자주 묻는 질문

정리

함께 보면 좋은 글

참고 자료

DeepSeek V4 로컬 실행 요건 정리 — Flash 128GB, Pro는 8장 노드

DeepSeek V4 개요

1. Flash vs Pro — 자가호스팅 가능선이 갈리는 지점

2. GGUF 양자화별 실제 메모리 요건

3. CPU 전용 실행 — 로드는 되지만 쓸 만한지는 다른 문제

4. Blackwell NVFP4 경로와 프레임워크 버전 함정

5. API vs 로컬 — 단가로는 API가 이깁니다

정리

함께 보면 좋은 글

참고 자료

Grok 4.6 달라진 점 총정리 — 초보자용 비교 가이드

Grok 4.6, 무엇을 기준으로 비교해야 할까

비교 기준 정리

옵션·유형별 비교

상황별 추천

자주 하는 실수

정리

함께 보면 좋은 글

참고 자료

오픈웨이트 LLM 로컬 실행 가능성 비교: 24GB VRAM 기준 순위표 읽는 법

오픈소스 LLM 순위, 무엇을 기준으로 비교해야 할까

비교 기준 정리

옵션·유형별 비교

상황별 추천

자주 하는 실수

정리

함께 보면 좋은 글

참고 자료

Tier 1 — 공식 1차 자료 (모두 2026-08-18 WebFetch로 원문 확인)

Tier 2 — 독립 검증 (모두 2026-08-18 확인)

조사하지 않은 영역

Stripe OpenRouter 인수설, 개발자 게이트웨이 선택 기준 총정리

Stripe OpenRouter 인수, 무엇을 기준으로 비교해야 할까

비교 기준 정리

옵션·유형별 비교

상황별 추천

자주 하는 실수

정리

함께 보면 좋은 글

참고 자료

GPT-5.6 Luna 80% 인하 vs Gemini 3.7 Flash 도입가 — 2026년 8월 AI API 단가 재계산 실무 가이드

AI API 가격 인하 시작 전 확인할 것

준비물·필요 서류

단계별 진행 순서

자주 놓치는 부분

체크리스트 정리

함께 보면 좋은 글

참고 자료

Qwen3.8 27B 로컬 실행 요건 총정리: 17GB의 진짜 의미

Qwen3.8 27B 핵심만 먼저 정리하면

Q1. 4비트 17GB면 제 16GB 그래픽카드에서 돌아가나요?

Q2. 배포처마다 Q4_K_M 용량이 다른데 어떤 걸 받아야 하나요?

Q3. 262K 컨텍스트를 쓰려면 메모리가 얼마나 더 필요한가요?

Q4. 공개된 속도가 3 tok/s부터 206 tok/s까지인데 뭘 믿어야 하나요?

Q5. 설치는 끝났는데 답변이 21분씩 걸립니다. 무엇을 먼저 봐야 하나요?

정리

함께 보면 좋은 글

참고 자료

Tier 1 — 원문을 열어 대조한 1차 자료

Tier 2 — 독립 측정·제3자 검증·매체