로컬 LLM용 GPU 고르는 법, DGX Spark 대안 3종 실측 비교

---

RTX 6000 개요

로컬에서 대형 언어모델(LLM)을 돌리려는 개발자와 소규모 기업이 늘면서, NVIDIA DGX Spark와 RTX PRO 6000 Blackwell 시리즈, Apple Mac Studio(M3 Ultra) 사이에서 어떤 장비를 도입해야 할지 묻는 사례가 많아졌다. 세 제품 모두 "로컬에서 큰 모델을 돌린다"는 목적은 같지만 체급이 완전히 다르다. DGX Spark는 128GB 통합 메모리를 갖춘 초소형 데스크탑 AI 컴퓨터이고, RTX PRO 6000 Blackwell은 96GB GDDR7을 탑재한 서버·워크스테이션급 전문가용 GPU다. Mac Studio는 최대 512GB(2026년 3월경부터 공급 이슈로 현재는 최대 256GB, 2026년 7월 확인 시점 기준)의 통합 메모리를 내세우는 macOS 기반 대안이다. 이 글에서는 제조사 공식 스펙과 전문 매체 실측치를 기준으로 세 제품의 성능·가격·총소유비용(TCO)을 비교하고, 어떤 상황에 어떤 제품이 맞는지 정리한다.

---

1. 메모리 대역폭이 진짜 체감 속도를 결정한다

세 제품 모두 최신 세대 아키텍처를 쓰지만, LLM 토큰 생성 속도를 좌우하는 것은 연산 성능(FLOPS)이 아니라 메모리 대역폭이다. 모델 추론은 대부분 메모리에서 가중치를 읽어오는 속도가 병목이 되기 때문이다.

항목	DGX Spark	RTX PRO 6000 Blackwell (Workstation)	Mac Studio (M3 Ultra)
메모리 용량	128GB LPDDR5x 통합	96GB GDDR7 ECC	최대 512GB 통합(현재 최대 256GB, 2026.07 기준)
메모리 대역폭	273 GB/s	1,792 GB/s	819 GB/s
연산 성능(FP4 피크)	최대 1 PFLOPS	최대 4 PFLOPS	해당 없음(별도 표기 없음)
최대 소비전력	GB10 SoC TDP 140W(어댑터 240W)	최대 600W	공식 미확인
정가(확인 시점 기준)	약 4,699달러(2026.07.28 기준)	초기 MSRP 8,565달러 → 마켓플레이스 13,250달러(2026.07 기준, 약 55% 인상)	512GB 구성 과거가 약 9,499달러(현재 판매 중단, 재확인 불가)

RTX PRO 6000의 대역폭(1,792 GB/s)은 DGX Spark(273 GB/s)의 약 6.6배다. 이 비율이 실제 토큰 생성 속도 격차와 거의 그대로 겹친다는 점이 다음 섹션의 핵심이다.

---

2. 실측 벤치마크에서 드러난 토큰 생성 속도 6~7배 차이

전문 매체와 개발자 커뮤니티의 실측 자료를 보면 대역폭 격차가 그대로 체감 속도 격차로 이어진다. SGLang FP8 방식으로 Llama 3.1 8B 모델을 입력 2048/출력 2048 토큰 조건에서 테스트한 결과는 다음과 같다(2026년 7월 확인 시점 기준, 개인 리포지토리 실측이라 공식 벤치마크 대비 참고용으로만 활용할 것).

배치 크기	DGX Spark (decode tok/s)	RTX PRO 6000 (decode tok/s)	속도 차이
배치 1	20.52	143.90	약 6.18배
배치 8	-	-	약 6.07배
배치 32	-	-	약 7.00배

StorageReview가 RTX PRO 6000 Workstation과 Threadripper PRO 7980X 조합으로 LM Studio에서 실측한 결과, Llama 3.1 70B는 31.84 tok/s, GPT-OSS 120B는 163.15 tok/s, Gemma 3 4B는 226.73 tok/s를 기록했다(2026년 7월 확인 시점 기준). 반면 DGX Spark 사용자들 사이에서는 Ollama 기준 Gemma 계열 31B급 모델에서 목표치인 20 tok/s를 못 맞추고 9~10 tok/s에 그쳤다는 보고가 다수 있다(공식 확인 자료가 아닌 커뮤니티 후기 기준, 2026년 7월 확인 시점). "1 PFLOPS니까 서버 GPU급"이라는 기대는 스펙표 숫자만 보고 오판하기 쉬운 지점이며, 실사용 속도는 대역폭 기준으로 판단해야 한다.

---

3. 가격은 GPU 단품이 아니라 플랫폼 총비용으로 봐야 한다

RTX PRO 6000 Blackwell Workstation Edition의 정가만 비교하면 DGX Spark보다 2~3배 비싸 보이지만, 실제 도입 비용은 GPU 카드 값만으로 끝나지 않는다.

• RTX PRO 6000: 최대 600W를 소비하는 단일 GPU로, 이를 안정적으로 구동하려면 750~1000W급 파워서플라이와 Threadripper PRO·EPYC급 워크스테이션 또는 서버 플랫폼이 별도로 필요하다. GPU 가격(마켓플레이스 기준 13,250달러, 2026.07 확인 시점) 외에 호스트 시스템 구축비, 냉각, 전력 인프라까지 합산해야 실제 도입 비용이 나온다.
• DGX Spark: 128GB 통합 메모리와 연산 유닛이 하나의 완제품(150×150×50.5mm, 1.2kg)으로 통합되어 있어 별도 플랫폼 구축이 필요 없다. 초기 구축비와 설치 난이도가 낮고, GB10 SoC 자체 TDP가 140W 수준이라 상시 가동 전력 부담도 작다.
• Mac Studio: macOS·MLX 생태계에 익숙하다면 대용량 통합 메모리를 상대적으로 저렴하게 확보할 수 있었지만, 512GB 구성이 2026년 3월경부터 공급 이슈로 판매 중단된 상태라(2026년 7월 확인 시점) 현재는 최대 256GB 구성만 신품으로 구매 가능한 것으로 파악된다. 대용량 구성을 노린다면 재고 상황을 별도로 확인해야 한다.

"GPU 가격이 얼마냐"가 아니라 "전체 플랫폼을 구축하는 데 얼마가 드느냐"로 비교해야 실질적인 의사결정이 가능하다.

---

4. 용도별 선택 기준

세 제품은 우열을 가릴 대상이 아니라 목적이 다른 장비다. 아래 기준으로 나눠보면 선택이 명확해진다.

선택 기준	추천 제품	이유
지연시간이 중요한 서비스형 추론, 다중 동시 사용자	RTX PRO 6000 Blackwell	1,792 GB/s 대역폭으로 70B급 이상 모델도 실사용 가능한 속도로 서빙
초기 비용 최소화, 1~3인 로컬 개발·파인튜닝 PoC	DGX Spark	완제품 일체형, 저전력 상시 가동, 초소형 폼팩터, 상대적으로 낮은 진입 비용
극대 메모리 용량이 최우선(단, 재고 리스크 감수)	Mac Studio (M3 Ultra)	최대 512GB 통합 메모리로 초대형 모델 로드 가능하나 현재 대용량 구성 공급 불안정

특히 DGX Spark는 200B 파라미터급 모델 추론이 가능하다고 제조사가 명시하지만, 이는 "구동 가능한 규모"이지 처리량을 보증하는 수치가 아니다. 파인튜닝 목적이라면 70B가 사실상 상한선이며, 실시간 대화형 서비스보다는 개발·검증(PoC) 단계에 더 적합하다.

---

5. 자주 묻는 질문

Q. DGX Spark 2대를 클러스터로 묶으면 RTX PRO 6000급 성능이 나오나요?

ConnectX 네트워킹으로 2대를 연결하면 최대 405B 파라미터 모델까지 대응 가능하다고 제조사는 밝히고 있다. 다만 개발자 포럼에서는 vLLM tensor-parallel 구성 시 한쪽 노드가 이탈하거나 속도가 기대에 못 미친다는 보고가 다수 있다(공식 확인 자료가 아닌 커뮤니티 보고 기준, 2026년 7월 확인 시점). 클러스터링을 도입 근거로 삼는다면 반드시 사전 검증(PoC)을 거쳐야 한다.

Q. RTX PRO 6000은 일반 데스크탑 PC에도 장착할 수 있나요?

물리적으로는 듀얼 슬롯 규격(5.4"×12.0")이라 장착 자체는 가능하지만, 최대 600W 소비전력을 감당하려면 750~1000W급 파워서플라이와 충분한 냉각 설계가 필요하다. 일반 사무용 PC보다는 워크스테이션·서버급 플랫폼을 전제로 검토해야 한다.

Q. Mac Studio 512GB 구성은 지금 살 수 없나요?

Tom's Hardware 보도에 따르면 2026년 3월경부터 512GB 업그레이드 옵션이 Apple 온라인 스토어에서 판매 중단된 상태다(2026년 7월 확인 시점, 공급 이슈로 추정되며 일시적 조치인지 확정적 단종인지는 공식 확인되지 않았다). 대용량 메모리가 목적이라면 구매 전 재고 상황을 반드시 재확인해야 한다.

---

정리

DGX Spark(273 GB/s, 128GB 통합 메모리, 약 4,699달러)와 RTX PRO 6000 Blackwell(1,792 GB/s, 96GB GDDR7, 마켓플레이스 기준 13,250달러)은 실측 토큰 생성 속도에서 6~7배 차이가 나는, 체급이 다른 제품이다. 이 격차의 근본 원인은 연산 성능이 아니라 메모리 대역폭이며, RTX PRO 6000은 600W 전력을 감당할 별도 플랫폼 구축비까지 고려한 총소유비용으로 비교해야 한다. 지연시간이 중요한 서비스형 추론이라면 RTX PRO 6000, 초기 비용을 최소화한 로컬 개발·파인튜닝 PoC라면 DGX Spark, 대용량 메모리가 최우선이고 재고 리스크를 감수할 수 있다면 Mac Studio를 검토하는 것이 합리적이다. 위 수치는 모두 2026년 7월 28일 확인 시점 기준이므로, 실제 구매 전에는 최신 가격과 재고 상황을 별도로 재확인해야 한다.

---

참고 자료

조사 기준일: 2026년 07월 28일

본문의 수치는 아래 자료에서 확인한 것입니다. 제조사 공식 자료(T1)와 전문 매체 실측(T2)을 구분해 표기했습니다. 가격·공급 상황은 변동이 크므로 기준일 이후의 값은 다시 확인해야 합니다.

Tier 1
- NVIDIA RTX PRO 6000 Blackwell Workstation Edition — https://www.nvidia.com/en-us/products/workstations/professional-desktop-gpus/rtx-pro-6000/ (2026-07-28)
- NVIDIA RTX PRO 6000 Blackwell Server Edition — https://www.nvidia.com/en-us/data-center/rtx-pro-6000-blackwell-server-edition/ (2026-07-28)
- NVIDIA RTX PRO 6000 Blackwell Series — https://www.nvidia.com/en-us/products/workstations/professional-desktop-gpus/rtx-pro-6000-family/ (2026-07-28)
- NVIDIA DGX Spark 마켓플레이스(검색 확인, 직접 접속 실패) — https://marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/ (2026-07-28)
- Apple Newsroom, M3 Ultra 보도자료 — https://www.apple.com/newsroom/2025/03/apple-reveals-m3-ultra-taking-apple-silicon-to-a-new-extreme/ (2026-07-28)
- Apple Mac Studio 스펙 페이지 — https://www.apple.com/mac-studio/specs/ (2026-07-28)
Tier 2
- StorageReview, RTX PRO 6000 리뷰 — https://www.storagereview.com/review/nvidia-rtx-pro-6000-workstation-gpu-review-blackwell-architecture-and-96-gb-for-pro-workflows (2026-07-28)
- ServeTheHome, RTX Pro 6000 Blackwell Family — https://www.servethehome.com/nvidia-rtx-pro-6000-blackwell-family-for-workstations-and-servers/ (2026-07-28)
- GitHub casualcomputer/rtx_pro_6000_vs_dgx_spark — https://github.com/casualcomputer/rtx_pro_6000_vs_dgx_spark (2026-07-28)
- Tom's Hardware, RTX Pro 6000 $13,250 인상 — https://www.tomshardware.com/pc-components/gpus/nvidia-raises-rtx-pro-6000-blackwell-gpu-pricing-to-usd13-250-55-percent-increase-over-msrp-in-a-years-time (2026-07-28)
- Tom's Hardware, Mac Studio 512GB 옵션 중단 — https://www.tomshardware.com/tech-industry/apple-pulls-512-mac-studio-upgrade-option (2026-07-28)
- ServeTheHome, Mac Studio M3 Ultra 512GB $9,499 — https://www.servethehome.com/new-512gb-unified-memory-apple-mac-studio-is-the-local-ai-play/apple-mac-studio-m3-ultra-512gb-9499-base-price/ (2026-07-28)
- islandmountain.io, DGX Spark vs RTX PRO 6000 종합 — https://islandmountain.io/blog/dgx-spark-vs-rtx-pro-6000-strix-halo.html (2026-07-28)
Tier 3: 해당 없음 (이번 세션 신규 T3 채택 없음)