H100 H200 개요엔비디아 H100과 H200은 현재 대규모 AI 학습·추론 인프라에서 가장 널리 채택되는 데이터센터급 GPU다. 두 제품은 같은 Hopper 아키텍처(CUDA Compute Capability 9.0, sm_90)를 공유하지만, H200은 HBM3e 메모리를 탑재해 용량과 대역폭을 끌어올린 강화판이라는 점에서 도입 검토 시 항상 함께 비교되는 조합이다. 문제는 "H200이 무조건 더 빠르다"는 식의 단순 비교가 실제 벤치마크 결과와 상당 부분 어긋난다는 점이다. 2026년 8월 기준으로 공개된 MLPerf 제출 결과, 인프라 기업의 자체 실측 자료, 그리고 대규모 클러스터 운영 사례를 종합하면 GPU 선택은 "어떤 워크로드를 돌리는가"에 따라 결론이 완전히 달라진다. 이 글에서는 제..
