Private AI Compute 서버 메모리 암호화 구조와 감사 결과 검증 방법

Google Private AI Compute 서버 측 메모리는 2026-09-23에 발표됐지만 아직 출시되지 않았습니다. 사용자별 키 암호화, TEE, 증명 구조와 Trail of Bits 감사에서 남은 미해결 결함 2건을 확인하는 순서를 정리했습니다.

Private AI Compute 서버 메모리 시작 전 확인할 것

Private AI Compute 서버 메모리는 기억을 남기되 Google도 읽지 못하게 잠가 두는 설계입니다. 다만 2026년 9월 25일 기준으로 아직 쓸 수 있는 기능이 아니고, 보호 범위도 기존 무상태 방식보다 좁습니다. Google DeepMind는 2026-09-23 발표에서 "will bring"이라는 미래형을 썼고, 출시일·대상 제품·지역은 밝히지 않았습니다. 이 글에서는 Google 기술 브리프(2026년 9월판), Trail of Bits 감사 보고서, 오픈소스 저장소를 서로 맞춰 보며 서버 메모리의 프라이버시 구조를 검증하는 절차를 다룹니다. 제품이 나오지 않았으니 소비자용 설정 방법은 빼겠습니다.

먼저 알아둘 전제는 세 가지입니다.

첫째, 이전 방식과 무엇이 다른지부터 알아야 합니다. PAIC는 2025-11-11에 처음 발표됐고, Google 자체 TPU와 Titanium Intelligence Enclaves(TIE) 위에서 Gemini를 실행합니다. 처음 적용된 기능은 Pixel 10의 Magic Cue와 Recorder 요약이었습니다. 발표문은 이전 PAIC와 업계의 비슷한 기술을 "stateless(무상태)"라고 불렀는데, 작업이 끝나면 맥락을 모두 지우는 방식을 말합니다. 서버 메모리는 이 원칙을 일부러 깨고 기억을 서버에 남깁니다.

둘째, 이 기억을 누가 읽을 수 있는지는 조건에 따라 달라집니다. 레코드는 사용자별 키로 암호화되고 Google 인프라는 암호문만 저장합니다. 그러나 AI가 기억을 꺼내 쓰는 순간에는 서버의 격리 영역 안에 키와 평문이 함께 존재합니다.

셋째, 외부 감사가 끝났다고 해서 결함이 모두 사라진 것은 아닙니다. Trail of Bits가 찾은 결함 10건 가운데 2건은 미해결입니다. 이 차이를 구분해야 발표문과 실제 보장을 헷갈리지 않습니다.

용어 풀이
1. TEE(신뢰 실행 환경) — 하드웨어가 격리해서 운영자나 호스트 OS도 안을 들여다볼 수 없게 만든 연산 공간입니다.
2. 증명(attestation) — 서버가 승인된 코드를 실제로 돌리고 있다는 사실을 암호학적으로 입증하는 절차입니다.
3. TCB(신뢰 컴퓨팅 기반) — 보안이 성립하려면 반드시 믿어야 하는 코드와 하드웨어의 범위입니다. 범위가 좁을수록 공격면도 좁습니다.

---

준비물·필요 서류

검증에 필요한 자료는 모두 공개돼 있습니다. 이 절차에서 가장 중요한 건 발표문 하나만 읽고 판단하지 않는 것입니다. 발표문에는 결론만 있고, 조건과 예외는 기술 브리프와 감사 보고서에 흩어져 있습니다.

자료	발행 시점	이 자료에서 확인할 것	근거 등급
Google DeepMind 블로그 서버 메모리 발표	2026-09-23	발표 시제, 출시 정보가 있는지	T1
PAIC 기술 브리프	2026년 9월판	연산 영역별 보호 장치, 요청 처리 흐름, 키 관리, 위협 모델	T1
Google 공식 블로그 PAIC 최초 발표	2025-11-11	무상태 PAIC의 원래 구조와 적용 기능	T1
GitHub project-oak/oak_private_memory	상시 공개	메모리 서버 소스코드, 재현 빌드	T1
Trail of Bits 보안 평가 보고서	2026-09-21 전달	결함 10건, 해결 여부, 감사 범위 밖 항목	T2
Apple Private Cloud Compute 보안 블로그	2024-06-10	경쟁 설계인 무상태 원칙과의 비교	T1

자료를 읽기 전에 머릿속에 정리해 둘 전제도 몇 가지 있습니다.

• 무상태 경로와 메모리 경로를 나눠서 볼 것: 무상태 추론 경로는 지금도 제3자가 운영하는 IP 블라인딩 릴레이와 Anonymous Tokens로 신원과 데이터를 떼어 놓습니다. 메모리 경로에는 이 보장이 그대로 적용되지 않습니다.
• 감사 범위 밖 항목을 확인할 것: Trail of Bits는 hardened TPU 플랫폼, IOMMU, Google 내부 Keystore, Borg Prime을 보지 않았습니다. TPU 쪽은 2025년 NCC Group 감사로 대신했습니다.
• 출시 정보가 없다는 점을 전제로 둘 것: Help Net Security와 Unite.AI도 출시 시점이 발표되지 않았다고 전했습니다.
• 가격이 없다는 점: PAIC는 소비자 기능용 플랫폼이며, 2026-09-25 기준 개발자 API와 가격표는 공개되지 않았습니다.

감사 보고서는 분량이 많습니다. Summary of Findings와 Fix Review 절부터 읽으면 해결·미해결 현황이 금방 잡힙니다. 기술 브리프는 §01부터 §03까지가 구조 설명이고, §05 "What's next"에 아직 하지 않은 일이 적혀 있습니다. §05를 빼먹으면 현재 보장과 앞으로의 계획이 뒤섞입니다.

---

단계별 진행 순서

1단계 — 발표문의 시제와 범위 확인

• 소요시간: 짧음(발표문 한 편)
• 할 일: DeepMind 블로그에 출시일·제품·지역이 적혀 있는지 봅니다.

발표문은 "will bring"이라는 미래형을 썼고, 출시일·대상 제품·지역이 모두 빠져 있습니다. 여기서 서버 메모리를 "이미 적용된 기능"으로 읽으면 이후 판단이 전부 어긋납니다. 한편 Trail of Bits 수정 내역에는 "not used as part of the product launch"라는 표현이 있습니다. 이 문장이 일부 출시를 뜻하는지는 해석이 갈려서 확인 필요 항목으로 남겨 둡니다.

• 주의점: 무상태 PAIC가 이미 적용된 Pixel 10 기능(Magic Cue·Recorder 요약)과 서버 메모리를 같은 것으로 보면 안 됩니다.

2단계 — 연산 영역별 보호 장치 대응시키기

• 소요시간: 보통(브리프 §01·§02)
• 할 일: CPU, TPU, 노드 간 통신에 각각 어떤 격리 기술이 쓰이는지 표로 정리합니다.

영역	보호 장치	역할
CPU(오케스트레이터)	AMD SEV-SNP 기밀 VM	메모리 암호화로 호스트와 격리
TPU(추론)	hardened TPU platform(TIE)	셸 접근 차단
노드 간 통신	Noise·ALTS	양방향 증명

• 주의점: TPU 플랫폼은 2026년 Trail of Bits 감사 범위에서 빠졌습니다. 이 영역의 근거는 2025년 NCC 감사뿐입니다.

3단계 — 요청 하나의 처리 흐름 추적

• 소요시간: 보통(브리프 §03)
• 할 일: 데이터가 평문으로 존재하는 구간을 표시합니다.

브리프에 적힌 흐름은 네 단계입니다.

1. Noise 세션을 열고 SEV-SNP 오케스트레이터에 도착합니다.
2. 증명이 끝나면 키를 풀어 휘발성 RAM에서만 복호화합니다.
3. TPU에서 추론합니다.
4. 새로 생긴 기억은 다시 암호화해 저장하고, 프롬프트·토큰·중간 활성값은 즉시 지웁니다.

눈여겨볼 곳은 ②와 ③입니다. 이 구간에서는 평문이 서버 enclave 안에 있습니다. Google 인프라가 암호문만 저장·복제·백업한다는 설명은 저장 중인 데이터 이야기이고, 처리 중인 데이터는 사정이 다릅니다.

4단계 — 키 관리 조건 확인

• 소요시간: 짧음(브리프 §03 Key management)
• 할 일: 키가 어떤 조건에서 풀리는지 적어 둡니다.

키는 증명을 통과해야만 풀립니다. 승인(endorse)된 메모리 바이너리와 증명값이 맞지 않는 enclave는 키를 받지 못하고, 개조되거나 허가받지 않은 빌드도 마찬가지입니다. Trail of Bits는 사용 중에는 서버 TEE에 키와 평문이 함께 있고, 세션마다 단말이 마스터 키를 다시 보낸다고 적었습니다. 키를 보관하는 곳은 단말이지만, 쓰이는 곳은 서버 enclave 안인 셈입니다.

• 주의점: 발표문의 "held exclusively on your personal devices"는 보관 위치만 말한 표현입니다.

5단계 — 오픈소스와 재현 빌드 확인

• 소요시간: 개발자 기준 보통, 비개발자는 저장소 구조만 훑어봐도 충분합니다.
• 할 일: GitHub에서 oak_private_memory 저장소를 엽니다.

메모리 enclave 앱은 Rust로 작성됐고 Oak Containers 위에서 실행됩니다. memory Oak Server와 Oak Containers는 오픈소스이며, 재현 가능한 빌드로 만든 바이너리의 해시를 추가만 가능한(append-only) 원장에 공개합니다. 덕분에 공개된 소스와 실제 서버 바이너리가 같은지 외부에서 맞춰 볼 수 있습니다.

• 주의점: Trail of Bits는 폐쇄 소스 코드가 광범위하다는 제약도 함께 남겼습니다. 공개된 부분이 시스템 전체는 아닙니다.

6단계 — 외부 감사 결과 대조

• 소요시간: 긺(보고서 전문)
• 할 일: 결함을 심각도와 해결 여부로 나눕니다.

Trail of Bits는 컨설턴트 4명이 2026-06-04부터 07-17까지, 총 5 engineer-weeks를 들여 소스 전체를 받은 상태에서 수동 리뷰와 AI 보조 리뷰를 했습니다. 수정 검토는 2026-08-05부터 08-07까지 진행됐습니다.

구분	건수
High	2
Medium	1
Low	2
Informational	5
해결 / 미해결	8 / 2

해결된 결함 중 TOB-4와 TOB-6은 운영자 2명 이상이 공모하면 투명성 원장에 기록을 남기지 않고 개조한 서비스를 배포할 수 있는 흠이었습니다. Trail of Bits는 검토한 코드에서 직원이 사용자 데이터에 접근하는 경로는 찾지 못했다고 평가했습니다.

---

자주 놓치는 부분

검증하다 보면 발표문 문장을 그대로 믿고 넘어가기 쉬운 곳이 있습니다. 아래 표는 발표문 표현과 문서로 확인되는 실제를 나란히 놓은 것입니다.

발표문 표현	문서로 확인되는 실제	판정
"held exclusively on your personal devices"	사용 중에는 서버 TEE에 키와 평문이 함께 존재	보관은 단말, 사용은 서버 enclave
"inaccessible to anyone else, even Google"	Google이 외부 검토 없이 시스템을 바꿀 수 있음	기술적 격리는 확인, 조직 차원의 신뢰 가정은 남음
"No user data leaves the protected execution environment without explicit user intent"	응답 조각의 96비트 해시가 TCB 밖으로 전송(TOB-9, High)	평문은 아니지만 파생 데이터가 나감
"discarded when the user session is completed"	저장된 기억 삭제에는 암호학적 보장 없음(TOB-1)	휘발성 데이터에만 해당

첫째로 놓치기 쉬운 것은 비표적화 보장이 빠졌다는 점입니다. 브리프는 메모리 시스템에 대해 네트워크 수준의 "표적화 불가(non-targetability)"를 주장하지 않는다고 직접 밝혔습니다. 사용자별 저장소를 찾아가려면 고정된 사용자 식별자가 필요하기 때문입니다. Google은 표적이 되더라도 얻을 수 있는 건 암호문뿐이라는 입장입니다. 이 점을 짚은 매체는 Unite.AI 하나였습니다.

두 번째는 미해결 High 결함인 TOB-9입니다. 저작권 문구가 그대로 출력되는지 검사하려고 모델 응답을 잘게 나눈 뒤, 그 조각의 96비트 절단 해시를 TCB 밖 서비스로 보냅니다. Google은 enclave 안에 Bloom 필터를 두는 완화책을 배포할 예정이라고만 밝혔습니다. 실제 배포 여부는 확인하지 못했습니다.

세 번째는 삭제입니다. TOB-1(Low)은 삭제한 기억이 롤백으로 되살아날 수 있는 결함인데, Google은 이 위험을 수용했습니다. Trail of Bits는 서버 측 삭제를 증명할 표준 암호 기법 자체가 없다고 적었습니다.

네 번째는 문서끼리 어긋나는 부분입니다. 브리프 §05는 "Moving from Google-asserted compliance toward client-side cryptographic verification"을 앞으로 할 일로 적었습니다. 그런데 Trail of Bits는 단말 측 증명 검증 로직을 검토했다고 썼습니다. 현재 단말 검증이 실제로 동작하는지는 확인 필요 항목입니다. 독립 제3자가 함께 서명하는 투명성 로그와 재현 빌드 범위 확대도 §05에 향후 과제로 올라 있습니다.

다섯 번째는 경쟁 설계와 비교할 때의 기준입니다. Apple Private Cloud Compute는 2024-06-10 발표에서 무상태 연산을 첫 번째 핵심 요건으로 삼았습니다. 보장 강도와 비표적화에서는 PCC가 앞서고, 여러 기기에 걸친 장기 맥락이 필요하면 PAIC 메모리가 낫습니다. 다만 Apple이 2026년 9월 기준으로 PCC에 영속 메모리를 붙였는지는 확인하지 못했습니다. 기억이 필요 없는 작업이라면 Google의 기존 무상태 PAIC 쪽 보호 강도가 더 높습니다.

마지막으로 2025년 NCC 감사의 투입 규모와 IP 블라인딩 릴레이의 타이밍 부채널 결함은 원문 PDF가 403 오류로 열리지 않아 대조하지 못했습니다. NCC의 결론은 The Register가 인용한 내용으로만 확인됩니다. Google이 조직 전체 차원에서 결정하지 않는 한 데이터 노출 위험이 강하게 제한됐다는 요지입니다. 단말을 잃어버렸을 때 키를 복구하는 방법, 사용자가 기억을 보고 지우는 UI는 브리프에 나와 있지 않습니다.

---

체크리스트 정리

서버 메모리 기능이 실제로 출시됐을 때, 또는 도입 여부를 검토할 때 아래 항목을 차례로 확인하시면 됩니다.

1. 출시 여부부터 확인하기: 2026-09-25 기준 출시일·대상 제품·지역은 모두 미발표입니다. 공식 공지로 적용 제품을 확인하기 전에는 이미 쓰고 있는 기능으로 판단하지 않습니다.
2. 무상태 경로와 메모리 경로 구분하기: IP 블라인딩과 Anonymous Tokens에 따른 비표적화는 무상태 경로에만 적용됩니다. 위협 모델은 두 경로를 따로 짭니다.
3. 평문이 존재하는 구간 표시하기: 처리 흐름 네 단계 중 복호화와 추론 구간에서는 서버 enclave 안에 평문과 키가 함께 있습니다.
4. TOB-9 완화책 배포 여부 확인하기: 96비트 응답 해시가 TCB 밖으로 나가는 High 결함이 해결됐는지, Bloom 필터가 실제로 배포됐는지 봅니다.
5. 삭제 보장 수준 이해하기: 저장된 기억의 삭제에는 암호학적 보장이 없고, Google은 롤백 위험(TOB-1)을 수용했습니다. 민감한 정보는 처음부터 기억에 남기지 않는 편이 안전합니다.
6. 단말 측 증명 검증 상태 확인하기: 브리프 §05와 Trail of Bits 보고서가 어긋나는 부분이니 이후 개정 문서에서 다시 봅니다.
7. 조직 차원의 신뢰 가정 기억하기: Trail of Bits는 "Google may modify the system at any time without prior external review"라고 적었습니다. 기술적 격리가 확인됐다고 해서 운영 주체에 대한 신뢰까지 필요 없어지지는 않습니다.

---

함께 보면 좋은 글

• 트럼프 유엔 AI 규제 거부, 기업이 챙길 EU·한국 규제 일정
• 대웅제약 AI 신약개발 DAISY 구조 총정리: DAVID 8억 종부터 ADMET까지

---

참고 자료

조사 기준일: 2026년 09월 25일

본문의 수치는 아래 자료에서 확인한 것입니다. 제조사 공식 자료(T1)와 전문 매체 실측(T2)을 구분해 표기했습니다. 가격·공급 상황은 변동이 크므로 기준일 이후의 값은 다시 확인해야 합니다.

Tier 1 (확인일 2026-09-25)
- Google DeepMind 블로그 "Advancing Private AI Compute with secure, server-side memory" (2026-09-23): https://deepmind.google/blog/advancing-private-ai-compute-with-secure-server-side-memory/
- Google 기술 브리프 "Google Private AI Compute: Enabled with Secure Server-Side Memory" (2026-09, PDF 전문 텍스트 추출로 대조): https://services.google.com/fh/files/misc/private_ai_compute_technical_brief.pdf
- Google 공식 블로그 "Private AI Compute" (2025-11-11): https://blog.google/innovation-and-ai/products/google-private-ai-compute/
- Project Oak oak_private_memory 저장소: https://github.com/project-oak/oak/tree/main/oak_private_memory
- Apple Security Research "Private Cloud Compute" (2024-06-10): https://security.apple.com/blog/private-cloud-compute/
Tier 2 (확인일 2026-09-25)
- Trail of Bits, Google PAIC Secure Server-Side Memory 보안 평가 보고서 (2026-09, PDF 전문 대조): https://github.com/trailofbits/publications/blob/master/reviews/2026-09-google-secure-memory-securityreview.pdf
- The Register (2025-11-12, NCC 결론 인용): https://www.theregister.com/2025/11/12/google_touts_private_ai_compute/
- Help Net Security (2026-09-24): https://www.helpnetsecurity.com/2026/09/24/google-private-ai-compute-server-side-memory/
- Unite.AI: https://www.unite.ai/google-brings-persistent-server-side-memory-to-private-ai-compute/
- NCC Group 공개 보고서: https://www.nccgroup.com/research/public-report-google-private-ai-compute-review/