FlashProve란? 어떤 AI가 답했는지 증명하는 시제품

FlashProve는 앤트로픽(Anthropic)이 2026년 11월 2일에 공개한 연구용 프로토타입이에요. AI 답변에 암호학적 증명을 붙여서, 미리 정해 둔 특정 모델이 그 답변을 만들었다는 걸 보여 줘요. 확인은 평범한 컴퓨터로도 할 수 있고, 공개되지 않은 모델 내부 값(가중치)을 알 필요도 없어요. 다만 제품은 아니에요. TechCrunch에 따르면 앤트로픽이나 다른 AI 기업에 도입할 계획은 현재 없어요.

이 글은 앤트로픽의 발표, 공개 저장소, 언론 보도를 바탕으로 정리했어요. 저희가 직접 FlashProve를 실행해 본 것은 아니에요. 대부분의 기능은 NVIDIA H100이라는 데이터센터용 GPU가 있어야 돌아가요.

FlashProve가 풀려는 문제

앱에서 Claude나 GPT를 고르면, 우리는 그 모델이 답하고 있다고 믿을 수밖에 없어요. 확인할 방법이 없거든요. 앤트로픽은 발표에서 두 가지 예를 들어요. 여러 모델로 요청을 나눠 보내는 중개 서비스가 비용을 아끼려고 몰래 더 싼 모델로 바꿔치기하는 경우, 그리고 공격자가 전달되는 답변을 중간에 고치는 경우예요. 두 경우 모두 답변 내용만 봐서는 알아챌 수 없어요. 답변이 그럴듯해도 마찬가지예요.

개인만의 문제도 아니에요. 출시 전후의 모델을 검사하는 외부 평가 기관은 지금 검사하는 모델이 실제로 서비스 중인 모델인지 알아야 해요. 앞으로 규제 기관이 승인받은 모델만 쓰라고 요구할 수도 있어요. 어느 쪽이든 질문은 같아요. 이 답변을 정말로 어떤 모델이 만들었을까요?

수학 없이 보는 작동 방식

GitHub 저장소는 과정을 세 단계로 설명해요.

1. 01고정하기: 제공자가 식별용 ID를 공개해요. 이 ID로 제공자는 한 벌의 모델 가중치에 묶여요. 가중치 자체는 비밀로 남아요.
2. 02증명하기: 답변이 나올 때마다 제공자의 서버가 이 답변이 고정해 둔 모델의 출력이라는 증명을 만들어요.
3. 03확인하기: 누구나 일반 CPU로 몇 초 안에 증명을 확인할 수 있어요. 가중치를 볼 필요는 없어요.

여기에 쓰인 기술은 zkSNARK라는 영지식 증명의 한 종류예요. 계산이 제대로 이뤄졌다는 사실만 보여 주고 그 밖의 정보는 하나도 드러내지 않는 증명이에요. TechCrunch는 이메일이 정말 표시된 발신자에게서 왔는지 확인하는 전자 서명에 비유했어요. 흥미로운 점도 있어요. 앤트로픽에 따르면 개선 아이디어의 상당 부분을 Claude가 직접 찾았고, 프로토콜 명세서도 Claude가 썼어요. 이런 결정은 사람이 검증하기 어렵기 때문에, 핵심 보안 주장은 Lean이라는 언어로 형식 증명을 함께 제공해요.

시제품이 지금 할 수 있는 것

시험에 쓰인 모델은 Claude가 아니라 공개 모델인 Llama 4 Maverick이에요. 매개변수 4,000억 개짜리 모델을 4비트로 압축해 돌렸어요. 발표에 따르면 H100 한 장으로 초당 약 110토큰 속도로 증명을 만들 수 있어요. 증명 크기는 1,024토큰 요청 한 건당 약 19MB예요. 대신 모델을 그냥 실행할 때보다 GPU 시간이 약 70~95배 더 들어요. 그래도 이전의 공개 시스템보다는 몇 자릿수 빠르다고 앤트로픽은 설명해요. 자세한 내용은 기술 보고서에 있어요.

배경에는 앤트로픽이 스스로 내건 목표가 있어요. 앤트로픽은 Frontier Safety Roadmap에서 2026년 9월 30일까지 이런 증명의 시제품을 만들겠다고 밝혔어요. 회사 설명으로는 이 목표를 다른 프로젝트로 이미 달성했어요. 그쪽은 자사 트래픽에 서명하고 신뢰할 수 있는 서버에서 추론을 다시 계산해 확인하는 방식이에요. FlashProve는 같은 목표를 다른 방법으로 접근한 결과예요.

앤트로픽이 직접 밝힌 한계

• —짧은 길이: 증명 한 건이 다룰 수 있는 길이는 1,024토큰까지예요. 긴 대화나 업로드한 문서에는 턱없이 부족해요.
• —한 가지 구조만: Mixture-of-Experts(MoE) 구조의 모델이 전제예요. 널리 쓰이는 다른 구조는 지원하지 않아요.
• —평소 답변과 다를 수 있음: 증명하는 대상은 정수로 계산한 버전의 모델이 매번 가장 확률 높은 단어를 고른 출력이에요. 무작위성이 들어가는 평소 채팅 답변은 중간부터 달라질 수 있어요.
• —완전한 보장은 아님: 빠른 코드, 보고서, Lean 증명 세 가지가 정확히 일치한다는 보장은 없어요. 증명에 걸리는 시간 같은 부수 정보로 가중치가 새어 나가는 사이드 채널 공격도 범위 밖이에요.
• —유지보수 없음: 저장소는 연구용 결과물이라고 명시돼 있고, 외부 기여도 받지 않아요. 라이선스는 Apache 2.0이에요.

앤트로픽 스스로도 이번 공개를 완성된 연구가 아니라 중간 결과라고 설명해요. 다른 사람들이 가져다 개선해 주기를 바라는 공개예요.

FlashProve가 증명하지 않는 것

제목만 보면 놓치기 쉬운 부분이에요. 이런 증명이 말해 주는 건 누가 답했는지예요. 답이 맞는지에 대해서는 아무것도 말하지 않아요. 진짜라고 증명된 모델도 없는 출처를 지어내거나 숫자를 잘못 옮길 수 있어요. 진짜인지와 맞는지는 서로 다른 질문이고, FlashProve는 앞의 질문에만 답해요.

뒤의 질문을 확인하는 건 앞으로도 쓰는 사람의 몫이에요. 글을 AI가 썼는지 판별 도구로 알아보는 방법과 그 한계는 무료 AI 검사기 글에서 다뤘어요. 판별 도구는 추정일 뿐이에요. FlashProve 같은 출처 증명은 그 반대로 확실한 답을 줄 수 있지만, AI 제공자가 협조해야 한다는 전제가 붙어요.

지금 나에게 달라지는 것

당분간은 달라지는 게 없어요. 평소 쓰는 AI 챗봇 가운데 이런 증명을 붙여 주는 서비스는 없고, TechCrunch에 따르면 앤트로픽도 도입 계획이 없어요. 어떤 모델이 답하는지가 중요하다면, 중개 서비스를 거치지 않고 제공사의 서비스를 직접 쓰는 것이 지금으로서는 가장 확실해요. 중간에 서비스가 하나 늘면 믿어야 할 상대도 하나 늘어나요. 모델마다 무엇이 다른지는 AI 모델 글에 정리해 뒀어요.

길게 보면 FlashProve는 스스로 움직이는 AI 에이전트를 얼마나 믿을 수 있느냐와 맞닿아 있어요. 에이전트가 어떤 권한을 갖느냐에 따라 모델이 바꿔치기됐을 때의 피해도 달라져요. 앤트로픽의 에이전트에 대해서는 Claude Duet 개인정보 글에서 확인할 점을 정리했어요.

Coursium으로 배울 수 있는 것과 없는 것

Coursium은 모델 증명을 제공하지 않고, 앱 뒤에서 어떤 모델이 돌아가는지도 확인하지 못해요. Coursium은 업무에서 AI를 잘 쓰는 법을 배우는 앱이고, App Store에 올라와 있어요. 예를 들어 Claude Essentials 코스가 있어요. 클로드 AI가 무엇인지 알고 나서 연습하는 건 FlashProve가 남겨 둔 바로 그 부분이에요. 프롬프트 엔지니어링처럼 지시를 분명하게 쓰고, 받은 답을 확인한 뒤에 다른 사람에게 넘기는 일이에요. 직접 해 보고 싶다면 Coursium을 살펴보거나 무료 연습 예제를 써 보세요.