아직 존재하지 않는 AI 신뢰 레이어, 그리고 그것이 현재 AI에서 가장 중요한 인프라 문제인 이유

Source: Dev.to

인터넷 역사의 모든 주요 전환은 결국 신뢰 계층을 만들었습니다.
웹은 HTTPS를 얻었고, 이메일은 DKIM을, 소프트웨어는 코드 서명을, 금융 거래는 암호화된 감사 로그를 갖게 되었습니다.
AI에는 아직 아무 것도 없습니다.

현재 지구상의 모든 AI 시스템—“GPT, Claude, Gemini, Llama” 등, 그리고 여러분 회사 인프라에 배포된 모든 파인튜닝 모델—은 검증 가능한 출처 없이 콘텐츠, 코드, 의사결정, 그리고 자율 행동을 생성하고 있습니다. 언제, 어떤 모델이, 어떤 조건에서 생성했는지, 혹은 이후에 변경되었는지에 대한 암호화된 기록이 전혀 없습니다.

이 문제는 이미 실제 비용을 발생시키고 있습니다

오늘날 다음과 같은 상황이 발생합니다:

• 왜 기존 솔루션이 해결되지 못하는가
• 실제로 기술적으로 어떤 형태가 되어야 하는가

핵심 구성 요소

• Attestation Object: AI 입력 및 출력의 SHA‑256 해시(내용 자체는 포함하지 않아 프라이버시를 설계 단계에서 보장), 모델 식별자와 버전 해시, RFC 3161 타임스탬프 권한기관에 고정된 타임스탬프, 제공자의 암호화 신원, 그리고 생성 시점의 활성 정책 제약을 포함한 서명된 JSON 구조.
• Certificate Hierarchy: Root CA → Provider CA → 개별 제공자 서명 인증서 형태의 완전한 X.509 v3 체인 검증 및 OCSP 폐기 지원. 하드웨어 보안 모듈(HSM) 기반, FIPS 140‑2 레벨 3.
• Verification Layer: 공개 API, 브라우저 확장, SDK 통합, 그리고 엔터프라이즈 플러그인을 통해 어느 당사자라도 루트 인증서를 신뢰하는 것 외에는 attestation 제공자를 신뢰하지 않고도 attested 콘텐츠를 독립적으로 검증할 수 있게 함.
• Modification Chain: AI 생성 후 정당하게 편집된 콘텐츠에 대해 델타 attestation을 제공, 생성 이벤트만이 아니라 전체 콘텐츠 수명 주기 동안 출처를 유지함.

해결해야 할 어려운 기술 과제

• 중앙화된 제공자가 없어 인증서를 발급할 수 없는 오픈소스 모델 출력에 대해 어떻게 attestation을 할 것인가?
• 문서가 GPT‑4, Claude, 그리고 Mistral 파인튜닝 모델을 차례로 거쳐 인간에게 전달될 때, 다중 모델 출처 체인을 어떻게 구축할 것인가?
• 내용 자체를 노출하지 않으면서 “안전 필터링이 활성화되었다”와 같은 특정 속성을 검증하는 제로 지식 증명을 어떻게 구현할 것인가?
• 여러 세션에 걸쳐 실제 세계 행동을 수행하는 자율 AI 시스템에 대해 에이전트 행동 attestation을 어떻게 설계할 것인가?

이들은 아직 해결되지 않은 문제입니다. 암호학적 원시 연산은 존재하고, 시스템 아키텍처도 구현 가능하지만, 아직은 암호학적 엄격함, 엔터프라이즈 컴플라이언스 이해, 그리고 규제 기관과의 관계를 모두 갖춘 전체 스택을 구축하는 사람이 없습니다.

규제 창은 지금 열려 있습니다

내가 만들고 있는 것과 찾고 있는 사람

특히 다음과 같은 사람을 찾고 있습니다:

• 강력한 백엔드 엔지니어링 역량 (Python, Go, Rust 중 하나 이상)
• 암호학, PKI, 보안 인프라에 대한 진정한 관심
• 사이드 프로젝트가 아닌 실제 시스템을 배포한 경험
• 첫 번째 디자인 파트너와 액셀러레이터 펀딩을 마무리하는 단계에서 지분만으로 일할 수 있는 의지
• 문제에 대한 지적 호기심 – 이 작업은 단순 직업이 아니라 흥미로운 엔지니어링 도전이어야 합니다.

제가 제공하는 것은 상당한 지분과, 역사적 순간에 맞물린 완전히 해결되지 않은 문제, 그리고 이미 세 개의 기업이 디자인 파트너 대화에 참여하고 있을 정도로 실질적인 청사진입니다.

이러한 인프라가 올바르게 구축된다면, 가장 좋은 인프라처럼 눈에 보이지 않으면서도 필수적인 존재가 될 것입니다.

Victor — Founder, AI Notary
AI 경제가 아직 갖추지 못한 신뢰 계층을 구축합니다.