팔란티어는 토큰 과금이 없다고 말하지만 문서는 여전히 토큰을 센다

AIP는 LLM 사용량을 토큰으로 측정해 컴퓨트초로 환산한다. 팔란티어의 무토큰 주권 AI 포지셔닝과 다르다.

팔란티어는 토큰 과금이 없다고 말하지만 문서는 여전히 토큰을 센다
Share

팔란티어는 2026년 6월 말과 7월 초, 기업들에게 토큰 비용을 그만 내라고 말했습니다. 그런데 정작 AIP 문서에는 팔란티어가 토큰을 정확히 어떻게 세는지가 조용히 설명돼 있습니다.

팔란티어 마케팅이 건너뛰는 토큰 환산 방식

팔란티어는 LLM 사용량을 토큰으로 측정합니다. 다만 청구 전에 이를 compute-seconds라는 단위로 바꿀 뿐입니다. AIP 제품 문서는 환산율을 명확히 제시합니다. 토큰 10,000개당 43 compute-seconds이며, GPT-4o 토큰 24개는 0.1032 compute-seconds에 해당합니다 . 이는 사용량 기반 LLM 엔드포인트와 같은 토큰당 단위 경제입니다. 계약 단계에서 계량기 이름만 바뀐 것입니다.

빠른 답변: 팔란티어의 "토큰 청구 없음" 메시지는 토큰을 세지 않는다는 뜻이 아니라 계약서상 표현 방식에 관한 이야기입니다. AIP 문서는 LLM 사용량을 토큰 10,000개당 43 compute-seconds로 환산하고, 일별 토큰, 모델, 통화 보고서를 내보냅니다. 호스팅 API와 같은 사용량 기반 경제 구조입니다 .

이 측정은 숨겨져 있지 않습니다. 내보낼 수도 있습니다. AIP는 사용량을 토큰 수, 모델, 리소스, compute-second, 통화 단위로 나눈 일별 보고서로 보여주며, 이는 기반 제공업체들이 모델 가격을 매기는 방식과 맞닿아 있습니다 . 토큰이 정말 아무 역할도 하지 않는다면 이런 필드들은 존재하지 않았을 것입니다.

팔란티어가 추적하는 항목값 / 단위출처
토큰에서 compute-second로의 환산율토큰 10,000개당 43 compute-secondsAIP 컴퓨트 사용량 문서
계산 예시GPT-4o 토큰 24개 = 0.1032 compute-secondsAIP 컴퓨트 사용량 문서
내보낼 수 있는 보고서 필드토큰, 모델, 리소스, compute-second, 통화(일별)AIP 컴퓨트 사용량 문서
속도 제한 적용분당 토큰 수, 분당 요청 수AIP 용량 관리 문서

속도 제한도 같은 사실을 확인해 줍니다. 팔란티어의 제공업체 호환 프록시 계층은 등록, 프로젝트, 사용자 단위로 사용량을 추적하고, 분당 토큰 수와 분당 요청 수로 직접 표현되는 제한을 적용합니다 . 토큰은 내부 청구에만 쓰이는 것이 아닙니다. 플랫폼이 작동하는 제한 장치이기도 합니다.

따라서 정확한 해석은 마케팅 문구보다 좁습니다. 팔란티어가 기업들이 "가치를 만들지 않는 토큰"을 그만 사야 한다고 말할 때, 이는 토큰이라는 단위가 자사 플랫폼에서 사라졌다는 주장이 아닙니다. 규제 산업의 구매자에게 AI를 어떻게 포장하고 판매해야 하는지에 관한 주장입니다. AIP, Foundry, 제공업체 프록시 아래에서는 여전히 토큰 계량기가 돌아갑니다. 달라지는 것은 누가 요율을 협상하고, 각 호출에 어떤 거버넌스가 씌워지는가입니다. 이 글의 나머지를 읽을 때도 그 차이를 염두에 두어야 합니다. 주권형, 자체 가중치 모델이라는 이야기는 실제로 중요하고 흥미롭지만, 모든 호스팅 모델이 의존하는 동일한 계량 구조 위에 올라가 있습니다 .

팔란티어의 에어갭 주권형 AI OS: 무엇을 제공하고 무엇을 요구하나

Palantir says no token billing — its docs still count tokens

2026년 6월 29일, 팔란티어와 NVIDIA는 주권형 AI 운영체제 참조 아키텍처를 발표했다. 이는 고객 자체 경계 안에서 프런티어급 오픈 모델을 온전히 실행하는 배포 청사진으로, 호스팅 API 호출이 없고 데이터도 그 경계를 벗어나지 않는다 . 이 스택은 NVIDIA 가속 하드웨어와 NVIDIA AI Enterprise 소프트웨어 제품군을 팔란티어의 네 가지 핵심 플랫폼인 AIP, Foundry, Ontology, Apollo와 결합하고, “보안되지 않은 네트워크로부터 완전히 격리된” 에어갭 환경에서 NVIDIA Nemotron 오픈 모델을 실행하기 위한 “지능형 엔진”을 포함한다 . 이것은 주권성이라는 메시지 뒤에 있는 실제 제품이지, 발표용 슬라이드가 아니다.

핵심은 소유권이다. 기관은 “운영 지식을 인코딩한 가중치를 포함해 결과 모델에 대한 완전한 소유권을 유지”하므로, 파인튜닝된 모델과 그 모델이 학습한 모든 것은 벤더의 호스팅 엔드포인트가 아니라 고객 자산으로 남는다 . 개발자 입장에서는 일반적인 의존 관계가 뒤집힌다. 보유하는 것은 속도 제한, 지원 중단, 가격 변경의 대상이 될 수 있는 API 키가 아니라 모델 아티팩트다.

기술적으로 새로운 부분은 스스로 개선되는 “데이터 플라이휠”이다. 이 엔진은 고객 환경 내부에서 사용자 텔레메트리와 추적 데이터를 수집하고, 이를 활용해 고가치 작업에 맞게 Nemotron을 사후 학습하고 정렬한다. 그래서 데이터 반출 없이도 모델이 “지속적으로 개선”된다 . 공유 멀티테넌트 API에서는 이런 루프를 신뢰성 있게 제공하기 어렵다. 학습 신호가 테넌트 밖으로 나가야 하기 때문이다. 여기서는 신호, 컴퓨트, 결과 가중치가 모두 에어갭의 같은 쪽에 남는다.

발표 시점에 팔란티어가 제시한 컴플라이언스 범위는 규제 산업 구매자가 이 제품을 일반적인 API 키와 다르게 평가하는 이유다. 팔란티어 Trust 포털에는 다음이 올라와 있다:

  • FedRAMP Certified Class D 및 FISMA High
  • DoD Impact Level 5(IL5) 및 IL6
  • HIPAA 및 GDPR
  • ISO 27001, 27017, 27018
  • SOC 2 Type 2

분명히 짚어둘 단서가 하나 있다. 플랫폼이 이런 인증을 보유하고 있다는 사실이 모든 배포가 모든 워크로드에 대해 인가되었다는 뜻은 아니다. 워크로드별 인가는 여전히 구매자가 책임져야 하는 별도의 절차이며, 이번 발표가 그 과정을 없애주지는 않는다 .

팔란티어는 이 설계를 방향 전환이 아니라 자사의 출발점과 이어지는 흐름으로 설명한다. 수석 아키텍트 Akshay Krishnaswamy는 “우리 고객은 통제권을 유지해야 한다”고 말하며, 팔란티어가 처음부터 기밀·단절 환경을 위해 구축했던 정부 배포 사례와 이 아키텍처를 연결했다 . NVIDIA도 같은 패키지를 미국 기관과 상업, 에너지, 의료, 농업, 교육, 운송 분야의 핵심 인프라 운영자를 겨냥해 제시하며, “데이터, 모델, 감사 가능성은 고객 통제 아래” 둔다고 설명한다 . 그 대가로 요구되는 것, 즉 경계 내부 컴퓨트 설비 투자, 온톨로지 작업, 플랫폼 의존성이 이 분석의 나머지 초점이다.

카프의 토큰맥싱 선언: CNBC에서 꺼낸 주장

팔란티어 CEO 알렉스 카프의 “토큰맥싱” 주장은 기업용 AI 과금이 결과가 아니라 사용량, 즉 토큰 단위 소비에 돈을 매기고 있으며, 그 해법은 자체 보유형·주권형 배포라는 상업적 제안이다. 2026년 7월 1일 CNBC Squawk Box에서 카프는 AI가 판매되는 방식에 대해 “무언가 완전히 잘못됐다”고 말하며, 기업들이 “가치를 만들지 않는 토큰”에 비용을 지불하고 있다고 주장했다 . 2026년 6월 30일 공개된 9개 항목의 선언문은 “토큰맥싱”이라는 용어를 만들었다. 데모를 쫓고 추론 예산을 태우지만 측정 가능한 성과는 없는 흐름을 가리킨다 . 이 프레이밍은 의도적으로 도발적이므로, 수사와 실제로 입증된 내용을 분리해서 볼 필요가 있다.

가장 날카로운 표현은 보도된 고객 정서를 끌어온 대목이었다. 카프는 토큰 과금을 “가난한 사람을 돕지도 않고 그저 벌만 주는 부유세”라고 묘사했다 . 개발자나 기술 창업자라면 그 밑바탕의 불만은 익숙하다. 파일럿 단계에서는 사소해 보이던 비용이 워크로드가 에이전트형으로 바뀌는 순간 크게 불어난다. 프롬프트 크기, 검색된 컨텍스트, 도구 호출, 출력 길이, 사고 토큰, 재시도, 평가가 모두 계량기를 동시에 밀어 올리기 때문이다.

AI 판매 방식에 “무언가 완전히 잘못됐다” — 기업들은 “가치를 만들지 않는 토큰”에 돈을 낸다 — 알렉스 카프, 팔란티어 CEO, CNBC Squawk Box에서 (source: Quartz).

이 주장은 독립적으로 검증됐을까? 아직은 아니다. 카프는 제3자 ROI 수치를 제시하지 않았고, 독립적인 구매자 설문도 인용하지 않았다. 상업적 주장을 떠받치는 유일한 구체적 숫자는 팔란티어가 자체적으로 전망한 2년 뒤 약 150억~180억 달러의 잉여현금흐름이었다 . 이는 자기 보고식 전망이지, 주권형 배포가 총비용이나 성과 면에서 계량형 접근보다 낫다는 외부 증거는 아니다.

시장은 반응했지만, 반응이 검증은 아니다. 인터뷰 당일 팔란티어 주가는 약 8~9% 올랐다 . 이는 논지에 대한 독립 감사라기보다 투자자들의 기대를 반영한 것이다. 다만 이 선언문은 실제 예산 압박이라는 배경 위에 놓인다. 보도에 따르면 우버와 마이크로소프트를 포함한 기업들이 고가의 AI 코딩 도구에 대한 직원 접근을 제한했으며, 이는 “성과 없는 토큰”이라는 불만에 어느 정도 경험적 무게를 더한다 .

분석이라기보다 신호로 읽으면, 이 선언문은 가격 논쟁을 가치 논쟁으로 바꿔 놓는다. 구매자에게는 유용한 프레이밍이지만, 입증 책임을 해결하는 것이 아니라 다른 곳으로 옮기는 프레이밍이기도 하다.

온톨로지: 팔란티어의 오래가는 경쟁 해자

Palantir says no token billing — its docs still count tokens

팔란티어의 진짜 방어력은 모델이 아니라 온톨로지에 있다. 원시 모델 호출을 통제된 운영으로 바꾸는 계층이다. 온톨로지는 운영 계층이며, 디지털 트윈 형태로 구축되는 경우가 많다. 객체, 속성, 연결뿐 아니라 액션, 함수, 동적 보안을 담는다 . 실무적 결과는 이렇다. AI는 자유 형식 프롬프트가 아니라 승인된 비즈니스 객체와 허가된 액션에 붙는다. 그래서 에이전트가 배송을 업데이트하거나 클레임을 승인할 때도 인간 운영자와 같은 권한 체계와 감사 추적을 거친다. 토큰당 과금 API가 복제하지 못하는 부분이 바로 여기에 있다.

온톨로지 위의 모든 것은 Foundry 거버넌스를 거쳐 라우팅된다. 애플리케이션과 평가 표면인 AIP Logic, AIP Chatbot Studio, AIP Evals, 그리고 공급자 호환 모델 프록시 엔드포인트는 모두 같은 제어 평면을 통해 모델 트래픽을 통과시킨다. 이 제어 평면은 제로 데이터 보존, 사용량 추적, 속도 제한, 공급자별 지리적 제한을 강제한다 . 프록시는 Anthropic, OpenAI, xAI, Google 스타일 형식을 지원하므로 기존 클라이언트 코드는 Foundry를 가리키기만 해도 재작성 없이 거버넌스를 물려받을 수 있다. 지원 모델군은 등록과 지리적 제한 조건에 따라 OpenAI, Anthropic, Meta, Google, xAI, Mistral, Llama까지 걸쳐 있다 .

Apollo는 이를 현장으로 확장한다. Hub-and-Spoke 모델에서는 스포크 에이전트가 허브로 텔레메트리를 보고하고 Plans를 실행한다. 환경은 연결이 끊긴 상태에서도, 예를 들어 이동 중인 차량 위에서도 작동할 수 있으며, 이후 다시 연결해 업그레이드를 받는다. 이는 호스팅 API가 구조적으로 감당할 수 없는 엣지 및 임무 배포 사례이며, 팔란티어가 전략 자산을 가중치가 아니라 제어 평면으로 설명하는 이유이기도 하다.

“팔란티어는 정부 환경에 소프트웨어를 배포하는 데서 출발했기 때문에, 우리 고객들은 언제나 자기 시스템에 대한 통제권을 유지해야 했다” — 악샤이 크리슈나스와미, 팔란티어 최고 아키텍트 (source: Palantir Investor Relations).

이 해자에는 의도적인 탈출 경로도 있다. 2026년 3월의 등록 모델 / 자체 모델 가져오기 구현을 통해 고객은 네이티브 도구 호출, 추론, 권한, 관측 가능성을 갖춘 자체 LLM을 연결할 수 있다 . 이는 락인 비판에 대한 답으로 읽히지만, 적용 범위는 완전하지 않다. BYOM은 아직 모든 AIP 기능을 지원하지 않으며, AIP Assist와 일부 Pipeline Builder 기능은 여전히 제외된다. 모델 이동성은 실제로 존재하지만, 기능 동등성까지 갖춘 것은 아니다.

이 요소들을 함께 보면 “토큰 없음”이라는 구호가 팔란티어가 실제로 파는 것을 얼마나 축소해서 말하는지 알 수 있다. 온톨로지, 통제된 프록시, Apollo의 비연결 배포, 선택적 BYOM은 모델 성능이 아니라 전환 비용이다. 축적된 스키마, 권한, 변경 관리 작업이 핵심이다. 몇 달마다 새로워지는 프런티어 모델과 달리, 이런 요소는 오래간다. 구매자가 치르는 거래는 통제의 깊이와 선택권 사이의 교환이다. 통제된 운영 계층을 얻는 대신, 그 계층 자체가 의존해야 하는 인프라가 된다는 점을 받아들여야 한다.

오픈 웨이트 Nemotron vs 토큰별 과금: CapEx 관점의 계산

자체 보유 가중치의 재무적 논리는 비용 곡선을 뒤집는 데 있다. 토큰별 과금은 추론 단위마다 영구적으로 비용을 부과한다. 반면 NVIDIA Nemotron 같은 오픈 웨이트 배포는 GPU 자본 지출을 앞단에 크게 투입한 뒤, 지속적인 대량 사용 구간에서는 토큰당 한계비용을 거의 0에 가깝게 낮춘다 . 손익분기점은 순간 최대 트래픽이 아니라 처리량의 꾸준함에 달려 있다. 밤새 유휴 상태로 놀고 있는 클러스터는 이 차익을 잃지만, 같은 파인튜닝 모델에 대해 안정적으로 계속 돌아가는 워크로드라면 여러 해의 기간에서 호스팅 API 가격을 밑돌 수 있다. 이것이 Palantir가 CFO에게 던지는 메시지다 .

빠른 답변: 2026년 중반 기준 토큰별 프런티어 API 가격은 입력/출력 100만 토큰당 약 $1.50/$9(Gemini 3.5 Flash)에서 $5/$30(GPT-5.5) 범위다. 오픈 웨이트 배포는 이 반복 과금 미터를 높은 선불 GPU capex와 거의 0에 가까운 한계비용으로 바꾼다. 다만 지속적이고 일관된 처리량이 있을 때만 더 저렴하다.

이 방식이 맞서는 과금 기준선은 고정되어 있지 않으며, 내려가기보다 오르는 쪽으로 움직이고 있다. 현재 짧은 컨텍스트 기준 100만 토큰당 표시 가격을 보면, 구매자가 자체 컴퓨트와 비교해 계산하는 가격대가 드러난다 :

모델(2026년 중반)입력 / 100만 토큰출력 / 100만 토큰
OpenAI GPT-5.5(짧은 컨텍스트)$5.00$30.00
Anthropic Claude Sonnet$3.00$15.00
Anthropic Claude Opus 4.7$5.00$25.00
Google Gemini 3.5 Flash$1.50$9.00
AWS Bedrock Claude 3.5 Sonnet(확장)$6.00$30.00

이런 표면 가격은 실제 프로덕션 지출을 낮게 보이게 한다. 에이전트형 워크플로우에서는 토큰 소비가 비선형적으로 늘어나기 때문이다. 파일럿이 파이프라인으로 넘어가는 순간, 비용은 프롬프트 크기, 검색된 컨텍스트, 도구 호출, 출력의 장황함, 사고 토큰, 재시도, 평가 실행 전반에서 복리처럼 불어난다. 단일 프롬프트로는 센트의 일부만 들던 동일 작업이 사용자 액션 하나당 수십 번의 과금 호출로 이어지는 체인이 된다. 실제로 월 $500짜리 개념검증은 새로운 사용 사례를 하나도 추가하지 않아도 월 $50,000짜리 프로덕션 청구서로 커질 수 있다. 미터는 인원수만이 아니라 사용량에 따라 커진다 .

이 압박은 가정이 아니라 문서화된 현실이다. 보도에 따르면 Uber와 Microsoft를 포함한 기업들은 비용을 억제하기 위해 고가의 AI 코딩 도구에 대한 직원 접근을 제한했다 . 따라서 tokenmaxxing 비판은 Palantir의 프레이밍이 자기 이익에 맞춰져 있더라도 사실적 근거가 있다. 과금형 추론은 예측하기 어렵게 확장되고, 재무팀은 접근을 배급하는 방식으로 대응하고 있다 .

정직하게 말하면, capex가 이기는 조건은 제한적이다. 자체 Nemotron 클러스터에는 지속적인 활용률, 내부 MLOps 역량, 그리고 감가상각 계산이 필요하다. 간헐적이거나 탐색적인 워크로드를 가진 대부분의 구매자는 이를 정당화하기 어렵다. 이들에게는 투명한 토큰별 가격과 벤더 간 벤치마킹이 여전히 더 저렴하고 유연하다. CapEx 논리는 실제로 성립하지만, 모든 경우에 맞는 주장이 아니라 사용량과 일관성에 관한 주장이다.

AIP 용량 등록: 리테일 토큰 과금 대신 협상으로 정하는 방식

Palantir says no token billing — its docs still count tokens

AIP에는 리테일 기준의 토큰당 가격이 없다. 용량은 직접 충전하는 셀프서비스 미터가 아니라, 협상으로 정하는 등록 티어를 통해 제공된다. 신규 배포는 기본적으로 "medium" 용량 티어로 시작하며, "large" 또는 "XL"로 올리려면 업그레이드 버튼을 누르는 것이 아니라 Support 티켓을 열어야 한다 . 이 한 가지 사실만으로도 "토큰이 없다"는 메시지는 완전히 다르게 보인다. Palantir는 내부적으로 여전히 토큰을 세지만, 이를 항목별 청구서가 아니라 거버넌스가 적용된 용량 배정으로 포장한다.

그 한도 역시 월간 상한이나 금액 한도가 아니다. 한도는 분당 토큰 수분당 요청 수로 표현되며, 등록, 프로젝트, 사용자 수준에 각각 별도로 적용된다 . 개발자 입장에서는 예산보다 속도 제한에 더 가깝다. 질문은 "이번 달 비용이 얼마인가"가 아니라 "이 에이전트형 워크플로가 이 프로젝트의 분당 토큰 한도를 꽉 채울 것인가, 그렇다면 이를 올리기 위해 누구의 Support 대기열에 들어가야 하는가"가 된다. 용량 계획은 청구 콘솔의 슬라이더가 아니라 운영상의 협의가 된다.

그 아래에서 호스팅 모델 경로는 사실 Palantir의 컴퓨트가 아니다. AIP의 LLM 용량은 상위 제공업체인 Azure, OpenAI, AWS Bedrock, Google Vertex의 제약을 받으며, Palantir는 그 위에서 거버넌스가 적용된 프록시 계층으로 동작한다 . 따라서 tokenmaxxing 선언문이 비판하는 같은 프런티어 모델 토큰은 여전히 같은 클라우드에서 계량되고 있다. Palantir는 미터를 없애는 것이 아니라, 등록 거버넌스, 지리적 제한, 속도 관리로 감싼다. 프록시 호환 API 계층도 Anthropic, OpenAI, xAI, Google 스타일 엔드포인트를 반영하면서 제로 데이터 보존과 사용량 추적을 강제한다 .

모델 선택지는 넓지만 게이트가 있다. AIP는 OpenAI, Anthropic, Meta, Google, xAI, Mistral, Llama 계열을 지원하지만, 각각 자유 선택이 아니라 등록과 지리적 제한의 적용을 받는다 . 그리고 문서 어디에도 공개된 달러 가격은 없다. 엔터프라이즈 계약은 배포별로 맞춤 협상된다 .

실무적인 맞교환은 가시성이다. 리테일 토큰 과금은 투명한 한계 비용과 즉각적인 벤더 간 비교를 제공한다. AIP 용량 등록은 불투명한 경제성과 Support를 거쳐야 하는 업그레이드 경로를 감수하는 대신, 거버넌스가 적용되고 예산화하기 쉬운 범위를 제공한다. 가격 투명성보다 예측 가능성을 중시하는 규제 산업 구매자에게는 장점이다. 내일 바로 두 모델을 비용 기준으로 A/B 테스트하고 싶은 팀에게는, 리테일 미터에는 없는 등록 게이트가 마찰이 된다.

주권성과 공유 클라우드: AIP가 말하는 소유권의 강점과 빈틈

Palantir의 주권성 메시지는 주요 연구소들이 모두 반박하는 주장에 기대고 있다. 계량형 호스팅 API는 본질적으로 당신의 작업을 다른 누군가의 학습 세트로 새어나가게 한다는 주장이다. 이 프레이밍은 논쟁적이다. OpenAI는 명시적 옵트인이 없는 한 기본적으로 비즈니스 API 데이터로 학습하지 않는다고 밝히며, Anthropic도 Claude for Work, API, Claude Gov의 입력 또는 출력으로 기본 학습하지 않는다고 밝힌다 . 따라서 기술 구매자에게 더 날카로운 질문은 "학습 신호를 누가 소유하는가"가 아니다. 연구소들은 이미 이를 계약으로 답하고 있다. 진짜 질문은 "가중치, 배포 경계, 제어 평면을 누가 소유하는가"이며, 이는 데이터 보존 정책과는 실제로 다른 축이다.

"주권 AI"를 하나의 제품처럼 다루지 않는 것도 도움이 된다. 실제로는 온프레미스, 국가 클라우드, 기밀 클라우드, 고객 통제 암호화 키, 연결이 끊긴 엣지, 또는 단순히 정책으로 통제되는 라우팅까지 이어지는 스펙트럼이다. 각각은 서로 다른 위협 모델, 업그레이드 주기, 인증 작업을 의미한다. 벤더 슬라이드에 "sovereign"이라고 적혀 있어도, 계약서가 그중 무엇을 구매하는지 명시하기 전까지는 거의 아무것도 말해주지 않는다. 그 단어는 받아들일 보증이 아니라 정의해야 할 변수로 다뤄야 한다.

Palantir가 말하는 소유권 서사는 아키텍처 수준에서는 실재한다. 에어갭 배포, 보존되는 가중치, 경계 내부의 데이터 플라이휠이 그것이다. 하지만 가치 수준에서는 독립적으로 검증되지 않았다. Palantir는 주권형 AIP에 대한 달러 가격을 공개하지 않으며, 계약은 맞춤 협상된다 . Alex Karp의 CNBC 주장은 제3자 ROI 감사나 독립 설문도 제시하지 않았다. 그 주장에 붙은 유일한 수치는 Palantir가 자체적으로 전망한 2년 뒤 약 150억~180억 달러의 잉여현금흐름이었고, 인터뷰 당일 주가는 약 8~9% 올랐다 . 이는 시장 반응이지, 근본 경제성의 검증은 아니다.

"고객은 통제권을 유지해야 한다," — Palantir의 Chief Architect Akshay Krishnaswamy가 주권형 엔진을 회사의 정부 부문 기원과 연결하며 한 말 (source: Palantir Investors).

선언문을 걷어내면 실제 결정은 좁아진다. 제어 평면의 깊이냐, 범용 선택권이냐의 문제다. Palantir는 어려운 환경에서 더 빠른 운영화를 제공한다. 온톨로지, 거버넌스가 적용된 액션, Apollo 배포, 경계 내부 포스트트레이닝이 그 조건이다. 대신 온톨로지 락인, 지속적인 변화 관리 부담, 벤치마크하기 어려운 플랫폼 경제성을 받아들여야 한다. 토큰 과금형 클라우드 AI는 신원, 감사, 계보, 승인을 직접 구축한다면 투명한 계량과 다음 날 모델 교체를 제공한다.

구체적인 결론은 이렇다. 슬로건이 아니라 제약 조건으로 선택하라. 워크로드가 기밀 또는 규제 대상 기록 시스템을 건드려야 하고 경계를 벗어날 수 없다면, Palantir의 깊이는 그 불투명성을 감수할 가치가 있다. 아직 모델과 사용 사례를 반복 실험하는 단계라면, 리테일 미터의 선택권이 한 분기 동안 협상해야 할 제어 평면보다 낫다. "토큰 과금 없음"은 마케팅 프레임이다. Palantir의 자체 문서도 여전히 토큰을 센다. 당신의 위협 모델에 맞는 아키텍처를 사고, "주권형"의 정의는 계약서에 직접 써넣어라.

자주 묻는 질문

Palantir AIP는 토큰 단위로 과금하나요?

소매 요금제처럼 토큰당 얼마를 매기는 방식은 아닙니다. 하지만 토큰은 여전히 집계합니다. 엔터프라이즈 과금은 공개 토큰 단가가 아니라 협상된 용량 티어를 통해 이뤄지며, 기본값은 "medium"이고 Support를 통해 "large"와 "XL"로 업그레이드할 수 있습니다 . 내부적으로 AIP는 LLM 사용량을 토큰으로 측정한 뒤 이를 컴퓨트 초로 변환합니다. 10,000토큰당 43컴퓨트 초이므로 GPT-4o 24토큰은 0.1032컴퓨트 초에 해당하며, 일별 토큰, 모델, 컴퓨트 초 보고서로 내보낼 수 있습니다 . "토큰 과금이 없다"는 말은 계약 형태에 관한 것이지, 측정 단위가 아니라는 뜻은 아닙니다.

토큰맥싱(tokenmaxxing)이란 무엇이고, Karp는 왜 이 표현을 쓰나요?

토큰맥싱은 Alex Karp가 2026년 6월 30일 공개한 9개 항목 선언문에서 만든 표현으로, 데모만 좇고 측정 가능한 성과 없이 추론 예산을 태우는 기업들을 가리킵니다 . 다음 날 CNBC "Squawk Box"에서 그는 토큰 과금을 "가난한 사람을 돕지 않는 부유세이며, 그저 처벌할 뿐"이라고 말했습니다 . 이는 Palantir가 자체 가중치를 보유한 주권형 배포가, 계량형 API 지출로는 얻기 어렵다고 주장하는 ROI를 제공한다는 식으로 포지셔닝하는 수사적 표현입니다. 제3자 분석이 아니라 영업 논리입니다.

Palantir 호스팅 모델 대신 자체 LLM을 AIP에 연결할 수 있나요?

가능합니다. 2026년 3월 등록 모델/BYOM 구현 이후 고객은 네이티브 도구 호출, 추론, 권한, 관측 기능을 갖춘 자체 LLM을 연결할 수 있습니다 . 다만 BYOM 모델이 아직 모든 AIP 기능을 지원하지는 않습니다. AIP Assist와 일부 Pipeline Builder 기능은 제외됩니다. 어느 쪽이든 Ontology와 Foundry 컨트롤 플레인이 모든 호출을 계속 관리하며, 어떤 모델로 라우팅하든 권한 부여, 감사, 속도 제한을 적용합니다.

Palantir 계약에서 "주권 AI"는 실제로 무엇을 뜻하나요?

하나의 기술 사양을 뜻하지는 않습니다. "주권 AI"는 온프레미스, 국가 클라우드, 기밀 클라우드, 고객 통제 키, 연결이 끊긴 엣지, 정책 기반 라우팅까지 포괄합니다. 2026년 6월 29일 NVIDIA와 함께 발표한 에어갭 Nemotron 배포는 보안되지 않은 네트워크와 격리되고 고객이 모델 가중치의 전체 소유권을 유지하는 하나의 구체적 구현입니다 . 이 용어는 범위가 유동적이므로, 구매자는 "주권"이라는 마케팅 표현을 자명한 것으로 받아들이기보다 격리, 소유권, 라우팅을 계약상 명확히 정의해야 합니다.

OpenAI와 Anthropic은 기본적으로 제 프롬프트로 학습하나요?

아닙니다. OpenAI는 명시적 옵트인이 없는 한 기본적으로 비즈니스 데이터로 학습하지 않는다고 말하며, Anthropic도 Claude for Work, API, Claude Gov의 입력 또는 출력으로 기본 학습하지 않는다고 말합니다 . 두 연구소 모두 호스팅 API 사용이 프런티어 모델 학습에 쓰인다는 Palantir의 암시적 프레이밍을 직접 반박합니다. 실제 차이는 클라우드 API가 데이터를 수집한다는 포괄적 주장보다는, 경계 통제, 가중치 소유권, 감사 가능성이라는 아키텍처상의 차이에 있습니다.

마지막 업데이트: 2026-07-05. 2026년 6월 29일~7월 1일 Palantir 및 NVIDIA 발표와 Palantir의 공개 AIP 문서를 기준으로 검토했습니다.

이 글이 도움이 되셨다면, 새 글이 올라올 때마다 이메일로 받아보세요.

구독하기