You.com, 오픈 웨이트 모델 API 'Inference Router' 공개 — 가동률 99.9% 보장 · 웹 검색 내장
Kimi K3 · GLM 5.3 · DeepSeek 같은 오픈 웨이트 모델을 API 하나로 부르는 서비스예요. 서버가 멈추면 다른 업체로 자동으로 넘기고, 웹 검색을 모델과 같은 서버에서 돌린다고 해요.
- You.com이 10월 22일 'Inference Router'를 공개했어요. 오픈 웨이트 모델 등을 OpenAI 호환 API 하나로 부르고, 가동률 최소 99.9%를 서비스 크레딧으로 보장해요(SLA).
- 요청은 You.com 자체 서버(Inference Direct)로 먼저 가고, 막히면 Parasail · Alibaba Cloud 등 협력 업체로 자동으로 넘어가요. 프롬프트와 결과는 저장하지 않고(ZDR), 모두 미국 서버에서 돌아가요.
- 웹 검색이 모델과 같은 서버에서 돌아 내부 시험 기준 응답이 최대 15% 빨라졌고, LiveNewsBench 1,329문항에서 DeepSeek V4.1 Flash + 웹 검색이 문항당 $0.0217로 Claude Sonnet 5.5 내장 검색($0.0888)과 비슷한 정확도였다고 해요.
이미 OpenAI SDK로 짠 코드가 있다면 base_url 한 줄만 바꿔 kimi-k3 같은 오픈 웨이트 모델을 시험해 볼 수 있어요. 분류 · 요약처럼 양이 많은 작업 하나만 옮겨 결과와 비용을 비교해 보세요.
최신 뉴스나 트렌드를 찾아 글감을 정리하는 자동화를 만든다면, 검색이 붙은 싼 모델로 충분한지 따져 볼 만해요. 다만 비교 숫자는 You.com이 직접 돌린 결과예요.
회사 고객 데이터를 AI에 넣어야 해서 '데이터를 저장하지 않는가 · 어느 나라 서버인가'를 따져야 한다면 확인할 항목이 정리돼 있어요. 모델별 가격은 공식 가격 페이지에서 먼저 확인하세요.
1) 공식 문서의 안내를 따라 You.com API 키를 준비해요. 2) 기존 OpenAI 코드에서 base_url="https://api.you.com/v1" 로 바꿔요. 3) model="kimi-k3" 처럼 모델 이름을 넣고 한 번 불러 봐요. 4) 자세한 설정은 공식 문서의 안내를 따르세요.
자주 돌리는 요약 · 분류 자동화 하나를 오픈 웨이트 모델로 옮겨, 한 달 API 비용이 얼마나 달라지는지 비교해 보는 데 써 보면 좋을 것 같아요.
You.com이 10월 22일 블로그에서 Inference Router를 공개했어요. 여러 회사의 AI 모델, 특히 오픈 웨이트 모델(가중치를 공개해 누구나 서버에 올려 돌릴 수 있는 모델)을 OpenAI 호환 API 하나로 부르는 서비스예요.
무엇을 내세우나
- 가동률 최소 99.9% 보장(SLA) — 못 지키면 서비스 크레딧으로 돌려줘요. 더 큰 계약에는 더 높은 가동률 단계도 있다고 해요.
- 자동 넘김(failover) — 요청은 You.com이 직접 운영하는 서버(Inference Direct)로 먼저 가요. 거기가 멈추거나 꽉 차면 Parasail · Wafer · Alibaba Cloud · Meta · Inception 같은 협력 업체로 자동으로 넘어가요(Prime Intellect는 곧 추가).
- 데이터 저장 안 함(ZDR) — 모델 호출과 웹 검색 모두 프롬프트 · 결과를 저장하지 않는다고 해요.
- 미국 서버만 — 자동으로 넘어가는 협력 업체까지 모두 미국에서 돌아가요.
- 가격 — 모델마다 토큰당 가격이 하나씩 정해져 있고, 플랫폼 수수료는 0%예요. 자동 넘김이 일어나도 요금은 그대로예요. API 키마다 지출 한도를 걸 수 있어요.
OpenRouter와 비교
You.com은 블로그에 OpenRouter(여러 모델을 한 API로 묶어 주는 서비스) · 전용 추론 업체와 나란히 놓은 표를 실었어요. 이 표에 따르면 OpenRouter는 공개된 가동률 보장이 없고, 플랫폼 수수료가 5.5%예요. 전용 업체는 가동률 보장을 받으려면 약정이 필요하다고 적었어요. 표는 You.com이 만든 것이에요.
쓸 수 있는 모델
블로그 표에 실린 모델은 Kimi K3(Moonshot AI) · GLM 5.3 · GLM 5.3 Flash(Z.ai) · DeepSeek V4.1 Flash · DeepSeek V4 Pro(DeepSeek) · Qwen3.8 Flash · Qwen3.8 Max(Alibaba) · Muse Spark 1.3 · Muse Wonder(Meta) · Mercury 3(Inception) · MiniMax M3(MiniMax) · GPT-OSS-120B(OpenAI)이고, Reflection의 Beam은 곧 나온다고 해요.
웹 검색을 모델 옆에서
웹 검색이 모델과 같은 서버에서 돌아서, 따로 검색 업체를 거쳐 오가는 시간이 줄어요. You.com 내부 시험에서는 응답 시간이 최대 15% 줄었다고 해요.
제품 페이지에는 LiveNewsBench(최신 뉴스 질문 시험) 1,329문항을 Braintrust의 공개 검색 평가 도구로 돌린 결과가 있어요(You.com 2026년 10월 · 정가 기준).
- Claude Sonnet 5.5 + 자체 내장 검색: 정확도 82.32% · 문항당 $0.0888
- GPT-6.1 Sol + 자체 내장 검색: 85.25% · $0.0583
- GLM-5.3 + You.com 웹 검색: 82.32% · $0.0489
- DeepSeek V4.1 Flash + You.com 웹 검색: 82.99 · $0.0217
You.com은 이를 '최대 75% 낮은 비용으로 비슷하거나 더 나은 정확도'라고 요약했어요. 다만 블로그에도 '결과는 모델 · 작업 · 평가 방식에 따라 달라진다'고 적혀 있어요. 정확도가 가장 높은 건 GPT-6.1 Sol 내장 검색(85.25%)이었어요.
코드는 한 줄만
블로그에 실린 예시는 OpenAI 파이썬 SDK에서 base_url="https://api.you.com/v1"만 바꾸고 model="kimi-k3"로 부르는 모양이에요. 플레이그라운드에서 바로 시험해 보거나, 엔지니어와 상담해 시작할 수 있어요.
