Oossa

Hugging Face, 언어 모델 요청을 OpenRouter로 라우팅

개발자는 코드를 바꿀 필요가 없습니다. 요청은 이제 OpenRouter를 통해 가장 저렴하거나 빠르거나 안정적인 제공업체로 전달됩니다.

작성: Oossa 게시일: 1 분 읽기

Goran Ivos · Unsplash

Hugging Face는 2026년 11월 18일 Inference Providers 서비스가 모든 언어 모델 요청을 OpenRouter를 통해 전달한다고 발표했습니다. 변경 사항은 자동으로 적용되며 기존 API 호출도 코드를 수정하지 않고 계속 사용할 수 있습니다. 기본적으로 라우터는 가격, 속도, 안정성의 균형을 고려해 제공업체를 선택합니다. 개발자는 ":fastest"나 ":cheapest" 같은 접미사를 추가해 특정 기준을 우선하도록 하거나, 제공업체를 직접 지정할 수도 있습니다. 새로 추가된 "X‑HF‑Session‑Id" 헤더를 사용하면 라우터가 대화를 같은 제공업체의 캐시에 유지해 진행 중인 대화의 응답 속도를 높일 수 있습니다.

새로운 라우팅 방식의 기능

OpenRouter는 모든 제공업체의 상태를 실시간으로 측정하고, 처음 선택한 곳의 응답이 느려지거나 실패하면 다른 제공업체로 전환합니다. OpenRouter 자체 테스트에 따르면 새 라우팅 방식은 용량 오류를 46 % 줄이고, 첫 토큰이 나올 때까지 걸리는 시간을 16.9 % 단축했으며, 전체 처리량을 16.3 % 높였습니다. Hugging Face는 제공업체가 책정한 가격을 사용자에게 그대로 적용하며 별도의 수수료를 붙이지 않습니다. Pro 요금제에는 월 $2 크레딧이 제공되고, Team 또는 Enterprise 요금제에는 좌석당 $2가 제공됩니다.

오픈 웨이트 모델에 미치는 영향

오픈 웨이트(오픈소스) 모델은 이제 OpenRouter 트래픽의 대부분을 차지합니다. 2026년 9월 말 기준 처리된 토큰의 약 71 %가 오픈 웨이트 모델에서 나왔으며, 2025년 10월의 26.8 %에서 늘었습니다. 오픈 모델의 토큰 100만 개당 비용은 폐쇄형 모델의 약 4분의 1 수준입니다. 입력은 약 $0.28인 데 비해 $1.27, 출력은 $1.62인 데 비해 $6.36입니다. 오픈 모델 중 가장 성능이 뛰어난 Kimi K3.1 Pro는 Artificial Analysis Intelligence Index에서 46점을 받았습니다. 반면 가장 높은 점수를 받은 독점 모델 Claude Fable 5.2는 65점을 기록했지만, 작업당 비용은 약 7배 더 높습니다.

왜 중요한가

개발자는 기존 코드를 그대로 두고도 더 빠르고 저렴한 응답을 자동으로 받을 수 있어, 대화형 모델을 사용하는 앱의 운영 비용을 줄일 수 있습니다. 오픈소스 모델 이용자는 같은 API를 계속 사용하면서도 더 낮은 가격의 혜택을 누릴 수 있어 소규모 팀과 취미 개발자도 AI 서비스를 더 부담 없이 이용할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.