25 триллионов токенов в неделю, 50 человек, $1.3 млрд оценки — за API-прокси

OpenRouter — компания из 50 человек, которая стоит между вами и LLM-провайдерами, — привлекла $113 млн Series B от CapitalG (Google), NVentures (NVIDIA),...

OpenRouter — компания из 50 человек, которая стоит между вами и LLM-провайдерами, — привлекла $113 млн Series B от CapitalG (Google), NVentures (NVIDIA), ServiceNow, MongoDB и Databricks. Оценка — $1.3 млрд, рост с $547 млн за год. Еженедельный объём вырос с 5 до 25 триллионов токенов за полгода.

Simon Willison, один из самых заметных голосов в AI-инструментарии, объяснил, почему он поменял мнение: «Изначально я не понимал, зачем прокси между мной и LLM. Но OpenRouter даёт billing caps, которых у большинства провайдеров до сих пор нет, единый API для 400+ моделей и самый низкий порог входа для экспериментов». Другой пользователь добавил: положив деньги на счёт OpenAI, через год обнаружил, что баланс обнулился — деньги «сгорели» без предупреждения.

Ко-фаундер OpenRouter ответил в треде: «Бизнес здоров, и нам не нужны были венчурные деньги для масштабирования. Но когда не хочешь привлекать $100 млн? Когда тебе реально нужны деньги». Скептики немедленно прицепились: «Красивый нарратив, но давление инвесторов из предыдущих раундов вы не упоминаете».

Критики задали вопрос шире: «50 человек, прокси для чужих API — за что $1.3 млрд?» Ответ из индустрии: OpenRouter публикует ежечасную статистику кеширования по всем комбинациям модель/провайдер. Исследование показало, что ряд open-source хостеров работают на «trash tier» по качеству инференса — и без OpenRouter вы бы об этом не узнали.

Пока модели остаются взаимозаменяемыми и «текущий фаворит» меняется каждый квартал, маршрутизатор между ними — дорогой бизнес. Вопрос в том, что случится, когда рынок консолидируется.

Получайте такие разборы каждый день

Главные истории Hacker News на русском — в Telegram или RSS-ридере.

Следующая новость · 9 из 18 Читать дальше
🌍 Other

Три исследователя GPTZero проверили каждую ссылку в отчёте Big Four — и изобрели термин «вайб-цитирование»

Отчёт EY Canada «Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems» содержал 27 ссылок.

★ 291 · 💬 131 · gptzero.me · 2 мин