Google запускает Gemini Decisions API для быстрых калиброванных решений в закрытом наборе

Что произошло

• Google анонсировала Gemini Decisions API — новый эндпоинт для решений в закрытом наборе на базе модели Gemini Decision 1, доступный через Gemini API в Google AI Studio.
• Один запрос может содержать один мультимодальный вход по тексту, изображениям, аудио, видео и PDF объёмом до 256K токенов вместе с до 1 000 независимых вопросов.
• По данным Google, модель возвращает вероятности и оценки уверенности при сквозной задержке 150-250 мс, медианное время вычислений модели — 50-100 мс, а задержка почти не растёт от 1 до 100 вопросов на запрос.
• Google заявляет, что модель лидирует по бенчмаркам в маршрутизации агентов, рассуждениях, ранжировании и мультимодальном понимании, имея наименьшую ошибку калибровки.
• Цена — $0,10 за 1M входных токенов без оплаты выходных токенов; Google утверждает, что это делает её почти в 5 раз дешевле на общем наборе бенчмарков, чем Gemini 3.5 Flash-Lite с Interactions API.
• Каждый ответ включает оценку уверенности от 0 до 1, а API поддерживает выбор из 2-255 вариантов и оценку по упорядоченной рубрике, чтобы код мог направлять неоднозначные случаи на резервный вариант или человеку-проверяющему.
• Google сообщает, что Gemini Notebook использует API как маршрутизатор в реальном времени, обслуживая повседневные запросы с задержкой до 40% ниже, оставляя модели глубоких рассуждений для сложных задач; Stitch и CC от Google Labs также названы пользователями.
• Бесплатный уровень в Google AI Studio доступен для прототипирования, а интеграции с такими инструментами, как OpenRouter, LangChain, Vercel, LiteLLM и Pydantic AI, описаны как постепенно появляющиеся, с обещанной поддержкой Google Cloud позже.

Почему важно

API предлагает способ делать ограниченные выборы — например, выбор инструмента, проверки политик и маршрутизацию моделей — с меньшей задержкой и стоимостью, а оценки уверенности позволяют приложениям эскалировать неопределённые случаи.

Что неизвестно

Лидерство в бенчмарках, калибровка и сравнения стоимости — это собственные заявления Google, независимо не проверенные. Снижение задержки на 40% для Gemini Notebook — цифра вендора. Сроки поддержки Google Cloud и полный список интеграций не уточнены.