Google: Gemma 3 12B
Context 131.1Kgoogle/gemma-3-12b-it
Gemma 3 представляет мультимодальность, поддерживая ввод и текстовый вывод на языке видения. Модель обрабатывает контекстные окна, содержащие до 128 тыс. токенов, понимает более 140 языков и предлагает улучшенные математические, рассуждения и возможности чата, включая структурированные выходные данные и вызов функций. Gemma 3 12B – вторая по величине в семействе моделей Gemma 3 после Gemma 3 27B.
Возможности
Chat Completions
Streaming
Vision
Files
Вход
Изображения · Текст
Выход
Текст
Поддерживаемые параметры API
frequency_penaltylogit_biasmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_p
Лимиты
Maximum output16.4K
Провайдеры
| Провайдер | Cache read/1M | Context | |||||
|---|---|---|---|---|---|---|---|
DeepInfra deepinfra/bf16/flex | 3.62 ₽ | 10.85 ₽ | — | 131.1K | 2.75 s | 21 tps | 100.00% |
DeepInfra deepinfra/bf16 | 4.52 ₽ | 13.56 ₽ | — | 131.1K | 0.53 s | 61 tps | 100.00% |
NextBit nextbit/int4 | 6.78 ₽ | 13.56 ₽ | 4.52 ₽ | 131.1K | 1.26 s | 60 tps | 100.00% |
DeepInfra deepinfra/bf16/priority | 6.78 ₽ | 20.34 ₽ | — | 131.1K | 0.68 s | 60 tps | 100.00% |