MoonshotAI: Kimi K2 0905

Kimi K2 0905 — это сентябрьское обновление Kimi K2 0711. Модель представляет собой крупномасштабную языковую модель Mixture-of-Experts (MoE), разработанную Moonshot AI, с общим количеством 1 триллион параметров и 32 миллиардами активных на один прямой проход. Модель поддерживает вывод длинного контекста до 256 тыс. токенов, расширенный по сравнению с предыдущими 128 тыс. Это обновление повышает точность агентного программирования и обеспечивает лучшее обобщение по шаблонам, а также расширяет возможности внешнего программирования за счет более эстетичных и функциональных результатов для веб-, 3D- и смежных задач. Kimi K2 оптимизирован для агентских возможностей, включая использование расширенных инструментов, рассуждение и синтез кода. Модель превосходно справляется с тестами программирования (LiveCodeBench, SWE-bench), рассуждений (ZebraLogic, GPQA) и использования инструментов (Tau2, AceBench). Модель обучается с помощью нового стека, включающего оптимизатор MuonClip, для стабильного крупномасштабного обучения MoE.