Технология позволяет моделям обмениваться скрытыми состояниями без промежуточной генерации текста, что ускоряет взаимодействие и повышает точность ответов. Разработка уже показала эффективность, сократив разрыв в качестве между крупной и небольшой моделью на 50%.
Сводка составлена автоматически, возможны неточности. Как это работает.