2026-10-26 08:35 UTC
Strata с Qwen3.8-Flash-Next интересная тема. Огромная (ну по меркам домашнего железа) модель, при этом работает быстрее чем более маленькая. Так еще нагрузка на карты меньше чем для dense модели.
Правда меня смущает пила на графиках загрузки. Кажется что она должна снижать общую скорость, для dense моделей так и есть. А в реальности для MoE добавление 3060 к 3090 дало 30% прироста генерации.
И vision тоже на 3060 уехал, 3090 не грузит - приятно
#ai #нейрослоп
Replies (0)
No replies.