Полноценная "облачная" LLM на домашнем компьютере

Система: Debian 13 Процессор: AMD Ryzen 7 5700X Видеокарта: Radeon RX 6600 (8 Гб видеопамяти) ОЗУ: 128Гб (по факту занято 8 Гб VRAM + 48 Гб RAM) Запуск MoE LLM qwen3.8-flash-next-iq3_xxs (125B) на ~76 Гб на обычном компьюетре (у многих видеокарта гораздо мощнее, а следовательно и ответ будет выдаваться гораздо быстрее). Запуск производился с помощью Strata https://github.com/Niko1221/Strata/releases