Кто из нас не хотел порезвиться с локальной нейросетью, но уткнулся в скалу из 8+ гигабайт VRAM и мощного процессора? Сегодня расскажу, что реально можно поднять на слабом ПК, чтобы иметь минимум фана с AI без постоянного облака и супержелеза.

Первое — зачем вообще запускать локалку? Бывает, что интернет не самый быстрый или хочется поиграть с моделями без отправки данных куда-то. Тут важно понять, что крупные GPT-подобные модели типа GPT-4 или Gemini у тебя точно не потянут, особенно если видеокарта слабая или её нет вовсе.