Судя по моему опыту, для нормального запуска хотя бы модели с 7 миллиардов параметров на видеокарте 8 ГБ – это практически минимум, и всё равно иногда тормозит. CPU-версии требуют уже реально много оперативки, 32 гб и выше, иначе работать будет очень медленно или даже не запустится. Так что ставь калькулятор рядом, если хочешь попробовать домашний LLM.