Тоже начал недавно копаться в локальных сетях, и реально удивляет, что даже на обычном домашнем компе можно запустить что-то вроде LLaMA 2 с небольшой конфигурацией. Правда, пока пробовал — с большими моделями без супер видеокарты никак, слишком грузно. Интересно, есть у кого примеры простых лайфхаков или готовых скриптов? Хотелось бы понять, как легче стартануть без кучи танцев с бубном. И да, как насчёт стабильности работы при долгом использовании? Не начинают ли сильно греться видеокарты?