Пару дней копался в вариантах запуска AI без интернета — пригодится, если хочешь работать с нейросетями в жёстких условиях или просто не доверяешь облакам. Вот что понял:

1) LLaMA и её форки (например, Alpaca, Vicuna) — популярный вариант. Работают офлайн, но требуют нормальный комп с минимум 6-8 ГБ видеопамяти. Лучшая цена-качество для домашнего использования.

2) GPT4All — более простой AI, который можно запустить на обычном ноуте. Понятен и удобен, но не такой мощный, как облачные GPT.

3) Bloom или MPT — «тяжёлые» фанаты открытого кода. Работают офлайн, но для них нужна серьёзная железка.

4) Ollama — слегка коммерческий, но всё же офлайн-решение, если есть Mac или Windows 11 с WSL. Ненапряжный старт, но с ограничениями по модели.

Зачем такое вообще? Во-первых, безопасность — никаких чатов в облаке, все данные остаются у тебя. Во-вторых, стабильность — не завишишь от интернет-линий и серверов. И в-третьих, иногда просто кайфово иметь полный контроль.