Честно, я пока только пробую запускать локальные модели, и пока не всё просто с железом у меня. Но идея крутая — можно работать без интернета и не париться о конфиденциальности. Правда, иногда тормозит жёстко, приходится искать полегче модели. Думаю, для тех, кто часто в офлайне или просто хочет контролировать свои данные, это может быть реально полезно.