Главное, что забыл упомянуть — MacBook с M-серией круто тянет небольшие модели, но с крупными реально притормаживает и греется. Поэтому если нужны быстрая генерация и простая обработка — Core ML и DistilGPT самое то. А вот на «тяжёлые» модели лучше не замахиваться, батарея быстро сядет, а толку мало. Ну и да, ставьте не абы какие библиотеки — нужны именно под Apple Silicon, иначе тормоза обеспечены.