So ein Riesenmodell verkraftet mein M3 MBP gar nicht. Meine Modelle haben meist unter 10 GB: Gemma3:12B, Phi4:Latest ...

Christian, ich lasse mir zum Beispiel längere Texte analysieren und zusammenfassen, ich lasse mir aus Texten Listen erstellen, ich lasse mir Texte Korrekturlesen und so weiter. Letzteres funktioniert leider bei den kleinen Modellen noch nicht so gut.