Was Ollama macht? Das installiert eine (oder mehrere) lokale KI auf deinem Rechner. Und mit Open WebUI hast Du dann ein Chat-Interface und kannst sie nutzen.
Solche Modelle können auch mal gern 400 GB (!) groß sein. Achte also auf den freien Speicherplatz