Musst du dir selbst ausrechnen, Anschaffungspreis des Servers, Auslastung, Abschreibung (wie lange, bis veraltet) vs laufende
Kosten bei den üblichen Verdächtigen. Denk auch an deine persönliche Arbeitszeit, wenn du es nicht als Hobby oder Weiterbildung verbuchen willst.

Was hast du vor? Privat oder geschäftlich? GLM-4.7 mit 357 Milliarden Parametern passt so gerade auf eine H100, die es aber offiziell nicht mehr gibt.
Rechne mal mit 15-20k€ für einen selbst gestrickten Rechner (mit einer mit sehr viel Glück aufgetriebenen H100) und geh den Kostensimulator bei
AWS durch zum Vergleich.