NSIG_

Ein Modell, viele Ablagen, und nur eine davon ist deine

Vom Themen KI · Modelle · Homelab

Ein neues offenes Modell erscheint. Wenige Tage später steht sein Name mehrfach in der Liste, jedes Mal mit einem anderen Zusatz, jedes Mal unter einem anderen Konto. Am 08.08.2026 gehörten von den zwanzig Modellen mit dem meisten Zuspruch der Woche acht zu ein und demselben Videomodell, sieben davon mit der Schreibweise des Anbieters im Namen und eines kleingeschrieben.

Die Frage, die dann kommt, ist nicht „passt das auf meine Karte“. Die steht in der anderen Notiz. Die Frage ist die davor: Welche dieser Ablagen lädst du überhaupt?

Vier Sorten, und sie tun nicht dasselbe

Sorte Woran du sie erkennst Wofür sie ist
Original Konto des Anbieters, Name ohne Zusatz die Gewichte, wie sie veröffentlicht wurden
Werkzeugfassung Konto eines Werkzeugprojekts dasselbe Modell, zerlegt und benannt für ein bestimmtes Programm
Quantisierte Fassung GGUF, AWQ, INT8, MLX im Namen kleiner gerechnet, damit es auf weniger Speicher passt
Zutat LoRA, VAE, encoder, Turbo im Namen kein Modell. Ein Teil, der ohne das Modell nichts tut

Die vierte Sorte trägt oft den Namen des Modells und nichts, was sie von einer Fassung davon unterscheidet. Was darin liegt, steht unter Falle 3.

Falle 1: die Summe der Ablage ist nicht dein Download

Eine Ablage ist ein Ordner, kein Paket. Wer sie im Ganzen holt, holt alles, was darin liegt.

Ein kleines Beispiel, am 08.08.2026 abgerufen. Ein Anbieter veröffentlicht ein 2,6-Milliarden-Modell zweimal: die Originalgewichte und daneben eine eigene Ablage mit den quantisierten Fassungen.

Inhalt der Ablage die Datei, die du brauchst
Originalgewichte 5,41 GB beide Teile
GGUF-Ablage 21,11 GB in 14 Dateien eine, 1,67 GB

Die GGUF-Ablage ist knapp viermal so groß wie das Original, weil sieben Fassungen nebeneinander liegen. Gebraucht wird eine.

Im Großen wird daraus eine andere Größenordnung. Für ein Modell mit 304 Milliarden Parametern liegt bei einem bekannten Anbieter solcher Fassungen eine Ablage mit 13 Stufen in eigenen Unterordnern, von 82,54 GB bis 161,87 GB. Zusammen sind das über 1500 GB. Wer „das Modell“ lädt, statt einen dieser Ordner, lädt rund das Zehnfache.

Falle 2: im Original liegt dasselbe Modell mehrfach

Das Original des Videomodells von oben bringt es auf 280 Dateien und 498 GB. Nicht weil das Modell so groß wäre, sondern weil dieselben Gewichte mehrfach darin liegen: zwei Varianten, jede einmal fertig zusammengestellt in einem eigenen Unterordner und einmal flach daneben in Einzelteilen. Der Transformer steht dadurch viermal in der Liste, mit je rund 66 GB.

Die Werkzeugfassung desselben Modells kommt mit 17 Dateien aus, und jede davon ist ein fertiges Paket für einen Zweck: 66,28 GB in voller Genauigkeit, 40,23 GB in einer gekürzten Fassung, 34,04 GB in acht Bit. Man nimmt eine Datei und ist fertig.

Das ist der eigentliche Nutzen einer Werkzeugfassung, und er steht nirgends dran: Sie ist nicht besser, sie ist entschieden.

Falle 3: die Zutat ist manchmal ein Haufen Zwischenstände

Zum selben Modell steht eine Ablage mit Turbo-Lora im Namen und viel Zuspruch. Sie ist 101 GB groß. Was darin liegt:

  • acht Dateien mit 10,92 GB und eine mit 7,80 GB, alle benannt nach Trainingsschritt (experimental_step_149, experimental_step_490 und so weiter)
  • acht Dateien mit 0,78 GB, die sich nur in einem Zusatz unterscheiden
  • genau eine davon ohne jeden Zusatz

Die letzte ist die, die gemeint ist. Die großen Dateien sind Zwischenstände aus dem Training, dazu abgelegt, damit andere vergleichen können. Der Unterschied zwischen dem, was du willst, und dem, was in der Ablage liegt, ist hier Faktor 130.

Zuspruch ist dabei kein Hinweis darauf, dass jemand die Dateien benutzt hat. Diese Ablage wies am 08.08.2026 rund 470 Vormerkungen aus und keinen einzigen gezählten Abruf.

Zwei Blicke, die das entscheiden

Erstens: Wem gehört das Konto? Steht der Name des Anbieters darüber, ist es das Original. Steht der Name eines Werkzeugprojekts darüber, ist es die Fassung für dieses Werkzeug, und die ist meistens die richtige, wenn du dieses Werkzeug benutzt. Steht dort ein einzelnes Nutzerkonto, ist es eine Arbeit von jemandem, der nichts dafür verspricht.

Zweitens: die Dateiliste, nicht die Modellseite. Sie beantwortet die Frage in zehn Sekunden:

  • Liegen die großen Dateien in Unterordnern, ist die Ablage eine Sammlung. Du nimmst einen Ordner, nicht die Ablage.
  • Wiederholen sich Dateinamen mit einer Zahl im Zusatz, sind es Stände desselben Dings. Der ohne Zusatz ist meistens der gemeinte.
  • Steht 00002-of-00014 im Namen, ist es ein Teil. Dann brauchst du alle.
  • Steht LoRA, VAE oder encoder im Namen, ist es eine Zutat, ganz gleich wie groß die Dateien sind. Die 101-GB-Ablage von oben ist eine.

Und wenn nichts davon passt

Dann liegt die Fassung, die du brauchst, noch nicht vor. Das ist bei einem drei Tage alten Modell der Normalfall und kein Grund, die nächstähnliche zu nehmen. Ein Werkzeug, das eine Datei nicht lesen kann, sagt das nach dem Laden, nicht davor.

Alle Zahlen hier stammen aus den Dateilisten der Ablagen, abgerufen am 08.08.2026. Sie ändern sich, die vier Sorten nicht.

← Alle Notizen