Hugging Face
LiquidAI veröffentlicht QAD-Checkpoints in Q4_0 für vier LFM2.5-Modelle
Vom Abgerufen Themen Offene Modelle
Die 4-Bit-Checkpoints entstehen durch Quantization-Aware Distillation und liegen für LFM2.5-230M, LFM2.5-350M, LFM2.5-1.2B-Instruct und LFM2.5-2.6B vor. Sie halten 97,1, 96,5, 97,4 und 96,6 Prozent der Genauigkeit ihrer BF16-Fassungen.