Entwickler haben Tiny 2.1 vorgestellt, ein Transformer-basiertes Sprachmodell mit nur 367.000 Parametern, das auf 3.500 Fakten trainiert ist. Beeindruckend ist nicht nur die Grösse des Modells selbst, sondern die Tatsache, dass es tatsächlich auf eine klassische Floppy-Disk von 1,44 Megabyte passt und offline funktioniert.
Obwohl die Leistungsfähigkeit eines so kleinen Modells natürlich begrenzt ist, zeigt Tiny 2.1 einen wichtigen Trend: KI-Systeme werden zunehmend kleiner und dezentraler. Statt Anfragen an riesige Cloud-Modelle zu senden, können künftig spezialisierte, schlanke KI-Systeme direkt auf lokalen Geräten oder Servern laufen. Dies hat mehrere Vorteile: niedrigere Latenzzeiten, keine Abhängigkeit von Cloud-Verbindungen, besserer Datenschutz und geringere Rechenkosten.
Für Schweizer Unternehmen öffnet sich hier ein Gestaltungsspielraum. Besonders in Bereichen mit hohen Datenschutzanforderungen oder stabiler Internetverbindung können lokal betriebene Modelle sinnvoll sein. Man könnte KI-Funktionen in Legacy-Systemen oder auf ressourcenschwachen Geräten integrieren. Gleichzeitig ist die Spezialisierung auf Nischendaten eine Chance: Ein Unternehmen könnte sein eigenes kleines Modell für interne Textklassifizierung oder Datenextraktion trainieren und lokal betreiben. Dies erfordert neue Fähigkeiten im Bereich Machine Learning, bietet aber auch Unabhängigkeit von Dritt-KI-Diensten.
