Künstliche Intelligenz war lange Zeit das Privileg grosser Cloud-Anbieter wie OpenAI oder Google. Doch die Landschaft ändert sich: Hochperformante, spezialisierte Sprachmodelle lassen sich zunehmend lokal auf eigenen Servern oder sogar auf Desktop-Computern betreiben. Dies eröffnet völlig neue Möglichkeiten für Unternehmen, die Wert auf Datensicherheit, Unabhängigkeit und Kosteneffizienz legen.
Modelle wie Qwen, Open Code und andere Open-Source-Varianten bieten Funktionalität, die für viele praktische Anwendungsfälle vollkommen ausreichend ist. Der Schlüssel liegt in der Quantisierung: Ein grosses, ursprünglich 70-Milliarden-Parameter-Modell kann durch mathematische Tricks auf eine Grösse reduziert werden, die auf Standard-Hardware läuft, ohne signifikante Leistung zu verlieren.
Allerdings ist die Auswahl der richtigen lokalen KI komplex. Verschiedene Benchmarking-Verfahren und Benchmark-Datasets führen zu unterschiedlichen Ergebnissen. Ein Modell kann in einer Aufgabe exzellent, in einer anderen schwach sein. KMU müssen verstehen, welche Benchmarks für ihre konkreten Use-Cases relevant sind.
Ein entscheidender Vorteil lokaler Modelle ist Datensicherheit: Sensible Unternehmens- und Kundendaten verlassen das Unternehmen nicht. Dies ist besonders wichtig für Branchen mit strengem Datenschutz (Gesundheit, Finanzdienstleistungen, Produktion mit proprietären Formeln). Darüber hinaus entfallen Cloud-Abhängigkeiten und Anbieterlocking.
Der Nachteil: Lokale Modelle sind weniger komfortabel als Cloud-APIs und erfordern IT-Kompetenz im Unternehmen. Die Rentabilitätsrechnung muss stimmen. Für KMU-Dienstleister bietet sich hier eine echte Consulting- und Implementierungs-Chance: Helfen, das richtige lokale Modell auszuwählen, es zu betreiben und in Geschäftsprozesse zu integrieren, führt zu dauerhaften Kundenbindungen und Differenzierung vom blossen Cloud-Reselling.