Start › Wissenschaft & Zukunft › Explainer
Explainer · Wissenschaft & Zukunft

Heidelbergs Antwort aufs Silicon Valley: eine Grafikkarte

LM
Dr. Lena Marquardt
5 Min. Lesezeit · 27. Oktober 2026

78 Milliarden Parameter, aber nur 3,46 Milliarden rechnen pro Token: Kolibri läuft auf einer einzigen H200-Karte. Trainiert auf fast 24 Billionen Token, davon über ein Fünftel deutsch, erreicht das Heidelberger Modell 70,8 Punkte im deutschen Benchmark. Ob die Übernahme durch Cohere diese Souveränität erhält, bleibt offen.

Warum sollte eine Kommune in Deutschland ihre KI-Anwendungen auf einem Sprachmodell aus Heidelberg aufbauen statt auf einem aus dem Silicon Valley? Die Antwort beginnt mit einer Zahl, die auf den ersten Blick abschreckend wirkt: 78 Milliarden Parameter. Um zu verstehen, was diese Zahl bedeutet und warum sie mit dem Begriff Souveränität verknüpft wird, muss man drei Dinge wissen. Erstens, was Kolibri technisch ist. Zweitens, was Souveränität in der Praxis heißt. Drittens, was die jüngste Fusion mit dem kanadischen Unternehmen Cohere verändert.

Ein Modell, das auf einer einzigen GPU läuft

Kolibri ist ein englisch-deutsches Mixture-of-Experts-Modell. Parameter sind die einstellbaren Gewichte in einem neuronalen Netz, die bestimmen, wie das Modell aus Eingaben Ausgaben erzeugt. Bei Kolibri sind es 78,1 Milliarden Gesamtparameter, von denen aber nur 3,46 Milliarden, also 4,4 Prozent, pro Token aktiv sind. Ein Token ist eine Texteinheit, etwa ein Wortteil. Mixture-of-Experts bedeutet, dass das Modell aus vielen spezialisierten Teilnetzen besteht, von denen pro Anfrage nur eine kleine Auswahl aktiviert wird. Das spart Rechenleistung. Die offenen Gewichte stehen unter der Apache-2.0-Lizenz, die es der einsetzenden Organisation erlaubt, das Modell auf eigener Infrastruktur zu betreiben. Es wurde auf fast 24 Billionen Token vortrainiert und unterstützt Kontexte von bis zu 1 Million Token. Das ist die technische Grundlage für den Anspruch, souverän zu sein: Wer die Gewichte besitzt und auf eigener Hardware betreiben kann, ist nicht auf einen externen API-Zugang angewiesen.

Kolibri wurde von Grund auf auf Infrastruktur in Deutschland und Finnland trainiert, mit etwa 24 Billionen Token, von denen mehr als ein Fünftel deutsch ist, auf 768 NVIDIA B200 GPUs; die Gewichte belegen in 8-Bit-Gleitkomma, kurz FP8, rund 78 GB. FP8 ist ein Zahlenformat, das Speicherplatz spart, indem es Gleitkommazahlen mit 8 Bit statt mit 16 oder 32 Bit darstellt. Das reduziert den Speicherbedarf der Gewichte erheblich. Mehr als ein Fünftel deutschsprachige Trainingsdaten ist für ein Modell dieser Größe ungewöhnlich viel. Die meisten großen Modelle werden überwiegend mit englischen Texten trainiert, was ihre Fähigkeit einschränkt, in anderen Sprachen präzise zu argumentieren.

Die Trainingsphasen verteilten sich auf 20 Billionen Token Pre-Training in 21 Tagen, dann 3,44 Billionen Token Mid-Training und 201 Milliarden Token Long-Context-Training. Die FP8-Gewichte benötigen rund 78 GB und laufen auf einer H200-, B200- oder B300-Karte oder auf zwei H100- beziehungsweise A100-80-GB-Karten. Das bedeutet konkret: Eine Behörde oder ein mittelständisches Unternehmen braucht keine Rechenzentrum-Infrastruktur in Hyperscale-Größe, um das Modell zu betreiben. Eine einzelne moderne GPU-Karte genügt.

Warum Deutsch und Souveränität zusammengehören

Im Gesamtscore Englisch und Deutsch, gemessen von Aleph Alpha selbst, erreicht Kolibri 1 75,5 beziehungsweise 70,8 Punkte und liegt damit vor Mistral Small 4 mit 63,1 beziehungsweise 61,4 und Qwen3.6 35B-A3B mit 71,4 beziehungsweise 67,3. Diese Zahlen stammen aus der Benchmark-Tabelle des Herstellers. Unabhängige Vergleichstests stehen noch aus, aber die Werte deuten darauf hin, dass Kolibri im deutschen Sprachraum konkurrenzfähig sein soll.

Mitbegründer Samuel Weinbach sagte, das Team habe Kolibri speziell auf die Anforderungen deutschsprachiger Anwendungen zugeschnitten, damit es in Deutsch argumentieren kann. Mit Hauptsitz in Heidelberg beschäftigt Aleph Alpha rund 200 Experten an vier Standorten in Deutschland. Das Zitat benennt den Kern des Souveränitätsversprechens: Entscheidend ist die Fähigkeit, in der Sprache der Nutzer zu denken und zu begründen.

Was bedeutet Souveränität in der Praxis? Der Markt für KI-Dienste wird laut McKinsey vom März 2026 auf über 1 Billion US-Dollar jährlich geschätzt, wovon souveräne KI-Bedarfe fast 600 Milliarden US-Dollar ausmachen. Cohere-CEO Aidan Gomez erklärt, die Kombination beschleunige die globale Expansion und die Mission, souveräne KI an Nationen weltweit zu liefern. Diese Zahlen zeigen: Souveränität ist ein Marktsegment, das mehr als die Hälfte des gesamten KI-Dienstleistungsmarkts ausmachen soll.

Das Unternehmen will seine Partnerschaft mit den Firmen der Schwarz Group ausbauen, um souveräne KI auf STACKIT zu liefern, dem souveränen Cloud-Dienst von Schwarz Digits. Schwarz-Digits-CEO Christian Müller sagt, digitale Souveränität bedeute, strategisch Kräfte zu bündeln statt alles allein zu machen. Ein deutsches Handelsunternehmen stellt die Cloud-Infrastruktur, ein transatlantisches KI-Unternehmen liefert die Modelle.

Was die Fusion für Verwaltung und Industrie bedeutet

Ende April kündigten Aleph Alpha und das kanadische KI-Unternehmen Cohere eine transatlantische Fusion an; de facto handelt es sich um eine Übernahme von Aleph Alpha durch Cohere. Bundesdigitalminister Karsten Wildberger von der CDU kommentierte die Fusion mit den Worten: Es wird ein globaler KI-Champion entstehen. Diese Aussage des Ministers wirft eine Frage auf: Wenn ein deutsches Vorzeigeunternehmen von einem kanadischen übernommen wird, was bleibt dann von der deutschen Souveränität? Die Übernahme durch Cohere bedeutet, dass die technische Entwicklung künftig in einem transatlantischen Verbund stattfindet. Für deutsche Kunden kann das ein Vorteil sein, weil sie Zugang zu einem größeren Entwicklerteam und mehr Ressourcen bekommen. Es kann aber auch bedeuten, dass strategische Entscheidungen nicht mehr in Heidelberg getroffen werden.

Was bedeutet das für Verwaltung und Industrie? Für eine Kommunalverwaltung, die sensible Bürgerdaten verarbeitet, ist die Möglichkeit, ein Modell auf eigener Infrastruktur zu betreiben, ein entscheidender Unterschied zu Cloud-APIs, bei denen jede Anfrage an einen externen Server geht. Der hohe Anteil deutschsprachiger Trainingsdaten soll dazu führen, dass das Modell bei deutschen Fachbegriffen und Behördensprache präziser arbeitet. Die Hardware-Anforderungen sind so gewählt, dass auch kleinere Rechenzentren das Modell hosten können. Die Partnerschaft mit Schwarz Digits und STACKIT deutet darauf hin, dass es künftig ein Angebot geben könnte, bei dem ein deutsches Unternehmen die Infrastruktur stellt und das Modell darauf läuft. Ob das für öffentliche Auftraggeber attraktiv ist, hängt von Zertifizierungen, Datenschutzprüfungen und den tatsächlichen Kosten ab. Denkbar sind Anwendungen in der Antragsbearbeitung, bei der Zusammenfassung von Dokumenten oder bei der Beantwortung von Bürgeranfragen. In der Industrie könnten technische Dokumentationen oder Wartungsprotokolle in deutscher Sprache verarbeitet werden. Für ein Industrieunternehmen, das Betriebsgeheimnisse schützen will, ist die Kontrolle über die Infrastruktur ein zentrales Kriterium bei der Auswahl eines KI-Modells.

Welche Fragen zur Unabhängigkeit offen bleiben

Am Ende bleiben mehrere offene Fragen. Wie unabhängig bleibt ein Modell, dessen Entwickler von einem kanadischen Unternehmen übernommen wurden? Was bedeutet eine offene Lizenz, wenn die Cloud-Infrastruktur, auf der das Modell läuft, von einem Handelskonzern kontrolliert wird? Und wie belastbar sind die Benchmark-Werte, wenn sie vom Hersteller selbst stammen? Die eingangs gestellte Frage, warum eine Kommune ein Modell aus Heidelberg vorziehen sollte, lässt sich so beantworten: Weil sie die Gewichte besitzt, auf eigener Hardware betreiben kann und ein Modell bekommt, das auf Deutsch argumentiert. Ob das reicht, um im globalen Wettbewerb zu bestehen, ist eine andere Frage.

Dieser Text wurde KI-gestützt erstellt, Aussage für Aussage gegen die Quellen geprüft und redaktionell freigegeben. So arbeiten wir

Teilhabe

Diskutiere mit, ohne Konto. Eröffne einen Thread, vertiefe einen anderen oder gib einer Blase deine Stimme.

0 %