Ohne Colibri kein ChatGPT

Autor: Florian Guglhör
Wie ein Umbruch in der Rechenarchitektur den Weg für die Intelligenz von morgen ebnete

In kaum einem Jahrzehnt hat eine Technologie unser Leben so grundlegend transformiert wie die Künstliche Intelligenz (KI). Was vor wenigen Jahren noch als akademisches Experiment galt, ist heute im Zentrum unseres Alltags angekommen: KI schreibt unsere E-Mails, unterstützt Mediziner bei Diagnosen und verändert die Art und Weise, wie wir Informationen verarbeiten und Probleme lösen. Wir befinden uns in einer Ära, in der die Grenze zwischen menschlicher Intuition und maschineller Präzision zunehmend verschwimmt. Doch dieser Fortschritt ist kein Zufall. Er ist das Ergebnis einer rasanten Evolution. Während die KI-Forschung lange Zeit an begrenzter Rechenleistung scheiterte, ermöglichten technologische Durchbrüche in der Hardware-Architektur in den letzten Jahren den Sprung von einfachen Algorithmen zu massiven, generativen Sprachmodellen wie ChatGPT. Doch hinter dem glänzenden Interface dieser Anwendungen verbirgt sich eine Revolution der Hardware, ohne die das „Gehirn“ der KI niemals flügge geworden wäre.
Der grüne Riese: Vom Pixel zum Pionier der Intelligenz
Der eigentliche Katalysator dieser Revolution stammt aus einer Richtung, die ursprünglich die Gaming-Welt dominierte. Ein kalifornischer Chiphersteller, weltweit bekannt durch sein markantes grünes Logo und seine dominierende Stellung bei Grafikkarten, erkannte frühzeitig, dass die herkömmliche Art der Datenverarbeitung für KI-Zwecke nicht ausreicht.
Frühere KI-Server waren stark CPU-lastig. Diese „Allzweck-Prozessoren“ sind zwar flexibel, aber bei der Verarbeitung von massiven, parallelen Datenströmen, die für das Training von neuronalen Netzen nötig sind, ineffizient und extrem teuer. Der „grüne Branchenführer“ revolutionierte den Markt, indem er das Potenzial von GPUs (Graphics Processing Units) für die KI nutzte. ChatGPT, Gemini, Claude und weitere KIs entwickeln eigene Large Language Model (LLM) Sprachmodelle, welche mit gigantischen Datenmengen aus dem Internet gefüttert und trainiert werden.
In der Vergangenheit war die Infrastruktur zur Generierung eines einzigen LLMs extrem kostspielig. Für den Betrieb waren insgesamt 960 CPU-Server im Wert von 10 Millionen Dollar erforderlich, die einen massiven Stromverbrauch von etwa 11 GWh verursachten.
Frühere KI-Server waren stark CPU-lastig. Diese „Allzweck-Prozessoren“ sind zwar flexibel, aber bei der Verarbeitung von massiven, parallelen Datenströmen, die für das Training von neuronalen Netzen nötig sind, ineffizient und extrem teuer. Der „grüne Branchenführer“ revolutionierte den Markt, indem er das Potenzial von GPUs (Graphics Processing Units) für die KI nutzte. ChatGPT, Gemini, Claude und weitere KIs entwickeln eigene Large Language Model (LLM) Sprachmodelle, welche mit gigantischen Datenmengen aus dem Internet gefüttert und trainiert werden.
In der Vergangenheit war die Infrastruktur zur Generierung eines einzigen LLMs extrem kostspielig. Für den Betrieb waren insgesamt 960 CPU-Server im Wert von 10 Millionen Dollar erforderlich, die einen massiven Stromverbrauch von etwa 11 GWh verursachten.

Heute kann bei einer Investition von rund 400.000 Dollar mit nur zwei GPU-Servern die gleiche Rechenleistung erreicht werden – bei einem Stromverbrauch von nur 0,13 GWh. CPUs arbeiten wie ein „Einzelkämpfer“ hochkomplexe Aufgaben nacheinander ab, was bei Milliarden simpler KI-Rechenschritte zu langsam ist. GPUs hingegen nutzen tausende kleine Kerne als „Chor“, um diese Masse an Operationen zeitgleich (parallel) zu bewältigen. Diese massive Parallelisierung macht die GPU zum perfekten Werkzeug für die blitzschnelle Matrix-Mathematik moderner KI-Modelle. Diese Effizienzsteigerung war der ökonomische Türöffner, der es Unternehmen überhaupt erst ermöglichte, Modelle mit Milliarden von Parametern zu trainieren.
Aufgrund weitreichender Exportbeschränkungen bleibt vielen KI-Entwicklern aus Fernost der Zugang zu leistungsstärksten High-End-GPUs von NVIDIA, wie etwa dem H100 oder der neuen Blackwell-Serie, verwehrt. Um diesen technologischen Nachteil auszugleichen, setzen Unternehmen verstärkt auf eine massiv skalierte Infrastruktur aus weniger leistungsstarken, aber verfügbaren Chips. Diese werden in großen Clustern zusammengeschaltet, um die benötigte Gesamtrechenleistung zu erreichen. Diese Strategie führt jedoch zu einer deutlich komplexeren Netzwerkarchitektur: Da eine weitaus höhere Anzahl an Einzelkomponenten miteinander kommunizieren muss, steigt der Bedarf an spezialisierten Netzwerk-Switches und Interconnect-Lösungen überproportional an.
Aufgrund weitreichender Exportbeschränkungen bleibt vielen KI-Entwicklern aus Fernost der Zugang zu leistungsstärksten High-End-GPUs von NVIDIA, wie etwa dem H100 oder der neuen Blackwell-Serie, verwehrt. Um diesen technologischen Nachteil auszugleichen, setzen Unternehmen verstärkt auf eine massiv skalierte Infrastruktur aus weniger leistungsstarken, aber verfügbaren Chips. Diese werden in großen Clustern zusammengeschaltet, um die benötigte Gesamtrechenleistung zu erreichen. Diese Strategie führt jedoch zu einer deutlich komplexeren Netzwerkarchitektur: Da eine weitaus höhere Anzahl an Einzelkomponenten miteinander kommunizieren muss, steigt der Bedarf an spezialisierten Netzwerk-Switches und Interconnect-Lösungen überproportional an.
Die entscheidende Verbindung: NVLink und der Colibri

Rechenkraft allein reicht jedoch nicht aus, wenn Daten nicht schnell genug übertragen werden können. Hier kommt die Technologie des NVLink ins Spiel. Bei NVLink handelt es sich um ein hocheffizientes Hochgeschwindigkeits-Protokoll, das eine direkte, extrem bandbreitenstarke Kommunikation zwischen den einzelnen Recheneinheiten ermöglicht. Im Gegensatz zu herkömmlichen Systembussen wie PCIe, die oft zum Flaschenhals werden, erlaubt NVLink den GPUs, als ein einziger, riesiger virtueller Beschleuniger zu agieren.
Ein technisches Highlight in diesem Ökosystem ist die Integration von ept mit dem „Colibri“-Stecksystem in den Switch-Modulen, hier verbindet der Colibri die Hauptplatine mit der COM (Computer on Modul) Platine und managet so als „Hirn“ die Aufgaben. Aktuell erfordert diese COM-Anwendung eine Datenübertragungsrate von 16 Gb/s was PCIe Gen4 entspricht. Insgesamt lässt sich beobachten, dass sich die Datenrate von PCIe alle drei Jahre fast verdoppelt. Die neueste Generation der KI-Rechner benötigen heute gar PCIe Gen6 (64 Gb/s) auf der DATA-Lane Ebene, zur Bewältigung der riesigen Datenmengen. Die CONTROL-Lane Ebene muss im Vergleich eher geringe Datenmengen verarbeiten und ist mit PCIe Gen4 mehr als ausreichend konfiguriert. Auf dieser CONTROL-Ebene werden das Betriebssystem, Chassis-Management, Netzwerk-Management und Protokolle ausgeführt.
In der Vergangenheit lagen zwischen der Ankündigung von neuen PCIe Generationen und der tatsächlichen Implementierung in echten massenhaften Anwendungen oft viele Jahre. Bei KI-Rechnern ist dies nicht der Fall – hier sind direkt nach deren Entwicklung die neuesten PCIe Generationen im Einsatz. Colibri ist in einer 64 Gb/s Anwendung verbaut, muss aber nur 16 Gb/s leisten. Eine Anwendung, zwei unterschiedliche Aufgaben.
Ein technisches Highlight in diesem Ökosystem ist die Integration von ept mit dem „Colibri“-Stecksystem in den Switch-Modulen, hier verbindet der Colibri die Hauptplatine mit der COM (Computer on Modul) Platine und managet so als „Hirn“ die Aufgaben. Aktuell erfordert diese COM-Anwendung eine Datenübertragungsrate von 16 Gb/s was PCIe Gen4 entspricht. Insgesamt lässt sich beobachten, dass sich die Datenrate von PCIe alle drei Jahre fast verdoppelt. Die neueste Generation der KI-Rechner benötigen heute gar PCIe Gen6 (64 Gb/s) auf der DATA-Lane Ebene, zur Bewältigung der riesigen Datenmengen. Die CONTROL-Lane Ebene muss im Vergleich eher geringe Datenmengen verarbeiten und ist mit PCIe Gen4 mehr als ausreichend konfiguriert. Auf dieser CONTROL-Ebene werden das Betriebssystem, Chassis-Management, Netzwerk-Management und Protokolle ausgeführt.
In der Vergangenheit lagen zwischen der Ankündigung von neuen PCIe Generationen und der tatsächlichen Implementierung in echten massenhaften Anwendungen oft viele Jahre. Bei KI-Rechnern ist dies nicht der Fall – hier sind direkt nach deren Entwicklung die neuesten PCIe Generationen im Einsatz. Colibri ist in einer 64 Gb/s Anwendung verbaut, muss aber nur 16 Gb/s leisten. Eine Anwendung, zwei unterschiedliche Aufgaben.

Die nächste Generation
Wir stehen jedoch erst am Anfang. Die neuesten Generationen von KI-Großrechnern, wie Blackwell Ultra und die kommende Rubin-Plattform, streben nach Dimensionen der Rechengeschwindigkeit, die bisher unvorstellbar waren. Diese neuen Plattformen verlangen nicht nur nach schnelleren Chips, sondern nach einer kompletten Transformation der Komponenten.
Ausblick: Wenn die Maschine unsichtbar wird
Die Zukunft der KI wird weniger durch die Benutzeroberfläche als vielmehr durch die Effizienz ihrer Infrastruktur bestimmt. Wir steuern auf eine Welt zu, in der die nächsten Stufe von KI - „Agentic AI“, selbstständig handelt und plant – eine permanente Begleitung im Berufs- und Privatleben darstellen wird.
Der Erfolg von KI-Chatbots wird auch in Zukunft davon abhängen, ob es gelingt, die Hardware-Komponenten und spezialisierte Stecksysteme weiter zu skalieren. Nur wenn die physische Basis mit der digitalen Vision Schritt hält, wird die KI den Sprung von einem hilfreichen Chatbot zu einer globalen Intelligenz vollziehen. Die unsichtbaren Helden wie der Colibri in Switch-Modulen bleiben dabei die kleinen Helfer, auf dem die digitale Zukunft errichtet wird.
Der Erfolg von KI-Chatbots wird auch in Zukunft davon abhängen, ob es gelingt, die Hardware-Komponenten und spezialisierte Stecksysteme weiter zu skalieren. Nur wenn die physische Basis mit der digitalen Vision Schritt hält, wird die KI den Sprung von einem hilfreichen Chatbot zu einer globalen Intelligenz vollziehen. Die unsichtbaren Helden wie der Colibri in Switch-Modulen bleiben dabei die kleinen Helfer, auf dem die digitale Zukunft errichtet wird.


