Colibri KI Teaserbild Landingpage 4000x1400px
Ohne Colibri kein ChatGPT

Die unsichtbare Infrastruktur hinter der KI-Revolution

Ohne Colibri kein ChatGPT

Florian Guglhoer Portrait 1000x1000px
Autor: Florian Guglhör

Wie ein Umbruch in der Rechenarchitektur den Weg für die Intelligenz von morgen ebnete

KI Rechner
Steckverbinder Colibri im KI-Rechner (KI generiert)
In kaum einem Jahrzehnt hat eine Technologie unser Leben so grundlegend transformiert wie die Künstliche Intelligenz (KI). Was vor wenigen Jahren noch als akademisches Experiment galt, ist heute im Zentrum unseres Alltags angekommen: KI schreibt unsere E-Mails, unterstützt Mediziner bei Diagnosen und verändert die Art und Weise, wie wir Informationen verarbeiten und Probleme lösen. Wir befinden uns in einer Ära, in der die Grenze zwischen menschlicher Intuition und maschineller Präzision zunehmend verschwimmt. Doch dieser Fortschritt ist kein Zufall. Er ist das Ergebnis einer rasanten Evolution. Während die KI-Forschung lange Zeit an begrenzter Rechenleistung scheiterte, ermöglichten technologische Durchbrüche in der Hardware-Architektur in den letzten Jahren den Sprung von einfachen Algorithmen zu massiven, generativen Sprachmodellen wie ChatGPT. Doch hinter dem glänzenden Interface dieser Anwendungen verbirgt sich eine Revolution der Hardware, ohne die das „Gehirn“ der KI niemals flügge geworden wäre.              

Der grüne Riese: Vom Pixel zum Pionier der Intelligenz

Der eigentliche Katalysator dieser Revolution stammt aus einer Richtung, die ursprünglich die Gaming-Welt dominierte. Ein kalifornischer Chiphersteller, weltweit bekannt durch sein markantes grünes Logo und seine dominierende Stellung bei Grafikkarten, erkannte frühzeitig, dass die herkömmliche Art der Datenverarbeitung für KI-Zwecke nicht ausreicht.  
            
Frühere KI-Server waren stark CPU-lastig. Diese „Allzweck-Prozessoren“ sind zwar flexibel, aber bei der Verarbeitung von massiven, parallelen Datenströmen, die für das Training von neuronalen Netzen nötig sind, ineffizient und extrem teuer. Der „grüne Branchenführer“ revolutionierte den Markt, indem er das Potenzial von GPUs (Graphics Processing Units) für die KI nutzte. ChatGPT, Gemini, Claude und weitere KIs entwickeln eigene Large Language Model (LLM) Sprachmodelle, welche mit gigantischen Datenmengen aus dem Internet gefüttert und trainiert werden.        
    In der Vergangenheit war die Infrastruktur zur Generierung eines einzigen LLMs extrem kostspielig. Für den Betrieb waren insgesamt 960 CPU-Server im Wert von 10 Millionen Dollar erforderlich, die einen massiven Stromverbrauch von etwa 11 GWh verursachten.

GPU statt CPU Nvidia
NVIDIA - GPU statt CPU (KI generiert)
Heute kann bei einer Investition von rund 400.000 Dollar mit nur zwei GPU-Servern die gleiche Rechenleistung erreicht werden – bei einem Stromverbrauch von nur 0,13 GWh. CPUs arbeiten wie ein „Einzelkämpfer“ hochkomplexe Aufgaben nacheinander ab, was bei Milliarden simpler KI-Rechenschritte zu langsam ist. GPUs hingegen nutzen tausende kleine Kerne als „Chor“, um diese Masse an Operationen zeitgleich (parallel) zu bewältigen. Diese massive Parallelisierung macht die GPU zum perfekten Werkzeug für die blitzschnelle Matrix-Mathematik moderner KI-Modelle. Diese Effizienzsteigerung war der ökonomische Türöffner, der es Unternehmen überhaupt erst ermöglichte, Modelle mit Milliarden von Parametern zu trainieren.    
      
Aufgrund weitreichender Exportbeschränkungen bleibt vielen KI-Entwicklern aus Fernost der Zugang zu leistungsstärksten High-End-GPUs von NVIDIA, wie etwa dem H100 oder der neuen Blackwell-Serie, verwehrt. Um diesen technologischen Nachteil auszugleichen, setzen Unternehmen verstärkt auf eine massiv skalierte Infrastruktur aus weniger leistungsstarken, aber verfügbaren Chips. Diese werden in großen Clustern zusammengeschaltet, um die benötigte Gesamtrechenleistung zu erreichen. Diese Strategie führt jedoch zu einer deutlich komplexeren Netzwerkarchitektur: Da eine weitaus höhere Anzahl an Einzelkomponenten miteinander kommunizieren muss, steigt der Bedarf an spezialisierten Netzwerk-Switches und Interconnect-Lösungen überproportional an.       

Die entscheidende Verbindung: NVLink und der Colibri

PCIe Entwicklung Diagramm DE
PCI-Express Generationen
Rechenkraft allein reicht jedoch nicht aus, wenn Daten nicht schnell genug übertragen werden können. Hier kommt die Technologie des NVLink ins Spiel. Bei NVLink handelt es sich um ein hocheffizientes Hochgeschwindigkeits-Protokoll, das eine direkte, extrem bandbreitenstarke Kommunikation zwischen den einzelnen Recheneinheiten ermöglicht. Im Gegensatz zu herkömmlichen Systembussen wie PCIe, die oft zum Flaschenhals werden, erlaubt NVLink den GPUs, als ein einziger, riesiger virtueller Beschleuniger zu agieren.

Ein technisches Highlight in diesem Ökosystem ist die Integration von ept mit dem „Colibri“-Stecksystem in den Switch-Modulen, hier verbindet der Colibri die Hauptplatine mit der COM (Computer on Modul) Platine und managet so als „Hirn“ die Aufgaben. Aktuell erfordert diese COM-Anwendung eine Datenübertragungsrate von 16 Gb/s was PCIe Gen4 entspricht. Insgesamt lässt sich beobachten, dass sich die Datenrate von PCIe alle drei Jahre fast verdoppelt. Die neueste Generation der KI-Rechner benötigen heute gar PCIe Gen6 (64 Gb/s) auf der DATA-Lane Ebene, zur Bewältigung der riesigen Datenmengen. Die CONTROL-Lane Ebene muss im Vergleich eher geringe Datenmengen verarbeiten und ist mit PCIe Gen4 mehr als ausreichend konfiguriert. Auf dieser CONTROL-Ebene werden das Betriebssystem, Chassis-Management, Netzwerk-Management und Protokolle ausgeführt.

In der Vergangenheit lagen zwischen der Ankündigung von neuen PCIe Generationen und der tatsächlichen Implementierung in echten massenhaften Anwendungen oft viele Jahre. Bei KI-Rechnern ist dies nicht der Fall – hier sind direkt nach deren Entwicklung die neuesten PCIe Generationen im Einsatz. Colibri ist in einer 64 Gb/s Anwendung verbaut, muss aber nur 16 Gb/s leisten. Eine Anwendung, zwei unterschiedliche Aufgaben.

Colibri Logo 1000x1000px
Interesse am Highspeed Steckverbinder Colibri?

Mehr zum Colibri erfahren





Die nächste Generation

Wir stehen jedoch erst am Anfang. Die neuesten Generationen von KI-Großrechnern, wie Blackwell Ultra und die kommende Rubin-Plattform, streben nach Dimensionen der Rechengeschwindigkeit, die bisher unvorstellbar waren. Diese neuen Plattformen verlangen nicht nur nach schnelleren Chips, sondern nach einer kompletten Transformation der Komponenten.

Ausblick: Wenn die Maschine unsichtbar wird

icon info r
Die Zukunft der KI wird weniger durch die Benutzeroberfläche als vielmehr durch die Effizienz ihrer Infrastruktur bestimmt. Wir steuern auf eine Welt zu, in der die nächsten Stufe von KI - „Agentic AI“, selbstständig handelt und plant – eine permanente Begleitung im Berufs- und Privatleben darstellen wird.
Der Erfolg von KI-Chatbots wird auch in Zukunft davon abhängen, ob es gelingt, die Hardware-Komponenten und spezialisierte Stecksysteme weiter zu skalieren. Nur wenn die physische Basis mit der digitalen Vision Schritt hält, wird die KI den Sprung von einem hilfreichen Chatbot zu einer globalen Intelligenz vollziehen. Die unsichtbaren Helden wie der Colibri in Switch-Modulen bleiben dabei die kleinen Helfer, auf dem die digitale Zukunft errichtet wird.

Motive Web Kurzbeschreibung Kontakt 1640x1195px
Noch Fragen?
Dann kontaktieren Sie uns bitte!

Anfrage per Formular

+49 (0) 8861 2501 0

sales@ept.de

Vielen Dank für Ihr Interesse

Hier können Sie das Whitepaper herunterladen:

Whitepaper herunterladen

Bevor Sie das Whitepaper herunterladen können, füllen Sie bitte folgende Felder aus. Vielen Dank.

Felder mit * sind Pflichtfelder.

Persönliche Daten

Datenschutz

Unsere Datenschutzerklärung können Sie hier abrufen.

Ihre Nachricht wurde versandt.

Vielen Dank für Ihr Interesse an unserem Networking Event nach der Electronica. Wir sichten Ihre Anfrage und bestätigen Ihnen schnellstmöglich die Teilnahme.

Anfrageformular

Felder mit * sind Pflichtfelder.

Persönliche Daten

Datenschutz

Unsere Datenschutzerklärung können Sie hier abrufen.

Vielen Dank!

Wir werden uns in Kürze bei Ihnen melden, um mit Ihnen Ihre Anforderungen zu besprechen. Wir werden Ihnen den detaillierten Bericht zu den HighSpeed Eigenschaften sowie S-Parameter zur Simulation Ihres eigenen Designs erstellen und zusenden.

HighSpeed Eigenschaften + S-Parameter zur Simulation Ihres eigenen Designs anfordern

Felder mit * sind Pflichtfelder.
Unsere Datenschutzerklärung können Sie hier abrufen.

Ihre Nachricht wurde versandt.

Vielen Dank für Ihr Interesse - wir werden Ihre Anfrage baldmöglichst bearbeiten.

Kontaktformular

Felder mit * sind Pflichtfelder.

Persönliche Daten

Ihre Nachricht

Datenschutz

Unsere Datenschutzerklärung können Sie hier abrufen.

Ihre Nachricht wurde versandt.

Vielen Dank für Ihr Interesse - wir werden Ihre Anfrage baldmöglichst bearbeiten.

Kontaktformular

Felder mit * sind Pflichtfelder.

Persönliche Daten

Rückruf

Ihre Nachricht

Ich interessiere mich für

Info-Material

Datenschutz

Unsere Datenschutzerklärung können Sie hier abrufen.

Vielen Dank für Ihre Anfrage

Wir werden Ihre Anforderungen prüfen und uns möglichst zeitnah bei Ihnen melden.

Ihre Anforderung an die benötigte Steckverbindung

Mit * markierte Felder sind Pflichtfelder, bitte ausfüllen.

Ansprechpartner

Ihre Anforderung

Falsches Dateiformat! Bitte wählen Sie eine PDF- oder JPG-Datei.
Unsere Datenschutzerklärung können Sie hier abrufen.

Vielen Dank für Ihre Anfrage

Wir werden Ihre Anforderungen prüfen und uns möglichst zeitnah bei Ihnen melden.

Steckverbinder-Individualisierung anfragen

Mit * markierte Felder sind Pflichtfelder, bitte ausfüllen.

Ansprechpartner

Ihre Anforderung

Falsches Dateiformat! Bitte wählen Sie eine PDF- oder JPG-Datei.
Unsere Datenschutzerklärung können Sie hier abrufen.