Exponentielles entwicklung: ki-leistung explodiert – suleyman warnt vor ungeahnten konsequenzen
Die Evolution folgt einfachen Regeln: Je mehr Zeit, desto weiter schreitet sie voran. Das Prinzip gilt für die Natur, aber nicht für künstliche Intelligenz. Mustafa Suleyman, aktueller Kopf der KI-Abteilung bei Microsoft, beschreibt den Fortschritt als eine ungeheure Explosion, die herkömmliche Annahmen über das Wachstum von Technologien komplett infrage stellt.
Ein quantensprung – nicht nur eine steigerung
Suleyman, der bereits 2010 in die Entwicklung von KI eingestiegen ist, schildert eine Transformation, die kaum zu fassen ist. Die Rechenleistung, die für die komplexesten Modelle benötigt wird, ist in nur wenigen Jahren um das halbe Trillionen-Fache angestiegen. 'Von 10¹⁴ FLOPS in den frühen Systemen zu über 10²⁶ FLOPS in den heutigen Giganten – das ist keine lineare Steigerung, sondern eine phänomenale Explosion', so Suleyman.
Um diese Entwicklung zu verstehen, vergleicht er das Training von KI-Modellen mit einem gigantischen Meetingraum voller Personen, die mit Taschenrechnern arbeiten. Früher bedeutete eine Erhöhung der Rechenleistung lediglich mehr 'Berechnungshelfer', die mit der Bearbeitung der Daten zu kämpfen hatten. Oft blieben sie im Wartezimmer, während die Daten in unzureichender Geschwindigkeit eintrafen. Heute geht es vielmehr darum, dass alle 'Taschenrechner' gleichzeitig arbeiten und als eine einzige, denkende Maschine agieren. Ein atemberaubender Wandel!
Die triade des fortschritts
Dieser Paradigmenwechsel ist das Ergebnis von drei Schlüsselentwicklungen, die gleichzeitig vorangetrieben werden: Erstens die drastische Beschleunigung der 'Taschenrechner' selbst – Nvidia-Chips haben ihre Teraflops-Zahl in nur drei Jahren von rund 312 auf beeindruckende 2.250 gesteigert. Microsofts Maia 200 bietet dabei sogar 30% mehr Leistung pro Euro im Vergleich zu konkurrierenden Chips. Zweitens die extrem schnelle Datenübertragung dank der neuen HBM-Technologie, die Chips wie Hochhäuser stapelt, um den Datendurchsatz exponentiell zu erhöhen. HBM3 verdoppelt sogar das Bandbreitenvolumen im Vergleich zur vorherigen Generation und sorgt dafür, dass die GPUs niemals durch Datenmangel ausgesetzt werden. Und drittens die Vernetzung von Tausenden von GPUs in Supercomputer, die das Ausmaß von Industrieanlagen erreichen und mithilfe von NVLink und InfiniBand als eine einzige, riesige Prozessoreinheit agieren.
Warnung vor der superintelligenz
Eric Schmidt, ehemaliger CEO von Google, warnt vor den ungeahnten Möglichkeiten der KI. 'Wir befinden uns gerade erst am Anfang der Auswirkungen', so Schmidt. Die Konsequenzen dieser Entwicklung sind so enorm, dass sie noch nicht vollständig erfassbar sind. Suleyman betont, dass wir nicht mehr von Prototypen sprechen, sondern von gigantischen Infrastrukturen – Clustern mit 100.000 GPUs, Racks, die so groß sind wie Kühlschränke, und Rechenzentren, die das Energiepotenzial von Großbritannien, Frankreich, Deutschland und Italien in Spitzenzeiten ihres Bedarfs verbrauchen. Die Investitionen in diese Infrastrukturen belaufen sich auf 100 Milliarden Dollar, und die Konsummenge an Energie steigt exponentiell.
Die zukunft ist jetzt – und sie wird schnell
Die Prognosen sind erschreckend und gleichzeitig faszinierend: Die Rechenleistung wird bis 2027 das 100-fache des aktuellen Standes erreichen. Microsoft, Nvidia und andere Player sind dabei führend in der Jagd nach der Superintelligenz. Suleyman sieht bereits heute die ersten Anzeichen dieser neuen Ära – 'Agenten der KI, die fast menschlich wirken können'. Die Gefahr, dass diese Technologien aus der Kontrolle geraten, ist real und muss ernst genommen werden. Der 'Boom' der Rechenleistung ist die technologische Geschichte unserer Zeit, und diese Geschichte hat gerade erst begonnen.