»KI für Chips« und »Chips für KI« | Wie künstliche Intelligenz die Chipentwicklung verändert und warum sie neue Chips braucht
Wenn herkömmliche Prozessoren bei der Verarbeitung großer Datenmengen in Echtzeit an ihre Grenzen stoßen, braucht es spezialisierte Chips, damit KI-Anwendungen schnell und energieeffizient arbeiten können. Gleichzeitig eröffnet künstliche Intelligenz (KI) neue Möglichkeiten, den komplexen Entwurfsprozess von Halbleitern zu beschleunigen und die Leistungsfähigkeit künftiger Hardware zu verbessern. Ning Chen, Leiter des Forschungs- und Innovationszentrums Chip AI in Heilbronn, arbeitet genau an dieser Schnittstelle von KI und Chips. Im Interview erklärt er, welche Herausforderungen KI-Chips mit sich bringen, wo KI die Entwicklung von Chips unterstützt und welche Vision er für das Zentrum und für Deutschlands Rolle in diesem neuen Sektor hat.
Herr Chen, Sie arbeiten am Fraunhofer IAF und sind Leiter des Forschungs- und Innovationszentrums (FIZ) für Chip AI eines der Fraunhofer Heilbronn Forschungs- und Innovationszentren (HNFIZ). Mit welchen zentralen Themen beschäftigen Sie sich dort?
Wie der Name des Zentrums bereits verrät, konzentriert sich unsere Arbeit auf zwei Themenfelder an der Schnittstelle von künstlicher Intelligenz (KI) und Chiptechnologie: »KI für Chips« und »Chips für KI«.
Bei »KI für Chips« geht es darum, den Entwurfsprozess eines Chips mithilfe der KI effizienter zu gestalten. Dies umfasst alles von der Spezifikation, über Design, Verifikation, Synthese bis hin zur Implementierung. Unter Einbezug der Erfahrungen von Industriepartnern haben wir vor allem die Schritte im Design-Flow identifiziert, die aktuell noch sehr viel Zeitaufwand benötigen und die mithilfe KI-gestützter Methoden radikal beschleunigt werden können.
Der Bereich »Chips für KI« zielt hingegen darauf ab, KI-Algorithmen schneller und effizienter auszuführen. Dafür entwickeln wir spezialisierte Hardware-Lösungen und die dazugehörige Software, die optimal aufeinander abgestimmt sind. So können wir die Ausführung von KI-Algorithmen auf dem Chip beschleunigen und die Leistungsfähigkeit eines Gesamtsystems verbessern.
Im Zentrum konzentrieren wir uns vor allem auf die sogenannte Edge-AI. Das sind KI-Anwendungen, die nicht in großen Rechenzentren (HyperScaler), sondern direkt am Ort der Datenerfassung ausgeführt werden, beispielsweise in Sensoren, Robotern oder Fahrzeugen. Das ermöglicht eine lokale Datenverarbeitung, ohne dass für jede Berechnung eine Verbindung zu einem Backend-Server erforderlich ist.
Bleiben wir zunächst beim Bereich »Chips für KI«. Warum reichen klassische Prozessoren für die KI-Anwendungen im Edge-Bereich nicht mehr aus?
Zunächst muss zwischen unterschiedlichen Prozessortypen – CPU, GPU und NPU – unterschieden werden. Die CPU (Central Processing Unit) ist der klassische Hauptprozessor eines Computers. Sie ist vielseitig einsetzbar, sorgt dafür, dass Software läuft und Aktionen ausgeführt werden. Für KI-Anwendungen sind CPUs allerdings weniger geeignet, da diese enorme Rechenleistung verbrauchen.
GPUs (Graphics Processing Units) können hingegen viele Berechnungen parallel ausführen und eignen sich deshalb für das Training von KI-Modellen, etwa Large Language Models (LLM). Vor allem die großen amerikanischen KI-Unternehmen setzen gezielt leistungsstarke GPUs für den Einsatz von KI-Anwendungen ein. Diese haben allerdings einen Energieverbrauch, der über 1000 Watt hinausgeht.
Die NPU (Neural Processing Unit) beschleunigt KI-Berechnungen und arbeitet dabei sehr stromsparend und direkt auf dem Gerät. Im Edge-Bereich sind NPUs aber aufgrund ihrer Spezialisierung, begrenzten Flexibilität und Abhängigkeit von kompatibler Software nicht für jede Anwendung geeignet.
Klassische Prozessoren reichen im Edge-Bereich also nicht mehr aus, weil die KI-Anwendungen dort enorme Datenmengen in Echtzeit und direkt auf dem Gerät verarbeiten müssen und das mit möglichst geringem Stromverbrauch. Universelle Prozessoren stoßen dabei an ihre Grenzen, sodass spezialisierte Chips notwendig werden.
Was muss ein Chip zusammenfassend betrachtet können, damit er für KI-Anwendungen besonders gut geeignet ist?
Das hängt von den konkreten Modellen und ihren Anforderungen ab. Grundsätzlich braucht ein KI-Chip ausreichend viele parallel arbeitende Recheneinheiten und intelligente Mapping-Algorithmen. Diese übersetzen die Anforderungen der KI-Software in konkrete Berechnungen auf dem Chip und verteilen sie möglichst effizient auf der Hardware.
Entscheidend ist außerdem das Zusammenspiel von drei Faktoren: Performance, Power und Area (PPA), also von Leistung, Leistungsverbrauch und der Fläche des Chips. Die Chipfläche bestimmt beispielsweise, wie viele Transistoren, Speicher- und Recheneinheiten untergebracht werden können. Eine größere Fläche kann die Leistung verbessern, führt aber meist zu höheren Produktionskosten und treibt dabei oft auch den Energieverbrauch nach oben. Die Herausforderung besteht darin, einen guten Kompromiss zwischen den drei Faktoren zu finden. Ein guter KI-Chip soll möglichst schnell sein, wenig Energie verbrauchen und wenig Chipfläche benötigen.
Schauen wir uns nun die andere Seite an: »KI für Chips«. Sie haben bereits erwähnt, dass KI beim Entwurf der Hardware helfen kann. Welche bestimmten Aufgaben im Chipdesign lassen sich konkret mithilfe von KI automatisieren oder verbessern?
Der digitale Design-Flow ist ziemlich komplex. Er beginnt normalerweise mit der sogenannten Spezifikation, bei der beschrieben wird, welche Aufgaben der Chip erledigen soll. Dabei ist man im stetigen Austausch mit den Kund:innen, um entsprechende Anforderungen zu sammeln. Davon ausgehend wird ein Designcode für den Chip mit einer modernen Hardware-Sprache geschrieben. Wenn der Designcode geschrieben ist, muss er verifiziert werden, um die gewollte Funktionalität zu prüfen. Es wird also getestet, ob der Chip tatsächlich das tut, was er soll.
Heutzutage wird »SystemVerilog«, eine weltweit standardisierte Sprache, zur Hardwarebeschreibung und –verifizierung, verwendet.
Anschließend folgt die Synthese. Der Hardware-Designcode wird automatisch in eine Netzliste übersetzt, die beschreibt, welche logischen Gatter bzw. Standardzellen verwendet werden und wie sie miteinander verbunden sind. Mit der synthetisierten Netzliste kann dann die Implementierung erfolgen, bei der die Gatter, in denen sich die Transistoren befinden, angeordnet und miteinander verdrahtet werden.
Ein logisches Gatter ist ein sehr kleiner elektronischer Baustein im Chip. Es verarbeitet binäre Signale – also 0 und 1 – nach einer festen Regel. Physisch besteht es aus Transistoren. Aus sehr vielen solcher Gatter lassen sich komplexere Funktionen bauen, etwa Addierer, Speicher, Multiplikatoren oder die Recheneinheiten eines KI-Chips.
Wenn das alles erfolgt und validiert wurde, kann mit dem Tape-Out begonnen und der Hardware-Chip in einer Fabrik gebaut werden.
Einige dieser Designschritte sind allerdings extrem zeit- und arbeitsintensiv, allen voran die Verifikation. Dabei wird die entworfene Hardware auf Fehler überprüft, um diese anschließend zu beheben. Bisher übernehmen Ingenieur:innen diese Arbeit manuell. KI kann Fehler im Code automatisch analysieren, ähnliche Fehler bündeln, Ursachen eingrenzen und sogar Korrekturen vorschlagen. So lässt sich der Aufwand deutlich verringern und der Entwurfsprozess erheblich beschleunigen.
Geht es beim Einsatz von KI im Chipdesign also primär um die Beschleunigung des Prozesses oder könnte man in Zukunft auch bessere, energieeffizientere oder komplexere Designs mithilfe von KI entwerfen?
Beides. Ein wesentliches Ziel ist die Beschleunigung der Entwicklungszeit, damit die Time-to-Market, also die Zeit bis zur Markteinführung eines Produkts, deutlich verkürzt wird. Gleichzeitig soll KI dabei helfen, die genannten Parameter Performance, Power und Area zu optimieren. So können bessere, leistungsfähigere und energieeffizientere Chips entstehen, die weniger Fläche benötigen. KI kann künftig dafür sorgen, dass mit denselben personellen und finanziellen Ressourcen mehr Designvarianten entwickelt und optimiert werden. Dadurch steigen die Chancen, innerhalb des gegebenen Zeit- und Kostenrahmens bessere Chips zu entwickeln und schneller auf den Markt zu bringen.
Lassen Sie uns nun einen Blick auf die Einrichtung werfen, in der diese Forschung passiert: Die Außenstelle in Heilbronn, die das Fraunhofer IAF gemeinsam mit dem Fraunhofer IIS aufbaut. Hier geht es maßgeblich um KI-Chips und KI-Tools. Wie ist die Vision in Hinblick auf das neue Zentrum?
Das Forschungs- und Innovationszentrum (FIZ) für Chip AI, ist vor ungefähr einem Jahr entstanden. Unterstützt wird es auf finanzieller Seite von der Dieter-Schwarz-Stiftung und forschungstechnisch von diversen Instituten wie dem Fraunhofer IAF und dem IIS. Das FIZ Chip AI ist eines von neun Fraunhofer Heilbronn Forschungs- und Innovationszentren (HNFIZ), die alle im KI-Bereich arbeiten. Jedes FIZ wird von einem bzw. mehreren Fraunhofer-Instituten geleitet.
Die Vision ist, dass hier in Heilbronn ein lokales Netzwerk von Forschung und Industrie entsteht. Gerade wegen unserer Spezialisierung auf Hardware-Ebene und im Chipdesign, gibt es zahlreiche Kooperationsmöglichkeiten mit Partnern. Unsere Büros sind direkt am Innovation Park for Artificial Intelligence (IPAI), das mit seinen mehr als 100 Partnerunternehmen bzw. -instituten ein lokaler Hotspot für unseren KI-Ökosystemaufbau ist. Hier werden Unternehmen dabei unterstützt, ihre KI-Transformation gemeinsam mit Forschung und Praxis voranzubringen.
Außerdem sind die Fraunhofer HNFIZ eine Ausbildungsstätte für Promovierende. Unser Ziel ist es, die nächste Generation von den Talenten auszubilden, die die Zukunft in Deutschland mitgestalten.
Welche besonderen Stärken bringt das Fraunhofer IAF mit, um die Visionen des Zentrums zu erfüllen?
Das ist an erster Stelle unsere enge Verzahnung mit der Industrie. Hier kann ich aus eigener Erfahrung sprechen, da ich jahrzehntelang in der Automobilindustrie mit Chips in CMOS-Technologie gearbeitet habe. CMOS-Chips bilden das zentrale Rechenwerk im Fahrzeug und müssen daher höchste Anforderungen an Functional Safety und Cybersecurity erfüllen. Durch meine eigene Arbeit in der Industrie weiß ich, wie wichtig es ist, dass Forschung und Industrie Hand in Hand arbeiten und genau das ist das Kerngeschäft der Fraunhofer-Gesellschaft. Diese Stärke und unsere Erfahrungen in der Halbleiterindustrie wollen wir für die nächste Generation von KI-Chips nutzen.
Eine zweite Stärke liegt in unserem Team. Im ersten Jahr des FIZ Chip AI war der Personalaufbau das zentrale Thema. Heute kann ich sehr stolz sagen, dass wir das mit Erfolg gemeistert haben. Ich sehe viele junge Talente, die sehr motiviert sind. Das Besondere ist, dass vor allem unsere jungen Mitarbeitenden eine große intrinsische Motivation mitbringen, im KI- und Chip-Bereich mitzuwirken. Sie wollen sowohl bei der Hardware als auch bei der Entwurfsautomatisierung (Electronic Design Automation, EDA) des Designflows mitgestalten. Beide Themen – »Chips für KI« und »KI für Chips« – werden also von höchst motivierten Teams angegangen. Auch die Dynamik innerhalb des Teams ist eine Stärke, die für ein produktives Arbeiten sorgt. In zahlreichen Diskussionen und Brainstorming-Sessions haben wir bisher schon sehr gute Ansätze entwickelt, sodass bald die ersten Veröffentlichungen kommen werden. So haben wir beispielsweise unsere eigenen KI-Modelle entworfen, die sehr gute Ansätze im Designflow entwickelt haben. Ein weiteres Forschungsprojekt ist im Chipbereich, also »Chips für KI«. Hier haben wir eine erste eigene Hardware-Architektur konzipiert.
Und wie sieht es auf technologischer Seite aus? Was kann das Institut im Bereich »KI für Chips« bzw. »Chips für KI« beitragen, was andere Forschungseinrichtungen nicht in gleicher Weise abdecken? Und welche Kompetenzen sollen im Zentrum neu aufgebaut werden?
Das Fraunhofer IAF ist spezialisiert im Bereich der III-V-Halbleitertechnik und besitzt hier Jahrzehnte der Erfahrung. Mit unserer umfangreichen Infrastruktur am Fraunhofer IAF inklusive eines eigenen Reinraums, besitzt das Institut Expertise entlang der gesamten Halbleiterwertschöpfungskette. Diese wird uns bei unserer Arbeit im FIZ Chip AI von großem Vorteil sein. Außerdem besitzt das Fraunhofer IAF ein starkes Netzwerk aus Partnern und Verbünden, wie beispielsweise die Forschungsfabrik Mikroelektronik Deutschland (FMD). Somit können wir gewährleisten, immer den richtigen Partner für jeden Prozessschritt zur Hand zu haben, sollten die in-house Fähigkeiten einmal doch nicht ausreichen. Darüber hinaus arbeiten wir, wie schon gesagt, sehr eng mit der Industrie zusammen – national wie international – und geben unsere Lösungen an den Mittelstand weiter.
In der Außenstelle in Heilbronn bauen wir diese Kompetenzen weiter aus und bilden gleichzeitig neue. Statt auf III-V-Halbleiter setzen wir im Bereich KI allerdings auf CMOS-Technologie, da sie für den Volumenmarkt im digitalen Bereich wesentlich ist. CMOS lässt sich in großen Stückzahlen kostengünstig fertigen und erlaubt es, Milliarden Transistoren energieeffizient auf einem Chip zu integrieren. Die Kombination aus neu aufgebauten Kompetenzen und den Erfahrungen entlang der gesamten Halbleiterfertigungskette, die wir seit Dekaden im Hauptsitz gesammelt haben, möchten wir nutzen, um bessere Systemlösungen im CMOS-Bereich anzubieten und auch hier junge Talente auszubilden.
Sie führen das FIZ Chip AI gemeinsam mit dem Fraunhofer IIS. Wie läuft die gemeinsame Zusammenarbeit?
Personell arbeiten wir sehr eng zusammen, da wir uns jeden Tag institutsübergreifend zusammensetzen. Inhaltlich profitieren beide Fraunhofer-Institute von den unterschiedlichen Kompetenzen des jeweils anderen. Heilbronn ist somit eine Schnittstelle, wo die Fähigkeiten beider Institute gebündelt werden.
Warum ist Heilbronn genau der richtige Standort für diesen Forschungsschwerpunkt?
Wir sehen Heilbronn als zukünftiges Silicon Valley Deutschlands. Gerade in den letzten Monaten ist hier eine rasante Entwicklung vonstattengegangen. Getragen von den unterschiedlichen Akteuren, wie der Dieter Schwarz Stiftung, dem Wirtschaftsministerium, den Universitäten, den Forschungsinstituten oder den einzelnen Unternehmen, entsteht hier ein ganz neues Ökosystem. Und an diesem Aufbau möchten wir teilhaben. Das ist der wesentliche Grund für die Standortwahl der Außenstelle: Es ist unser Ziel, zusammen mit anderen Akteuren den Zugang zu zukunftsfähigen KI-Chip-Technologien »Made in Germany« zu schaffen.
Wie kann Deutschland seine Position im Bereich der künstlichen Intelligenz künftig stärken?
Deutschland ist im Bereich der Hyperscaler-Recheninfrastruktur, also bei besonders großen Rechenzentren und der Bereitstellung enormer Rechenleistung für KI, bislang deutlich im Rückstand. Im Bereich der dafür benötigten leistungsfähigen Grafikprozessoren (GPUs) dominieren amerikanische Großunternehmen. Sie haben entsprechende Produkte schon vor Jahren auf den Markt gebracht und erfolgreich etabliert. Das nachzuholen ist logischerweise sehr schwierig. Und es stellt sich die zentrale Frage: Ist das wirklich der Zielmarkt, den wir erreichen möchten? Wir können natürlich investieren und etwas ähnliches machen, aber das ergibt wahrscheinlich wenig Sinn.
Es gilt also, jene Märkte zu identifizieren, die für Deutschland und die Welt wichtig sind und in denen wir uns weiterentwickeln können. Wir sehen unsere Chance vor allem im Edge-Bereich, denn der ist sehr segmentiert. Hier gibt es nicht wie im Serverbereich weniger als fünf etablierte Akteure, die riesige Rechenzentren bauen und entsprechend viel investieren können, sondern eine Vielzahl an Playern. Im Edge-Bereich gibt es nämlich unterschiedliche Sensorenmärkte. Trotzdem verfolgen die Akteure auf dem segmentierten Markt das gemeinsame Ziel eines rechenfähigen KI-Chip. Es läge also ein riesiges Potenzial darin, einen Hardware-Chip zu erschaffen, auf dem ein Algorithmus läuft, der dann wiederum in unterschiedlichen Edge-Anwendungen zu finden ist. So entstünde ein Produkt, das den Anforderungen der unterschiedlichen Märkte gerecht wird. Hier sehe ich eine große Chance für die Halbleiterindustrie in Deutschland, da wir das Know-how dafür haben. Solange wir unser Wissen bündeln, richtige Entscheidungen treffen und zielgerichtet investieren, können wir eine andere Zukunft mit unseren Beiträgen aufbauen.
Was begeistert Sie persönlich am meisten an der Arbeit?
Meine größte Freude ist die Zusammenarbeit mit den Kolleg:innen. Alle haben immer neue Ideen, die sie in einer offenen Atmosphäre teilen. Inhaltlich kommen dabei viele neue Gedanken zur Sprache, was mich sehr begeistert. Unabhängig vom Inhaltlichen mag ich auch das positive Mindset: Keiner scheut sich, Probleme zu identifizieren und anschließend Lösungen auszuloten. Als Leiter des FIZ Chip AI war es mein Ziel, genau diese Atmosphäre zu schaffen.
Zudem schätze ich die Unterstützung des gesamten Fraunhofer IAF sehr. Wenn wir Fragen bei bestimmten Themen haben, sind wir nicht auf uns allein gestellt. Außerdem haben wir Zugriff auf interne Kompetenzen, die sich seit Jahren im Institut etabliert haben. Und dennoch können wir unsere eigenen Kompetenzen unter dem Dach der Fraunhofer HNFIZ weiter ausbauen.