ILKA
KI-Nachwuchs@FH 2021: Aufbau einer verteilten IT-Infrastruktur für latenzkritische KI-Anwendungen
Motivation
Fortschritte der Künstlichen Intelligenz (KI) beflügeln heute die Digitalisierung in praktisch allen gesellschaftlichen Bereichen. Vielfältige KI-Anwendungen und -Systeme ermöglichen dabei die Automatisierung immer anspruchsvollerer Aufgaben. Um die Potentiale ausschöpfen zu können, sind jedoch Fachkräfte mit spezifischer Expertise erforderlich, die zurzeit nicht ausreichend zur Verfügung stehen. Dies liegt auch daran, dass zur Ausbildung von Expertinnen und Experten KI-fähige IT-Infrastrukturen benötigt werden, die an Hochschulen nur beschränkt verfügbar sind.
Der Bereich latenzkritischer KI-Anwendungen ist davon besonders betroffen. Hier müssen KI-Systeme schnell reagieren, um anspruchsvolle Anwendungen wie autonome Roboter oder virtuelle Assistenzsysteme zu ermöglichen, bei denen Entscheidungen in Sekundenbruchteilen zu treffen sind. Die hierzu erforderlichen Spezialprozessoren, Hochleistungsnetzwerke und Massendatenspeicher sind an Hochschulen aktuell nicht verfügbar. Dies stellt sowohl die KI-Forschung mitsamt der Ausbildung des wissenschaftlichen Nachwuchses als auch die Lehre für Studierende in diesen zukunftsträchtigen Bereichen vor große Probleme.
Fehlende Infrastrukturen für Forschung und Lehre im Bereich latenzkritischer KI-Anwendungen, die geschaffen werden sollen, umfassen leistungsfähige Graphics Processing Units (GPU) für schnelles Lernen und sofortiges Erkennen wichtiger Zusammenhänge digitalisierter Prozesse, die über hochleistungsfähige Kommunikationsnetze mit Anwendungsumgebungen wie Roboterzellen oder Virtual Reality (VR) Installationen verbunden sind, so dass sich minimale Übertragungszeiten von Sensor- und Steuerdaten ergeben.
Die Bereitstellung einer derartigen Infrastruktur eröffnet vollkommen neue Möglichkeiten für Wissenschaftlerinnen und Wissenschaftler, ihrer KI-Forschung nachzugehen und für Studentinnen und Studenten, modernste KI-Kompetenzen zu erlernen. Hierdurch wird die Hochschulregion auch substanziell als Wirtschaftsstandort gestärkt, an dem zukunftsweisende KI-Innovationen durch die Forschung geschaffen und durch Fachkräfte in Produkte und Dienstleistungen transferiert werden können. Die Verbreitung der resultierenden KI-Anwendungen ist ein wichtiger Schritt hin zur digitalen Wissensgesellschaft.
Projektziele
Aufbauend auf die an der Hochschule Karlsruhe (HKA) vorhandene Expertise und die strategische Ausrichtung im Bereich des Forschungsschwerpunkts Intelligente Systeme sollen Softwarearchitekturen, -technologien und -entwicklungsmethoden für latenzkritische KI-Applikationen erforscht und gelehrt werden.
Im Projekt soll dazu eine grundlegende KI-fähige IT-Infrastruktur etabliert werden. Diese Infrastruktur soll für den hochschulweiten Einsatz in der Forschung und zur Ausbildung von wissenschaftlichem Nachwuchs einsetzbar sein.
Die Nutzung der ILKA IT-Infrastruktur für latenzarme KI-Anwendungen soll noch zur Projektlaufzeit für die drei Anwendungsschwerpunkte Robotik in der Produktion, Intelligente Perzeptions- und Assistenzsysteme sowie intelligente IT-Infrastrukturen ermöglicht werden.
Mit der dann etablierten Infrastruktur und den Erfahrungen aus den drei Pilotprojekten soll nach Abschluss des ILKA Projekts eine Ausweitung auf weitere Anwendungsgebiete und neue Nutzergruppen folgen.
Methodik
Zentraler Bestandteil ist die Beschaffung von zwei leistungsstarken Servern mit Spezialprozessoren (Graphics Processing Units, GPU), wodurch der Tatsache Rechnung getragen werden soll, dass moderne Planungs- und KI-Verfahren eine signifikant hohe bzw. spezielle Rechenleistung benötigen. Die Server sollen jeweils zeitgleich für Aufgaben des Trainings bekannter Situationen und deren eigenständiger Erkennung einsetzbar sein. Vor allem die Erkennung soll damit auch für Anwendungen mit Echtzeitanforderungen und Massendatendurchsatz ermöglicht werden. Das heißt, dass für die Erkennung spezieller Situationen in komplexen Umgebungen eine zeitliche Obergrenze garantiert werden muss.
Die geplante Infrastruktur zeichnet sich maßgeblich dadurch aus, dass sie auf mehrere entfernte Standorte verteilt wird. Trotzdem soll sie den standortübergreifenden Betrieb latenzkritischer KI-Anwendungen mit großer Bandbreite ermöglichen. Dies soll durch eine hoch performante Vernetzung und eine modulare IT-Infrastruktur erreicht werden. Auf diese Weise sollen vielfältige Nutzergruppen und Anwendungsschwerpunkte flexibel an die Infrastruktur angebunden werden.
Innovation und Perspektiven
Die ILKA IT-Infrastruktur wird Forschung und Lehre im Bereich latenzkritischer KI-Anwendungen ermöglichen, die bis dahin nicht durchführbar waren. Der Zugriff auf Spezialprozessoren zur Beschleunigung von Aufgaben des maschinellen Lernens war bislang nämlich nur in sehr eingeschränkter Form gegeben. Außerdem war die Vernetzung solcher Ressourcen mit experimentellen Umgebungen verschiedener Anwendungsfälle kaum vorhanden.
Nach der Realisierung des Projekts, können für unterschiedliche Anwendungsfälle der Robotik, der partizipativen Assistenzsysteme und der dynamischen IT-Infrastrukturen erstmals KI-Anwendungen mit besonders anspruchsvollen Echtzeitanforderungen erforscht werden.
Durch den außergewöhnlichen Aufbau der ILKA Infrastruktur, bei dem die Spezialprozessoren mittels eines Hochleistungsnetzwerks über zwei dezentrale Standorte im Stadtgebiet verteilt sind, wird die Erforschung innovativer Ansätze zur Erleichterung der Realisierbarkeit latenzkritischer KI-Anwendungen möglich. Genauer lässt sich untersuchen, wie KI-Aufgaben des Trainings und der Situationserkennung auf Ressourcen verteilt werden können, die durch räumliche Verteilung mit unterschiedlichen Reaktionszeiten einhergehen, und trotzdem Echtzeitanforderungen erfüllen.
Die Ergebnisse dieser Untersuchung können dazu verwendet werden, latenzkritische KI-Anwendungen unter erschwerten Bedingungen auch dann realisieren zu können, wenn Spezialprozessoren am unmittelbaren Ort der Anwendung nur in eingeschränktem Umfang zur Verfügung stehen. Das heißt, dass eine Digitalisierung anspruchsvoller Prozesse sehr viel häufiger realisiert werden könnte.
Die ILKA IT-Infrastruktur für latenzkritische KI-Anwendungen soll nicht nur die Forschung in den damit zusammenhängenden Schlüsseltechnologien im Allgemeinen stärken, sondern in besonderem Maße auch die Nachwuchsförderung für junge Wissenschaftlerinnen und Wissenschaftler ermöglichen, die in diesen Bereichen auf geeignete Hochleistungsumgebungen angewiesen sind.
Darüber hinaus befördert die im Rahmen dieses Projekts vorgesehene Infrastruktur signifikant die Möglichkeiten KI-Technologien, Methoden und Anwendungen auch in der Lehre auf hohem Niveau zu vermitteln. Davon profitieren Studentinnen und Studenten zum Beispiel im Rahmen praxisnaher Anwendungsprojekte in verschiedenen Masterstudiengängen.
Status
Laufendes Projekt 10/2021 — 03/2023
Kontakt
Projektleitung
Prof. Dr. rer. nat. Christian Zirpins
Tel.: +49 (0)721 925-1528
christian.zirpins@h-ka.de
Das Projekt wird gefördert von
Das Projekt ILKA wird gefördert durch das Bundesministerium für Bildung und Forschung (BMBF) im Rahmen des Förderprogramms Forschung an Fachhochschulen unter dem Förderkennzeichen 13FH009KI1.
