KIWI

Moderne Web-Dienstleistungen sind Grundlage und Treiber der fortschreitenden Digitalisierung unserer Gesellschaft. Sie dienen auch als vertrauenswürdige Quelle und Verwalter digitaler Identitäten für Millionen Nutzerinnen und Nutzer. Der Missbrauch dieser Identitäten muss sicher ausgeschlossen werden, um Schäden gegenüber privaten Nutzern und wirtschaftlichen Akteuren abzuwenden. Es gibt bereits auf Künstlicher Intelligenz (KI) basierende Erkennungsverfahren für Angriffe gegen IT-Systeme. Heute eingesetzte KI-gestützte Angriffsdetektoren fokussieren in der Regel auf klar abgegrenzte Merkmale. Angriffe gegen Web-Dienste zielen jedoch oft nicht auf eine isolierte technische Ebene. Vielmehr entwickeln sie sich über die Zeit hinweg und hinterlassen währenddessen Spuren an diversen Stellen im System, die gesamtheitlich auszuwerten sind.

Die Projektpartner des abgeschlossenen Verbundprojekts KIWI haben wesentliche Beiträge zur Entwicklung und praktischen Erprobung eines KI-gestützten Sicherheitsmanagements in komplexen Web-Infrastrukturen geleistet.

Im Rahmen des Projekts wurde untersucht, wie Daten verteilter Detektoren zusammengeführt werden konnten, um aus dem Gesamtbild auf das Vorliegen von Angriffen zu schließen. Ebenso wurden die Möglichkeiten erforscht, KI-Modelle auf Basis von in verschiedenen Systemen gesammelten Daten zu trainieren. Durch die Verteilung der Trainingsprozesse konnte die Leistungsfähigkeit des Gesamtsystems erhöht werden. Dabei wurden stets nur so viele Informationen zwischen Systemen verschiedener Betreiber oder Organisationseinheiten ausgetauscht, wie unbedingt nötig bzw. gesetzlich erlaubt war. Die Einsetzbarkeit von KI hing maßgeblich von der Qualität der verwendeten Trainingsdaten ab. KI-Modelle durften keinesfalls auf ungeeigneten oder gar von Angreifern absichtlich manipulierten oder gefälschten Daten trainiert werden. Im Falle eines solchen Vorfalls mussten betroffene Modelle sicher erkannt, zurückgesetzt, neu trainiert und schließlich im System verteilt werden. Die Projektpartner in KIWI haben dementsprechend ein Rahmenwerk für „Data Governance“ entwickelt und erprobt.

Die Projektpartner haben im abgeschlossenen Forschungsprojekt auf den offenen, europäischen Login-Standard netID gesetzt, der aufgrund der direkten Konkurrenzsituation zu ähnlichen Angeboten von US-Konzernen in Deutschland von hoher Relevanz war. Dieser Standard ermöglichte Nutzerinnen und Nutzern durch Transparenz Datensouveränität. Erkenntnisse aus dem beispielhaften Anwendungsfall E-Mail-Dienste konnten in die Weiterentwicklung des Web-Identitätsmanagements einfließen. Zudem wurde durch die im Projekt verfolgte Herangehensweise eine Übertragbarkeit der Ergebnisse auf andere Anwendungsfälle gewährleistet.

Abgeschlossenes Projekt 06/2020 — 11/2023