KIWI
Künstliche Intelligenz in sicheren Web-Infrastrukturen mit digitalem Identitätsmanagement
Motivation
Moderne Web-Dienstleistungen sind Grundlage und Treiber der fortschreitenden Digitalisierung unserer Gesellschaft. Sie dienen auch als vertrauenswürdige Quelle und Verwalter digitaler Identitäten für Millionen Nutzerinnen und Nutzer. Der Missbrauch dieser Identitäten muss sicher ausgeschlossen werden, um Schäden gegenüber privaten Nutzern und wirtschaftlichen Akteuren abzuwenden. Es gibt bereits auf Künstlicher Intelligenz (KI) basierende Erkennungsverfahren für Angriffe gegen IT-Systeme. Heute eingesetzte KI-gestützte Angriffsdetektoren fokussieren in der Regel auf klar abgegrenzte Merkmale. Angriffe gegen Web-Dienste zielen jedoch oft nicht auf eine isolierte technische Ebene. Vielmehr entwickeln sie sich über die Zeit hinweg und hinterlassen währenddessen Spuren an diversen Stellen im System, die gesamtheitlich auszuwerten sind.
KIWI ganz einfach - das Projekt im Video
Externer Inhalt
Um diesen Inhalt zu verwenden (Quelle: www.xyz.de), klicken Sie bitte auf Akzeptieren. Wir möchten Sie darauf hinweisen, dass durch die Annahme dieser IFrames Daten an Dritte übertragen oder Cookies gespeichert werden könnten.
Weitere Informationen finden Sie in unserer Datenschutzerklärung.
Projektziele und Methodik
Die Projektpartner des abgeschlossenen Verbundprojekts KIWI haben wesentliche Beiträge zur Entwicklung und praktischen Erprobung eines KI-gestützten Sicherheitsmanagements in komplexen Web-Infrastrukturen geleistet.
Im Rahmen des Projekts wurde untersucht, wie Daten verteilter Detektoren zusammengeführt werden konnten, um aus dem Gesamtbild auf das Vorliegen von Angriffen zu schließen. Ebenso wurden die Möglichkeiten erforscht, KI-Modelle auf Basis von in verschiedenen Systemen gesammelten Daten zu trainieren. Durch die Verteilung der Trainingsprozesse konnte die Leistungsfähigkeit des Gesamtsystems erhöht werden. Dabei wurden stets nur so viele Informationen zwischen Systemen verschiedener Betreiber oder Organisationseinheiten ausgetauscht, wie unbedingt nötig bzw. gesetzlich erlaubt war. Die Einsetzbarkeit von KI hing maßgeblich von der Qualität der verwendeten Trainingsdaten ab. KI-Modelle durften keinesfalls auf ungeeigneten oder gar von Angreifern absichtlich manipulierten oder gefälschten Daten trainiert werden. Im Falle eines solchen Vorfalls mussten betroffene Modelle sicher erkannt, zurückgesetzt, neu trainiert und schließlich im System verteilt werden. Die Projektpartner in KIWI haben dementsprechend ein Rahmenwerk für „Data Governance“ entwickelt und erprobt.
Innovation und Perspektiven
Die Projektpartner haben im abgeschlossenen Forschungsprojekt auf den offenen, europäischen Login-Standard netID gesetzt, der aufgrund der direkten Konkurrenzsituation zu ähnlichen Angeboten von US-Konzernen in Deutschland von hoher Relevanz war. Dieser Standard ermöglichte Nutzerinnen und Nutzern durch Transparenz Datensouveränität. Erkenntnisse aus dem beispielhaften Anwendungsfall E-Mail-Dienste konnten in die Weiterentwicklung des Web-Identitätsmanagements einfließen. Zudem wurde durch die im Projekt verfolgte Herangehensweise eine Übertragbarkeit der Ergebnisse auf andere Anwendungsfälle gewährleistet.
Publikationen
2023
- P. Baumstark, D. Monschein, and O. P. Waldhorst, “Secure Plaintext Acquisition of Homomorphically Encrypted Results for Remote Processing,” in 2023 IEEE 48th Conference on Local Computer Networks (LCN), Los Alamitos, CA, USA: IEEE Computer Society, Oct. 2023, pp. 1–4. doi: 10.1109/LCN58197.2023.10223372. Available: https://doi.ieeecomputersociety.org/10.1109/LCN58197.2023.10223372.
2022
- Zirpins C, Ortiz G, Nochta Z, Waldhorst O, Soldani J, Villari M, Tamburri D: Advances in Service-Oriented and Cloud Computing: International Workshops of ESOCC 2022; Revised Selected Papers. International Workshop on AI for Web Application Infrastructure and Cloud Platform Security (AWACS 2022) (Wittenberg, Germany, 22.-24.03.2022), Cham: Springer 2023 (Communications in Computer and Information Science 1617), X, 117 S.- ISBN 978-3-031-23297-8 (Elektronische Veröffentlichung: http://dx.doi.org/10.1007/978-3-031-23298-5)
- Piotrowski T, Nochta Z: Towards a Secure Peer-to-Peer Federated Learning Framework. In: Zirpins C, Ortiz G, Nochta Z, Waldhorst O, Soldani J, Villari M, Tamburri D (Hrsg.): Advances in Service-Oriented and Cloud Computing: International Workshops of ESOCC 2022 ; Revised Selected Papers. International Workshop on AI for Web Application Infrastructure and Cloud Platform Security (AWACS 2022) (Wittenberg, 22.-24.03.2022), Cham: Springer International Publishing 2023 (Communications in Computer and Information Science 1617), S. 19-31.- ISBN 978-3-031-23297-8 (Elektronische Veröffentlichung: http://dx.doi.org/10.1007/978-3-031-23298-5_2)
- Peregrina Pérez JA, Ortiz G, Zirpins C: Towards a Metadata Management System for provenance, reproducibility and accountability in Federated Machine Learning. In: Zirpins C, Ortiz G, Nochta Z, Waldhorst O, Soldani J, Villari M, Tamburri D (Hrsg.): Advances in Service-Oriented and Cloud Computing : International Workshops of ESOCC 2022 ; Revised Selected Papers. International Workshop on AI for Web Application Infrastructure and Cloud Platform Security (AWACS 2022) (Wittenberg, 22.-24.03.2022), Cham: Springer 2023 (Communications in Computer and Information Science 1617), S. 5-18.- ISBN 978-3-031-23297-8 (Elektronische Veröffentlichung: http://dx.doi.org/10.1007/978-3-031-23298-5_1)
- Peregrina Pérez JA, Ortiz G, Zirpins C: Towards Data Governance for Federated Machine Learning. In: Zirpins C, Ortiz G, Nochta Z, Waldhorst O, Soldani J, Villari M, Tamburri D (Hrsg.): Advances in Service-Oriented and Cloud Computing : International Workshops of ESOCC 2022 ; Revised Selected Papers. International Workshop on AI for Web Application Infrastructure and Cloud Platform Security (AWACS 2022) (Wittenberg, 22.-24.03.2022), Cham: Springer 2023 (Communications in Computer and Information Science 1617), S. 59-71.- ISBN 978-3-031-23297-8 (Elektronische Veröffentlichung: http://dx.doi.org/10.1007/978-3-031-23298-5_5)
- Monschein D and Waldhorst O: mPSAuth: Privacy-Preserving and Scalable Authentication for Mobile Web Applications. 2022 (Elektronische Veröffentlichung: arxiv.org/abs/2210.04777)
2021
- Monschein D, Peregrina Pérez JA, Piotrowski T, Nochta Z, Waldhorst O, Zirpins C: KIWI: Artificial intelligence for secure web infrastructures. In: Forschung aktuell, ISSN 1613-4958 (2021), S. 40-43 (Elektronische Veröffentlichung: https://www.h-ka.de/fileadmin/Hochschule_Karlsruhe_HKA/Bilder_VW-PK/Publikationen/Forschungsbericht/ForschungAktuell_2021_Online.pdf)
- Monschein D, Waldhorst O: Privacy-Preserving and Scalable Authentication based on Network Connection Traces. NetSys 2021 (Lübeck, 13.-16.09.2021)
- Monschein D, Waldhorst O: SPCAuth: Scalable and Privacy-Preserving Continuous Authentication for Web Applications. In: 2021 IEEE 46th Conference on Local Computer Networks (LCN). Conference on Local Computer Networks (LCN 2021) (Edmonton, Canada, 04.-07.10.2021), Piscataway: IEEE 2021, S. 281-286.- ISBN 978-1-6654-1886-7 (Elektronische Veröffentlichung: http://dx.doi.org/10.1109/LCN52139.2021.9524959)
- Monschein D, Peregrina Pérez JA, Piotrowski T, Nochta Z, Waldhorst O, Zirpins C: Towards a Peer-to-Peer Federated Machine Learning Environment for Continuous Authentication. In: 2021 IEEE Symposium on Computers and Communications (ISCC). The 1st IEEE International Workshop on Distributed and Intelligent Systems (DistInSys) (Athens, Greece, 05.-08.09.2021), Piscataway: IEEE 2021, 6 S.- ISBN 978-1-6654-2744-9 (Elektronische Veröffentlichung: http://dx.doi.org/10.1109/ISCC53001.2021.9631491)
- Wink T, Nochta Z: An Approach for Peer-to-Peer Federated Learning. In: 2021 51st Annual IEEE/IFIP International Conference on Dependable Systems and Networks Workshops (DSN-W). Dependable and Secure Machine Learning (DSML 2021) (Taipei, Taiwan, 21-24.06.2021), Piscataway: IEEE 2021, S. 150-157.- ISBN 978-1-6654-3950-3 (Elektronische Veröffentlichung: http://dx.doi.org/10.1109/DSN-W52860.2021.00034)
- Peregrina Pérez JA, Ortiz Bellot G, Zirpins C: Towards Data Governance for Federated Machine Learning in Secure Web-based Systems. In: Ortiz Bellot G, Medina Bulo I (Hrsg.): Actas de las Jornadas de Investigación Predoctoral en Ingeniería Informática = Proceedings of the Doctoral Consortium in Computer Science (JIPII 2021). Doctoral Consortium in Computer Science = Jornadas de Investigación Predoctoral en Ingeniería Informática (JIPII2021) (Cádiz, Spain, 15.06.2021), Cádiz: Repositorio Institucional UCA 2021, S. 36-39.- ISBN 978-84-89867-47-5 (Elektronische Veröffentlichung: hdl.handle.net/10498/26026)
Stand
Abgeschlossenes Projekt 06/2020 — 11/2023
Das Projekt wird gefördert von
Das Projekt KIWI wird gefördert im Rahmen des Programms "Künstliche Intelligenz für IT-Sicherheit" des Bundesministeriums für Bildung und Forschung (BMBF)