- Status: Projektphase
Hintergrund
Die IT-Forensik beschreibt die Sicherung und Analyse von kriminalistisch relevanten Daten aus IT-Systemen mit wissenschaftlichen Methoden. Mithilfe der streng methodischen Datenanalyse werden Sachverhalte vor Gericht bewiesen. Die digitale Forensik spielt im Anwendungskontext künstliche Intelligenz ebenfalls eine entscheidende Rolle, da neben der privaten Verwendung KI-Systeme auch in Unternehmen vielfach vernetzt eingesetzt werden. Das Verständnis dafür, wann und warum sich weiterentwickelnde und selbst überschreibende KI-basierte Techniken versagen, muss daher mit forensischen Methodiken und Tools analysiert und verbessert werden.
Zielstellung
Das Forschungsprogramm „Forensik intelligenter Systeme“ adressiert die Erforschung von vorhandenen oder grundlegend neuen forensischen Vorgehensweisen, Werkzeugen unter der Berücksichtigung gesetzlicher Standards. Das Ziel ist dabei, die Bereitstellung von proaktiven „Forensic Readiness“ und „Forensic-by-Design“-Methoden für den rechtlichen Nachweis von Manipulationen in sich weiterentwickelnden, selbstüberschreibenden KI-Systemen. Diese neuartigen und methodenorientierten Forschungsansätze für den rechtssicheren Nachweis von Fehlverhalten müssen transparent, fair und erklärbar sein. In Form von Inversions- und Evasionsangriffen sowie Data-Poisoning-Angriffen auf ein KI-System sollen die entwickelten Methodiken evaluiert und verbessert werden. Zu den Schwerpunktthemen, die innerhalb des Programms adressiert werden, gehören die Bildverarbeitung, die Textverarbeitung und die autonomen Systeme, wobei hier der Fokus bei dem autonomen Fahren sowie deren Sensorik liegt.
Disruptive Risikoforschung
Der Anwendungsbereich der IT-Forensik in KI weist keine bis kaum vergleichbare Forschungsvorhaben auf. Das Vorhaben besitzt eine hohe rechtstaatliche, gesellschaftliche und wirtschaftliche Relevanz bei gleichzeitig hohem technisch-wissenschaftlichem Risiko. Bei Erfolg nimmt Deutschland eine weltweite Führungsposition in Wirtschaft und Gesellschaft ein.