Austausch, Networking, Konsortien-Bildung

Am 5. April 2023 fand das Partnering Event zum Forschungsprojekt „Forensik intelligenter Systeme“ statt. Es ging dabei um den ersten Austausch und das Networking der Interessenten für die künftige Ausschreibung der Agentur für Innovation in der Cybersicherheit (Cyberagentur).

An dem virtuellen Event nahmen 18 verschiedene Institutionen, darunter namenhafte Unternehmen, Universitäten und Hochschulen teil. Die 32 Expertinnen und Experten repräsentierten Forschungsinteressen der Bereiche IT-Forensik, Bildverarbeitung, Textverarbeitung, autonomen Systemen und der Rechtswissenschaft. Für die geplante Ausschreibung „Forensik intelligenter Systeme“ lag der Fokus darauf, Kontakte zu knüpfen sowie Grundlagen für mögliche Konsortien des Forschungsprojektes zu schaffen.

Ein Ausblick auf das IT-Forensik-Forschungsprojekt

Bei „Forensik intelligenter Systeme“ dreht sich alles um den rechtssicheren Nachweis von Manipulationen in sich ständig weiterentwickelnder, selbstüberschreibender KI-Systeme:

„KI-as-a-Service-Anwendungen“ werden trotz geringem Fachwissen und Fachpersonal weltweit eingesetzt, um wirtschaftliche Erfolge zu erzielen. Hieraus und aus dem jetzigen Forschungsstand zu „Neuronalen Netzen“ resultiert eine unzureichend ausgeprägte Detektion von Manipulationen an Deep Learning-Modellen. Somit stellt die Verwendung von „intelligenten Systemen“ in Wirtschaft und Gesellschaft zur Zeit ein unüberschaubares Risiko dar.

In Zukunft werden forensische Standards zur Auditierung von KI benötigt. Diese Problematik weist aktuell und in Zukunft eine hohe Relevanz bei gleichzeitig kaum vorhandener Forschung auf. Im Rahmen des Forschungsprojektes sollen daher vorhandene und grundlegend neue forensische Vorgehensweisen, Werkzeuge und gesetzliche Standards für den rechtlichen Nachweis von Manipulationen in KI-Systemen erforscht werden. Dabei ist das Ziel die Bereitstellung von proaktiven „Forensic Readiness“- und „Forensic-by-Design“-Methoden. Insbesondere werden die KI-Anwendungsbereiche der Bildverarbeitung, der Textverarbeitung und der autonomen Systeme betrachtet und anhand von Inversionsangriffen, Evasionsangriffen und Data Poisoning Angriffen erprobt.

Die Abgrenzung zum Forschungsbereich Explainable Artificial Intelligence (XAI) geschieht durch die Rechenschaftspflicht der IT-Forensik. Sie stellt hierdurch die Objektivität bei der Auditierung der Entscheidungsfindung in den Vordergrund.

Erster Austausch von Forschungsinteressen

Nach einer kurzen Einführung in die Arbeit der Cyberagentur und das anstehende Projekt, hatten die Teilnehmenden zwei Minuten Zeit, um ihre Institution vorzustellen und zu erläutern, welche Expertise sie suchen und welche sie im Gegenzug in einem Konsortium in den Bereichen IT-Forensik, Bildverarbeitung, Textverarbeitung, autonome Systeme, juristische Perspektive bieten würden. Insbesondere KI war dabei im Augenmerk vieler Teilnehmenden. Für den anschließenden Austausch, um potenziell zukünftigen Konsortialpartner zu finden, wurden vier verschiedenen Breakout Räumen zu den drei Schwerpunktthemen von KI-Anwendungen sowie der juristischen Perspektive geöffnet. Der Raum mit dem Schwerpunkt der Bildverarbeitung erhielt den meisten Zulauf und bot eine Grundlage für regen Austausch um die Zukunft des Gebietes. Auch die anderen Schwerpunkte waren gefragt und durch die Möglichkeit, die Räume nach Belieben wechseln zu können, konnten die Teilnehmerinnen und Teilnehmer Einblicke in die Themen ihrer Wahl bekommen, mitdiskutieren und für die Zukunft hilfreiche Verbindungen knüpfen.

Das Outcome

Nach Schließung der Breakout Räume wurde zusammen mit den Teilnehmenden das Outcome des Events besprochen. „Sehr guten Runden“, war die einhellige Meinung über den Austausch und Networking betrieben. Neben den positiven Rückmeldungen bezüglich konnte das Projektteam der Cyberagentur um die Forschungsreferenten Sichere Gesellschaft Olivia Gräupner und Lars-Martin Knabe viele Anregungen für nächste Events aus der Runde mitnehmen. Der Erfolg dieses Partnering Events legt den Grundstein für den nächsten großen Schritt: noch im 1. Halbjahr 2023 soll das geplante Forschungsprojekt „Forensik intelligenter Systeme“ ausgeschrieben werden.