Cyberagentur will Manipulation intelligenter Systeme rechtssicher detektieren
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) hat am 8. September 2023 die neue Projektausschreibung „Forensik intelligenter Systeme“ veröffentlicht. Mit dem Forschungsauftrag sollen Manipulationen an sich weiterentwickelnden intelligenten Systemen mithilfe von neuen forensischen Methodiken und Tools detektierbar und rechtssicher nachweisbar gemacht werden.
Die forensische Untersuchung von KI-Systemen hat eine hohe Relevanz für die Strafverfolgung in Deutschland. Daher wurde das neue Forschungsprojekt „Forensik intelligenter Systeme“ entwickelt und am 8. September 2023 veröffentlicht. Das Projektteam um Lars-Martin Knabe als Projektleiter, Olivia Gräupner und Til Weißflog hat Unternehmen und Organisationen aus den Bereichen der IT-Forensik, der Künstlichen Intelligenz und der Strafverfolgung aufgerufen, einen Teilnahmeantrag zur Detektion von Manipulationen an sich weiterentwickelnden intelligenten Systemen mithilfe von neuen forensischen Methodiken und Tools abzugeben.
Für einen Forschungszeitraum von vier Jahren sollen die Interessenten, die sich aus Hochschulen, Universitäten, Unternehmen, Start-ups und weiteren Institutionen zusammensetzen können, einen Teilnahmeantrag bis zum 25. Oktober 2023 einreichen. In den Anwendungsbereichen der Bildverarbeitung, der Textverarbeitung und der autonomen Systeme werden wissenschaftlich untermauerte und bahnbrechende Ergebnisse innerhalb des Forschungsprojektes erwartet. Weiterhin geht es um rechtlich fundierte Erkenntnisse für das Aufdecken, die Sichtung und Analyse von Spuren in KI-Systemen unterschiedlichster Art sowie die Schaffung von Tools.
Die Zielstellung ist es, im Falle von Manipulation, Tatbestände eines Verbrechens, Vergehens und maliziöser Handlungen etwaige Täter festzustellen und diese zu ahnden. Bei Erfolg sind aus den wissenschaftlich gewonnenen Erkenntnissen gesetzliche Rahmenbedingungen sowie Anforderungen und Standards zu formulieren und umzusetzen. Die durch die aufgeworfenen Fragestellungen entstehende Komplexität des Themas „Forensik intelligenter Systeme“ benötigt interdisziplinäre Forschung, welche Grundlage der IT-Forensik ist.
Um die Expertisen aus den verschiedenen Forschungsbereichen zu bündeln, besteht hier die Möglichkeit, dass sich aus den einzelnen Interessenten Konsortien bilden können. In einem vorgeschalteten Partnering-Event konnten sich am 5. April 2023 erste Interessenten bereits einander kennenlernen sowie erste Erfahrungen austauschen. Die jetzige Ausschreibung ist aber über die Teilnahme an dem Partnering-Event hinaus offen für alle Interessenten.
Durch rechtliche Beweisbarkeit und Nachvollziehbarkeit der KI oder anderer sich selbst weiter entwickelnder Systeme werden die Sicherheitsbehörden und Streitkräfte der Bundesrepublik Deutschland in die Lage versetzt, das Recht zu wahren und umzusetzen, welches die gesamte Breite der Gesellschaft repräsentiert. Die Systeme, die sich im Ergebnis aus dem Projekt entwickeln, könnten von den Polizeibehörden genutzt werden.
Im Supplement zum Amtsblatt der Europäischen Union wurde die Ausschreibung mit der Vergabenummer 2023/S 173-539245 veröffentlicht: https://www.evergabe-online.de/tenderdetails.html?3&id=536409.
Weitere Informationen: https://www.cyberagentur.de/fis