Foundation Models im Sicherheitskontext unter der Lupe

Dr. Daniel Gille, Leiter Künstliche Intelligenz in der Abteilung Schlüsseltechnologie der Cyberagentur. Foto: Andreas Stedtler/Cyberagentur

Information und Netzwerken an der Schnittstelle von KI und Geodaten

Für das geplante Forschungsvorhaben „Holistische Evaluation Generativer Foundation Models im Sicherheitskontext“ (HEGEMON) organisiert die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) am 31. Juli 2024 ein virtuelles Partnering Event. Das Event bietet eine Plattform für potenzielle Bieter und Interessenten, um sich über die Anforderungen und Möglichkeiten des Forschungsprojektes zu informieren und auszutauschen.

Der Begriff Foundation Model beschreibt komplexe neuronale Netzwerke, die auf großen, unspezifischen Datenmengen trainiert wurden und durch ihre Vielseitigkeit in verschiedensten Anwendungen überzeugen. Foundation Models zeichnen sich dadurch aus, dass sie auf Basis freier Eingaben (Prompts) komplexe Text-, Bild- oder Audio-Inhalte erzeugen können. Diese Modelle erfordern jedoch einen hohen initialen Trainingsaufwand und eine umfassende Evaluierung, insbesondere im Kontext der inneren und äußeren Sicherheit.

Vor diesem Hintergrund hat das Forschungsteam um Dr. Daniel Gille, Leiter Künstliche Intelligenz in der Abteilung Schlüsseltechnologien der Cyberagentur, verschiedene Forschungsaufträge und Anwendungsfälle entwickelt. Diese sowie Initialdatensätze des Zentrums für Geoinformationswesen der Bundeswehr werden später Bestandteil der geplanten Ausschreibung sein. „Die Forschungsfragen ordnen sich in die drei Hauptgebiete“, erläutert der Wissenschaftler Dr. Daniel Gille: „Benchmarking als Problem der interdisziplinären Grundlagenforschung, Entwicklung eines ganzheitlichen Foundation Model-Benchmarks vor dem Anwendungshintergrund Geoinformationswesen und Entwicklung eines Demonstrators zur Lösung von Aufgaben im Geoinformationswesen.“

Die Entwicklung der Benchmarks und Anpassung der Basismodelle sowie deren Demonstrator-Umsetzung sollen im Rahmen des Forschungsvorhabens in einer einzigartigen kompetitiven Konstellation erfolgen, in der jeder Teilnehmer sowohl hinsichtlich Benchmark als auch Modellentwicklung im direkten Vergleich mit allen anderen Teilnehmern steht. Als Teil der Challenge wird jedes Modell mittels aller entwickelten Benchmarks – Eigen- wie Fremdentwicklungen – evaluiert und gerankt.

Das Partnering Event am 31. Juli 2024, von 13:30 bis 15:30 Uhr, bietet die Gelegenheit, mehr über dieses Forschungsprojekt zu erfahren und sich mit potenziellen Partnern auszutauschen. Weitere Informationen zur Veranstaltung und Anmeldung finden Sie auf der Webseite des Forschungsprojektes.

Weitere Informationen:

https://www.cyberagentur.de/hegemon

English Version