Ziel der Förderung ist es, die Forschung, Expertise und Wertschöpfung im Bereich der IT-Sicherheit in Deutschland nachhaltig zu stärken und Lösungen für den sicheren Einsatz von KI-Technologien voranzubringen. Die Ziele dieser Förderrichtlinie sind anhand der folgenden Indikatoren bemessen: Indikator für die Qualität ist langfristig die Anzahl von Produktinnovationen, in denen sichere KI zum Einsatz kommt oder die die Sicherheit von IT-Systemen durch den Einsatz von KI erhöhen.

Gegenstand der Förderung

Fortschritte im Bereich der KI haben große Auswirkungen auf den Bereich der IT-Sicherheit: Mit der zunehmenden Verbreitung von KI-Technologien wird deren zuverlässige Absicherung gegen Cyberangriffe und Manipulation ein immer wichtigeres Forschungs- und Handlungsfeld. Darüber hinaus wird KI zunehmend eingesetzt, um eine höhere IT-Sicherheit zu erzielen. Und schließlich lässt sich ein vermehrter Missbrauch von KI im Rahmen von Cyberangriffen und Social Engineering beobachten.

Beispiele für Forschungsthemen in diesen drei Teilbereichen sind:

1. IT-Sicherheit für KI:

   • Schutz von KI-Modellen, Trainings- und Testdaten vor Manipulation,
   • Schutz von KI-Modellen vor der Extraktion von sensiblen Daten,
   • Testen der Sicherheit von KI-Systemen gegen Cyberangriffe,
   • Absicherung von KI-Systemen gegen Cyberangriffe,
   • sichere Betriebsumgebungen für unsichere KI-Systeme,
   • Authentifizierung von KI-generierten Ergebnissen.

2. IT-Sicherheit durch KI:

   • KI-basierte Erkennung von

     • Schwachstellen in IT-Systemen,
     • Cyberangriffen auf IT-Systeme,
     • Manipulationen von KI-Modellen, Trainings- und Testdaten.

   • KI-basierte Unterstützung von

     • Entwicklern beim Entwurf und der Implementierung sicherer Systeme,
     • Endnutzern mit situationsbezogenen, sicheren Handlungsempfehlungen,
     • Administratoren bei der sicheren Konfiguration von IT-Systemen und der Abwehr laufender Cyberangriffe,
     • forensischen Untersuchungen kompromittierter IT-Systeme.

   • Cyber Threat Intelligence, unter anderem KI-basierte Lagebilder verteilter Sicherheitsvorfälle,
   • „Intelligente“ Honeypots, zum Beispiel KI-erzeugte Honey Files.

3. IT-Sicherheit gegen KI:

   • Erkennung von KI-generierter Malware,
   • Abwehr von KI-basierten

     • Cyberangriffen auf IT-Systeme,
     • Social-Engineering-Attacken.

Wer ist antragsberechtigt?

Antragsberechtigt sind:

• Hochschulen, außeruniversitäre Forschungseinrichtungen,
• Behörden und deren Forschungseinrichtungen,
• andere Institutionen, die Forschung betreiben,
• Unternehmen der gewerblichen Wirtschaft,
• Kommunen und deren Einrichtungen,
• Verbände, Vereine und Non-Profit-Organisationen.

 
Verfahren und Deadlines

In der ersten Verfahrensstufe sind dem beauftragten Projektträger VDI/VDE Innovation + Technik GmbH bis spätestens 15. März 2024 Projektskizzen in schriftlicher und/oder elektronischer Form unter der Fördermaßnahme „Sichere Zukunftstechnologien in einer hypervernetzten Welt: Künstliche Intelligenz“ einzureichen.

Weitere Informationen