Projekt 464 TP 3: Sicherheit von KI-Systemen: Grundlagen – Teilprojekt 3: Bereitstellung oder Verwendung von externen Daten oder trainierten Modellen für das Bundesamt für Sicherheit in der Informationstechnik

Art des Dokuments
Vergebener Auftrag

Veröffentlicht am
15.03.2021

Ort der Leistungserbringung
53133 Bonn (Nordrhein-Westfalen)

Gewerke
Software-Entwicklung, Künstliche Intelligenz, Softwarepaket f.Websitenbearb.

Kurzbeschreibung
Es wird eine Studie zur Sicherheit von konnektionistischen Methoden der Künstlichen Intelligenz und zugehörigen Entwicklunsgprozessen erstellt. Der Rahmen wird durch vier abstrakte Fälle vorgegeben, die anhand von konkreten Szenarien hinsichtlich KI-spezifischer Gefährdungen und möglichen Mitigationsmaßnahmen untersucht werden. Es werden Gefährdungen betrachtet, die dadurch entstehen, dass KI-Modelle oder Trainingsdaten von externen Parteien für die Entwicklung eigener Modelle genutzt bzw. eigene Modelle oder Trainingsdaten für externe Parteien angeboten werden sollen. Die Studie fasst den für die Szenarien und Fragestellung aktuellen Stand der Forschung umfassend zusammen, wobei die Themen Transfer Learning, Training Data Management, Federated Learning, Differential Privacy und Encrypted Comuptation abgedeckt werden. Es werden Möglichkeiten für einen Werkzeugeinsatz und Anforderungen an diesen identifiziert sowie konkrete Handlungsempfehlungen für Entwickler und Beschaffer abgeleitet..

zur Bekanntmachung