Psychologin/Psychologe, Informatiker/in o.ä. (w/m/d) - Diplom Uni, Master

Im Arbeitsschwerpunkt AI-Engineering des Instituts für KI-Sicherheit gestalten Sie innovative Entwicklungsprozesse und -methoden sowie Technologiebausteine und Ausführungsumgebungen zur Implementierung sicherheitskritischer KI-basierter Anwendungen, wie sie zukünftig z.B. in Luftfahrt, Raumfahrt sowie in den Bereichen Energie und Verkehr benötigt werden.

Ein besonderer Aspekt des KI Engineering ist die Interaktion von Menschen und KI-Systemen, die auch bei Human-in-the-Loop zum Tragen kommt. Im Institut für KI-Sicherheit wollen wir die direkte, sichere und vertrauensvolle Zusammenarbeit zwischen Mensch und KI aktiv gestalten. Daher widmen wir uns explizit einer menschzentrierten KI und auch der Frage, wie der Mensch zu Sicherheitsaspekten schwacher und auch starker KI beitragen kann. Dazu kann er beispielsweise beim Training von Maschinen 'in den Loop' geholt werden, um Entscheidungen zur genauen Ausformung einer KI zu treffen oder neue Information einzubringen, die das Training indirekt beeinflusst oder das systemseitige Lernen unterstützt. Über die Integration der menschlichen Expertise wird außerdem sichergestellt, dass die KI nicht nur diese Daten einbezieht, sondern anschlussfähig ist, d.h. ist auch menschliche Anforderung berücksichtigt.

• fachliche Leitung und Koordination eines Teams im Kontext „Human-in-the-Loop“
• Umsetzung der strategischen Ziele im Kontext „Human-in-the-Loop“ (intern als auch extern)
• Identifizierung, Akquise und Koordination von wissenschaftlichen Projekten
• Konsolidierung und technische Integration unterschiedlicher Methoden (teilweise aktuell in Entwicklung) in das Human-in-the-Loop-Gesamtkonzept
• Darstellung von KI Engineering relevanten Themen in DLR internen und externen Arbeitsgruppen, Konferenzen, etc.