KIT - ext Dok.Projekt - KI-basierte Freigabeargumentation

Arbeitsumfeld

Gemeinsam mit dem Karlsruher Institut für Technologie starten wir ein Doktorandenprojekt. Die Anstellung erfolgt am KIT am Institut für Mess- und Regelungstechnik.

Akademische/r Mitarbeiter/in (w/m/d)

KI-basierte Freigabeargumentation mittels Defeater Agents

Das Institut für Mess- und Regelungstechnik (MRT) hat seinen Forschungsschwerpunkt seit über einem Jahrzehnt im Bereich Automatisiertes Fahren. Alleinstellungsmerkmal sind hier die Versuchsträger mit Sensorik, Aktorik und einem vollständigen Softwaresystem zum automatisierten, urbanen Fahren.

Die vorhandene Ausstattung und Erfahrung ermöglichen nicht nur kontinuierliche Spitzenforschung in allen Teilen des Forschungsfeldes, sondern auch Teilnahme an Wettbewerben zum autonomen Fahren und vielfältige Kooperationen mit führenden Industriepartnern.

Darüber veröffentlicht das MRT regelmäßig Datensätze wie die KITTI Vision Benchmark Suite oder den INTERACTION-Datensatz, die das Forschungsfeld oft maßgeblich prägen.

Aufgaben

• Um automatisierte Fahrfunktionen sicher zuzulassen, wird eine lückenlose Freigabeargumentation benötigt, die je nach Standard (bspw. Automotive SPICE oder SOTIF) und Fahrfunktion variiert. Die spezifische und detaillierte Erstellung sowie die – in Zeiten von Over-the-Air-Updates und Software-Defined Vehicles normal gewordene – ständige Anpassung von solchen Argumentationen ist umständlich, bislang kaum automatisiert und damit eine der großen Hürden auf dem Weg zu hochautomatisierten Fahrzeugen.
• In diesem Projekt, das in enger Zusammenarbeit mit der AUDI AG erfolgt, soll das sog. Defeater-Konzept auf KI-Agenten angewendet werden, um Freigabeargumentationen zu prüfen und zu verbessern. Hierbei wird das ungemeine Allgemeinwissen großer Sprachmodelle ausgenutzt, um Lücken in der Argumentation aufzudecken sowie fehlende Aspekte oder Gefahren, menschliche Fehler oder gar logische Fehlschlüsse zu erkennen.
• Die KI-Agenten treten mittels Self-Play gegeneinander an, um sich selbst oder die Argumentationen zu verbessern.
• Wir bieten:
• Eine wissenschaftlich anspruchsvolle Aufgabe, die Publikationen auf führenden Konferenzen in den Bereichen automatisiertes Fahren, Robotik und künstlicher Intelligenz (NeurIPS, ICLR, IV, ICRA) ermöglicht.
• Zusammenarbeit in einem leistungsfähigen, international ausgewiesenen Team am MRT.
• Einbindung in Doktorandencluster bei Audi.
• Möglichkeit zur Promotion zum Dr.-Ing. am Karlsruher Institut für Technologie (KIT).
• Vergütung nach einer vollen TV-L E13 Stelle (sofern fachliche und persönliche Voraussetzungen erfüllt sind).

Qualifikation

• Engagierte und innovationsfreudige Kollegen (m/w/d) mit
• Ein sehr gut abgeschlossenes Masterstudium in den Bereichen Informatik, Maschinenbau, Elektrotechnik o.ä.
• Erfahrung mit der Benutzung und dem Training von tiefen neuronalen Netzen und maschinellen Lernverfahren.
• Erfahrung im Bereich Softwareentwicklung (Python).
• Freude am selbständigen, wissenschaftlichen Arbeiten.
• Teamgeist, der aktiv gelebt wird.
• Reisebereitschaft zu Audi.
• Fließende Deutsch- und Englischkenntnisse.
• Die Tätigkeit verbindet sich mit dem Ziel der Promotion.

Weitere Informationen

Diese Stelle ist bei der Audi Konzern weltweit in Audi Konzern weltweit zu besetzen.

Grundsätzlich sind alle Stellen bei Audi vollzeit- und auch teilzeitfähig.

Wir verankern Nachhaltigkeit im unternehmerischen Handeln, in Produkten und Dienstleistungen. Wir leben Begeisterung, Vertrauen, Mut und Verantwortung, setzen uns aktiv für Inklusion ein und schaffen dadurch ein Umfeld, das die Individualität jedes Menschen im Unternehmensinteresse fördert.

Referenzcode: A-D-

Ihre Fragen beantwortet Helena Dengl unter der Telefonnummer