Researcher Politische Verzerrung in NLP-Systemen

Zu den Forschungsaufgaben der ausgeschriebenen Stelle gehört die wissenschaftliche Untersuchung von Fragestellungen rund um Neutralität, Zuverlässigkeit und Vertrauenswürdigkeit moderner KI-Systeme, insbesondere von Large Language Models (LLMs), in politisch und gesellschaftlich sensiblen Anwendungsfeldern. Im Mittelpunkt steht die Entwicklung konzeptioneller und methodischer Grundlagen zur systematischen Bewertung potenzieller Verzerrungen in solchen Modellen. Die Arbeiten zielen darauf ab, geeignete Bewertungsansätze und übergreifende Kriterien zu erarbeiten, mit denen das Verhalten von LLMs in komplexen politischen Kontexten strukturiert analysiert und vergleichbar gemacht werden kann. Dabei sollen unterschiedliche Perspektiven aus Informatik, KI-Forschung sowie angrenzenden Disziplinen berücksichtigt werden, um fundierte und nachvollziehbare Einschätzungen zu ermöglichen.

Die Stelle hat einen Umfang von 70-80% und ist projektbezogen befristet.

Ihre Aufgaben

• Entwicklung von Algorithmen für Maschinelles Lernen (ML) und Künstliche Intelligenz (KI)
• Analyse, Bewertung und konzeptionelle Einordnung des Verhaltens moderner KI-Modelle, insbesondere im Hinblick auf politische Verzerrungen, in komplexen und sensiblen Anwendungskontexten
• Zusammenarbeit mit Forschungspartnern im Bereich der systematischen KI
• Mitarbeit bei der Durchführung nationaler und internationaler Forschungs- und Entwicklungsprojekte (BMBF, BMWK, EU, Industrie)

Unsere Anforderungen

• Überdurchschnittlicher Abschluss in Künstliche Intelligenz, Informatik, Data Science, Cognitive Science oder angelehnter Bereich (Master oder vergleichbar)
• Erfahrung in der Analyse und Bewertung von Bias, Fairness oder politischer Verzerrung in NLP-Systemen oder Large Language Models
• Erfahrung mit der Entwicklung von Evaluationsframeworks, Benchmarks oder Kriterienkatalogen für KI-Systeme sowie Erfahrung mit automatisierter Evaluationsmethoden
• Hervorragende Programmierkenntnisse
• Englischkenntnisse in Wort und Schrift (mind. Sprachniveaustufe B1)
• Teamfähigkeit und interdisziplinäres Denken

Was Sie erwarten können

• Eigenverantwortliches Arbeiten
• Mitarbeit in Forschungs- und Industrieprojekten
• Ein innovatives, agiles und professionelles Arbeitsumfeld sowie exzellente Ausstattung
• Flexible Arbeitszeitmodelle zur besseren Vereinbarkeit von Familie und Beruf
• Umfangreiche Fort- und Weiterbildungsmöglichkeiten
• Attraktive Angebote im Rahmen des Campus der TU Darmstadt, wie z.B. Weiterbildungen im Rahmen des Förderprogramms für Nachwuchswissenschaftler*innen Ingenium

Das Deutsche Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) wurde 1988 als gemeinnützige Public-Private-Partnership (PPP) gegründet. Das DFKI verbindet wissenschaftliche Spitzenleistung und wirtschaftsnahe Wertschöpfung mit gesellschaftlicher Wertschätzung. Das DFKI forscht seit über 35 Jahren an KI für den Menschen und orientiert sich an gesellschaftlicher Relevanz und wissenschaftlicher Exzellenz in den entscheidenden zukunftsorientierten Forschungs- und Anwendungsgebieten der Künstlichen Intelligenz. In der internationalen Wissenschaftswelt zählt das DFKI zu den wichtigsten „Centers of Excellence“.

Schwerbehinderte Bewerberinnen und Bewerber und Gleichgestellte werden bei gleicher Eignung besonders berücksichtigt. Das DFKI beabsichtigt, den Anteil von Frauen im Wissenschaftsbereich zu erhöhen und fordert deshalb Frauen ausdrücklich auf, sich zu bewerben.