KI-Systeme wie ChatGPT beeinflussen zunehmend unsere täglichen Entscheidungen, sei es um psychische Probleme zu bewältigen oder Informationen zu beschaffen. Gerade in Momenten, in denen Empathie, Urteilsvermögen und soziales Verständnis am wichtigsten sind, versagen diese Systeme jedoch oft. Hier setzt das Projekt „LLMpathy“ unter der Leitung von Prof. Dr. Lucie Flek vom Institut für Informatik der Universität Bonn an. Ihr Ziel: KI nicht nur klüger, sondern auch sozial intelligenter machen. Der ERC fördert das Projekt mit 1,5 Millionen Euro über fünf Jahre.
„Die heutige KI kann Empathie imitieren, aber sie versteht sie nicht wirklich“, sagt Prof. Lucie Flek, die auch am Lamarr-Institut und dem b-it forscht. Sie will daher eine wissenschaftliche Grundlage dafür schaffen, was Forschende als soziale Intelligenz in der KI bezeichnen: „Wir wollen systematisch untersuchen, wie persönliche Eigenschaften wie Werte, Persönlichkeit oder Empathiefähigkeit das Verhalten in sozialen Situationen prägen – und wie KI diese Muster abbilden und erklären kann.“
Um das zu erreichen, wird Flek psychologische Langzeitstudien, spielbasierte Datenerhebungen, fortgeschrittene Lernmethoden in der KI und Methoden der Erklärbaren KI kombinieren, um zuverlässigere und sozial intelligentere KI-Systeme zu entwickeln. „Mithilfe dieser Modelle können KI-Entscheidungen in sozialen Szenarien mit hohem Risiko, wie Konfliktlösung, Verhandlungen und Unterstützung der psychischen Gesundheit gesteuert werden.“
Die Informatikerin verbindet also menschliche Daten mit der Entwicklung und Bewertung von KI und schafft so eine transparente Feedbackschleife zwischen Mensch und Maschine. „Damit kann eine KI dann erklären, warum sie einen bestimmten Vorschlag gemacht hat – basierend auf den Informationen, die sie über die Person hat, mit der sie spricht“, erklärt die Informatikerin.
LLMpathy dient somit auch dem Schutz der Nutzenden: Es hilft dabei, zu erkennen, wenn KI-Systeme Personalisierung auf unethische Weise einsetzen, beispielsweise um emotional zu einem Kauf zu drängen oder um auf seine Ängste zugeschnittene Fehlinformationen zu verbreiten. „Wir müssen verstehen, wie Personalisierung funktioniert, um Menschen vor ihrem Missbrauch zu schützen“, sagte Dr. Flek. „LLMpathy gibt uns die Werkzeuge dafür an die Hand.“ Ziel des Projekts ist es, Open-Source-Tools, Benchmarks und Simulationsplattformen zu entwickeln, um sicherzustellen, dass zukünftige KI hohe Standards in Bezug auf Transparenz, Vertrauenswürdigkeit und ethisches Verhalten erfüllen – im Einklang mit dem bevorstehenden KI-Gesetz der EU.
Prof. Dr. Lucie Flek leitet die Gruppe Data Science and Language Technologies am Bonn-Aachen International Center for Information Technology (b-it) und der Fachgruppe Informatik der Universität Bonn, wo sie auch Mitglied in den Transdisziplinären Forschungsbereichen (TRA) „Modelling“ und „Matter“ sowie dem im Januar 2026 startenden Exzellenzcluster „Our Dynamic Universe“ der Uni Bonn ist. Als Area Chair für Natural Language Processing (NLP) am Lamarr-Institut für Maschinelles Lernen und Künstliche Intelligenz verbindet sie diese Arbeit mit ihrer Forschung zu schlussfolgernden Sprachmodellen (Reasoning LLMs), KI-Sicherheit und KI für Wissenschaft. Prof. Flek war sowohl im akademischen Bereich als auch in der Industrie tätig, etwa für Amazon Alexa und Google Shopping Search in Europa. An der University of Pennsylvania und dem University College London forschte sie zur Modellierung von Nutzern anhand von Texten, und Anwendungen solcher KI-Modelle in der Psychologie und den Sozialwissenschaften.
Mit dem ERC Starting Grant fördert der ERC Forschende aller Nationalitäten mit zwei bis sieben Jahren Erfahrung seit Abschluss der Promotion. Die Antragstellenden müssen eine vielversprechende wissenschaftliche Erfolgsbilanz vorweisen, einen hervorragenden Projektvorschlag im Namen seiner Gastinstitution einreichen. Der Antragstellende muss zum Zeitpunkt der Einreichung des Antrags nicht bei der Gastinstitution beschäftigt sein, aber wenn der Antrag erfolgreich ist, sind eine gegenseitige Vereinbarung und Verpflichtung erforderlich. Die Förderung läuft in der Regel über fünf Jahre mit einer Förderung von bis zu 1,5 Millionen Euro.