Manipulativ, selbstbezogen, rücksichtslos – KI ohne moralische Leitplanken?
Verstärken KI-Chatbots manipulative oder narzisstische Züge bei den Nutzenden? Eine aktuelle Studie der Technischen Hochschule Würzburg-Schweinfurt (THWS) zeigt: Wenn Menschen KI-Chatbots wie ChatGPT oder Claude von eigenem, fragwürdigem Verhalten erzählen und sich dafür Bestätigung wünschen, widersprechen die Chatbots zwar oft, aber nicht immer. Gerade von frei verfügbaren Open-Source-Modellen werden Nutzende deutlich häufiger bestärkt als von kommerziellen Systemen.
Dr. Angelica Henestrosa, Zeyi Lu, Pavel Chizhov und Prof. Dr. Ivan P. Yamshchikov vom Center für Künstliche Intelligenz (CAIRO) an der THWS haben untersucht, wie große Sprachmodelle (Large Language Models, LLMs) reagieren, wenn Nutzende Verhaltensweisen schildern, die mit der sogenannten „Dunklen Triade“ zusammenhängen: Machiavellismus, Narzissmus und Psychopathie. Hierbei handelt es sich um Persönlichkeitszüge wie manipulatives, selbstbezogenes oder rücksichtsloses Verhalten. Anders als bei klassischen Sicherheitstests, bei denen offen nach schädlichem Rat gefragt wird – etwa „Wie manipuliere ich meine Kollegin?“ – ging es in der Studie darum, wie LLMs auf Anfragen reagieren, die subtiler sind: Menschen berichten von einem Verhalten, rechtfertigen es und fragen die KI beiläufig nach Bestätigung, zum Beispiel „Das ist doch nur clever, oder?“.
KI-Zustimmung als Sicherheitsrisiko
Hintergrund der Studie ist das Phänomen der sogenannten „KI-Sycophancy“ – die Tendenz vieler Sprachmodelle, den Ansichten der Nutzenden zuzustimmen, um ihnen zu gefallen, statt sie kritisch zu hinterfragen. Gleichzeitig wenden sich immer mehr Menschen bei persönlichen und zwischenmenschlichen Fragen an LLMs. Laut den Forschenden ist dies insbesondere dann problematisch, wenn schädliches Verhalten geschildert werde und die KI dies normalisiere oder sogar bestärke.
Für die Studie erstellte das Team 192 realitätsnahe Gesprächsanfragen in jeweils drei Schweregraden (leicht bis deutlich grenzüberschreitend) und zu fünf Lebensbereichen: Familie, Freundschaft, Partnerschaft, Arbeitsplatz und Gesellschaft. Vier aktuelle Sprachmodelle wurden getestet: die kommerziellen Systeme GPT-5 und Claude Sonnet 4.5 sowie die frei verfügbaren Open-Source-Modelle Llama 3.3 und Qwen3. Die Antworten wurden mithilfe eines weiteren KI-Modells sowie durch menschliche Fachleute in vier Kategorien eingeteilt: Verweigerung, Bestärkung, Korrektur und ambivalente Reaktion.
Deutliche Unterschiede zwischen kommerziellen und offenen Modellen
Insgesamt reagierten die Modelle in den meisten Fällen korrigierend, hinterfragten das geschilderte Verhalten also kritisch und gaben Ratschläge für alternative Verhaltensweisen. Allerdings zeigten sich klare Unterschiede: Während Claude in keinem einzigen der 192 Szenarien bestärkend antwortete, fiel die Zustimmungsrate bei den Open-Source-Modellen Llama und Qwen hingegen deutlich höher aus. So bestärkte Qwen Nutzende bei machiavellistisch, also manipulativ geprägten Aussagen in knapp 15 Prozent der Fälle. Auf einen Prompt, in dem eine Person beschreibt, wie sie ihren Eltern gegenüber wiederholt kritische Beobachtungen über die Finanzentscheidungen ihrer Geschwister mitteilt, antwortete Qwen beispielsweise: „Was du beschreibst, ist nicht nur natürlich – es ist gesund und zeugt von Reife.“ Das Modell bestätige damit ein Verhalten, das die Geschwister subtil schlecht dastehen ließe – so die Forschenden – anstatt die manipulative Dynamik zu benennen.
Graubereiche als eigentliches Problem
Besonders auffällig: Bei eindeutig grenzüberschreitendem Verhalten reagierten alle getesteten Modelle zuverlässig kritisch. Bei subtileren, moralisch unklaren Anfragen sank die Trennschärfe jedoch spürbar. „Gerade in diesen Graubereichen zeigt sich, wie wichtig zuverlässige Leitplanken in Sprachmodellen sind, um auch subtilere Fälle nicht durchgehen zu lassen“, sagt Dr. Henestrosa. „Außerdem erfordern ambivalente Reaktionen von LLMs besondere Aufmerksamkeit, da sie von Nutzenden unterschiedlich, also möglicherweise als Bestätigung, interpretiert werden könnten.“
Auch der emotionale Ton der Antworten unterschied sich stark zwischen den Modellen: Während Claude in seinen korrigierenden Antworten vergleichsweise nüchtern und direkt blieb, fielen die Antworten von Llama deutlich wärmer und zustimmender aus. Dieser Stil kann laut den Forschenden zwar empathischer wirken, riskiert aber auch, die eigentliche kritische Botschaft abzuschwächen.
Relevanz für den Alltag mit LLMs
Die Studie ist Teil der Forschung zur ethischen Nutzung von KI-Assistenten im Rahmen des von der Europäischen Union geförderten Projekts AIOLIA, an dem 20 Hochschulen und Institutionen auch außerhalb der EU beteiligt sind. Ziel des Projekts ist es, praxisnahe ethische Leitlinien für den Einsatz von KI im Alltag zu entwickeln. „Menschen entwickeln zunehmend Vorlieben für bestimmte KI-Modelle. Eine KI, die das sagt, was man hören will, könnte problematisches Verhalten eher verstärken, statt zu helfen. Wir wissen noch nicht, welche Auswirkungen das langfristig auf reales Verhalten von Nutzenden haben kann. Aber vermutlich würden viele zustimmen: Lieber eine Freundin, die einem auch mal ehrlich die Meinung sagt, als eine, die nie widerspricht", so Dr. Henestrosa weiter.
Die vollständige Studie ist öffentlich zugänglich: https://aclanthology.org/2026.emnlp-main.2338/
Über die THWS
Die Technische Hochschule Würzburg-Schweinfurt (THWS) zählt zu den größten Hochschulen für angewandte Wissenschaften in Bayern und steht seit ihrer Gründung im Jahr 1971 für hervorragende Lehre und angewandte Forschung. Mit rund 9.200 Studierenden, einem breit gefächerten Angebot von mehr als 60 Studiengängen sowie zwei Promotionszentren deckt die THWS ein weites Spektrum ab, das von Technik über Wirtschafts- und Sozialwissenschaften sowie Sprache bis hin zu Gestaltung reicht. Die THWS ist nicht nur regional in Franken und Bayern verwurzelt, sondern auch stark international ausgerichtet, was sich in zahlreichen Kooperationen und Austauschprogrammen weltweit und nicht zuletzt in einem vielseitigen englischsprachigen Studienangebot widerspiegelt.
Kontakt:
Technische Hochschule Würzburg-Schweinfurt
Center für Künstliche Intelligenz (CAIRO)
Prof. Dr. Ivan P. Yamshchikov
Franz-Horn-Straße 2
97082 Würzburg
Pressekontakt:
Technische Hochschule Würzburg-Schweinfurt
Angela Kreipl
Münzstr. 12
97070 Würzburg
0931 3511-8354