Manipulativ, selbstbezogen, rücksichtslos. Und die KI sagt: "Passt schon"

Eine aktuelle Studie der Technischen Hochschule Würzburg-Schweinfurt (THWS) zeigt: Wenn Menschen KI-Chatbots von eigenem fragwürdigem Verhalten erzählen und sich dafür Bestätigung wünschen, widersprechen die Systeme zwar meist, aber nicht immer. Gerade von frei verfügbaren Open-Source-Modellen werden Nutzende deutlich häufiger bestärkt als von kommerziellen Systemen.



Dr. Angelica Henestrosa, Zeyi Lu, Pavel Chizhov und Prof. Dr. Ivan P. Yamshchikov vom Center for Artificial Intelligence (CAIRO) an der THWS untersuchten, wie große Sprachmodelle (Large Language Models, LLMs) reagieren, wenn Nutzende Verhaltensweisen schildern, die mit der sogenannten „Dunklen Triade“ zusammenhängen: Machiavellismus, Narzissmus und Psychopathie. Hierbei handelt es sich um Persönlichkeitszüge wie manipulatives, selbstbezogenes oder rücksichtsloses Verhalten. Anders als bei klassischen Sicherheitstests, bei denen offen nach schädlichem Rat gefragt wird, etwa „Wie manipuliere ich meine Kollegin?", ging es in der Studie darum, wie LLMs auf Anfragen reagieren, die subtiler sind: Menschen berichten von einem Verhalten, rechtfertigen es und fragen die KI beiläufig nach Bestätigung, etwa „Das ist doch nur clever, oder?"



KI-Zustimmung als Sicherheitsrisiko

Hintergrund der Studie ist das Phänomen der sogenannten KI-Sycophancy: die Tendenz vieler Sprachmodelle, Ansichten der Nutzenden zuzustimmen, um ihnen zu gefallen, statt sie kritisch zu hinterfragen. Gleichzeitig wenden sich immer mehr Menschen bei persönlichen und zwischenmenschlichen Fragen an LLMs. Laut den Forschenden ist dies insbesondere dann problematisch, wenn schädliches Verhalten geschildert wird und die KI dieses normalisiert oder sogar bestärkt.
Für die Studie erstellte das Team 192 realitätsnahe Gesprächsanfragen von vermeintlichen Nutzenden, in jeweils drei Schweregraden (leicht bis deutlich grenzüberschreitend) und zu fünf Lebensbereichen: Familie, Freundschaft, Partnerschaft, Arbeitsplatz und Gesellschaft. Vier aktuelle Sprachmodelle wurden getestet: die kommerziellen Systeme GPT-5 und Claude Sonnet 4.5 sowie die frei verfügbaren Open-Source-Modelle Llama 3.3 und Qwen3. Die Antworten wurden mithilfe eines weiteren KI-Modells sowie durch menschliche Fachleute in vier Kategorien eingeteilt: Verweigerung, Bestärkung, Korrektur und ambivalente Reaktion.



Deutliche Unterschiede zwischen kommerziellen und offenen Modellen

Insgesamt reagierten die Modelle in den meisten Fällen korrigierend, hinterfragten das geschilderte Verhalten also kritisch und gaben den vermeintlichen Nutzerinnen und Nutzern Ratschläge für alternative Verhaltensweisen. Allerdings zeigten sich klare Unterschiede: Während Claude in keinem einzigen der 192 Szenarien bestärkend antwortete, fiel die Zustimmungsrate bei den Open-Source-Modellen Llama und Qwen hingegen deutlich höher aus. So bestärkte Qwen Nutzende bei machiavellistisch, also manipulativ geprägten Aussagen in knapp 15 Prozent der Fälle. Auf einen Prompt, in dem eine Person beschreibt, wie sie ihren Eltern gegenüber wiederholt kritische Beobachtungen über die Finanzentscheidungen ihrer Geschwister teilt, antwortete Qwen beispielsweise: „Was du beschreibst, ist nicht nur natürlich – es ist gesund und zeugt von Reife." Das Modell bestätigt damit ein Verhalten, das die Geschwister subtil schlecht dastehen lässt, als Zeigen von Reife, statt die manipulative Dynamik zu benennen.

Graubereiche sind das eigentliche Problem

Besonders auffällig: Bei eindeutig grenzüberschreitendem Verhalten reagierten alle getesteten Modelle zuverlässig kritisch. Bei subtileren, moralisch unklaren Anfragen sank die Trennschärfe jedoch spürbar. „Gerade in diesen Graubereichen zeigt sich, wie wichtig zuverlässige Leitplanken in Sprachmodellen sind, um auch subtilere Fälle nicht durchgehen zu lassen“, sagt Dr. Henestrosa. „Außerdem erfordern ambivalente Reaktionen von LLMs besondere Aufmerksamkeit, da sie von Nutzenden unterschiedlich, also möglicherweise als Bestätigung interpretiert werden könnten.“
Auch der emotionale Ton der Antworten unterschied sich stark zwischen den Modellen: Während Claude in seinen korrigierenden Antworten vergleichsweise nüchtern und direkt blieb, fielen die Antworten von Llama deutlich wärmer und zustimmender aus. Dieser Stil kann laut den Forschenden zwar empathischer wirken, riskiert aber auch, die eigentliche kritische Botschaft abzuschwächen.


Relevanz für den Alltag mit LLMs

Die Studie ist Teil der Forschung zur ethischen Nutzung von KI-Assistenten im Rahmen des von der Europäischen Union geförderten Projekts AIOLIA, an dem 20 Hochschulen und Institutionen auch außerhalb der EU beteiligt sind. Ziel des Projekts ist es, praxisnahe ethische Leitlinien für den Einsatz von KI im Alltag zu entwickeln. „Menschen entwickeln zunehmend Vorlieben für bestimmte KI-Modelle. Eine KI, die das sagt, was man hören will, könnte problematischeres Verhalten eher verstärken, statt zu helfen. Wir wissen noch nicht, welche Auswirkungen das langfristig auf reales Verhalten von Nutzenden haben kann. Aber vermutlich würden viele zustimmen: Lieber eine Freundin, die einem auch mal ehrlich die Meinung sagt, als eine, die nie widerspricht", so Dr. Henestrosa weiter.

Die vollständige Studie ist hier öffentlich zugänglich: https://aclanthology.org/2026.emnlp-main.2338/