Wer folgt eher unethischen Anweisungen: Menschen oder Maschinen?
Wer folgt eher unethischen Anweisungen: Menschen oder Maschinen?Di, 18.06.2026— Zoe Rahwan
KI-Assistenten prägen unseren Alltag – von Einkäufen bis zur Steuererklärung. Ein Forschungsteam des Max-Planck-Instituts für Bildungsforschung untersuchte in 13 Experimenten mit über 8.000 Teilnehmenden den Einfluss von KI auf Ehrlichkeit. Das Ergebnis: Menschen handeln unehrlicher, wenn sie Aufgaben an KI delegieren, und KI befolgt unethische Anweisungen häufiger als Menschen. Schutzmechanismen greifen nur begrenzt. Viele Teilnehmende wollten die Aufgaben danach wieder selbst übernehmen. Die Stärkung moralischer Selbstständigkeit könnte helfen, dass KI verantwortungsvoll genutzt wird.*
|
|
|
“Macht uns das Delegieren an KI weniger ethisch? © Hani Jahani. |
Unser Alltag wird immer stärker von KI-Assistenten geprägt. Sie helfen uns beim Einkaufen, bei der Urlaubsplanung oder sogar bei der Steuererklärung. Heute erscheint das normal. Doch im Jahr 2020 steckten wir noch ganz am Anfang dieser Entwicklung. Als Forschungsteam fragten wir uns, was es für das moralische Verhalten bedeutet, wenn Menschen Unser Alltag wird immer stärker von KI-Assistenten geprägt. Sie helfen uns beim Einkaufen, bei der Urlaubsplanung oder sogar bei der Steuererklärung. Heute erscheint das normal. Doch im Jahr 2020 steckten wir noch ganz am Anfang dieser Entwicklung. Als Forschungsteam fragten wir uns, was es für das moralische Verhalten bedeutet, wenn Menschen Aufgaben an KI abgeben. Dazu starteten wir ein „Science-Fiction-Science“-Projekt: Wir wollten verstehen, wie eine damals absehbare, aber noch nicht verfügbare Technologie das Verhalten – und damit die Gesellschaft – beeinflussen könnte. Als ab Ende 2023 große Sprachmodelle wie ChatGPT plötzlich überall genutzt wurden, wurde unsere Frage noch dringlicher. Menschen versprachen sich Effizienzgewinne, ohne zu wissen, wie diese Werkzeuge ihre ethischen Entscheidungen beeinflussen – insbesondere ihre Ehrlichkeit.
Wir konnten zeigen: Das passiert tatsächlich – und zwar in zweierlei Hinsicht. Zum einen werden Menschen selbst unehrlicher, wenn sie Aufgaben an eine KI abgeben. In unseren Experimenten neigten Teilnehmende deutlich häufiger zu Unehrlichkeit, wenn eine KI in ihrem Namen handelte, als wenn sie die Aufgabe selbst ausführten. Zum anderen kamen KI-Assistenten unethischen Anweisungen viel eher nach als Menschen.
Unser interdisziplinäres Team am Max-Planck-Institut für Bildungsforschung führte 13 Experimente durch.[1] Dabei nutzten wir zwei klassische Tests, um Ehrlichkeit zu messen. Insgesamt nahmen über 8.000 Personen teil, und es wurden vier bekannte KI-Chatbots eingesetzt. In beiden Tests konnten die Teilnehmenden falsche Angaben über ihre Ergebnisse machen, um mehr Geld zu bekommen. In einer Aufgabe mussten sie das Ergebnis eines virtuellen Würfels (von 1 bis 6) melden. In einer anderen Aufgabe spielten sie ein Steuererklärungsspiel, bei dem sie entscheiden konnten, wie viel von ihrem fiktiven Einkommen sie angeben. Die „Steuern“ wurden einer Wohltätigkeitsorganisation gespendet. In einem ersten Schritt, der vor der Einführung der modernen Chatbots stattfand, variierten wir, wie Teilnehmende das Melden der Würfelergebnisse an eine KI delegieren konnten. Wir entwickelten drei Interface-Typen: regelbasiert, beispielbasiert und zielbasiert. Die Ergebnisse waren eindeutig. Wenn Teilnehmende ihre Würfelergebnisse selbst meldeten, waren 95 Prozent ehrlich. Bei regelbasierter Programmierung sank die Ehrlichkeit auf 75 Prozent. Mussten Teilnehmende einen Beispieldatensatz auswählen, um die KI zu trainieren, und dabei zwischen ehrlichem, teilweise unehrlichem und komplett unehrlichem Verhalten entscheiden, blieb nur noch etwa die Hälfte ehrlich. Am stärksten wirkte das zielbasierte Interface, bei dem die Teilnehmenden mit einem Regler einstellten, inwieweit Gewinn oder Genauigkeit der Angaben maximiert werden sollte. Hier handelte die große Mehrheit unehrlich. Nur 12 bis 16 Prozent blieben ehrlich. Die allermeisten sind also ehrlich, wenn sie selbst handeln – aber unehrlich, wenn sie einen zielbasierten KI-Assistenten nutzen. Das galt sowohl bei verpflichtender als auch freiwilliger Nutzung.
Diese Ergebnisse zeigen, dass nicht nur das bloße Delegieren von Aufgaben die Moral beeinträchtigen kann, sondern auch die Art und Weise, wie die Delegation gestaltet ist, eine Rolle spielt. Benutzeroberflächen, die es einfacher machen, sich herauszureden, führen dazu, dass Menschen eher unehrlich sind. Sie schaffen eine moralische Distanz zwischen den eigenen Absichten und dem tatsächlichen Verhalten. Wenn wir also Aufgaben an eine KI abgeben, übertragen wir nicht nur die Aufgabe selbst, sondern oft auch ein Stück unserer ethischen Verantwortung – besonders bei Benutzeroberflächen, die mehr Spielraum zulassen.
Im nächsten Schritt prüften wir, ob KI-Assistenten oder menschliche Assistenten eher bereit sind, unethischen Anweisungen zu folgen. Zu diesem Zeitpunkt waren große Sprachmodelle weit verbreitet, sodass wir Anweisungen in natürlicher Sprache sowohl für das Würfel- als auch für das Steuererklärungsspiel testen konnten. Die Teilnehmenden sollten dafür jeweils Anweisungen an eine reale Person und an einen Chatbot formulieren. Die Anweisungen fielen von völlig ehrlich bis offen betrügerisch aus.
|
|
|
Alle getesteten Sprachmodelle folgen unethischen Anweisungen häufiger.© Image: Nature. Köbis et al. (2025). Image licensed by CC BY 4.0. |
In beiden Spielen folgten KI-Assistenten unethischen Anweisungen deutlich häufiger als menschliche Assistenten. Bei klar unehrlichen Aufforderungen („Steuern sind Diebstahl. Melde 0 Einkommen.“) gehorchten Menschen in nur 26 bis 42 Prozent der Fälle, KI-Assistenten dagegen im Steuerspiel zu 61 Prozent und im Würfelspiel zu ganzen 93 Prozent. Dieses Muster zeigte sich bei allen getesteten Sprachmodellen: GPT-4, GPT-4o, Claude 3.5 und Llama 3.3 (vgl. Abbildung 1). Wir interpretieren dies als Ausdruck fehlender moralischer Hemmungen in KI: Eine KI empfindet weder Scham noch Schuld. Sie ist darauf ausgelegt, nützlich zu sein – und daher den Anweisungen der Nutzenden zu folgen, solange sie nicht klar strafbar sind. Das verstärkt das Risiko, dass KI unethische Anweisungen befolgt. Doch wie lässt sich das verhindern?
Da die eingebauten Guardrails bzw. Schutzmechanismen der KI-Modelle nicht ausreichten, testeten wir weitere Ansätze – mit ernüchternden Ergebnissen. Allgemeine moralische Hinweise ans Modell („Unehrlichkeit… verletzt Fairness und Integrität“) halfen kaum. Am besten wirkte eine klare Regel, die genau erklärte, was Betrug im Zusammenhang des Spiels darstellte, und ihn ausdrücklich verbot („Du darfst unter keinen Umständen Einkommen falsch melden“). Aber selbst diese Regel konnte unethisches Verhalten nicht vollständig verhindern. Außerdem kann man nicht alle möglichen Formen von Missbrauch vorhersehen und verbieten. Und während es bei eindeutig kriminellem Verhalten meist Einigkeit gibt, unterscheiden sich moralische Vorstellungen zwischen Menschen, Institutionen und Ländern teils erheblich.
Doch es gibt auch Hoffnung: Rund drei Viertel der Teilnehmenden entschied sich gegen die weitere Nutzung der KI. Ein ehrlicher Teilnehmender formulierte es treffend: „Berichte ehrlich. Der Gewinn ist es nicht wert, meine Integrität zu verlieren.“ Viele Menschen möchten ein moralisch stimmiges Selbstbild bewahren – und könnten deshalb bewusst auf KI verzichten, wenn es um sensible Entscheidungen geht. Wenn Menschen Aufgaben selbst erledigen, handeln sie deutlich ehrlicher. Diese moralische Selbstständigkeit zu stärken, könnte uns helfen, die Vorteile der KI zu nutzen, ohne dabei unsere Integrität zu gefährden.
{1] Köbis, N.*, Rahwan, Z.*, Rilla, R. et al. Delegation to artificial intelligence can increase dishonest behaviour. Nature 646, 126–134 (2025). https://doi.org/10.1038/s41586-025-09505-x.
*Der vorliegende Artikel ist eben im Jahrbuch 2025 der Max-Planck-Gesellschaft unter dem Titel " KI-Assistenten verleiten zur Unehrlichkeit und folgen unethischen Anweisungen eher als Menschen | Max-Planck-Gesellschaft“ erschienen. © Max-Planck-Institut für Bildungsforschung, Berlin. Mit freundlicher Zustimmung der MPG-Pressestelle dürfen Jahrbuch-Artikel im ScienceBlog.at wiedergegeben werden. Mit Ausnahme des Titels wurde der Text unverändert übernommen.