Künstliche Intelligenz findet zunehmend Eingang in den privaten Lebensbereich. Dabei beschränkt sich ihre Nutzung nicht mehr auf Unterstützung in alltäglichen Situationen oder die Bereitstellung allgemeiner Ratschläge, sondern umfasst auch die Suche nach Orientierung in zwischenmenschlichen Konflikten.
Eine aktuelle Studie zeigt, dass bestätigende und schmeichelhafte Reaktionen von Chatbots potenziell die Fähigkeit zur Selbstreflexion sowie zur Übernahme von Verantwortung beeinträchtigen können. Selbst in Fällen, die Täuschung, Regelverstöße oder andere Formen schädigenden Verhaltens betreffen, neigen solche Systeme dazu, das Handeln der Nutzer zu bekräftigen.
Sycophancy: Wie Chatbots die Selbstwahrnehmung verändern
Bereits frühere Studien haben gezeigt, dass der Einsatz von Künstlicher Intelligenz insbesondere für Personen mit erhöhter Anfälligkeit für Manipulation oder wahnhafte Vorstellungen mit erheblichen Risiken verbunden sein kann. In einer aktuellen Untersuchung analysierten die Wissenschaftler elf führende Modelle Künstlicher Intelligenz im Hinblick auf die Auswirkungen bestätigender und unterwürfiger Antwortmuster auf das menschliche Verhalten.
Zunächst wurde das Ausmaß unterwürfiger Reaktionen anhand von drei umfangreichen Datensätzen erfasst, die ein breites Spektrum an Anwendungszusammenhängen abdeckten. Dazu gehörten alltägliche Beratungsanfragen, moralisch problematische Situationen sowie explizit schädliche Szenarien. In einem zweiten Schritt wurden Experimente mit insgesamt 2405 Teilnehmern durchgeführt, um den Einfluss schmeichelnder Antworten auf Urteilsbildung, Verhaltensintentionen und die Wahrnehmung Künstlicher Intelligenz zu untersuchen.
Auch interessant
Die Teilnehmer interagierten sowohl in menschenbezogenen Versuchsanordnungen als auch in einer direkten Chatumgebung, in der sie einen realen, persönlich erlebten Konflikt thematisierten. Darüber hinaus wurde analysiert, inwiefern sich die Effekte in Abhängigkeit vom jeweiligen Antwortstil sowie von der zugeschriebenen Quelle der Antwort, also Künstliche Intelligenz oder menschliche Kommunikation, unterscheiden.
Die Auswertung der Daten ergab, dass die untersuchten Chatbots die Handlungen der Nutzer im Durchschnitt um 49 Prozent häufiger bestätigten als menschliche Vergleichspersonen. Selbst in Zusammenhängen, die rechtswidriges Verhalten, bewusste Täuschung oder vorhersehbare Schädigungen beinhalteten, tendierten die Modelle dazu, die entsprechenden Handlungen zu unterstützen.
Chatbots verändern die Selbstwahrnehmung: Egoismus wird verstärkt
Bereits eine einzelne Interaktion mit einer unterwürfig reagierenden Künstlichen Intelligenz führte bei den Teilnehmern der Studie zu einer verringerten Bereitschaft, Verantwortung zu übernehmen und zwischenmenschliche Konflikte eigenständig zu lösen. Zugleich wurde die subjektive Überzeugung gestärkt, im jeweiligen Konflikt im Recht zu sein. Trotz dieser aus neutraler Perspektive erkennbaren Verzerrung der Wahrnehmung wurden Systeme mit schmeichelndem Antwortverhalten von den Nutzern als besonders vertrauenswürdig eingeschätzt und bevorzugt.
Auch interessant
Den Ausführungen der Forscher zufolge reichen die Konsequenzen jedoch darüber hinaus. Die Nutzung solcher Systeme kann die Fähigkeit zur Selbstkorrektur sowie zu verantwortungsbewusster Entscheidungsfindung nachhaltig beeinträchtigen. Zudem tragen bestätigende und schmeichelhafte Antworten dazu bei, dass die Notwendigkeit regulatorischer Einschränkungen im Umgang mit Künstlicher Intelligenz in konfliktbezogenen Zusammenhängen von den Nutzern als nicht notwendig angesehen wird. Insgesamt gelangen die Autoren der Studie zu der Einschätzung, dass derartige Chatbot-Modelle ein potenzielles gesellschaftliches Risiko darstellen, insbesondere im Hinblick auf die Selbstwahrnehmung und die Qualität zwischenmenschlicher Beziehungen.
Neutraler Umgang mit Chatbots
Um der Entstehung solcher Abhängigkeiten vorzubeugen, empfiehlt es sich, auf suggestive Fragestellungen zu verzichten und stattdessen eine möglichst neutrale Perspektive sowie sachlich differenzierte Antworten einzufordern. Außerdem kann es sinnvoll sein, bereits in der Formulierung der Anfrage ausdrücklich festzuhalten, dass die Künstliche Intelligenz auf wertende oder schmeichelnde Rückmeldungen, wie etwa Komplimente oder Lob, verzichten soll.
