Künstliche Intelligenz

Menschen vertrauen mehr dem Menschen als KI-Systemen

10.03.2022 - Wissenschaftler widerlegen die These von einem Vertrauensvorschuss in Technik als Ratgeber.

von Christina Rose

Wichtige Entscheidungen in unterschiedlichsten Kontexten wie zum Beispiel bei der Kreditvergabe oder medizinischen Befunden werden häufig erst nach Einbeziehung externer Expertise getroffen. Diese Expertise kommt oft von anderen KollegInnen, wird immer häufiger aber auch durch automatisierte Entscheidungsunterstützungssysteme bereitgestellt. Die WissenschaftlerInnen Tobias Rieger , Eileen Roesler und Prof. Dr. Dietrich Manzey vom Fachgebiet Arbeits-, Ingenieur- und Organisationspsychologie der TU Berlin   haben im Rahmen einer Serie von Online-Experimenten untersucht, inwiefern sich das Vertrauen in menschliche KollegInnen vom Vertrauen in technische Unterstützungssysteme unterscheidet. Die Ergebnisse dieser Experimentalreihe sind nun in der Fachzeitschrift 'Scientific Reports' unter dem Originaltitel 'Challenging presumed technological superiority when working with (artificial) colleagues' erschienen und zeigen überraschend klar auf, dass der Expertise menschlicher KollegInnen mehr Vertrauen entgegengebracht wird als künstlich intelligenten oder klassischen Entscheidungsunterstützungssystemen. Dieses Ergebnis zeigt sich über unterschiedlichste Kontexte hinweg.

Automatisierte Systeme erhalten immer mehr Einzug in das Arbeitsleben und den Alltag. Dabei reichen die Anwendungsbereiche von der Bewertung der privaten Kreditwürdigkeit bis hin zur Beurteilung medizinischer Fälle. Hierbei werden Tätigkeiten, die zuvor ausschließlich von Menschen durchgeführt wurden, zunehmend durch technische Systeme unterstützt oder sogar vollkommen übernommen. Sowohl für Mensch-Mensch-Teams als auch Mensch-Technologie-Teams stellt Vertrauen die zentrale Herausforderung für eine erfolgreiche Kooperation dar. Erkenntnisse früherer Studien legen nahe, dass das Vertrauen gegenüber Technologien sogar höher ist als gegenüber Menschen. Dies fußt auf der Annahme, dass technische Systeme unfehlbar sind.

Überlegenheit technischer Systeme widerlegt

Ausgehend von der Frage, ob diese Annahme auch für moderne künstlich intelligente Systeme gilt, haben die TU-WissenschaftlerInnen Experimente in unterschiedlichen Bereichen mit über 900 Personen durchgeführt. Entgegen der vermuteten Überlegenheit technischer Systeme, zeigten alle Studien ein höheres Vertrauen gegenüber menschlichen Interaktionspartnern. Die zeigte sich im Kontext der Kreditvergabe, der medizinischen Diagnostik und Bildverarbeitung in der Prozessindustrie. Insbesondere der letztgenannte Effekt ist umso überraschender als die technische Bildverarbeitung inzwischen den menschlichen Fähigkeiten mindestens gleichwertig, wenn nicht überlegen ist.

Neben der häufigeren Zusammenarbeit von Menschen und Technologien werden Menschen auch häufiger von technischen Systemen bewertet. Hier ergeben sich neue Herausforderungen. So macht es etwa einen Unterschied, ob man bei einer Bank arbeitet und hierbei Unterstützung erhält oder ob man bei der Bank einen Kredit beantragt und selbst von einer Entscheidung betroffen ist. Beide Situationen ergeben unterschiedliche Perspektiven für die Einschätzung des unterstützenden beziehungsweise beurteilenden Agenten. Hier waren die Ergebnisse überraschend für die WissenschaftlerInnen. Wenn die UntersuchungsteilnehmerInnen gefragt wurden, ob Entscheidungen, von denen sie selbst stark betroffen wären, lieber von einem technischen System oder einem Menschen getroffen werden sollten, präferierten sie durchgehend technische Systeme.

Die Studien zeigen insgesamt die Bedeutsamkeit, die Mensch-Technik-Interaktion nicht nur aus der Perspektive der beruflichen Kooperation zu denken, sondern auch zu berücksichtigen, dass Menschen zunehmend von Technologien beurteilt werden. Vor dem Hintergrund technologischen Fortschritts und sich stetig verbessernden Systemen bleibt eine der größten offenen Fragen, wie viel Vertrauen angemessen ist.

Ihr Guide im New Marketing Management - ab 6,23 im Monat!

Hat Ihnen diese Beitrag weiter geholfen? Dann holen Sie sich die ONEtoONE-Premium-Mitgliedschaft. Sie unterstützen damit die Arbeit der ONEtoONE-Redaktion. Sie erhalten Zugang zu allen Premium-Leistungen von ONEtoONE, zum Archiv und sechs mal im Jahr schicken wir Ihnen die aktuelle Ausgabe.

Mehr zum Thema:
Diskussion:

Vorträge zum Thema:

  • Bild: Nils Breitmann
    Nils Breitmann
    (Intershop Communications AG)

    Natürliche Sprache - die ultimative Customer Experience

    Die Art und Weise, wie Kunden einkaufen, hat sich über die Jahre ständig verändert: Vom statischen Papierkatalog über komplexe Webshops mit Kategorien und Filtern bis hin zur Suchfunktion als zentralem Zugangspunkt. Doch Studien zeigen: Der intuitivste Weg, ein Produkt zu finden, war schon immer das Gespräch.

    Mit KI-gestützten Copiloten und KI-Agenten wird genau das möglich - Kunden schildern einfach ihr Problem, und die beste Lösung wird ihnen direkt präsentiert. Aber wie funktioniert das in der Praxis? Und wie lassen sich solche Systeme in bestehende Commerce-Plattformen integrieren?

    In diesem Vortrag erfahren Sie:

    • Warum natürliche Sprache die Zukunft der Customer Experience bestimmt
    • Copilot vs. KI-Agent - was unterscheidet diese Konzepte und wann setzt man was ein?
    • Wie ein KI-Agent aufgebaut ist und welche Integrationsmöglichkeiten es gibt
    • Beispiele für den Einsatz in B2B-Commerce-Systemen

    Vortrag im Rahmen der Customer Experience 2025 am 02.04.25, 10:30 Uhr

Anzeige
www.hightext.de

HighText Verlag

Mischenrieder Weg 18
82234 Weßling

Tel.: +49 (0) 89-57 83 87-0
Fax: +49 (0) 89-57 83 87-99
E-Mail: info@onetoone.de
Web: www.hightext.de

Kooperationspartner des

Folgen Sie uns:



Besuchen Sie auch:

www.press1.de

www.ibusiness.de

www.neuhandeln.de