Auch Maschinen irren: Warum KI Fehler macht und wie wir damit umgehen sollten

Menschen neigen dazu, künstlicher Intelligenz blind zu vertrauen. Doch Algorithmen werden nie perfekt sein. Man sollte sie als eine andere Intelligenzform betrachten, nicht besser und auch nicht schlechter. Das Anderssein der maschinellen Intelligenz ist ihr Mehrwert. Ein Kommentar.

von
5 Minuten
Mit großer Präzision konstruiert ein Roboter in dieser künstlerischen Darstellung den goldenen Schnitt. In Wirklichkeit macht KI aber durchaus Fehler.

Neulich unterhielt ich mich in einer Kneipenrunde über die vermeintliche Perfektion von künstlicher Intelligenz (KI). Mich überraschte die Wendung des Gesprächs. Nie war mir die Idee gekommen, dass es eine fehlerfreie KI geben könnte. KI hat vielleicht keine menschlichen Schwächen, sie wird am Steuer eines autonomen Fahrzeugs keinen Sekundenschlaf haben, und auch Konzentrationsschwäche durch Liebeskummer wird sie nicht betreffen. Aber sie hat andere Defizite, etwa die Unfähigkeit zwischen Fakt und Fiktion zu unterscheiden, wie es bei heutigen Sprachmodellen wie ChatGPT oder Gemini der Fall ist. Für die Kneipenrunde war eine perfekte KI jedoch eine diskussionswürdige Möglichkeit.

Menschen halten Computer für objektiver und daher für vertrauenswürdiger. Laut einer Umfrage von 2021 würde eine knappe Mehrheit der EU-Bürger lieber von einer KI regiert werden als von Politikern. In China – das mit seinem Sozialkreditsystem schon digitale Kontrolle einführt – sind es sogar drei Viertel der Bürger.

Nun ist eine regierende KI eher Sciencefiction. Aber wenn es um den Einsatz von KI in der Medizin geht, ist dieses „Übervertrauen“ in KI ein aktuelles Thema, auf das Ethiker mit großer Sorge schauen. Gerade im hektischen Klinikalltag bei Personalmangel ist es verlockend, einer KI zu ungeprüft zu glauben, dass Patient X wahrscheinlich eine Sepsis entwickeln wird, also Gegenmaßnahmen eingeleitet werden sollten, bei Patient Y dieses Risiko jedoch klein ist. Meistens mag die KI richtig liegen. Was aber, wenn nicht? „Wir beobachten, dass das Vertrauen in KI massiv ist und wir es eher begrenzen müssen“, sagt der KI-Ethiker Matthias Uhl von der Technischen Hochschule Ingolstadt.

Eine fehlerfreie KI wird es nie geben

Ich glaube, wir denken uns die KI perfekt, damit sie anders ist als wir. Irren ist menschlich. Eine irrende KI ist uns unheimlicher als eine, die alles richtig macht.