Nutze ich die KI – oder nutzt sie mich?

Ich mag KI.

Das sollte ich vielleicht gleich am Anfang sagen, bevor jemand beim Lesen nervös wird und denkt: „Oh nein, jetzt kommt wieder einer von diesen KI-ist-böse-Artikeln.“ Nein. Kommt nicht.

Ich benutze KI. Ziemlich regelmäßig sogar. Für Recherche, zum Sortieren von Gedanken, beim Programmieren, für technische Probleme oder manchmal auch einfach, um mir einen zweiten Blick auf eine Idee zu holen.

Und genau deshalb beschäftigt mich inzwischen eine andere Frage:

Wer benutzt hier eigentlich wen?

Das Werkzeug soll helfen. Nicht übernehmen.

Für mich ist KI zunächst einmal ein Werkzeug. So wie ein Schraubenzieher. Nur komplizierter, gesprächiger und gelegentlich davon überzeugt, dass die gerade erfundene Schraube tatsächlich existiert.

Ich gebe der KI eine Aufgabe, sie liefert mir etwas zurück und dann schaue ich mir das Ergebnis an. Manchmal ist es gut, manchmal erstaunlich gut – und manchmal kompletter Blödsinn, der sich sprachlich so selbstbewusst präsentiert, dass man kurz darüber nachdenkt, ob vielleicht doch man selbst keine Ahnung hat.

Genau da liegt für mich der entscheidende Punkt: Ich muss noch beurteilen können, ob das Ergebnis stimmt.

Wenn ich diese Fähigkeit abgebe, wird aus einem Werkzeug langsam eine Krücke. Und wenn ich irgendwann nicht mehr weiß, warum etwas funktioniert, sondern nur noch weiß, dass die KI gesagt hat, dass es funktioniert, haben wir ein Problem.

Die gefährlichste KI ist vielleicht gar nicht die, die Fehler macht

Dass KI Fehler macht, ist inzwischen keine große Überraschung mehr. Sie erfindet Quellen, verwechselt Dinge und schreibt selbstbewusst Unsinn. Sie kann bei einer technischen Lösung fünf Absätze lang erklären, warum etwas funktioniert – und anschließend einen Befehl liefern, der genau das Gegenteil bewirkt.

Geschenkt. Das kann man lernen.

Das eigentliche Problem beginnt für mich da, wo Menschen anfangen, diese Fehler nicht mehr zu erwarten. Wenn eine KI meistens gute Antworten liefert, entsteht irgendwann ein ziemlich menschlicher Reflex:

Wird schon stimmen.

Und genau dieser Reflex ist gefährlich. Denn je besser die Antworten werden, desto weniger Anlass haben wir, sie zu überprüfen.

Das ist ein ziemlich unangenehmer Nebeneffekt von guter Technologie: Je zuverlässiger sie wirkt, desto eher schalten wir unseren eigenen Kontrollmechanismus ab.

Diesen Satz hört man inzwischen ziemlich häufig: Der Mensch bleibt selbstverständlich in der Verantwortung. Natürlich. Der Mensch sitzt ja noch davor.

Das Problem: Davor sitzen bedeutet noch lange nicht, dass man tatsächlich kontrolliert. Wenn mir eine KI zehn Vorschläge macht und ich bei neun davon sofort „Ja“ sage, weil sie bisher immer ganz brauchbar waren, dann bin ich irgendwann nicht mehr derjenige, der die Maschine kontrolliert. Ich bin derjenige, der ihre Ergebnisse abnickt.

Und das kann sogar schlimmer sein als ein offensichtlicher Fehler. Ein offensichtlicher Fehler fällt auf. Ein plausibler Fehler nicht.

Das gilt nicht nur für KI

Eigentlich ist das überhaupt kein neues Problem. Wir haben das nur inzwischen auf Steroide gesetzt.

Nehmen wir Navigation. Früher wusste ich ungefähr, wo ich hinfahre. Dann kam das Navi und sagte mir, wo ich abbiegen soll. Sehr praktisch. Irgendwann fährt man eine Strecke, die man seit zehn Jahren kennt, und stellt plötzlich fest: Keine Ahnung, welche Ausfahrt das eigentlich ist.

Das Navi weiß es. Ich nicht mehr.

Oder Autokorrektur. Oder Rechtschreibprüfung. Oder Taschenrechner. Oder Suchmaschinen. Alles tolle Werkzeuge. Aber jedes Werkzeug, das uns Arbeit abnimmt, nimmt uns unter Umständen auch ein kleines Stück Fähigkeit ab.

Das ist nicht automatisch schlecht. Ich möchte wirklich nicht wieder mit einem Stadtplan auf Papier durch Münster fahren müssen. Aber man sollte sich darüber im Klaren sein, was man gerade an ein Werkzeug delegiert.

Besonders spannend wird es bei Entscheidungen

Bei einer Rechtschreibprüfung ist mir das ziemlich egal. Wenn aus „Datenbank“ versehentlich „Datenbanker“ wird, geht die Welt nicht unter.

Bei einer Serverkonfiguration sieht die Sache schon anders aus. Bei finanziellen Entscheidungen sowieso. Und bei medizinischen Fragen erst recht.

Je größer die Konsequenz einer falschen Antwort, desto weniger darf die Antwort einfach deshalb richtig sein, weil sie überzeugend klingt.

Das ist für mich eine der wichtigsten Regeln beim Umgang mit KI: Je wichtiger die Entscheidung, desto weniger darf ich das Denken delegieren.

Die KI darf mir helfen, Optionen zeigen und Zusammenhänge erklären. Sie darf mich sogar auf Dinge aufmerksam machen, die ich selbst übersehen habe. Aber die Entscheidung bleibt bei mir.

KI als Sparringspartner finde ich viel interessanter

Genau deshalb nutze ich KI am liebsten nicht als Orakel.

Ich frage nicht: „Sag mir, was ich tun soll.“ Sondern eher: „Das ist mein Problem. Das ist mein Setup. Das sind meine Überlegungen. Was übersehe ich?“

Das ist ein kleiner, aber wichtiger Unterschied. Im ersten Fall gebe ich Verantwortung ab. Im zweiten Fall hole ich mir Unterstützung.

Und genau da sehe ich für mich den wirklichen Nutzen von KI. Sie kann ein ziemlich guter Sparringspartner sein. Sie kennt vielleicht eine Lösung, auf die ich nicht gekommen bin, kann meine Argumentation auseinandernehmen, Gegenargumente liefern und langweilige Fleißarbeit übernehmen. Und manchmal darf sie auch einfach eine verdammt gute Idee haben.

Aber danach bin immer noch ich dran.

Die Verantwortung kann man nicht wegprompten

Vielleicht ist das am Ende der wichtigste Punkt. KI nimmt uns Arbeit ab. Das ist gut. KI kann uns Zeit sparen. Noch besser. KI kann Dinge ermöglichen, für die man früher sehr viel Wissen oder Aufwand gebraucht hätte. Fantastisch.

Aber eine Sache kann sie uns nicht abnehmen: die Verantwortung dafür, was wir mit ihrem Ergebnis machen.

Man kann diese Verantwortung nicht wegprompten. Man kann sie nicht an ein Sprachmodell delegieren und auch nicht mit dem Satz „Die KI hat das so vorgeschlagen“ abschieben.

Das gilt übrigens nicht nur für denjenigen, der die KI benutzt. Es gilt genauso für Unternehmen, Entwickler und Anbieter, die KI in Prozesse einbauen und anschließend so tun, als sei das Ergebnis irgendwie vom Himmel gefallen.

Vielleicht ist das auch der Grund, warum mir digitale Souveränität so wichtig ist.

Für mich bedeutet digitale Souveränität nicht, jede neue Technologie abzulehnen. Im Gegenteil. Ich möchte die Technik nutzen, verstehen, was sie kann, ausprobieren, was damit möglich ist und möglichst selbst entscheiden können, wo, wie und wofür ich sie einsetze.

Bei KI bedeutet das für mich: Nutzen ja. Blind vertrauen nein.

Die Maschine darf schneller rechnen, mehr Text durchsuchen und mir Vorschläge machen. Sie darf mich sogar gelegentlich auf Dinge bringen, auf die ich selbst nicht gekommen wäre.

Aber den Kopf gebe ich dafür nicht an der Garderobe ab.

Denn wenn irgendwann die KI denkt und ich nur noch „OK“ klicke, dann haben wir vielleicht tatsächlich etwas automatisiert.

Nur leider nicht das, was wir eigentlich wollten.