Wie KI unser kritisches Denken und Programmieren beeinflusst

Edi Othmani, Ingenieur bei Anthropic, warnt in einem öffentlichen Beitrag davor, zu viele geistige Aufgaben an künstliche Intelligenz auszulagern. Das könne kritische Denkfähigkeiten schrittweise abbauen. Die Gefahr liege seiner Ansicht nach nicht in den Werkzeugen selbst, sondern in der menschlichen Neigung, KI-Ausgaben ohne sorgfältige Prüfung zu akzeptieren.

Othmani schreibt, dass der breite Einsatz von KI-Agenten seinen Programmier-Workflow bereits verändert habe: Ein Großteil seiner täglichen Arbeit laufe inzwischen über diese Werkzeuge, wodurch weniger Gelegenheiten zum eigenständigen Problemlösen blieben. „Fähigkeiten, die man nicht mehr übt, verkümmern – vermutlich schneller, als man denkt“, schrieb er.

Kognitive Verschuldung beim Programmieren

Othmani lehnt den Einsatz von KI-Agenten in Programmierprojekten nicht grundsätzlich ab. Seine Sorge ist vielmehr, dass die Werkzeuge zwar hilfreich sein können, Entwickler jedoch weiterhin ihr Urteilsvermögen einsetzen und erzeugte Ergebnisse nicht als endgültig betrachten sollten. Die letztendliche Verantwortung bleibe beim Menschen. „Unabhängig davon, wie sehr die KI geholfen hat, sollte ein Mensch die Verantwortung für die Arbeit übernehmen.“

Er beschreibt den Prozess als eine Form kognitiver Verschuldung – ein schrittweises Abgleiten von sorgfältiger Prüfung. „Sie lesen die vorherige Antwort noch sorgfältig, also überfliegen Sie die nächste schneller. Sie prüfen die nächste Antwort nur noch anhand ihrer Gesamtstruktur. Dann fragt Sie jemand nach einer Codezeile, und Sie können sie nicht einmal mehr erklären – selbst mit Hilfe Ihres eigenen KI-Agenten ... Auf diese Weise häuft sich kognitive Verschuldung an“, schrieb er.

Praktische Leitplanken

Um diese Entwicklung zu vermeiden, empfiehlt Othmani mehrere konkrete Maßnahmen: Kernkompetenzen weiterhin üben, Ideen formulieren und konkretisieren, bevor man die KI um Hilfe bittet, erzeugten Inhalten genau Aufmerksamkeit schenken und sicherstellen, dass sich die Entscheidungen der Werkzeuge nachvollziehen lassen. Für ihn ist dies eine bewusste Entscheidung: Mit dem Fortschritt der KI könnten einige menschliche Fähigkeiten schwinden. Menschen sollten jedoch bewusst entscheiden, auf welche Fähigkeiten sie verzichten, statt sie passiv zu verlieren.