„Hat das wirklich eine KI geschrieben?“ – diese Frage stellen sich heute viele. Und die Antwort ist oft: Ja. Sprachmodelle wie ChatGPT, Gemini oder Claude beeindrucken mit ihrer Ausdrucksstärke. Doch hinter der Fassade steckt kein Denken, sondern Wahrscheinlichkeitsrechnung. Sie erkennen Muster, ohne zu verstehen – und gerade darin liegt ihre Stärke und Schwäche zugleich.
Grosse Sprachmodelle basieren auf neuronalen Netzen mit sogenannter Transformer-Architektur. Sie wurden mit Milliarden von Textfragmenten trainiert, um das nächste wahrscheinliche Wort vorherzusagen. Dabei kommen Mechanismen wie „Attention“ und „Softmax“ zum Einsatz. Menschliches Feedback (z. B. über RLHF) verbessert zwar die Qualität, kann aber auch Verzerrungen verstärken, wenn diese bereits in den Trainingsdaten vorhanden sind.
Ein Beispiel: Bei einem Experiment mit einer „manipulierten Münze“ zeigte sich, dass KI-Modelle anfänglich stark durch ihre voreingenommenen Daten beeinflusst sind. Erst wenn sie genügend konkrete Beispiele erhalten, können sie – ähnlich wie Menschen – ihre Annahmen korrigieren. Das Prinzip dahinter nennt sich bayes’sches Lernen. Entscheidend ist dabei nicht die Grösse des Modells oder der Algorithmus selbst, sondern die Qualität und Menge des Kontextes.
Trotz Fortschritten bleibt eine Herausforderung bestehen: KI „halluziniert“ – sie erfindet Fakten, die überzeugend klingen, aber falsch sind. Grund dafür ist, dass Sprachmodelle keine echte Verbindung zur Realität haben. Sie wissen nicht, was wahr oder falsch ist – sie berechnen nur Wahrscheinlichkeiten auf Basis ihrer Trainingsdaten. Studien (z. B. Xu et al., 2024) zeigen, dass Halluzinationen ein unvermeidbarer Nebeneffekt dieser Technologie sind.
Laut Marco Kovic umfasst kritisches Denken drei zentrale Fähigkeiten:
logische Fehler vermeiden
kognitive Verzerrungen erkennen
mit Wahrscheinlichkeiten statt Gewissheiten denken
Kritisches Denken ist also nicht nur Zweifel, sondern eine reflektierte, metakognitive Leistung – die Fähigkeit, das eigene Denken zu hinterfragen.
Aktuell: Nein. Sprachmodelle wirken zwar oft reflektiert, folgen aber lediglich erlernten Mustern. Ansätze wie „Chain-of-Thought“-Prompting (gedankliche Zwischenschritte erklären) oder probabilistische Methoden (z. B. Unsicherheiten kommunizieren) könnten hier zukünftig Fortschritte bringen. Ziel wäre, dass KI nicht nur antwortet, sondern auch reflektiert, wo sie sich irren könnte.
Eine Studie der Swiss Business School (Gerlich, 2025) zeigt: Häufige KI-Nutzung korreliert negativ mit kritischem Denken. Wer zu oft an Chatbots delegiert, verliert langfristig an kognitiver Eigenleistung. Die Ursache liegt nicht in der Technik selbst, sondern in ihrer unreflektierten Anwendung.
Aktive Einbindung: Lernende sollen KI-Antworten nicht nur konsumieren, sondern analysieren.
Strukturierte Aufgaben: Lernformate sollten Reflexion einfordern – z. B. Quellenkritik oder Perspektivwechsel.
Gemeinsames Nachdenken: Gruppendiskussionen helfen, logische Fehler und Verzerrungen aufzudecken.
KI ist kein Ersatz fürs Denken, sondern ein Werkzeug dafür. Richtig eingesetzt, kann sie zum Katalysator für Kreativität und kritisches Denken werden – aber nur, wenn wir ihr nicht blind vertrauen. Der Mensch bleibt das entscheidende Korrektiv.
