Cognitive Debt

Aus der Zusammenfassung:

• [...] Obwohl diese Werkzeuge beispiellose Möglichkeiten zur Verbesserung des Lernens und des Informationszugangs bieten, erfordert ihr potenzieller Einfluss auf die kognitive Entwicklung, das kritische Denken und die intellektuelle Unabhängigkeit eine sorgfältige Abwägung und weitere Forschung.
• Das LLM reduzierte unbestreitbar die Hürden bei der Beantwortung von Teilnehmerfragen im Vergleich zur Suchmaschine.
• Dieser Komfort hatte jedoch seinen Preis: Die Nutzer waren weniger geneigt, die Ergebnisse oder „Meinungen“ des LLM (wahrscheinlichkeitsbasierte Antworten basierend auf den Trainingsdatensätzen) kritisch zu hinterfragen.
• Dies verdeutlicht eine besorgniserregende Entwicklung des Echokammer-Effekts: Anstatt zu verschwinden, hat er sich angepasst und formt die Nutzererfahrung durch algorithmisch kuratierte Inhalte. Was als „Top“ eingestuft wird, hängt letztlich von den Prioritäten der LLM-Aktionäre ab.
• Im Hinblick auf ethische Überlegungen berichteten die Teilnehmer der Gruppe „Nur Gehirn“ von höherer Zufriedenheit und zeigten eine stärkere Vernetzung des Gehirns als die anderen Gruppen.
• Mithilfe von LLM verfasste Essays hatten für die Teilnehmer eine geringere Bedeutung oder einen geringeren Wert (beeinträchtigtes Zugehörigkeitsgefühl, Abbildung 8), da sie weniger Zeit mit dem Schreiben verbrachten (Abbildung 33) und meist kein Zitat aus ihren Essays angaben (Sitzung 1, Abbildung 6, Abbildung 7).
• Die Lehrkräfte erkannten die von den LLMs generierten Essays, da sie deren konventionelle Struktur und Homogenität innerhalb des jeweiligen Themas und der Gruppe erkannten.

Hypothese: Nicht die (zielgerichtete, reflektierte) Nutzung von KI im Grundsatz - sondern die unreflektierte, dauerhafte Nutzung der KI baut die Kognitive Schuld auf.

Diskutierte Ansätze:

• Skills first, then Tools: Zuerst sollen sich die Fähigkeiten entwickeln, dann Werkzeuge eingesetzt werden. - Das menschliche Verhalten ist wiederholt aber Paradox und fragt zuerst die KI bevor eigene Skills eingesetzt werden.