ChatGPT nutzen? Es könnte Sie DUMM machen: Gehirnscans zeigen, wie der Einsatz von KI die Fähigkeit zum kritischen Denken beeinträchtigt

Es ist ein Tool, das Millionen von Studenten auf der ganzen Welt täglich verwenden.

Wenn Sie jedoch regelmäßig ChatGPT nutzen, könnte eine neue Studie Ihre Alarmglocken läuten lassen.

Wissenschaftler des MIT Media Lab haben gewarnt, dass der Einsatz von KI Ihre Lern-, Denk- und Erinnerungsfähigkeit beeinträchtigen könnte.

In ihrer Studie maß das Team die elektrische Aktivität im Gehirn von 54 Studenten während mehrerer Aufsatzschreibsitzungen.

Eine Gruppe verwendete ChatGPT, eine andere Google und die letzte hatte überhaupt keine externe Hilfe.

Die Ergebnisse zeigten, dass Studierende, die zum Schreiben von Aufsätzen große Sprachmodelle (LLM) wieChatGPT verwendeten, ein schlechteres Gedächtnis, eine geringere Gehirnaktivität und ein schwächeres Engagement zeigten als diejenigen, die andere Methoden verwendeten.

„Da sich die pädagogischen Auswirkungen der Nutzung eines LLM in der Gesamtbevölkerung gerade erst bemerkbar machen, zeigen wir in dieser Studie auf der Grundlage der Ergebnisse unserer Studie das dringende Problem einer wahrscheinlichen Abnahme der Lernfähigkeiten auf“, erklärten die Forscher.

„Die Verwendung von LLM hatte einen messbaren Einfluss auf die Teilnehmer. Und obwohl die Vorteile zunächst offensichtlich waren, zeigten die Teilnehmer der LLM-Gruppe, wie wir im Laufe von vier Monaten nachweisen konnten, auf allen Ebenen (neuronal, sprachlich und beim Scoring) schlechtere Leistungen als ihre Gegenstücke in der Nur-Gehirn-Gruppe.“

In ihrer Studie wollte das Team die „kognitiven Kosten“ von LLMs wie ChatGPT verstehen.

„Da LLM-Produkte wie ChatGPT von OpenAI heute weit verbreitet sind, nutzen Menschen und Unternehmen LLMs täglich“, erklären sie in ihrer auf arXiv veröffentlichten Studie.

„Wie jedes andere Werkzeug hat es seine eigenen Vorteile und Einschränkungen.“

„Diese Studie konzentriert sich darauf, die kognitiven Kosten der Verwendung eines LLM im pädagogischen Kontext des Verfassens eines Essays herauszufinden.“

Die Teilnehmer wurden in drei Gruppen eingeteilt – ChatGPT, Google und Nur Gehirn – und gebeten, einen Aufsatz zu schreiben, während sie ein Elektroenzephalographie-Gerät (EEG) trugen, um ihre Gehirnaktivität aufzuzeichnen.

Die Ergebnisse zeigten, dass der Einsatz von KI „messbare Auswirkungen“ hatte, wobei die Teilnehmer einen „wahrscheinlichen Rückgang der Lernfähigkeiten“ aufwiesen.

Obwohl „die Vorteile zunächst offensichtlich waren“, schnitt diese Gruppe über einen Zeitraum von vier Monaten „auf allen Ebenen schlechter ab als ihre Gegenstücke in der Nur-Gehirn-Gruppe: neuronal, sprachlich, Punktevergabe“.

Gleichzeitig zeigten die Google-Nutzer ein „mäßiges Engagement“, und die Gruppe ohne externe Beteiligung zeigte mehr Gehirnaktivität und originellere Ideen in ihren Inhalten.

Wenn diese Schüler dann versuchten, ChatGPT zu verwenden, würde ihre Gehirnaktivität immer noch zunehmen.

Die Forscher vermuteten, dass dies daran lag, dass die Studenten versuchten, das neue Tool mit dem zu kombinieren, was sie bereits wussten.

Während die ChatGPT-Gruppe immer noch weniger Aktivität zeigte, selbst als sie die Aufgabe bekam, den Aufsatz selbst zu schreiben.

Mehr lesen

Die LLM-Benutzer konnten im Vergleich zur Suchmaschinengruppe Fragen mit „geringerer Reibung“ beantworten, gaben die Benutzer zu.

Sie sagten jedoch: „Dieser Komfort ging mit kognitiven Kosten einher, da die Neigung der Benutzer, die Ausgabe oder „Meinungen“ (probabilistische Antworten basierend auf den Trainingsdatensätzen) des LLM kritisch zu bewerten, abnahm.“

„Dies verdeutlicht eine besorgniserregende Entwicklung des „Echokammer“-Effekts: Anstatt zu verschwinden, hat er sich angepasst und beeinflusst nun die Benutzerpräsenz durch algorithmisch kuratierte Inhalte.

„Was als „Top“ eingestuft wird, wird letztendlich von den Prioritäten der LLM-Gesellschafter beeinflusst.“