00:00:04: Ich muss den Kopf frei bekommen.

00:00:06: Wie oft sagen wir uns das?

00:00:08: Unser Gehirn ist überlastet, wir sind gestresst!

00:00:12: Ich brauche Abstand, muss abschalten durchatmen und das Gehirnen lüften.

00:00:17: Ja so dachten wir gestern noch als sie immer komplexer werden eine Welt mental überfordert hat.

00:00:24: Und jetzt kommen die künstliche Intelligenz und wir fluchen.

00:00:30: mein Gott

00:00:31: ChatGPT raubt uns den Hirnschmalz.

00:00:34: Wir verlernen das Lernen und verlieren das Wichtigste, das Denken und unsere Klugheit.

00:00:40: Rettet uns, rufen jetzt alle die Kinder zuerst!

00:00:43: Ist es nicht so, Piotra?

00:00:46: Ja, es ist so.

00:00:47: Du stellst es jetzt natürlich sehr dramatisch dar aber gewissermaßen hast du recht ja... Es gab praktisch so eine Phase der, ich würde mal sagen fast kognitiven Überlastungen.

00:00:58: Man sagt multiple Krisen und was weiß ich?

00:01:00: Und jetzt kommt plötzlich KI daher und übernimmt das Denken für uns!

00:01:04: Ja und damit herzlich willkommen beim FAZ Podcast Wissen.

00:01:09: Wir sind Piotre Heller und ich Joachim Müller-Jung.

00:01:12: wir sind beide Wissenschaftsredakteure in der Wissenschaftsredaktion der FHZ und FHS.

00:01:18: Ja, Pjötre!

00:01:19: So wie ich es verstehe hat deine Recherche für deinen Artikel in der FHS, der quasi Grundlage auch für diesen Podcast ist und für den ich hiermit auch werben will weil das ein sehr spannender Artikel ist zu dem Thema.

00:01:33: Der beginnt mit einer Beobachtung in den Schulen ja?

00:01:36: Ja genau also nicht meine Beobuchtung sondern von Timothy Cook, der hat mir von dieser Beobichtung erzählt Und der Mann ist Lehrer, er hat die Initiative Connected Classroom gegründet.

00:01:48: Die schaut sich so den Einfluss künstlicher Intelligenz auf das Bildungswesen an und da tauscht er sich natürlich mit vielen anderen Lehrern aus.

00:01:57: Er sagt dass sich jetzt irgendwas verschoben hat an Schulen.

00:02:01: Der hat das als Vergleich zu dem was früher war aufgemacht und früher konnte man Schülern noch eine Aufgabe geben.

00:02:08: Das kann zum Beispiel ein Text gewesen sein zudem sie sich Gedanken machen sollten Und dann kamen tatsächlich verschiedene Gedanken zurück.

00:02:16: Von den Schülern, man hatte eine Klasse, eine diverse Klasse und es waren auch diverse Gedanken.

00:02:22: Das ist jetzt nicht mehr so, sagt Timothy Cook.

00:02:25: Jeder Lehrer, mit dem er spricht – das waren seine Worte – jeder Lehrer, der sagt ihm plötzlich haben meine Schüler identische Ideen und identische Stichpunkte, mit denen sie da zu mir zurückkommen?

00:02:36: Na

00:02:36: klar!

00:02:37: Die Vermutung liegt ja auch nahe.

00:02:41: die Aufgabe quasi heute, ChatGPT zu nutzen.

00:02:45: Das ist ja eigentlich nicht neu?

00:02:47: Genau!

00:02:48: Eigentlich ist es nicht neu.

00:02:49: Schüler nutzen ChatGPD für ihre Hausaufgaben.

00:02:52: Es gibt auch jetzt seit ein paar Wochen eine neue Umfrage vom Think Tank Rant und der sagt, dass sie Hausaufgarb mit KI-Hilfe machen.

00:03:06: Und ich habe heute Morgen ChatGDP gefragt... Und ich habe die Antwort bekommen, in Deutschland.

00:03:12: Dreiundzwanzig Prozent!

00:03:13: Also die Amerikaner sind wieder ein Stückchen weiter Einvierteln in Deutschland.

00:03:18: Das sind allerdings wohl nur eine Umfrage und die Grundlage wurde nicht angegeben von Chat TPD.

00:03:23: Ah ja, siehst du?

00:03:24: Ich glaube das ist ne Bitkom-Umfrage weil die Zahl kommt mir bekannt vor und... ...das sind die dies meistens nutzen.

00:03:30: Also nicht die dies jemals mal genutzt haben.

00:03:32: also da ähm.. Ich glaube es sind auch in Deutschlands mehr wenn der so... Ich hab mich nämlich auch mal mit Schüler unterhalten.

00:03:37: Mir hat keiner gesagt ich nutze es nicht Aber es war natürlich keine große Umfrage.

00:03:41: Und gut, jetzt könnte man hier sagen okay das sind Schüler, man muss den einfach Aufgaben geben die sie nicht mit KI lösen können und das Problem ist erledigt.

00:03:49: aber das Ding ist jetzt und darum geht's ja auch in unserem Podcast Das isst kein Bildungsproblem Die Sache ist viel größer Denn hinter diesem hier klingt alles gleich verbirgt sich was man in der Schule hört, verbirgt sich praktisch ein größeres Problem.

00:04:05: Ich höre es auch von Wissenschaftlern die mir sagen dass Studien die sie gut achten sollen ähnlicher geworden sind.

00:04:11: ich hör's von Leuten die auf Link den aktiv sind die sagen was früher noch so besondere Stimmen waren.

00:04:16: die klingen jetzt alle relativ ähnlich.

00:04:19: also das heißt die Schulen sind ein Symptom dieses größeren Problems.

00:04:24: ja und das problem ist viele Menschen fragen bei jeder Kleinigkeit Gemini oder ChatGPT, bevor sie selbst nachdenken.

00:04:32: Man muss sich übrigens nur die Google-Suche anschauen.

00:04:35: Die wird ja heute ist ja auch so dass man nicht Ergebnisse bekommt den man selbst nachgehen soll sondern man bekommt bereits eine KI generierte Antwort.

00:04:42: also die Technologie die kommt praktisch dieser Art nicht zu denken entgegen.

00:04:47: viele Leute lesen keinen Zeitungsartikel mehr sondern lassen es sich zusammenfassen.

00:04:51: und jetzt einfach mal paar Zahlen jede siebte Biomedizinstudie, jede fünfte Kundenbeschwerde, jede vierte Pressementeilung von Unternehmen.

00:04:57: Es wird alles mittlerweile mit KI geschrieben und das sind auch wieder nur Zahlen wo man sagen kann mindestens.

00:05:03: Und der Gedanke ist jetzt wenn so viele Aufgaben für die man eigentlich denken muss an die Maschine abgegeben werden beeinflusst dann die Maschinen letztlich auch unser Denken schränkt sie es vielleicht sogar ein wie eben die Vielfalt der Hausaufgaben in den Schulen?

00:05:20: Ja und das ist in der Tat so ein Thema, dass ja auch bekannt ist, historisch quasi bekannt ist.

00:05:28: Wir müssen ganz groß denken wenn solche Neuerungen, solche neuen Technologien eingeführt werden.

00:05:34: wir haben das erlebt bei den Anfängen als das iPhone, als der iPod eingefürt wurde.

00:05:40: Wir haben es erlebt und das is ja historisch also auch verbürgt in Wikipedia und in JetGPT beim Buchdruck, fünfzehntes Jahrhundert der Buchdruk eingeführt.

00:05:50: Und dann sind soziale Ängste entstanden vorne und hinten.

00:05:54: Die Mönche haben Angst gehabt dass sie arbeitslos werden die Kirche hat Angst gehabt das sie die Kontrolle verliert und die Menschen ja die standen vor der Frage ob sie vielleicht überfordert werden Und darüber hat man ja öffentlich auch nachgedacht.

00:06:09: Darüber ist auch geschrieben worden, das habe ich verbürgt.

00:06:11: Also diese Ängste sind da und am Ende war es dann beim Buchstruck so bei fast allen anderen Technologien der Nutzen die Ökonomie war sie.

00:06:20: Der Nutzen hat gesehen.

00:06:21: Am Ende war doch ein Fortschritt im Sinne von Ja wir haben etwas davon und dafür muss man einen Preis bezahlen.

00:06:30: aber jetzt ist ja die Frage trotzdem.

00:06:33: bei der KI sind wir an einer Stelle.

00:06:38: mein Eindruck, dass wir in so eine Übergangsphase sind.

00:06:41: KI ist weit verbreitet und auf jedem Smartphone drauf.

00:06:46: Wir nutzen es oft auch unbemerkt.

00:06:48: Wir wissen allerdings oft nicht was es uns wirklich nutzt wie es gibt noch Hürden und auf der anderen Seite wissen wir nicht was das mit uns macht.

00:06:58: Und da frage ich mich natürlich wo ist die Evidenz?

00:07:01: Dass wir wirklich fürchten müssen?

00:07:04: Keine Nutzung.

00:07:05: Unsere Denken, unsere Intelligenz im beisten Sinne auch beeinträchtigt?

00:07:11: Ja genau oder beeinterechtigt dass sie oder verschiebt es nur unser Denken praktisch wie wir es bei anderen Technologien hatten und ich fange vielleicht erst mal damit an was wir wissen und das sind relativ wenige Studien aber langsam werden's mehr.

00:07:27: Wir werden in dieser Folge viele also ich werde viel Studien aufzählen die so ein bisschen die Punkte belegen sollen oder dieses Gefühl, was wir haben.

00:07:37: Das kann nicht so gut sein konkret machen, sondern wir werden die alle verlinken.

00:07:40: Es sind wirklich viele.

00:07:41: und eine, die dieses Gefühl praktisch oder die öffentliche Diskussion darüber geprägt hat das ist ne Studie vom MIT Media Lab.

00:07:51: Die kam jetzt letztes Jahr raus.

00:07:54: Und dass es eine Arbeit von Natalia Kosmina.

00:07:59: Die hat vierundfünfzig Studenten Aufsätze schreiben lassen.

00:08:03: Und diese Studenten hatten EEG-Kappen,

00:08:05: d.h.,

00:08:06: deren Hirnaktivität wurde über die Kopfhaut gemessen und ein Teil dieser Studenten hat eben die Aufsätzen mit KI Hilfe geschrieben und einen Teil ohne.

00:08:14: So das Ergebnis ist jetzt... ohne KI-Hilfe, die zeigten eine deutlich weitreichende Vernetzung zwischen verschiedenen Gehirnregionen als das in der ChatGPT Gruppe der Fall war.

00:08:26: Also da tatsächlich ... Die Vernetzung bei der Chat GPT Grupe war geringer.

00:08:30: Irgendwas hat sich im Hirn getan und außerdem die Teilnehmer, die keine KI nutzten, konnten sich hinterher besser an die Aufsätze erinnern, die sie geschrieben

00:08:40: haben.".

00:08:41: Ja und das heißt allerdings nicht offensichtlich so weit wie du es jetzt erzählst.

00:08:49: Das kann man ja nicht sagen.

00:08:50: Es hat das, was oft diskutiert wurde immer wieder seit EPSCGPT in der Welt ist quasi.

00:08:55: Genau!

00:08:55: Also heißt es dass es dumm macht?

00:08:58: Es heißt zumindest, dass es irgendwas mit unserem Denken macht.

00:09:01: und jetzt ist die Frage Was macht es mit unseren Denken?

00:09:04: Wir können uns eine andere Studie angucken.

00:09:06: Die kommt von Michael Gerlich Der arbeitet an der Swiss Business School Und die Studie zeigt, dass das was in unserem Gehirn passiert etwas mit kognitive Auslagerung zu tun haben könnte.

00:09:19: Der hat, äh, sechsmal in sechsundsechzig witzige Zahl Personen befragt.

00:09:23: die Befragung war jetzt nicht repräsentativ aber es waren zumindest viele Menschen.

00:09:27: und das Ergebnis ist wer KI besonders häufig nutzte der neigte eher zur kognitiven Auslaggerung.

00:09:35: Das heißt übrigens Kognitive aus Lagerungen dass man gewisse Denkprozesse an eine Technologie übergibt.

00:09:42: also was du eigentlich im Kopf gemacht hast das kann die das Merken von Dingen sein oder aber auch praktisch das Finden von Informationen, das Analysieren von Informationen.

00:09:51: Das ist kognitive Auslagerung.

00:09:52: also wir bilden es häufig GDP den Nutze neigte auch eher dazu und bei wem das der Fall war denn neigt auch dazu weniger kritisch zu denken in dieser Befragung also weniger Anzeichen für kritisches Denken.

00:10:06: Und jetzt muss man sagen, dass diese kognitive Auslagerung natürlich ein zweischneidiges Schwert ist.

00:10:10: Sie setzt Ressourcen im Kopf frei.

00:10:11: Vielleicht war es genau das was die MIT-Studie mit den EEG-Kappen, vielleicht war es das was sie beobachtet hat?

00:10:17: Vielleicht haben die Leute, die JetGPT benutzt haben mehr ressourcenfrei gehabt und Kopf konnten vielleicht kreativer schreiben.

00:10:23: Was weiß ich ja weil sie nicht an jedes alle Fakten ändern mussten!

00:10:26: Das ist gut.

00:10:28: wir nutzen die Technologie praktisch um unseren Kopf frei zu bekommen Taschenrechnersuchmaschinen.

00:10:33: Aber,

00:10:34: und das ist jetzt die andere Seite dieses zweisteiligen Schwert sozusagen.

00:10:39: Sie macht es auch schwerer etwas zu erlernen.

00:10:42: Da gibt's zwei andere Studien, die ich gerne erwähne Schüler aus der Türkei, die durften Mathe lernen mit KI Und beim Lernen waren sie tatsächlich effizienter.

00:10:50: im Sinne von.

00:10:51: Die konnten ihre Aufgaben schneller erledigen, die konnten schneller praktisch Erfolge erzielen indem sie etwas Angaben verstanden haben aber in Klausuren die die KI zum Lernen eingesetzt haben, schlechter ab.

00:11:07: Die haben also vielleicht das falsche ausgelagert, wer weiß?

00:11:09: Und dann gibt es noch eine andere Studie in der Programmierer eine neue Aufgabe erlernen sollten und das konnten sie auch, das konnten Sie schneller wenn sie dabei KI-Hilfe hatten.

00:11:22: aber Wenn sie dann diese Aufgabe umgesetzt haben, dass sich etwas programmiert haben mit dieser neuen Art zu programmieren, die sie gelernt haben, konnten sie den eigenen Code Schlechter verstehen, sie konnten schlechter nach Fehlern darin suchen.

00:11:36: Und es heißt also praktisch... Es findet eine kognitive Auslagerung statt die uns aber von dem Produkt des Denkens, also vom Programmiercode oder der Mathe-Ding, die ich gelernt habe.

00:11:47: davon entfernt sie uns.

00:11:49: und die Gefahren sind erstens Kinder lernen manche Fähigkeiten gar nicht erst.

00:11:53: das ist so wie wenn du im Grundstudientalschen Rechner gibst er wird wahrscheinlich nicht kauferechnen lernen und Erwachsene könnten gewisse Fähigkeiten auch verlernen.

00:12:02: Man sagt ja nicht umsonst use it or lose it, das ist praktisch so Hirnaktivität wenn man gewisse Teile des Gehirns nicht mehr beansprucht dann verliert man die.

00:12:12: Ja aber das sind im Prinzip und das wird sicher auch aufgefallen sein da sind Beobachtungen die du machst Die Selbstbeobachtungen sind, das sind Beobachtungsstudien.

00:12:24: Für mich erstmal im ersten Moment wird hier etwas beobachtet und das Spekulative hast du quasi auch schon angedeutet in deiner Rede.

00:12:32: gerade also vielleicht neigen wir einfach die weniger kritischen Menschen dazu der KI eher zu vertrauen oder eben auch bei den Schülern, die schlechthin Mathe sind.

00:12:41: Vielleicht brauchen sie auch diese KI-Hilfe?

00:12:44: Nutzen Sie und lernen dann auch dazu!

00:12:46: Also quasi das ist das was oben drauf kommt dass sie einen Add on haben.

00:12:51: und da ist natürlich schon die Frage nach den Kausalitäten mal berechtigt glaube ich.

00:12:55: also wie hängt das wirklich zusammen?

00:12:58: Ja und da sprichst du eigentlich den Punkt ab Das sind alles Korrelationen.

00:13:02: ja Du hast gesagt Kausalityten.

00:13:03: also es sind es sind Korrelations.

00:13:05: man sieht praktisch Wer KI nutzt, der neigt auch zu weniger kritischen Denken.

00:13:10: Was jetzt der Grund ist für das andere weiß man nicht und damit müssen wir aber erst mal leben.

00:13:17: also es gibt noch keine Studien die wirklich eine Kausalität gezeigt hätten, die gezeigt hätten Hallo!

00:13:24: Der hier nutzt KI und deswegen denkt er weniger.

00:13:27: und die zweite Schwäche wo du praktisch die Schwächen von diesen Studien ansprichst isst Wir haben überhaupt keine Langzeitdaten.

00:13:36: Dafür ist die Technik einfach... Also das liegt in der Natur der Dinge.

00:13:38: Die Technik ist zu neu!

00:13:40: Wir wissen jetzt nicht, was wird das denn jetzt mit dem Lernerfolg einer Generation machen?

00:13:46: Die das für die Hausaufgaben nutzt.

00:13:48: Welche Fähigkeiten werden sie sich nicht aneignen oder verlernen?

00:13:52: also wir haben keine Kausalitäten, wir haben eine Langzeitstudien und das ist auch der Grund warum es durchaus Experten gibt die sagen, dass das alles halb so wild ist.

00:14:03: Es kann schon sein, dass wir Dinge auslagern gedanklich zum Beispiel jetzt die Suche nach Informationen, die ja ohnehin schon zu großen Teilen an Google und so weiter ausgelagert sind.

00:14:13: Und dafür werden dann aber andere Fähigkeiten wichtiger, die wir dann besser können

00:14:18: z.B.,

00:14:19: das ist ein konkretes Beispiel der Überprüfung dieser Information.

00:14:22: Was wenn man eigentlich auch einen kognitiv höher gelagerte Funktionen ist.

00:14:28: Das reine Suche von Informationen ist nicht so eine hohe kognitive Leistung wie dann praktisch das Überprüfen auf die Plausibilität hin, da muss man es ja abgleichen mit Erfahrungswerten und anderen Informationen.

00:14:39: also das könnte praktisch wichtiger werden.

00:14:42: und das paradox hier ist dass die Technologie von der Versprechen, dass sie kritisches Denken auslagert oder schwächt, dass die im Endeffekt dazu führen könnte dass sie das kritische Denken wichtiger wird.

00:14:55: Und trotzdem bleibt natürlich der Eindruck, dass die KI in einer ganz bestimmten Weise genutzt wird.

00:15:02: Wir kennen ja auch das bei dem Google-Effekt diese Abfrage.

00:15:07: Man denkt nicht mehr nach sondern man googelt und irgendwann ist es auch zum Verb geworden, ist eingedeutscht quasi, man googlt und denkt nicht zuerst nach.

00:15:17: Der erste Impuls ist Was heißt das für mich?

00:15:21: Was bedeutet das, woher kommt das.

00:15:23: Was ist der Grund und so weiter?

00:15:24: Sondern man googelt.

00:15:26: Wenn man die KI so nutzt, dann kann ich das alles nachvollziehen.

00:15:29: Aber ... Ich denke ja, dass wir die KI eben nicht nur zur Beschaffung von Informationen nutzen.

00:15:36: Und dass eben der Mensch wirklich die Information auch tatsächlich prüfen sollte.

00:15:43: Genau!

00:15:44: Und passiert

00:15:44: das?!

00:15:45: Das ist jetzt die Frage.

00:15:46: Jetzt ist natürlich die Frage, wie wird KI genutzt?

00:15:48: Und da gibt es nicht wahnsinnig viele Daten aber es gibt zumindest eine Umfrage von Anthropic das ist die Firma Hinterclawd Die hat das bei Studenten gemacht und da hat sich tatsächlich gezeigt, die wenigstens nutzen KI Informationen zu prüfen.

00:16:03: also das waren jetzt fünf Prozent die es angegeben haben was eigentlich eine gute Nachricht ist weil es dann bedeutet okay entweder es bedeutet die Information wird gar nicht geprüft das ist natürlich schlecht.

00:16:13: Oder es könnte aber auch bedeuten, dass das noch eine Aufgabe die der Mensch selber macht.

00:16:16: Die er nicht in die KI auslagert was eigentlich gut ist also dass das kritisch denken noch stattfindet.

00:16:20: Aber vierzig Prozent der Befragten haben angegeben dass die KI nutzen, um Ideen zu entwickeln.

00:16:29: Also überhaupt erst mal auf eine Idee zu kommen!

00:16:31: Sie haben ne Aufgabe und fragen die KI wie soll ich diese Aufgabe lösen?

00:16:37: Sei es jetzt eine Programmieraufgabe oder eine Aufgabe im Studium also die Idee entwickeln, vierzig Prozent und dreißig Prozent benutzen sie um Ideens zu analysieren.

00:16:46: Es gibt eine Idee und die sondern kritisiert werden usw.. Das heißt also viele nutzen KI tatsächlich um diese höher gelagerten kognitiven Prozesse von der Maschine übernehmen zu lassen.

00:16:58: Ja und auch das ist ja wieder nichts Neues, weil das kennen wir natürlich alles!

00:17:02: Das ist ja... Wir nennen das Kreativität.

00:17:05: Das ist dieser Impuls, der natürlich durch die KI-Nutzung kommt.

00:17:08: Die Neugierde treibt uns, die KI zu nutzen, die die neugierig genug sind dafür Und sie finden auch plötzlich neue Potenziale bei sich selbst.

00:17:18: Ich glaube, das ist auch so.

00:17:19: Man sucht gar nicht direkt danach, sondern man fühlt sich inspiriert oder motiviert weiter nachzufragen.

00:17:28: Das ist die eine Sache.

00:17:29: und dann ist die andere Sache – die haben wir hin- und wieder in den Podcasts schon mal besprochen – Deaskilling!

00:17:35: Die Sache eben dass man sich auslagert, in dem Sinne, dass man gewissermaßen gewisse Denk-Inhalte, Denkprozesse und auch Gedächtnisinhalte quasi vergisst.

00:17:48: Und zwar ganz schnell vergisst unter Umständen.

00:17:51: Das kann fatale Folgen haben im medizinischen Bereich.

00:17:53: da wird das sehr intensiv diskutiert.

00:17:55: also ob ein Gastroenterologe die Polypen richtig erkennen kann wenn er eine Darmspiegelung macht und die dann auch entfernt vorbeugend entfernt bevor der Krebs kommt.

00:18:07: Die kann Lebensentscheidend sein, auch genauso beim Radiologen.

00:18:11: Da muss möglichst exakt diese Dinge erkennen.

00:18:14: wenn er sich komplett auf die KI auf die Algorithmen auch verlässt.

00:18:21: Und das, was die KI leistet und die leistete heute schon sehr viel nur dass sie leisteten nicht hundert Prozent dann ist er quasi in der Falle.

00:18:28: Dann fängt da nämlich an nicht mehr darüber nachzudenken Nicht mehr die Bilder genau sich anzugucken und zu sagen im Zweifel frag ich die KI Die KI wird es schon richtig machen.

00:18:38: Und ich glaube, das sind viele Fragen noch nicht geklärt.

00:18:40: Wir haben auch darüber schon mal gesprochen.

00:18:41: Haftungsfragen und sowas im medizinischen Bereich ist, glaube ich, noch gar nicht angesprochen.

00:18:45: Aber darüber sprechen wir heute gar nicht.

00:18:47: Die Frage ist eben tatsächlich ob wir nicht auch da so eine Art Prozess auslösen von dem wir heute nicht wissen wo es endet?

00:18:58: Genau, das ist eben der Punkt.

00:19:00: Ja man könnte natürlich sagen wir haben das bisher auch nicht gewusst als wenn den Taschenrechner eingeführt haben oder die Suchmaschine.

00:19:05: da gab es ja auch diese.

00:19:06: bei Google gab's hier auch praktisch diese Sorge der digitalen Demenz.

00:19:10: dass man das praktisch die Erinnerungsfähigkeit verkümmert glaubst du bei der Schrift aber auch genauso.

00:19:15: das haste er erwähnt.

00:19:16: Im Navigieren mit dem Auto?

00:19:18: Ist es genau so?

00:19:19: Genau

00:19:19: beim Navigierenden im Auto gibt dann eine Hähnregion besser beschreiben können als ich, die dann praktisch verkümmert.

00:19:27: Die eben für das Navigieren wichtig

00:19:28: ist.".

00:19:39: dass sich das einprägt, der trainiert auch sein Gehirn in dem Sinne, dass er tatsächlich die Verschaltungen verändert.

00:19:58: Verdichtet Neuroplastizität – wer hier das Stichwort?

00:20:02: Wir haben diese Neuro-Plastizität!

00:20:04: Die kann es um Aufbau von Hirnmasse führen.

00:20:06: sie kann aber eben auch und das meine ich muss man neurologisch in Betracht sind.

00:20:10: Sie können eben auch zum Gegenteil führen.

00:20:11: Das ist das was wenn man verlernt Wenn man etwas nicht mehr tut auch denn die Motivation hat etwas sich nicht mehr zu merken.

00:20:21: Motivations haben wir in der Lernpsychologie und in der Kognitionswissenschaften gelernt, MotivATION ist ein ganz wichtiges Element des Lernens überhaupt!

00:20:32: Die Sache dass man Dinge wiederholen muss ungut zu lernen das die Erfahrung macht jeder Schüler schon.

00:20:37: Man muss sie immer wiederholend.

00:20:39: Die Motivacion dazu ist entscheidend es immer wieder zu tun.

00:20:45: Da sind auch Verschaltungen im Gehirn, ja wichtig.

00:20:48: Das ist elementar und die Frage ist halt ob so ein Fleckma eintritt.

00:20:58: Diese mentale Faulheit, die dann entsteht wenn man nicht mehr gefordert wird, wenn die Motivation auch nicht mehr da ist.

00:21:05: Und jetzt ist natürlich die Frage wo entsteht das?

00:21:07: Weil ich meine... Sind das denn jetzt wichtige Dinge, die ich da auslagere?

00:21:13: Sind das jetzt wichtige Dingen zu denen ich nicht mehr motiviert bin?

00:21:15: und der Gedanke den mich eigentlich ganz interessant fand.

00:21:19: Der kommt von Shiva Surathi.

00:21:23: Das ist ein Informatiker von University of Southern California.

00:21:26: Da hat dazu jetzt die Woche einen Kommentar geschrieben, den verlinken wir natürlich auch Und er sagt Das Problem ist jetzt eben, welche Dinge wir auslagern.

00:21:38: Für welche Dinge wird keine Motivation mehr haben?

00:21:40: Was wir bei bisherigen Technologien hatten, sei es die Suchmaschine oder die Schrift des Buchs – das waren Sachen, die uns dabei geholfen und die Fähigkeit ausgelagert haben, Informationen zu speichern und wiederzufinden.

00:21:58: Das sind die zwei Dinge.

00:21:59: Könnte man mehr oder weniger auch etwas Navigationssystem sagen Ortsinformationen usw.

00:22:04: Also das ist alles das.

00:22:05: und die KI ist jetzt eben anders, der beschreibt sie als Mitdenker, der sich am Schreiben- und an der Problemlösung beteiligt.

00:22:13: Das heißt es ist nicht nur Informationsbeschaffung, ich kann mich daran nicht erinnern oder ich weiß nicht woher ich diese Informationen bekomme, der Schritt, ich habe jetzt alle Informationen und will jetzt einen Gedanken dazu fassen.

00:22:27: Und das ist die erste Technologie, die praktisch direkt dabei hilft – die direkt da eingreift!

00:22:34: Nicht nur irgendwie sondern sie greift durch den sogenannten Anka-Effekt besonders stark ein.

00:22:38: Der Anka Effekt ist….

00:22:40: Die erste Information, die du hast leitet praktisch deine Perspektive und ein weiteres Denken.

00:22:46: Das ist in der Psychologie ganz gut beschrieben.

00:22:48: Jetzt ist aber die erste Information, die man hat meistens eine Antwort der KI.

00:22:51: Das heißt, man wird praktisch in seinem Denken von der KI-Antwort gelenkt.

00:22:56: und das ist jetzt nicht nur eine Vermutung, da gibt es noch ne zweite Studie von Michael Gerlich, in der genau das gezeigt hat wer die KI nutzen darf um schon mal eine Idee zu entwickeln, grob von irgendetwas.

00:23:06: dann ist das meistens auch der Startpunkt für alle weiteren Gedanken, ohne dass sich die Leute dessen bewusst sind.

00:23:11: Also die denken, sie können sich davon frei machen aber das ist nicht so.

00:23:14: Und jetzt sind wir an einem Punkt, der mich ganz besonders fasziniert hat – auch an deinem Artikel eben!

00:23:18: Die Frage der Homogenisierung also der Gleichmacherei.

00:23:24: denn wir sind jetzt bei den Inhalten der KI.

00:23:26: Wir fragen Sie etwas und beschäftigen die KI und antwortet schöpft aus einem riesigen Arsenal an Wissen, an Informationen.

00:23:36: Uns schüttet es aus.

00:23:37: aber wenn wir die gleiche Frage an die KI stellen dann kommen ja ziemlich ähnliche Antworten müssen ja auch herauskommen weil dieser Wissensinformationsbestand natürlich nicht unendlich beliebig ist sondern er greift schon auf statistischen Gründen ganz bestimmte Antworten zurück.

00:23:56: Wir bekommen also alle die gleichen Antworten quasi jetzt mal extrapoliert.

00:23:59: Wir bekommen alle die gleichen.

00:24:01: Anders heißt doch, dass dann wie soll ich sagen Stichwort Großdenken da muss man an die Demokratie denken.

00:24:08: Da muss man ein Meinungsvielfalt denken.

00:24:10: diese Diskussion glaube ich die geht noch viel weiter als sie.

00:24:14: nur nach der Frage der werden wir dumm.

00:24:17: Sondern können wir uns das leisten, diese Gleichmacherei?

00:24:23: Wenn Wissensbestände uniformiert werden.

00:24:26: Wenn quasi auch monopolisiert werden und wenn wenige Anbieter zur Verfügung stehen, können wir es uns leisten.

00:24:35: Und was bedeutet das für die Gesellschaft, für die Vielfalt, auch für die Kreativität der Gesellschaft?

00:24:41: vielleicht ein Problem, dass wir noch nicht besprochen haben.

00:24:44: Absolut!

00:24:44: Also da sehe ich auch das Problem.

00:24:46: Das ist jetzt praktisch der Punkt wo wir weggehen von dem Einzelnen was es für den Einzelne macht und praktisch gucken.

00:24:52: was passiert mit einer Summe von Menschen die eben alle einen Teil ihres Denkens an die KI auslagern oder auch hier denken?

00:24:59: Und nun um das mal technisch zu erklären warum ist es denn eigentlich so, dass die Antworten so ähnlich sind?

00:25:05: KI diese Sprachmodelle die funktionieren indem sie Sprache gemeistert haben über statistische Zusammenhänge innerhalb von dieser Sprache.

00:25:14: Also die haben aus ganz vielen Daten gelernt, welches Wort wahrscheinlich auf einen Satz folgt oder auf einen längeren Text.

00:25:21: Das sind statistische zusammenhänge... Ich will das gar nicht kleinreden!

00:25:25: Das sind natürlich tolle Sachen, die man damit machen kann und Forscher sind immer noch überrascht wie viel praktisch Fähigkeiten in diese Vervollständigung von Texten steckt.

00:25:35: aber das bedeutet auch Das ist so eine Art, dass so Mainstream stimmen.

00:25:41: Die Art zu reden wie die meisten Reden.

00:25:44: Die art der Gedanken, die die meisten denken das praktisch auch Vorgang hat in diesen Antworten.

00:25:49: Das ist diese Hormogenisierung.

00:25:50: Es ist eine Hormogangenisierung hin zur Art Durchschnitt der Gesellschaft.

00:25:56: Das bedeutet aber auch, dass gerade das was ja in einer Gesellschaft auch wertvoll ist und was wir in der Demokratie schützen wollen Außenseiterstimmen, Meinungen die eben nicht dazu passen dass sie weggebügelt werden.

00:26:10: und ich kann ein ganz konkretes Beispiel bringen.

00:26:12: Es gibt Studien die zeigen das wenn du einer KI sagst so jetzt nimm mal die Perspektive von dieser Randgruppe an von einer blinden Person zum Beispiel ja Und dann schreibt die praktisch aus dieser Perspektiv.

00:26:26: aber wenn man sich diese Antworten genau anguckt Dann ist es nicht Die perspektive der blinden aus der sie schreibt sondern die Perspective der Gesellschaft, die diese Gesellschaft auf die Blinden hat.

00:26:39: Also das schreibt praktisch, dass internalisiert sozusagen eine Außenperspektive.

00:26:45: Das kann keine Stimmen imitieren, die am Rand sind, sondern nur praktisch das Klischee oder die Meinung der großen Gesellschaft von diesen kleinen Stimmen.

00:26:53: Weil sie auch nicht betroffen ist?

00:26:55: Weil eine Karriere natürlich nicht blind ist und den Zustand gar nicht kennt.

00:26:58: Genau!

00:26:58: Ist nicht betroffene... Gut, die kennt auch nicht den Zustands im Mainstream zu sein, weil sie ja gar keinen Zustand kennt.

00:27:04: Aber den hat sie zumindest statistisch, kann sie denen lesen, weil es eben so viele Stimmen gibt.

00:27:10: und jetzt ganz konkret um mal auf die Kreativität zu kommen da gibt's zwei Studien einen in Scientific Reports Da sollten jetzt Leute praktisch Aufsätze schreiben kurz Geschichten Und Die KI war kreativer also durften auch eine KI benutzen und ein anderer Teil nicht.

00:27:27: Die KI war kreativer als der Durchschnittsmensch.

00:27:29: praktisch, der keine KI benutzt hat.

00:27:33: Aber nicht so kreativ

00:27:34: wie

00:27:35: die ganz besonders kreativen.

00:27:36: also wir nehmen uns praktisch die besonderen Stimmen dadurch.

00:27:40: und eine andere Sache ist dass das auch in den Science Advances eine ganz ähnliche Studie und da wurde auch gezeigt ja tatsächlich die KI ist aus Werkzeug.

00:27:48: gut sie macht den einzelnen macht die Kreativa.

00:27:51: aber wenn wir uns die Antworten der KI die Kurzgeschichten die die KI geschrieben hat.

00:27:57: In Summe angucken, sind sie sich ähnlicher als Geschichten die nur Menschen alleine geschrieben haben?

00:28:04: Und das heißt aber dann doch wir müssen bei der KI ja dann genau nachfragen wo sind eigentlich die Lücken in der KI?

00:28:10: also nehmen wir mal die ganze.

00:28:12: ich habe es jetzt angesprochen emotionalität.

00:28:14: die emotionalität ist etwas dass die KI beschreiben kann.

00:28:19: sie kann darüber sprechen sie kann informieren aber sie kann sie nicht fühlen So wenig, wie sie denken kann.

00:28:25: Das sind sich auch die KI-Forscher wahrscheinlich immer noch einig.

00:28:28: Sie können nicht denken.

00:28:29: Es gibt einen, der damit nicht einverstanden ist, Markus Gabriel von der Philosoph.

00:28:33: Er sagt inzwischen, können Sie besser denken als die Menschen?

00:28:36: Aber er ist Philosoph und kann das jetzt so deuten, dass er ihm auch so gegönnt ist, das so zu denken.

00:28:42: Der Punkt ist aber ... Die Frage ist ja... Wir reden hier an einer Stelle und zu einem Zeitpunkt, wenn wir noch keine ... Na ja, wie soll ich sagen!

00:28:52: Langzeitenformation haben.

00:28:54: Das ist ja das, was für solche Entwicklungen die eine Wende einleiten ganz wichtig ist.

00:29:02: Wir können darüber spekulieren wie das wird.

00:29:06: wissen es nicht diese Langzeitstudien?

00:29:10: gibt es da Informationen?

00:29:11: weißt du was darüber?

00:29:12: laufen diese Langzeitsstudien?

00:29:13: Gibt es Langzeitzudien und gibt es Ansätze um herauszufinden welche Risiken wir tatsächlich auch da unter Umständen begegnen.

00:29:23: Ja, genau das Ding ist wenn die Ergebnisse voll liegen wird es vielleicht schon zu spät sein.

00:29:28: ja wir werden praktisch eine Schülergeneration haben die sich zu sehr darauf verlassen hat.

00:29:32: deswegen glaube ich natürlich man muss es beobachten.

00:29:35: aber das ist jetzt auch bei Social Media mittlerweile so eine Debatte.

00:29:40: Wir haben eine starke Vermutung dass es etwas verändert.

00:29:45: Wir haben eine starke Vermutung, dass es negativ ist.

00:29:47: und bevor wir jetzt eindeutig belegt haben.

00:29:50: Ja tatsächlich die KI ist Schuld oder Social Media sollten wir jetzt schon mal Maßnahmen prüfen, die den praktisch entgegenwirken.

00:29:58: Und ich glaube bei KI sollten wir das ganz genauso tun.

00:30:01: Da gibt's auch eine Studie von Michael Gerlich, den ich erwähnt habe.

00:30:03: Das ist eine andere Studie.

00:30:05: da hat er ja eine andere Nutzung von KI den Leuten auferlegt, die so sollten Aufgaben lösen.

00:30:10: Mussten erst denken und durften dann erst die KI praktisch um Hilfe fragen bei der Ausarbeitung.

00:30:14: und siehe da diese ganzen negative Effekte Ankei-Effekt, Beeinflussungen des kritischen Denkens.

00:30:19: Die hat er dann plötzlich nicht mehr gesehen.

00:30:21: ja also der Gedanke stand am Anfang, der menschliche Gedankelstand am Anfang und das hinterher wurde die KI dazu geschaltet.

00:30:27: Das ist eben so eine Sache.

00:30:29: man kann jetzt auch nicht ne universelle Anleitung geben.

00:30:32: es kommt glaube ich stark auf die Aufgabe an.

00:30:35: Ich habe ja am Anfang den Timothy Cook erwähnt Der Lehrer, der das beobachtet und er lässt seine Schule auch KI nutzen.

00:30:43: Warum ich sage?

00:30:44: Das kommt auf die Aufgabe an in einem bestimmten Kontext aber nur wenn sie jetzt zum Beispiel Multiplikation lernen sollen.

00:30:51: Und dann wollen die einen Spiel entwickeln ein Computerspiel dass einem Multipliktion beibringt und da dürfen sie praktisch KI-Hilfe verwenden.

00:30:58: Jetzt wobei genau er sagt, der sperrt ihn dann in einen Raum und die müssen sich über dieses Spiel unterhalten.

00:31:04: diese Unterhaltung wird protokolliert also KI ist noch gar nicht im Spiel.

00:31:08: Die Idee praktisch, was es wichtig bei Multiplikation und so weiter kommt von den Schülern.

00:31:15: Aufgabenspezifische heißt aber auch das sind jetzt keine Programmierer diese Schüler die lernen jetzt nicht programmieren.

00:31:20: Das heisst der nimmt dann praktisch die Transkripte dieser Unterhaltung.

00:31:23: der Schüler gibt sie einer KI sagt ihr Stellen noch mal ein paar kritische Fragen zu dem Konzept.

00:31:29: Das müssen die Schüler auch wieder beantworten und dann heißt es, programmier das Ding.

00:31:34: Und am Ende kommt ein interessantes Spiel raus was die Schüler spielen können, was sie gewissermaßen kreiert haben.

00:31:39: aber die eigentliche Denkaufgabe – und mit KI-Hilfe kreierten wir gewissermassen – war eben nicht ausgelagert.

00:31:46: Die ist bei den Schülern geblieben.

00:31:48: Wir sind ja alle gewiss, in manchen Fällen sind wir alle Schüler.

00:31:51: Wir sind hier alle Menschen die praktisch dann so etwas erschaffen wollen und ich finde da muss sich jeder eben fragen was ist hier jetzt bei dem was ich mache?

00:31:59: Sei es ich muss einen Aufsatz schreiben, ich muss keine Ahnung Artikel schreiben oder eine Grußkarte oder keine Ahnung was?

00:32:06: Was sind jetzt die Dinge Wo ich wirklich kreativ sein muss, wo mein Gedanke gefragt ist.

00:32:10: Wohl kann ich als Mensch am Anfang stehen das Prozesses und was sind die Dinge, die ich an die KI abgeben kannst?

00:32:16: Keine einfache Frage zu beantworten aber es ist an die man sich stellt.

00:32:18: Nein das erfordert auch wahrscheinlich eine große Selbstdisziplin gerade von Kindern weil sie natürlich Wir alle sind bequem, aber natürlich ist es viel einfacher sich auf die KI zu beziehen.

00:32:30: Und das geht auch einfach schneller.

00:32:32: Das Denken der KI ist einfach viel schneller und ich glaube, dass könnte eine echte Hürde sein um solche Konzepte, solche Lösungen, die man jetzt diskutiert wie zum Beispiel eben Kopf zuerst einschalten und dann die KI.

00:32:47: Schöne Idee!

00:32:48: Der Punkt ist den Kopf-Einschalten bedeutet, dass man eigentlich schon tief in der Materie drinnen sehen muss nachgedacht haben muss, bevor man dann zu einer Lösung kommt oder der Prozess eben auch sehr mühsam ist.

00:33:00: Das kennen wir ja beim Schreiben auch.

00:33:01: Das können wir immer beim Nachdenken das ist mühsamer und es ist viel mühssamer als natürlich die KI zu benutzen.

00:33:08: Deswegen die Frage wie realistisch ist das?

00:33:11: Dass so was eingeführt wird in Schulen zum Beispiel wo's eingefört werden kann?

00:33:14: Ja

00:33:15: gut also jetzt sagst du konkret in Schulen.

00:33:16: Also bei einem Einzelnen würde ich sagen hängt das praktisch von der Motivation des Einzeln ab Wie wichtig ihm seine Gedanken sind.

00:33:23: Das muss man einfach so hinnehmen.

00:33:25: Eine Schule ist jetzt eine Institution und die Institution kann Regeln setzen, wir haben es ja beim Taschenrechner.

00:33:30: also Kinder in der Grundschule dürfen keinen Taschen rechner benutzen sie müssen erst mal das lernen.

00:33:34: Also eine Instition könnte sich regeln ausdenken und auch Möglichkeiten diese Regeln durchzusetzen.

00:33:39: klar dann darfst du halt keine Hausaufgabe machen im Sinne von Schreib ein Aufsatz da musst du dir halt andere Aufgaben ausdenkten.

00:33:45: aber eine Instituation könnte diese Möglichkeit setzen genauso wie auch Unternehmen finde ich solche Regeln für die KI-Nutzung einsetzen könnten.

00:33:56: Ich meine, die FZ hat auch Grundsätze praktisch, die Texte werden nicht mit KI geschrieben und so weiter... Und in diesen Regeln könnte eben festgelegt werden ab wann die KI verwendet werden darf.

00:34:07: Muss man sich halt überlegen!

00:34:08: Man darf aber nicht vergessen wenn man jetzt erwachsen und Kinder sich anguckt.

00:34:11: der Unterschied ist ein bisschen dass man Kinder, das Erwachsene auf einem gewissen Punkt eben entscheiden können was sie kognitiv auslagern und Kinder eben erstmal Fähigkeiten erlernen müssen.

00:34:20: Aber wie gesagt wir alle lernen immer weiter und müssen praktisch dann für uns selbst sehen was ist das was ich auslagern kann und was nicht?

00:34:29: Ich glaube das ist ein wichtiger Punkt und das ist auch glaube ich das ideale Schlusswort jetzt für dieses Sendung.

00:34:34: Wir müssen leider auch schon wieder zu Ende kommen aber wir sind ja in einen Prozess.

00:34:38: ich glaube auch das Thema wird noch öfter verfolgen.

00:34:42: Die Vielzahl der Studien, die du erwähnt hast zeigt das die Forschung da dran ist.

00:34:46: Wir müssen und so verstehe ich deine Botschaft wir müssen aufmerksam bleiben was.

00:34:52: wir müssen unter Umständen sogar alarmiert sein in einem oder anderen Fall wenn Menschen vor allem Schüler quasi sich nur noch der KI bedienen nicht nur noch über Smartphone quasi zum zum Mitdenken kommen und gar nicht mehr die eigenen Ressourcen nutzen.

00:35:10: Das ist ja fast ein Horrorszenario, aber das ist eben nur in der Extrapolation eigentlich ein Horroszenario.

00:35:15: In der Realwelt gibt es Lösungen und gibt es wahrscheinlich auch einen Alltagsumgang mit KI, von dem wir heute noch nicht wissen wie er sich einschleift?

00:35:29: Ob wir mehr mit der KI reden, ob wir mehr schreiben.

00:35:31: Ob die Antworten verarbeiten vielleicht auch stärker noch verarbeiten bevor sie dann äußern wenn wir in dialogischen Prozessen sind.

00:35:40: also ich glaube da ist noch vieles im Fluss von dem die Forschung auch nicht so recht sagen kann wohin geht die Reise?

00:35:47: und die Technikfirmen natürlich auch gar nicht.

00:35:49: Die haben gar kein Interesse dran.

00:35:51: Die entwickeln die Technologie weiter und jede Technologie gibt es Gibt es Möglichkeiten?

00:35:58: Nicht nur das Missbrauch, sondern eben auch von Sackgassen.

00:36:01: Auch möglicherweise von Scheitern.

00:36:03: KI sieht sie im Moment für mich nicht so aus aber ich glaube dabei können wir's heute belassen.

00:36:09: Ein sehr spannender Hinweiser die du gegeben hast.

00:36:13: Sehr spannender Beitrag finde ich heute.

00:36:15: Ich habe viel gelernt.

00:36:16: jetzt in Gespräch mit dir Piotre vielleicht gehen wir noch zum allerletzten Schritt, den wir gerne machen und der uns ja dann auch wieder leicht fällt.

00:36:25: Auch darüber nochmal kurz ein paar Gedanken zu verlieren.

00:36:29: Nämlich der Blick ins Blatt in die nächste Sonntagszeitung.

00:36:32: Ja genau!

00:36:34: Die nächsten Sonntagseitung.

00:36:35: da haben wir als Aufmacher in der Wissenschaft einen sehr spannenden Artikel von meinem Kollegen Michael Gessert.

00:36:41: Da geht es um... Satellitensicherheit, also wie Satelliten heutzutage praktisch abgehört werden.

00:36:47: Wie die Kommunikation unterbrochen wird von Satellieten?

00:36:51: Welche Möglichkeiten es auch mittlerweile gibt, Satellite abzuschießen und von der Bahn abzulenken.

00:36:55: Und wie sich sehr ernste Menschen darüber Gedanken machen, wie man das verhindert.

00:37:00: Sehr spannende Artikel!

00:37:01: Sehr aktuell.

00:37:02: In der Doppelseide wird's wieder optisch sehr interessant aber eben auch inhaltlich sehr interessant.

00:37:07: ein historisches Thema

00:37:09: Die Schamanin.

00:37:10: Es geht um eine Ausstellung, die Ulf von Rauchhopp bespricht und auf der Seite vier haben wir ...

00:37:17: Das Skifergass als alte neue Technologien der Energiewende quasi.

00:37:26: politische Richtungen, auch Experten durchaus die Schiefergas wieder als Option ins Spiel bringen.

00:37:33: Und zwar als Option für die Energiewende und für die günstige Gasnutzung und zwar heimisches Schievergas.

00:37:40: Schiefe Gas das in Deutschland abgebaut werden könnte war mal länger in der Diskussion.

00:37:45: dann ist diese Diskussion sehr schnell beendet worden durch die Hinweise auf den möglichen Umweltfolgen auf die möglichen Widerstände, die sich in der Bevölkerung entwickeln.

00:37:56: Wir kennen das von der Geotamie.

00:37:58: also deswegen interessante Frage was Andreas Frey dazu schreibt.

00:38:03: wir werden sehen und wenn es in der nächsten Ausgabe lesen können, die wir gerade jetzt produzieren ja damit wären wir am Ende.

00:38:13: Liebe Zuhörer, wenn Sie uns abonnieren möchten.

00:38:15: Wenn Ihnen die Folge gefallen hat schreiben sie uns.

00:38:18: Abonnieren können sie überall wo es Podcast gibt.

00:38:22: Schreiben können sie uns über unser Postfach wissenschaftatfz.de Stichwort Podcast.

00:38:28: das kommt bei uns an und wir werden das auch dann hier beigelegenheit besprechen.

00:38:34: ja genau also vielen dank fürs zuhören.

00:38:35: bis dann

00:38:36: bis dann tschüss.