00:00:04: Wenn Australien das kann, warum können wir das nicht auch?

00:00:07: Diese Frage würden sich andere Länder nun stellen.

00:00:11: Das hat Australiens Premierminister Frau für Zeit als ein Landjugendlichen unter sechzehn Jahren Verbot soziale Medien zu nutzen.

00:00:19: Er behielt recht.

00:00:20: Etwas ist in den vergangenen zwei Monaten in Bewegung geraten und es fühlt an wie ein Ende der Erstarrung, die TikTok, Instagram oder YouTube mit ihren nachgewiesen süchtig machenden und Algorithmen gesteuerten Ausspielen von Inhalten manchmal halt wirken lassen wie eine Naturgewalt gegen die man sowieso nicht viel tun kann.

00:00:41: In Ländern weltweit ist die Diskussion darüber, wie sehr Kinder und Jugendliche mir sozialen Medien schon in Kontakt kommen sollen, nach oben auf die Tagesordnung der Politik gerutscht.

00:00:51: Das bevölkerreichste Land der Welt Indien könnte den gleichen Weg wie Australien gehen.

00:00:57: Die Europäische Kommission will bis zum Sommer über Regeln für Minderjährige im digitalen Raum entscheiden und in Deutschland, da hat die SPD bereits ein Papier mit einem Vorschlag vorgelegt.

00:01:08: Die CDU wird bei ihrem Parteitag, der am Freitag beginnt einen Social Media-Verbot bis sechzehn Jahre diskutieren und Kanzler Friedrich Merz, der hat gerade signalisiert dass er sich das durchaus vorstellen kann.

00:01:22: Das Ganze müsste dann begleitet werden von einer verpflichtenden Altersverifikation.

00:01:27: Das steht knapp in dem Antrag, den sich die CDU nun vornimmt.

00:01:31: Aber was so selbstverständlich wirkt – dass man es auf ein paar Worte beschränken kann – ist allerdings der Knackpunkt aller Pläne zur Einschränkung des Zugangs zu Social Media.

00:01:43: Denn wie stellt man denn im körperlosen Raum fest, wie alt jemand ist und ist das überhaupt zuverlässig möglich?

00:01:51: Welche technischen Möglichkeiten gibt es und wo sind ihre Schwachstellen, und woran wird geforscht?

00:01:55: Das sind die Fragen.

00:01:57: Und wie ist in dieser Folge das Podcast Wissen der FHZ gehen wird und die ich Petra Ahne jetzt mit meinem Kollegen Piotr Heller besprechen möchte.

00:02:06: Hallo Piotrer!

00:02:07: Hallo, hallo Petra!

00:02:09: Zuletzt haben wir im Dezember über das Thema Social Media Verbot gesprochen kurz bevor die neue Regelung in Australien in Kraft getreten ist.

00:02:17: Es ist jetzt gut zwei Monate her.

00:02:19: Jetzt sagt doch mal, was hört man aus Australien?

00:02:22: Lesen die Kinder jetzt alle wieder Bücher und Spielen den ganzen Tag draußen.

00:02:26: Was hat sich geändert?

00:02:28: Na ja zum einen, also man hört tatsächlich Positives.

00:02:31: Man hört genau das.

00:02:32: Also er berichtet darüber dass das Kinder praktisch ja wieder mehr in der echten Welt interagieren können.

00:02:38: Dass da praktisch so ein bisschen der Druck rausgenommen wurde Das hört man zum Einen.

00:02:44: Das sind ja auch die Gründe warum jetzt wie du schon angekündigt hast Deutschland, andere Länder das kopieren wollen.

00:02:50: Weil es sich tatsächlich so ein bisschen als Erfolgsmodell rausstellt.

00:02:55: Zumindest was die Idee anbelangt.

00:02:56: Na da klingt doch gut!

00:02:57: Wir haben heute auch einen Artikel dazu in der FHZ.

00:03:00: Der klingt nicht ganz so optimistisch?

00:03:02: Ja gut ja genau.

00:03:03: Das ist jetzt natürlich die Frage wie gut's funktioniert.

00:03:06: und du hast ja angesprochen Es geht heute um die Altersverifikation Die alterserkennung im Internet.

00:03:12: Und da gibt's eben ein Artikel heute in der FAZ Politikseite drei und der heißt Kian & Ivy Posten einfach weiter.

00:03:20: Es sind zwei, dreizehnjährige Stiebgeschwister die auf TikTok aktiv sind haben da ihre Konten obwohl sie es eigentlich gar nicht mehr dürften.

00:03:26: und was ist der Knackpunkt?

00:03:29: Sie wurden einfach nicht gefragt.

00:03:30: ja also sie hatten ihr Konto vor dem zehnten Dezember als das Verbot in Kraft getreten ist und haben's einfach behalten und keiner hat sich so wirklich darum gekümmert.

00:03:40: Die Mutter scheint das auch ein bisschen zu unterstützen dass die das machen.

00:03:43: Also da scheint diese Alterskontrolle nicht funktioniert zu haben.

00:03:47: Das ist natürlich nur so ein Ausschnitt.

00:03:50: Ich hab aber da jetzt auch bei anderen Recherchen mit einer Wissenschaftlerin aus Australien gesprochen, Lisa Given die arbeitet am Royal Melbourne Institute of Technology und hat erzählt dass es tatsächlich mehr solcher Fälle gibt.

00:04:04: also sind Jugendliche die einfach vorher auf den sozialen Medien waren jetzt immer noch.

00:04:09: sie weiß sich einfach nichts geändert.

00:04:11: für die andere Fälle gibt's, wo praktisch über sechzehnjährige, also siebzehn-achzehnjährige ausgesperrt wurden.

00:04:18: Die konnten nicht mehr auf ihre Konten zugreifen, obwohl es erlaubt war.

00:04:21: Also in die Richtung funktioniert das auch nicht.

00:04:23: und dann gibt's Fälle, wo man praktisch ... Wenn so was passiert kann man sein Ausweis noch mal scannen lassen und seinen Konto freischalten lassen und auch das hat dann in manchen Fällen versagt.

00:04:34: Das Fazit ist, dass Verbot wird umgesetzt.

00:04:39: Wie gut kann man leider noch nicht ganz einschätzen?

00:04:43: Es gibt eben diese Berichte, dass es manchmal nicht funktioniert.

00:04:47: Und das heißt dann auch, dass dieser Altersverifikation nicht funktioniert... Außer man wird gar nicht gefragt!

00:04:52: Das ist dann ja irgendwie ein anderes Problem.

00:04:53: Wie ist es denn dort gehandhabt?

00:04:55: Was muss man denn nachweisen um zu zeigen, man is alt genug, um einen Konto bei Instagram oder TikTok zu haben?

00:05:04: In rechtlichen Pflicht sind die Plattformen und die müssen angemessen Schritte unternehmen.

00:05:08: Und es gibt eben nur eine Vorgabe.

00:05:11: Es müssen angemessener Schritte sein, dass die eine und die zweite ist ... Die Alterserkennung darf nicht alleine auf dem Ausweis beruhen!

00:05:17: Also die Plattform sollen sich was einfallen lassen... Es ist übrigens einer der großen Kritikpunkte an der Umsetzung.

00:05:23: Der Staat fordert praktisch eine Alterserkennung, macht aber kaum Vorgaben oder Angebote.

00:05:28: Man könnte ja auch einen Service anbieten wie man das macht wie das gelöst werden soll.

00:05:32: Es gäbe Wege, wie ein Staat das lösen könnte oder dazu kommen wir später.

00:05:37: Konkret umgesetzt wird es in Australien mit einem mehrstufigen Ansatz.

00:05:40: Das Einfachste ist ... Es gibt einfach einen Alter, dass mit dem Konto assoziiert ist.

00:05:45: Das hat man mal angegeben und darauf kann man zugreifen.

00:05:49: Wenn da jetzt jemand angibt, der dreißig ist?

00:05:51: Und er hat dieses Konto schon seit zehn Jahren, dann ist das wahrscheinlich jemand, der tatsächlich über sechzehn ist.

00:05:57: Darauf kann man sich also in gewissen Fällen verlassen.

00:05:59: Dann gibt es Verhaltensanalysen, wie verhalte ich mich auf der Plattform?

00:06:03: Entspricht das Verhalten dem Erfalten eines Erwachsenen also den folge ich und so weiter was poste Ich.

00:06:09: Es gibt Gesichtskontrollen KI gestützt Und es gibt dann eben wenn die anderen Sachen nicht funktionieren immer noch die Möglichkeit einer Ausweiskontrolle.

00:06:18: Und ist diese Kombination das, wo wir uns hinbewegen werden?

00:06:23: Das Feststellen des Alters ist ja nicht nur bei sozialen Medien ein Thema.

00:06:27: Das ist eigentlich immer ein Thema wenn es um Jugendschutz im Internet geht also auch bei pornografischen Seiten.

00:06:32: wird es diese Kombination aus den Dingen sein oder ist das jetzt nur so einen Zwischenstand weil man noch nichts Besseres hat?

00:06:39: Also ich nehme an Wir werden uns auf ähnliche Systeme zu bewegen, falls es in Deutschland auch zu so einem Verbot kommt.

00:06:46: Das ist übrigens im Vereinigten Königreich gibt's auch Altersbeschränkung für gewisse Inhalte im Internet, Pornografie zum Beispiel Gewaltdarstellung und die nutzen eine relativ ähnliche Kombination aus Methoden.

00:06:59: Ich würde aber sagen dass das eben nicht das Optimale ist.

00:07:04: Denn alle diese Ansätze haben Schwächen.

00:07:10: Also es gibt gewisse Schwächen, die teilt jeder dieser Ansätze.

00:07:13: Ich meine bei der Verhaltensanalyse, die ich angesprochen habe da kann man sich ja relativ gut denken was das schiefgehen kann oder?

00:07:21: Ach so, ja was heißt das?

00:07:22: Man wird dann quasi übereinkamengeschoren.

00:07:24: also es gibt Spuren, die man im Netz... hinterlassen kann, unter Umstände da nicht als Alterskonform gelten.

00:07:30: Also wenn man zum Beispiel keine Ahnung wie ich bin ein großer Fan von Winnie Poo.

00:07:35: Das sollte das nicht ins Netz tragen weil sonst heißt es gleich, dass wahrscheinlich sieben Jahre alt die Nutzerin.

00:07:41: Genau also was ist schon Jugendliches Verhalten?

00:07:44: Du, ein Fan von Winnipoo meines Weges gibt Erwachsene Puppen sammeln, ja sowas und dann sich für entsprechende Inhalte interessieren.

00:07:53: Es gibt Erwachsene die sich für Modellbau interessieren etwas was auch Jugendliche tun.

00:07:58: also kann man am Verhalten überhaupt festmachen Was ist jetzt Jugendliches verhalten und was nicht?

00:08:04: Das zweit es funktioniert praktisch nur mit Leuten die bereits ein Konto haben und über die man Daten gesammelt hat.

00:08:09: das funktioniert nicht mit neu angelegten Konten.

00:08:12: da gibt's keine Daten.

00:08:14: und eigentlich Ist es hier schon ein Datenschutzproblem?

00:08:18: Ich sag eigentlich, weil man gibt ja sowieso seine Datenpreis und auf dieser Grundlage wenn dann Profile erstellt um dann Werbung usw.

00:08:26: eingespielt zu bekommen.

00:08:28: aber das will man ja eigentlich nicht.

00:08:31: Und hier würde man plötzlich schon fast gesetzlich vorschreiben dass die Plattform Profile anlegen sollen um daraus aufs Alter zu schließen Und natürlich werden die diese Daten auch nutzen, um auf andere Dinge zu schließen.

00:08:43: Das nennt sich auch Function Creep in der IT.

00:08:46: Man hat eine gesetzliche Vorgabe, um irgendwas zu tun und dann nutzt man diese Daten, die man so sammelt nebenbei, um etwas zu tun was man will also praktisch bessere Werbung usw.

00:08:55: anbieten.

00:08:56: Also da gibt es Probleme mit dem Ansatz

00:08:59: Da sind wir schon beim Datenschutz, da kommen wir gleich noch dazu.

00:09:02: Ich würde gerne noch im Moment bei der KI-gestützten Gesichtserkennung bleiben weil die ist ja wahrscheinlich so ein Bestandteil Dazu gehören wird, wie funktioniert das denn?

00:09:11: Es ist ja auch im echten Leben gerade in diesem Alter zwischen fünfzehn oder vierzehn und achtzehn total schwer zu sagen.

00:09:18: Wie alt jemand ist.

00:09:20: die Unterschiede sind enorm.

00:09:22: in der Entwicklung geschminkt sehen Mädchen plötzlich zwei Jahre älter aus.

00:09:26: Wie wird dann die KI trainiert um Sohn des Alters von einem Jugendlichen zu erkennen?

00:09:30: und wie funktioniert

00:09:32: es?

00:09:33: Du hast schon den kritischen Punkt angesprochen, die wird eigentlich gar nicht dafür trainiert um das Alter eines Jugendlichen zu erkennen.

00:09:38: Weil wie KI trainiert wird ist du hast Bilder von Menschen verschiedenen Alters und du weißt wie alt die sind und es sind Millionen von Fotos.

00:09:48: Die gibst du praktisch der KI und die lernt daran irgendwelche Merkmale zu finden die auf des Alter schließen lassen.

00:09:54: was das für merkmale sind am Ende wissen wir gar nicht.

00:09:57: Das Problem ist aber bei diesen Datensätzen, diese wirklich großen Datensätze.

00:10:01: Da sind nicht wahnsinnig viele Jugendliche drin.

00:10:03: Das sind oft Mach-Shots also so Polizeifotos aus den USA die man dafür nimmt oder andere Bilder... Also man hat gar nicht so viel Daten für Jugendliche.

00:10:12: das heißt dann im Umkehrschluss dass die KI bei Jugendlichen besonders schlecht ist.

00:10:17: es wurde jetzt mal generell über die generelle Bevölkerung kann man sagen dass dieses auf drei Komma eins Jahre genau schätzt.

00:10:26: Das ist halt ein Problem, wenn die Grenze sechzehn ist.

00:10:30: Weil da rutschen auch die dreizehnjährigen mit durch.

00:10:33: Wenn du es nur auf drei Jahre genau schätzt und ganz konkret haben sie es in Australien getestet.

00:10:37: Und die gängigen Systeme, die es dazu gibt, haben bei den Dreizehnjährigen achtundvierzig Prozent durchgewunken.

00:10:44: Bei den vierzehn jährigen ... Also gesagt, diese sind über Sechszehn!

00:10:47: Bei den Vierzehnjärgen war's über die Hälfte.

00:10:50: also Du kannst eigentlich gar nicht kaum so genau unterscheiden.

00:10:54: wofür man das nutzen kann ist, um praktisch schon mal vorzusortieren.

00:10:59: Also wenn du auf jeden Fall einen dreißigjährigen hast oder einen vierzigjährigen, dann weißt du okay gut der ist auf jeden fall über sechzehn.

00:11:04: Aber dann in den relevanten Altersgruppen funktioniert es eben nicht.

00:11:07: Es funktioniert auch nicht bei gewissen Ethnien.

00:11:10: Das kommt auf das System an und was für Daten trainiert wurde.

00:11:13: In Australien haben sie jetzt festgestellt dass Leute die praktisch den Ureinwohnern zählen Dass die schlechter erkannt werden mit diesen system.

00:11:21: Das heißt aber auch, dass du eine gewisse Gruppe unfair behandelst.

00:11:24: Also diese Leute bei denen es schlechter funktioniert werden dann eher ausgeschlossen was du auch nicht möchtest.

00:11:29: und dieses Thema um noch eine Sache zu sagen die können relativ leicht ausgetrickst werden.

00:11:34: Es soll jetzt kein Argument sein weil jedes System kann ausgetricks werden Aber hier ist es relativ leicht.

00:11:39: also im Vereinigten Königreich hat man das mit Computerspiel Charakteren gemacht.

00:11:43: Man hat einfach praktisch Videos aus Computerspielen genommen wo ein Gesicht drin war.

00:11:50: Und in diesem FAZ-Artikel von heute ist auch das Beispiel von einem Jugendlichen, der hat einfach zu seiner Mutter hergegangen und hat das Handy ihr vor's Gesicht gehalten.

00:11:57: Er hat gesagt, guck mal da rein!

00:11:59: Die wusste gar nicht worum es da geht.

00:12:00: Ja zack... Hatte die Altersverifizierung praktisch mit ihrem Gesicht gemacht.

00:12:03: Und die war über sechzehn.

00:12:05: Okay, aber dass das eben nicht funktioniert ist haben wir ja auch in der echten Welt.

00:12:09: Und wieso kann man es sich wieder echten Welten machen und einfach den Ausweis nehmen?

00:12:13: Also wie wenn der Mitarbeiter an der Supermarktkasse dann sagt Hallo du siehst nicht so aus als ob du schon eine Flasche Tequila kaufen dürftest.

00:12:20: zeig mal deinen Ausweis und dann zeigt man den Ausweiss.

00:12:22: Ja genau!

00:12:23: So macht es der Laden.

00:12:25: und jetzt muss man sich einfach einmal vorstellen Der Laden würde der Ladenbesitzer dem Tequila verkaufen will guckt sich den Ausweis nicht nur an und vergisst ihn dann danach, weil das ist die Realität.

00:12:36: Er nimmt den mal mit nach hinten, macht eine Kopie und heftet ihn ab und notiert sich daneben noch was du gekauft hast.

00:12:44: Weil das wäre die Realitet im Internet – die Daten werden praktisch gespeichert!

00:12:51: Das ist nicht zwingend notwendig.

00:12:52: Man kann das auch so machen, dass es gleich gelöscht wird aber die Realität sieht eben anders aus.

00:12:56: da gab's auch wieder die Untersuchungen in Australien bevor sie das eingeführt haben und hier haben festgestellt dass viele der Anbieter diese Daten behalten übrigens aus vor allem dem Gehorsam weil Sie denken Es könnte eine staatliche Überprüfung ihrer Praxis kommen Und dann können wir praktisch vorzeigen wie dies überprüft haben.

00:13:13: Aber es bedeutet dass es dann irgendwo eine Datenbank gibt wo festgehalten ist.

00:13:18: Okay, gut.

00:13:18: Diese Person mit diesem Ausweis wollte auf diese Inhalte zugreifen und das will man eben nicht.

00:13:24: Denn das Internet ist ja auch ein viel größerer Raum praktisch als dieser Alkohol-Laden in dem du dein Tequila kaufen willst.

00:13:31: Und du willst ja praktisch eine gesellschaftliche Teilhabe erlauben den Leuten!

00:13:36: Du willst nicht dass die Leute sich praktisch zurückhalten jetzt nicht nur Jugendliche, sondern auch dann Praktische Erwachsenen die an Ausweis vorzeigen müssen und nicht auf Inhalte zugreifen oder Nicht ihre Meinung äußern aus Angst zu haben praktisch dass sie sich ja Dass er sich da vorher ausweisen mussten und sich dadurch identifizierbar machen könnten.

00:13:56: Die gehemmt sein das möchte man eben nicht.

00:13:58: also ab Ende braucht es eine Lösung die verspricht dass nicht mehr erfasst wird als das alter.

00:14:04: Aber da ist doch auch schon einiges in Arbeit.

00:14:05: Du hast vorhin die staatlichen Lösungen angesprochen, die in Arbeit sind oder teilweise auch schon umgesetzt?

00:14:12: Ja... Also genau!

00:14:14: Die Frage ist praktisch wie stelle ich jetzt das Alter von jemandem fest ohne irgendwas anderes über die Person zu erfahren?

00:14:20: und ja, der gibt es Lösung und sie haben aber wieder ihre eigenen Schwächen.

00:14:25: Das eine ist der Personal aus weißen Deutschland.

00:14:28: Der hat einen Computer, also er hat einen Mikroprozessor tatsächlich eingebaut und darauf ist ein kryptografisches Schlüssel der belegt, dass dieser Ausweis von einer staatlichen Einrichtung kommt.

00:14:39: Der ist nicht individuell, das heißt, nicht jeder hat einen anderen Schlüssel.

00:14:44: Das heißt wiederum, wenn man das ausliest ... Man weiß nicht genau jetzt, von wem er per so ist?

00:14:49: Man weiß nur, dass es ein Per-so ist!

00:14:51: Und man kann eben auch das Alter abfragen oder so Sachen abfragen.

00:14:55: wie ist die Person über achtzehn?

00:14:56: Ist die Person...über zwanzig?

00:14:58: Was war's ich?

00:15:00: Aber das Problem ist jetzt, da ist die Plattform auf der anderen Seite Facebook, was weiß ich.

00:15:05: Instagram muss praktisch die Infrastruktur einrichten um das abzufragen und da macht keiner mit.

00:15:12: Die sind einfach nicht gezwungen.

00:15:13: Es ist ein Dienst den einfach keiner nutzt.

00:15:17: und das zweite Problem ist man bekommt den Perso ja erst ab sechzehn Und nicht jeder hat einen Personalausweis.

00:15:24: also dass es eben auch keine wiederum keine perfekte Lösung weil's Leute ausschließen würde und sie wird ohnehin nicht angenommen.

00:15:33: Gut, das Problem mit dem Absechzehn.

00:15:35: Das hat dann auch die digitale Brieftasche, die gerade entwickelt wird für uns EU-Bürger hier, das EU Digital Identity Wallet kurz OID Wallet.

00:15:46: da ist dann Führerschein und Personalausweis drin oder kann man Zeugnisse reinmachen?

00:15:50: Und bei den Vorstoß der SPD, denen ich anfangs erwähnte, die er möchte, dass Kinder bis vierzehn Jahre überhaupt keinen Social Media Zugang haben und bis sechszehn nur eingeschränkt Da ist dieses Wallet dann das Werkzeug der Altersbestimmung.

00:16:02: Ja

00:16:03: Okay, da muss es doch schon ab für unter-sechzehnjährige auch.

00:16:06: Genau!

00:16:06: Nee, das kann's schon ... Das ist praktisch das, was Experten auf dem Feld sagen, dass die ideale Lösung wäre.

00:16:15: Was hat's mit diesem Walletaufsicht?

00:16:17: Das ist auf dem Smartphone ein kryptografisch gesichertes Beleg dafür, dass du zum Beispiel ... Also, für Dinge und Informationen über dich bei denen du selbst entscheiden kannst Ob du sie teilen willst oder nicht, das nennt sich auch Self Sovereign Identity.

00:16:34: Also du hast praktisch die Souveränität über deine Identität und was du darüber verrätst.

00:16:43: Wie würde das jetzt konkret funktionieren?

00:16:45: Umgesetzt müsste das so sein dass es eine staatliche Stelle wahrscheinlich gibt, sowas wie die Bundesdruckerei oder letztendlich dann die Meldemter... Zudem gehst du einmal hin und sagst, du möchtest gerne das auf dein Smartphone haben.

00:17:00: Auf deinen EU-ID Wallet... Und da wird dann die Information draufgelegt wie alt du bist oder dein Geburtsdatum oder was weiß ich.

00:17:09: Und daraus kann das dann solche Informationen generieren wie diese Person ist über sechzehn, diese Person isst über vierzehn und die mit den Anbietern teilen und zwar auf eine Art, dass es praktisch kryptografisch also verschlüsselungstechnisch so geregelt Einerseits die Plattform, Facebook was weiß ich, Instagram nicht mehr über dich erfährt als diese eine Information.

00:17:34: Über vierzehn, über sechzehn und gleichzeitig die ausstellende Behörde das Amt oder die Bundesdruckerei nicht erfährt wer diese Informationen alle abgefragt hat.

00:17:43: also praktisch keiner erfährt was darüber auf was du zugreifst.

00:17:47: konkret nur die plattform erfährt dass du das du alt genug bist und kann sich dann praktisch freischalten.

00:17:53: Aber auch hier gibt es wieder Hörden, weil das ist einerseits technisch aufwendig.

00:17:57: also du musst diese ganze Infrastruktur erst mal schaffen.

00:18:00: Das ist eine Dienstleistung die letztendlich der Staat anbieten würde.

00:18:04: D.h.

00:18:05: dem muss praktisch.

00:18:06: man muss sich auf dieses Standard einigen die da im Spiel sind.

00:18:10: Man muss sich überlegen gut wie kriege ich das jetzt aufs Handy?

00:18:12: Wer bearbeitet das denn jetzt im Abend wenn da jemand hinkommt und mit welchen technischen Mitteln?

00:18:20: Das wird teuer und es wird langdauernd so was umzusetzen.

00:18:23: Die Lösung des EUID Wallet soll, das ist der Plan im Jahr ... Und manche Experten sagen, dass es unrealistisch ... Das wird man nicht schaffen, das so schnell umzusetzten.

00:18:37: Und die letzte Hürde ist, man muss dann auch irgendwann die Plattformen dazu zwingen, dass sie das anerkennen, dass Sie das verwenden als Alterskontrolle.

00:18:46: also das müsste man dann auch noch festlegen.

00:18:49: Das ist auch noch nicht gegeben.

00:18:52: Ich hol mir die Bestätigung, dass ich über sechzehn bin.

00:18:56: und wie kommt dann diese Information zu den Plattformen, die mich freischalten müssen?

00:19:02: Die müssen an ein Schnittstelle anbieten, die praktisch mit diesem EUID Wallet kommunizieren kann.

00:19:08: Und das Wallet ist ja auf deinem Handy.

00:19:10: Dein Handy, mit dem du praktisch auf die Plattform zugreifst Die fragen dann praktisch ab.

00:19:16: Die machen dann praktische Abfrage an dieses Wallet, schicke mir die Information ist die Person über sechzehn und dann kommt nur ja nein.

00:19:24: Dann kommt nur Ja oder Nein?

00:19:25: Und das ist der Trick!

00:19:26: Also die Plattformen müssen das dann praktischen Abfragen über dein Smartphone bei dem Wallet.

00:19:32: Das klingt ein bisschen wie dieses Pilotprojekt der EU, dass es jetzt vergangen im Sommer gibt.

00:19:38: Dass die dort entwickelt ... denke ich kompatibel sein mit dem Wallet.

00:19:44: Also ein Pilotprojekt zum Jugendschutz, mit dem Glücksspiel und Pornoseiten quasi das Alter ihrer Nutzer überprüfen können.

00:19:52: Das wird in fünf Ländern ausprobiert.

00:19:54: Deutschland ist jetzt nicht dabei.

00:19:55: Da habe ich gelesen dass das Porn Hub also der größte Verbreiter von pornografischen Material, dass die sich daran auch beteiligen wollen.

00:20:03: Die haben sicher eigentlich gegen eine Kontrolle immer gesperrt weil sie auch gesagt haben naja dann gehen alle zu kleineren Ganz dubiosen Seiten, die ganz fieses Material parat haben.

00:20:14: Da gab es ja jetzt offensichtlich dann einen Kurswechsel?

00:20:18: Ja das stimmt.

00:20:19: also diese... Man muss erstmal um das mal kurz zu sortieren dieses Argument, ja die gehen dann zur anderen Seite.

00:20:26: Das ist übrigens auch ein Argument dass sie Social Media Plattform haben weil nur die großen Plattformen reguliert sind und dann heißt das ja gut wenn jetzt Jugendlichen hier bei uns nicht mehr sein können dann gehen Sie zu den kleinen Plattforms.

00:20:38: die eben nicht reguliert finde ich ein bisschen schwierig das Argument, weil dann kann man es ja gleich lassen.

00:20:45: Und so viel dazu.

00:20:46: und warum Pornhub jetzt auf einmal so offen ist für bei sowas mitzumachen?

00:20:52: Man muss einerseits sehen dass solche Plattformen sich den Aufwand nicht aufbürden wollen.

00:20:58: praktisch, das zu übernehmen.

00:21:00: deswegen war eine Strategie von PornHub bisher zu sagen Ja okay wir sind fein mit einer Alterskontrolle aber da soll bitte vom Smartphone-Herstelle auf der Ebene des Betriebssystems erledigt werden.

00:21:14: Das war deren Position, da gab es aber keine Lösung in Aussicht.

00:21:18: und in den Ländern, in denen es wirklich gesetzlich vorgegeben ist dann beugen die sich dem auch.

00:21:23: also im Vereinigten Königreich haben sie eine Altersverifikation, die gut oder schlecht funktioniert eingeführt?

00:21:30: Und was das jetzt mit der restlichen EU auf sich hat?

00:21:33: ja die sagen die sind jetzt offen praktisch dafür.

00:21:36: Das konnte man jetzt aber auf netzpolitik.org noch nicht lesen.

00:21:38: und kommentar dazu eine vermutung was dahinter steckt ist dass es ja in europa den digital services act gibt Und wofür bei dem für große plattformen besonders strenge regeln gelten und vielleicht Ist das so ein bisschen so entgegenkommen von porn hab.

00:21:55: sie wollen auf die u so ein bischen zugehen und da jetzt sich Ja freundlich zeigen um eben nicht als große Plattform zu gelten, weil da gibt's dann noch mal ganz andere und strenge Regeln.

00:22:07: Also denen Facebook und TikTok und so weiter unterworfen sind.

00:22:11: Soweit meine große Platform ist.

00:22:12: man hat Transparenzregeln die man erfüllen muss und vielleicht möchten sie einfach nur das verhindern und zeigen sich jetzt offen für sowas.

00:22:20: Diese Regelung in Großbritannien, die du gerade erwähnt hast ... Die hat ja auch ihre Probleme war man auch verschiedene Möglichkeiten nutzen kann, um sein Alter anzugeben und am Ende wird das alles so ganz wage.

00:22:36: Und da gab es aber ja doch auch ein Run auf die Virtual Private Networks VPN wo man seinen richtigen Standort verschleiern kann.

00:22:45: Das

00:22:45: ist ja dann nochmal ein anderes Problem.

00:22:47: Ja genau also da sind wir jetzt bei dem Punkt dass Alterskontrolle umgangen werden kann und Das ist eine Regel, die jetzt nur im Vereinigten Königreich gilt.

00:22:57: Also diese konkrete Regel Alterskontrolle für Pornografie und Gewaltinhalte.

00:23:02: Und klar wenn man jetzt dem Dienst vorgaukelt Man greift aus Deutschland zu Was man über ein VPN machen kann Klar natürlich dann wird er diese Regeln nicht einfordern Dann kann man einfach so draufzugreifen.

00:23:16: Ja klar das ist ne Artes zum Gehen auch in der echten Welt, wenn wir noch mal in die echten Welten auf altes Kontrollen zu sprechen kommen.

00:23:24: Ich kann ja auch als Jugendlicher vor dem Laden warten bis ein bisschen älterer Jugendlicher kommt oder Erwachsener, ein junger Erwachsener kommt und ihn bitten, kannst du mal reingehen und für mich Alkohol kaufen?

00:23:35: Also das ist auch kein Grund, dass wir sagen gut dann lassen wir es jetzt mal all, dann verkaufen wir jetzt allen Alkohl egal wie alt sie sind weil es Möglichkeiten gibt.

00:23:42: das zum Gehen.

00:23:44: Ja.

00:23:45: also ich würde gerne auch kurz auf diese Inhalte kommen von denen die Jugendlichen geschützt werden sollen oder die Art des Ausspielens der Inhalte.

00:23:54: Denn den ändert sich bei einem Verbot ja nicht, sondern das ist auch einer der Kritikpunkte an... den Verboten, dass es doch vielmehr darum gehen müsste die Unternehmen mehr in die Pflicht zu nehmen und zur Transparenz etwa einen Hinblick auf die Algorithmen zu zwingen.

00:24:10: Die eben bestimmen was man sieht.

00:24:13: und da läuft ja auch gerade in diesen Tagen ein Prozess bei dem Mark Zuckerberg gestern ausgesagt hat eine zwanzig Jäger, die wirft den Online-Plattform vor sie mit dem Design der Dienste abhängig gemacht zu haben?

00:24:24: Ja Und mich würde noch interessieren ist das denn möglich zu sagen oder nachzuweisen, ja die Algorithmen sind so programmiert dass sie Kinder und Jugendliche süchtig machen.

00:24:36: Was weiß man überhaupt über die Algoritmen?

00:24:38: Und was geben die Unternehmen preis?

00:24:41: Ja also es kommt jetzt natürlich aufs Unternehmen an.

00:24:44: aber was vor allem interessant ist, die haben interne Forschung die sie nicht preisgeben.

00:24:49: Also genau zu solchen Fragen Ich glaube selbst wenn die jetzt ex hat das auch gemacht, selbst wenn diese Algorithme veröffentlichen würden Ich weiß nicht, ob man dann diese direkte Verbindung zur Sucht ziehen könnte.

00:25:04: Man weiß ja ungefähr wie diese Algorithmen funktionieren.

00:25:07: Da gibt es Studien die das eben beobachtet haben und daraus kann man eben Rückschlüsse ziehen.

00:25:11: Man weiss was die empfehlen, man weiß was praktisch das Rational dahinter ist bei diesen Empfehlungen.

00:25:18: Und da ist es so dass man sagen kann okay gut die empfählen natürlich Sachen die dich an den Bildschirm fesseln sollen.

00:25:25: Die suchen Sachen heraus, die dich interessieren können, die dein Profil entsprechen, die nutzen praktisch die Informationen aus, die sie über dich haben und dann empfehlen Sie immer mal wieder Sachen, die davon abweichen um zu gucken okay gut können wir hier nicht ein bisschen bessere Treffer erzielen?

00:25:40: das sind natürlich Sachen, bei gewissen Leuten zu suchtähnlichen Problem oder zur Sucht führen können.

00:25:47: Und dann gibt's noch andere Funktionen wie zum Beispiel dieses endlose Scrawlen, das auch immer wieder in der Kritik ist.

00:25:52: also praktisch du hast jetzt nicht so eine Scrollized an der Seite und weißt wo es endet sondern bei TikTok oder bei Instagram und so weiter kannst du immer weiter scrollen und es hört praktisch mich auf.

00:26:03: Das könnte das könnte suchtfördernd sein.

00:26:05: Autoplay genauso Videos starten einfach Du musst doch nicht mehr das Video anklicken die Starten einfach legen los du hast uns sprechen dich sofort an.

00:26:13: Dann gibt's solche Sachen wie, dass die Benachrichtigungen, Likes und so weiter.

00:26:17: Dass die so gewisse Glückshormone ausstoßen, dass es so Dopamin-Kicks kleine sind über den Tag verteilt... ...die dich auch praktisch dazu bringen immer wieder aufs Handy zu gucken!

00:26:26: Also das sind solche Sachen von denen man meint sie könnten suchtfördernd sein Und die bei gewissen Menschen zu Suchtproblemen führen.

00:26:36: Das ist zumindest die... sehr gut begründete Vermutung.

00:26:39: Und jetzt ist die Frage natürlich, okay wird das durch ein Verbot gelöst?

00:26:42: Ich würde sagen weil eine weitere Vermutungen ist dass das gerade bei einem jungen sich entwickelnden Gehirn problematisch ist was ich gerade beschrieben habe Das doch ein verbot für Jugendliche zielführend sein kann.

00:26:56: Und dieses Argument, ja sollte man nicht eher sich praktisch die Mechanismen angucken.

00:27:04: Das kann man auch machen.

00:27:05: Man kann es ja verbieten für Jugendliche und das andere praktisch nicht lassen.

00:27:11: Der dritte Punkt ist wenn man sich den SPD-Vorschlag anguckt, der ist hier in einer Sache ganz interessant dass er nicht wie Australien ein Verbot ab sechzehn fordert, sondern ein Verbot bis vierzehn.

00:27:22: Und für Jugendliche zwischen vierzehnt und sechszehn glaube ich eine spezielle Version für Jugendlichen die eben diese negativ... Diese Funktionen, die schädlich sein können, die ich erwähnt habe, diese Funktion nicht hat, sondern anders funktioniert jugendgerecht.

00:27:38: Ich finde das könnte eventuell auch eine Lösung sein.

00:27:42: wenn man die Plattform tatsächlich dazu bringt so eine jugengerechte Version zu machen bin ich mir nicht sicher ob es klappt

00:27:50: Weil es jetzt ja eigentlich schon geht.

00:27:51: Man kann ja schon den Algorithmus ausschalten, gibt doch schon in den Einstellungen die Möglichkeit.

00:27:56: Nur weiß das kaum jemand?

00:27:58: Genau man kann zu chronologisch wechseln.

00:28:01: also ich weiß dass bei allen Plattformen so ist.

00:28:05: Ich weiß nicht ob TikTok diese Möglichkeit bietet.

00:28:09: Also ich stimme dir auf jeden Fall zu.

00:28:11: Die Kritiker von so einem Verbot führen ja auch an, dass man die Jugendlichen nicht so aufwachsen lassen kann als ob es Social Media nicht gäbe und dann sie mit sechzehn plötzlich damit konfrontieren.

00:28:23: Aber das finde ich nicht überzeugend.

00:28:25: also man sagt ja auch nicht die müssen jetzt schon mal ins Casino gehen, damit sie ins Thema Glücksspiel eingeführt werden, da müssen wir jetzt schon ein bisschen rauchen.

00:28:32: Also klar ist Social Media in anderer Weise eine Realität.

00:28:36: unsere Beziehung zur Welt muss man ja schon fast sagen Und man muss Strategien entwickeln, damit umzugehen.

00:28:42: Aber es zu verbieten und sich erst mal damit auseinandersetzen, das schließt sich ja auch nicht aus.

00:28:47: Das kann man in einem geschützten Umfeld wie der Schule demonstrieren, wie diese Algorithmen funktionieren, je nach Nutzungsverhalten andere Inhalte plötzlich ankommen, wie das extremer und einseitiger wird.

00:29:01: Auch wie das Gehirn auf die Belohnungssysteme reagiert.

00:29:04: Ich finde das Signal wichtig, dass von so einem Verbot Also diese rote Flagge.

00:29:10: Achtung, hier ist was das nicht unproblematisch.

00:29:13: und ich muss sagen, dass mich auch bestärkt und immer wieder erschreckt ist, was junge Menschen selbst sagen die auf ihre Jugend mit Social Media zurückblicken.

00:29:22: Die sagen wie konntet ihr uns dem so umgeschutzt aussetzen?

00:29:27: Da habt ihr doch versagt als Erwachsene.

00:29:29: Ja absolut!

00:29:30: Und na klar kann man sagen also ich finde dieses Argument Ja, man kann die vor dieser Social Media Realität und so weiter nicht verschließen.

00:29:39: Das Ding ist ... das würde ich gelten lassen, wenn es eben kein Verbot gäbe und wenn das ein sehr individueller Kritik ist an jemandem der praktisch seinem Kind Social Media verbietet und alle anderen haben's.

00:29:51: Weil dann ist es praktisch wie, wenn das Kind im Kartoffelsack zur Schule gehen lässt.

00:29:57: Du grenzt es praktischer aus!

00:29:59: Aber ein Verbot verhindert das ja gerade.

00:30:01: Wenn dann quasi alle auf diesem gleichen Stand sind Und du verhinderst dann praktisch diesen Druck, dem Jugendlicher ausgesetzt wäre.

00:30:10: Also ich finde das ist eben nicht so, dass man sie von der Realität ausschließt.

00:30:15: Denn du veränderst einfach die Realität!

00:30:17: Die ist dann einfach nicht so... ...dass man ein Jugendlicher Social Media hat.

00:30:21: Ja.

00:30:22: Petra wir sind nur so einig ne?

00:30:23: Gut als Eltern wahrscheinlich weil wir Eltern sind.

00:30:26: Das hat uns weich gemacht.

00:30:29: Du hast es noch vor dir mit deinem Kind.

00:30:32: Ich sehe schon, es wird nichts Letzter mal gewesen sein dass wir über das Thema sprechen.

00:30:36: Die Sache ist ja wahnsinnig im Bewegung, die Bundesregierung wird sich da vermutlich bald positionieren.

00:30:41: Die EU hat das wie gesagt im Sommer vor.

00:30:44: also für einen Moment wieder.

00:30:45: vielen Dank Piotr, dass du dafür klar gesorgt hast und bei einem entscheidenden Punkt der ja oft etwas kurz kommt.

00:30:53: jetzt wollen wir zum Abschluss natürlich unbedingt noch fragen was halten Sie liebe Hörerinnen?

00:30:57: Liebe Hörern von dem Social Media-Verbot für Jugendliche!

00:31:00: Ist es nötig um sie vor schwerwiegenden Folgen der Handy-Nutzung für Ihre psychische Gesundheit zu bewahren oder ist es der falsche Weg?

00:31:10: Schreiben Sie uns unter wissenschaft at FAZ.de, wir sind gespannt und wir freuen uns wenn sie auch in zwei Wochen wieder dabei sind beim FAZ Podcast Wissen!

00:31:21: Ja danke fürs Zuhören und Tschüss!