Jahresbericht von jugendschutz.net zeigt Risiken und Schutzlücken in beliebten Diensten.

Im Jahr 2024 dokumentierte jugendschutz.net 17.630 Verstöße gegen den Jugendmedienschutz. Bei über 9.700 Fällen wies jugendschutz.net Anbieter und Selbstkontrollen auf Verstöße hin und forderte schnelle Beseitigung – mit großem Erfolg: In 99 % reagierten die Dienste mit Löschung oder Sperrung der Inhalte. In besonders gravierenden Fällen wie zum Beispiel sexualisierter Gewalt schaltete die Organisation Strafverfolgungsbehörden ein. Aufsichtsfälle wurden an die Kommission für Jugendmedienschutz (KJM) und die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) übermittelt.

Der erfolgreichen Beseitigung von Jugendschutzverstößen stehen – so zeigt der Jahresbericht von jugendschutz.net – strukturelle Mängel hinsichtlich der Vorsorgemaßnahmen vieler digitaler Dienste entgegen. Zentrales Problem bleibt die fehlende Altersprüfung,ohne die Kinder und Jugendliche auf beliebten Plattformen kaum geschützt sind – etwa vor extremistischer Einflussnahme oder sexuellen Grenzverletzungen.

Hinzu kommt der wachsende Einfluss generativer Künstlicher Intelligenz,die die Verbreitung problematischer Inhalte zusätzlich befeuert. Hier liegt der Fokus der Anbieter auf Innovation,Sicherheit für junge Nutzer:innen hat dabei keine Priorität.

Stefan Glaser,Leiter von jugendschutz.net: „Social Media sind weiterhin Einfallstore für sexuelle Belästigung,Gewalt und Extremismus“,sagt Stefan Glaser,Leiter von jugendschutz.net. Besonders alarmierend sei die verstärkte Ansprache junger Menschen durch extremistische Gruppen,auch im Gaming-Bereich: „Rechtsextreme und Islamisten ködern auf TikTok,Instagram und Co. mit hippen Auftritten und Themen,die nah an der Lebenswelt junger Menschen sind. Über Discord erreichen sie spielaffine Jugendliche und führen sie an extremistisches Gedankengut heran.“ Gleichzeitig verschärften technische Innovationen auf dem Feld der KI bestehende Risiken. „Es ist leider inzwischen kinderleicht,Alltagsfotos in Nacktbilder zu verwandeln. Deepnudes werden dann genutzt,um zu mobben oder zu erpressen – eine perfide Dimension der digitalen Gewalt“,warnt Glaser. Zwar zeigten die Recherchen von jugendschutz.net,dass Betreiber punktuell ihre Schutzkonzepte verbessern. „Letztlich können altersdifferenzierte Maßnahmen jedoch nur wirken,wenn auch das Alter der User überprüft wird“,so Glaser.

Bundesjugendministerin Karin Prien: „Unsere Kinder bewegen sich täglich in einer digitalen Welt,in der sie auf vieles treffen. Wie auf einem riesigen Marktplatz,auf dem tausende Stimmen durcheinanderrufen – manche freundlich,viele aber auch manipulativ,verletzend oder gefährlich. Cybermobbing,sexualisierte Ansprache oder extremistisches Gedankengut – das überfordert junge Menschen. Als Mutter bewegt mich das zutiefst. Und als Politikerin sage ich klar: Wir dürfen unsere Kinder mit diesen Gefahren nicht alleinlassen. Deshalb müssen wir gemeinsam handeln: Die Plattformen müssen endlich ihre Verantwortung wahrnehmen. Die rechtlichen Rahmenbedingungen müssen konsequent durchgesetzt werden. Aber technische Schutzmaßnahmen sind nicht alles. Kinder brauchen informierte Eltern,Lehrkräfte und Fachkräfte. Sie werden stark durch Medienkompetenz in der Schule und durch ihre Eltern,die nicht wegschauen und Vorbilder sind. Sie sind die ersten digitalen Wegbegleiter ihrer Kinder.“

Janosch Littig,Staatssekretär im Jugendministerium Rheinland-Pfalz: „Sexualisierte Gewalt im Netz stellt eine ernsthafte Bedrohung für Kinder und Jugendliche dar. Um wirksam gegen den drastischen Anstieg an Fällen von Missbrauchsdarstellungen im Netz vorzugehen,braucht es klare Regelungen,eine effektive Gefahrenabwehr sowie wirksame Schutzmaßnahmen. Auch digitale Anbieter müssen entschlossen und nachhaltig gegen Missbrauchsinhalte vorgehen,indem sie diese erkennen und schnell löschen. In Rheinland-Pfalz haben wir den ‘Pakt gegen sexualisierte Gewalt’ geschlossen,um die Kompetenzen und Expertise sämtlicher Akteure zu bündeln,junge Menschen über Risiken aufzuklären und ihnen Schutzmöglichkeiten aufzuzeigen. Es ist eine gesamtgesellschaftliche Aufgabe,jungen Menschen ein unbeschwertes Aufwachsen im digitalen Raum zu ermöglichen.“

Dr. Marc Jan Eumann,Vorsitzender der Kommission für Jugendmedienschutz (KJM): „Die aktuelle Bilanz von jugendschutz.net zeigt klar: Viele große Plattformen freuen sich über die Aufmerksamkeit von Kindern und Jugendlichen,zugleich gehen sie fahrlässig mit ihren jungen Nutzer:innen um. Deren Schutz bleibt dabei lückenhaft: Viele der Plattformanbieter*innen verzichten auf wirksame Alterskontrollen. Undurchsichtige Algorithmen und der Einsatz von Künstlicher Intelligenz verschärfen die Risiken zusätzlich. Die Kommission für Jugendmedienschutz (KJM) wird weiterhin mit Nachdruck gegen Anbieter:innen vorgehen,die Kinder und Jugendliche online im Stich lassen.“

Zum aktuellen Jahresbericht von jugendschutz.net

PM Kommission für Jugendmedienschutz (KJM)