Der slowakische Kinderbeauftragte Mikloško äußerte sich zu der Verordnung namens Chatkontrolle. Es handelt sich um einen Vorschlag der Europäischen Union, der die Regulierung und Kontrolle von verbreitetem Material, das sexuellen Missbrauch von Kindern (CSAM) zeigt, durch künstliche Intelligenz in sozialen Netzwerken, Kommunikationsanwendungen und privaten Online-Konversationen sicherstellen soll.
Laut Jozef Mikloško sind Minderjährige heute im Internet Risiken ausgesetzt, die es vor fünfzehn Jahren noch nicht gab. „Als Kinderbeauftragter sehe ich jede Woche Fälle von sexueller Erpressung, Grooming, Verbreitung intimer Fotos von Kindern oder Cybermobbing mit sexuellem Unterton“, sagt Mikloško.
Der Schutz von Kindern vor Sexualstraftätern hat für ihn absolute Priorität. „Aber kein Schutz darf auf Kosten der grundlegenden Menschenrechte der gesamten Gesellschaft gehen oder ein falsches Gefühl der Sicherheit vermitteln, wenn er in Wirklichkeit die Sicherheit schwächt“, sagt er.
Der ursprüngliche Gesetzesentwurf der Europäischen Union, der Material über sexuellen Missbrauch von Kindern im Internet aufdecken sollte, wurde in seiner ursprünglichen Form, die das Scannen aller privaten Nachrichten von Bürgern auf verschiedenen Kommunikationsplattformen vorsah, nicht verabschiedet.
Die Mitgliedstaaten des Rates der Europäischen Union (EU-Rat) haben Ende November einen Kompromissvorschlag zur Regulierung von Chatkontrolle verabschiedet. Die Slowakei hat im EU-Rat aus Gründen des Datenschutzes und wegen der Gefahr der Schaffung eines Präzedenzfalls für die Massenüberwachung der Kommunikation gegen diesen Vorschlag gestimmt.
Der verabschiedete Vorschlag zum Schutz von Kindern vor Missbrauch durch Sexualstraftäter im Internet sieht ein freiwilliges Scannen von Nachrichten vor und nicht eine obligatorische flächendeckende Überwachung aller Nutzer. Der Vorschlag muss jedoch noch vom Europäischen Parlament geprüft werden.
Künstliche Intelligenz (KI) greift immer häufiger in unser Leben ein. Junge Menschen beginnen, sie als natürlichen Bestandteil ihres Lebens zu betrachten. Was wissen Sie über Minderjährige im Zusammenhang mit künstlicher Intelligenz?
Kinder sind heute im Online-Bereich Risiken ausgesetzt, die es vor einigen Jahren noch nicht gab. Soziale Netzwerke haben einen sehr schlechten Einfluss auf die psychische Gesundheit von Kindern, aber Psychologen stellen fest, wie uns beispielsweise Experten von IPčko bestätigt haben, dass Kinder KI als ihren „besten Freund” bezeichnen.
Jeder, der schon einmal eine künstliche Intelligenz wie ChatGPT, Grok oder ähnliches verwendet hat, hat bemerkt, dass der Roboter ihm in allem zustimmt, seine Antworten bestätigt, nichts in Frage stellt, und das gefällt Kindern.
Aber in der realen Welt geht es auch um Meinungsverschiedenheiten, um den Umgang mit Krisen- und Konfliktsituationen, um die Begegnung mit anderen Meinungen. Dass Minderjährige eine Beziehung zu einem Computer aufbauen, ist wirklich beängstigend.
Aktuell wird über ein Verbot und eine gewisse Regulierung von sozialen Netzwerken für Kinder und Jugendliche diskutiert. Steht es wirklich so schlecht um uns?
Ja, das sind wir. Kinder sind süchtig nach sozialen Netzwerken. Soziale Netzwerke haben süchtig machende Inhalte [die eine Abhängigkeit hervorrufen, Anm. d. Red.] und natürlich Inhalte, die ihnen ein perfektes Leben präsentieren, das buchstäblich unrealistisch und trügerisch ist, und was wie organische Inhalte aussieht, ist nur eine neue Form der Werbung.
All dies wird massiv von Influencern unterstützt, die für Werbung bezahlt werden. Erinnern wir uns auch an die verschiedenen „coolen Challenges”, die Minderjährige zu bewältigen versuchen, und schon haben wir eine Online-Katastrophe. Essstörungen, Gesundheitsschäden, Verletzungen, aber leider auch Cybermobbing, Selbstmordversuche, Selbstverletzung, nicht-substanzielle Abhängigkeiten...
Haben Sie im Rahmen Ihrer Untersuchungen auch konkrete Beispiele?
Als wir letztes Jahr verschiedene Schulen besuchten, um Vorträge zu halten, oft im Rahmen der Akademie zur Prävention von Mobbing, wo wir direkt mit den Kindern über das Phänomen Cybermobbing sprachen, baten wir die Kinder, die Hand zu heben, wenn sie jemals von einem fremden Erwachsenen auf einer beliebigen Plattform im Internet angesprochen worden waren.
Jedes Mal wurden etwa 80 Hände erhoben, was eine erschreckende Zahl ist. Ich sehe oft Fälle von Cybermobbing, Erpressung, Verbreitung von Fotos von Kindern oder Grooming [Versuche von Erwachsenen, Kontakt zu Minderjährigen aufzunehmen, um sie sexuell zu missbrauchen, Anm. d. Red.].
Bei Minderjährigen weisen Sie auch auf Suchtmittel hin.
Es gibt auch Finanz- und Vermögensbetrug, ganz zu schweigen davon, dass wir kürzlich im Rahmen unserer eigenen Ermittlungen festgestellt haben, wie einfach Jugendliche über soziale Netzwerke, beispielsweise über den Facebook-Marktplatz oder den größten slowakischen Online-Basar, an Nikotinprodukte gelangen können. Privatpersonen verkaufen dort völlig unreguliert E-Zigaretten oder Nikotinbeutel.
Von Kindern haben wir auch Informationen darüber, dass sie über Instagram-Nachrichten direkt mit Angeboten für Nikotinprodukte angesprochen werden.
Der Schutz von Kindern im Online-Bereich ist daher angebracht.
Der Schutz von Kindern vor Sexualstraftätern und jeglicher – auch wirtschaftlicher – Ausbeutung hat absolute Priorität. Kinder sind noch nicht in der Lage, die Risiken der Online-Welt einzuschätzen und die Konsequenzen zu überdenken. Das ist die Aufgabe von uns Erwachsenen und vor allem die Kompetenz der Eltern.
Aber mal ehrlich, in wie vielen Fällen sind es gerade die Eltern, die ihrem Kind das erste Smartphone in die Hand geben und ihm erlauben, sich noch vor dem 13. Lebensjahr in sozialen Netzwerken anzumelden, mit der Begründung „aber alle seine Freunde sind doch auch dort“?
Die Europäische Union hat den Vorschlag „Chatkontrolle“ vorgelegt, wonach künstliche Intelligenz private Unterhaltungen kontrollieren soll, um Minderjährige vor sexuellem Missbrauch zu schützen. Was halten Sie davon?
Jede gute Idee dieser Art birgt auch Risiken, die sorgfältig abgewogen und mit Experten diskutiert werden müssen. Auf dem Markt gibt es mehrere mehr oder weniger beliebte Arten künstlicher Intelligenz, und logischerweise gehört jede davon jemandem, jede wurde von einem IT-Giganten entwickelt.
Die Frage lautet: Ist es gut, dass ein privates Unternehmen Zugang zu vollständigen Konversationen hat? Werden wir, nachdem die EU die DSGVO in Kraft gesetzt hat, zulassen, dass jemand alle Konversationen vollständig liest? Kann heute jemand garantieren, dass es nicht zu Informationslecks kommt?
Deshalb muss man diese auf den ersten Blick geniale Lösung aus verschiedenen Blickwinkeln betrachten.
Haben Sie Beispiele für Minderjährige, die Opfer einer bestimmten Art von sexuellem Missbrauch geworden sind? Ich meine sexuelle Raubtiere, Pädophile.
Sobald wir einen solchen Hinweis erhalten, der den Tatbestand einer Straftat erfüllt, melden wir dies den Strafverfolgungsbehörden.
Ich habe mehrere Fachberater und Kollegen, die mit solchen Fällen zu tun haben, vor allem muss ich bestätigen, dass dies in der Offline-Welt geschieht. Kürzlich haben wir beispielsweise auf einer Pressekonferenz in Prešov im Rahmen der Feldbeobachtung von bettelnden Kindern die Erkenntnisse unserer Kollegen vorgestellt, die nicht nur organisiertes Betteln, sondern auch sexuellen Missbrauch und Prostitution von Minderjährigen aufgedeckt haben.
Und leider gehören die Kunden, wie uns die Kinder selbst gesagt haben, zur weißen Mehrheit und sind zahlungskräftige Menschen. Wir haben den Fall an die Polizei weitergeleitet.
Der Vorschlag zur Chatkontrolle wird vor allem von Kinderorganisationen begrüßt, die sich für einen besseren Schutz von Kindern im Internet einsetzen. Dies würde beispielsweise auch der Polizei helfen, Videos und Fotos im Rahmen von Cybermobbing aufzuspüren, die unter Gleichaltrigen ausgetauscht werden. Wie sieht Ihre Behörde das?
Zunächst einmal muss gesagt werden, dass der Schutz von Kindern im Internet bei der elterlichen Kompetenz beginnt. Wenn das funktionieren würde, gäbe es heute keine Kinder unter 13 Jahren in sozialen Netzwerken.
Die Registrierung lässt sich leicht umgehen.
Das Problem ist, dass soziale Netzwerke zwar heute so eingestellt sind, dass sich nur Personen über 13 Jahren registrieren können, dies jedoch nur eine einseitige Erklärung ist, die umgangen werden kann, und dass deutlich jüngere Kinder in sozialen Netzwerken zu finden sind.
Sie sind somit Inhalten ausgesetzt, die für sie nicht geeignet oder sogar schädlich für ihre psychische Gesundheit sind.
Was wissen Sie über Minderjährige in sozialen Netzwerken?
Die Realität? Als wir eine Umfrage unter 13-Jährigen durchgeführt haben, gaben 72 Prozent von ihnen an, dass sie den Zugang zum Internet für wichtig halten, und bis zu 40 Prozent von ihnen äußerten sich sehr unzufrieden mit der Anzahl ihrer Follower. Ich bin vor allem dafür, den Zugang von Kindern zu sozialen Netzwerken zu beschränken.
Das Ziel der Kontrolle privater Kommunikation ist es, dass künstliche Intelligenz nach Material sucht, das sexuellen Missbrauch von Kindern zeigt. Es wird jedoch diskutiert, dass Algorithmen unschuldige Inhalte fälschlicherweise kennzeichnen könnten. Künstliche Intelligenz kann also auch Fotos, die sich erwachsene Paare untereinander schicken und die eine leicht „sexuelle Note” haben, als sexuellen Missbrauch kennzeichnen. Teilen auch Kinder solche „unschuldigen Inhalte”?
Aus Gesprächen mit Fachleuten, Lehrern, aber auch Kindern wissen wir, dass sie solche Inhalte verschicken. Und dass Eltern davon sehr überrascht wären.
Was die Fähigkeit der KI betrifft, schädliche Inhalte aufzudecken, frage ich erneut, ob wir Fehlerfreiheit garantieren können, wenn wir bereits heute wissen, welche fatalen Fehler sie selbst bei gewöhnlichen Sachfragen macht.
Eine weitere Frage ist, warum wir die Kompetenzen der KI erweitern wollen und nicht im Gegenteil ihre Verwendung und Fähigkeiten einschränken. Was ist zum Beispiel mit Deepfake-Videos, die kompromittierendes Material über Sie erstellen können? Und jemand könnte Sie mit etwas erpressen, das gerade von künstlicher Intelligenz erstellt wurde.
Es gibt auch kritische Stimmen, die sagen, dass dies in gewisser Weise einen Eingriff in die Privatsphäre darstellt, da es sich um eine Art Überwachung handelt. Wie stehen Sie dazu? Ist das nicht in gewisser Weise verfassungswidrig?
Zur Verfassungswidrigkeit müssen sich die zuständigen Stellen äußern. Es ist notwendig, dass eine breitere fachliche Diskussion darüber geführt wird.
Gibt es Ihrer Meinung nach einen anderen Weg, um den Missbrauch von Kindern im Online-Bereich zu verhindern, ohne die private Kommunikation zu kontrollieren?
Den Zugang von Kindern zu sozialen Netzwerken einschränken, die Inhalte, die Kindern angezeigt werden, einschränken und die Beziehung der Eltern zu ihren Kindern stärken, indem mehr Vertrauen aufgebaut wird, über Risiken gesprochen wird und Prävention betrieben wird. Das beginnt bereits zu Hause in einer starken Eltern-Kind-Beziehung.