Wissen Sie, wer Fotos Ihres Kindes in den sozialen Medien veröffentlicht?

Kürzlich machte eine Gruppe Teenager-Mädchen die schockierende Entdeckung, dass Jungen in ihrer High School in New Jersey Bilder gesammelt hatten, auf denen sie von sich gepostet hatten sozialen Medienund nutzte diese Bilder dann, um gefälschte Aktfotos zu erstellen.

Die Jungs, die die Aktfotos in einem Gruppenchat teilten, taten dies angeblich mit Hilfe eines digitalen Tools von künstliche Intelligenz, entsprechend der Wallstreet Journal.

Der Vorfall ist eine erschreckende Verletzung der Privatsphäre. Aber es zeigt auch, wie rasend schnell verändert KI die Erwartungen grundlegend darüber, was mit den Online-Bildern passieren könnte. Was das für Kinder und Jugendliche bedeutet, ist besonders ernüchternd.

A aktueller Bericht der Internet Watch Foundation fanden heraus, dass KI zunehmend dazu verwendet wird, realistisches Material über sexuellen Missbrauch von Kindern zu erstellen. Einige dieser Bilder werden mit Hilfe von KI-gestützter Software von Grund auf erstellt. Ein Teil dieses Materials besteht jedoch aus öffentlich zugänglichen Bildern von Kindern, die aus dem Internet entnommen und mithilfe von KI manipuliert wurden.

Eltern, die Schlagzeilen über diese Entwicklungen gesehen haben Vielleicht habe ich zweimal darüber nachgedacht Es geht ihnen darum, das Bild ihres Kindes frei in den sozialen Medien zu teilen, und vielleicht haben sie Tweens und Teenager davon abgehalten, vollständig öffentliche Bilder von sich zu veröffentlichen.

Aber es gibt kaum Diskussionen darüber, wie Dritte, die regelmäßig mit Kindern und Jugendlichen interagieren und diese betreuen, wie Sommercamps, Eltern-Lehrer-Vereinigungen und Sportteams, die Bilder dieser Kinder routinemäßig für ihr Online-Marketing und ihre sozialen Medien verwenden. Sie können zu diesem Zweck in gesetzlichen Verzichtserklärungen die Zustimmung der Eltern einholen oder sogar darauf hinweisen, dass sie dies wünschen. Dennoch bitten einige Dritte möglicherweise überhaupt nicht um Erlaubnis, insbesondere wenn sich Kinder im öffentlichen Raum aufhalten, beispielsweise in einer Schule oder bei einer Sportveranstaltung.

Das Risiko, dass das Bild eines Kindes beispielsweise vom PTA-Instagram-Konto einer Schule gelöscht und zur Erstellung von Material über sexuellen Missbrauch von Kindern verwendet wird, ist wahrscheinlich sehr gering, aber auch nicht mehr Null.

So schützen Sie das Image Ihres Kindes online

John Pizzuro, ehemaliger Kommandeur der New Jersey Internet Crimes Against Children Task Force, sagte gegenüber Mashable, dass Bilder von Kindern, die noch vor wenigen Jahren online verfügbar waren, mit der damals existierenden Software schwer zu manipulieren seien.

Laut Pizzuro, CEO von Raven, einer Interessen- und Lobbygruppe, die sich auf die Bekämpfung der Ausbeutung von Kindern konzentriert, kann ein schlechter Schauspieler jetzt den Hintergrund eines Bildes mit einem Kind nahtlos digital herausschneiden und dann den Jugendlichen problemlos auf einen anderen Hintergrund legen.

Pizzuro sagte, dass jede Organisation, die Bilder von Kindern macht und sie online stellt, „eine gewisse Verantwortung trägt“ und über Richtlinien verfügen sollte, um der Bedrohung durch KI-generiertes Material über sexuellen Kindesmissbrauch zu begegnen.

„Je mehr Bilder es gibt, desto mehr können Sie Programme verwenden, um Dinge zu ändern. Das ist die Gefahr“, sagte Pizzuro und verwies darauf, wie sich ein KI-Bildgenerierungstool mit jedem einzelnen Bild, das es aufnimmt, verbessern kann.

Eine einfache Möglichkeit für Eltern, die Möglichkeit auszuschließen, dass das Bild ihres Kindes in die falschen Hände gerät, besteht darin, abzulehnen, wenn Dritte um Erlaubnis zum Fotografieren und Veröffentlichen von Bildern für Marketing- oder andere Zwecke bitten. Die Erlaubnis ist oft in den Anmeldeunterlagen enthalten, wenn Eltern ihre Kinder für Ferienlager, Sport oder außerschulische Aktivitäten anmelden.

Schulen fügen das Formular normalerweise in die jährlichen Registrierungsunterlagen ein. Auch wenn es im Kleingedruckten möglicherweise schwer zu finden ist, sollten sich Eltern die Zeit nehmen, die Verzichtserklärung zu prüfen und eine bewusste Entscheidung darüber zu treffen, ob sie die Rechte an Fotos ihrer Kinder abgeben möchten.

Wenn Eltern diese Sprache nicht finden können, können sie das Unternehmen auch nach seinen Richtlinien und Praktiken zum Teilen von Bildern fragen und deutlich machen, dass sie der Veröffentlichung des Bildes ihres Kindes online oder anderswo nicht zugestimmt haben. Hat ein Elternteil dem Dritten bereits seine Einwilligung erteilt, kann er einen Widerruf der Einwilligung beantragen.

Pizzuro sagte, wenn Eltern ein Bild ihres Kindes auf Instagram entdecken, das ohne Zustimmung gepostet wurde, können sie dies tun einen Deaktivierungsantrag stellen. Das Gleiche gilt für Facebook. Twitter erlaubt Benutzern nicht, Bilder von Privatpersonen und Eltern ohne deren Zustimmung zu posten kann diese Straftaten melden. Eltern können das auch Datenschutzverletzungen melden Einbeziehung ihrer Kinder auf TikTok.

Wer macht möglicherweise Fotos von Ihrem Kind und teilt diese?

Mashable bat einige der Top-Organisationen, die sich in den USA mit Kindern beschäftigen – National PTA, Girl Scouts of the USA, Boy Scouts of America, American Camp Association, National Alliance for Youth Sports – um einen Kommentar zu ihrer Herangehensweise an KI und digitale Bilder von Kindern . Wir haben unterschiedliche Antworten erhalten.

Ein Sprecher von Girl Scouts teilte Mashable in einer E-Mail mit, dass die Organisation Anfang des Jahres ein „funktionsübergreifendes Team“ einberufen habe, das sich aus internen Rechts-, Technologie- und Programmexperten zusammensetze, um KI-Entwicklungen zu überprüfen und zu überwachen und gleichzeitig den verantwortungsvollen Einsatz dieser Technologien zu fördern.

Derzeit erfordert jeder Auftritt in einem Online-Video oder Bild im Zusammenhang mit einer Pfadfinderin für jedes abgebildete Mitglied die Erlaubnis der Eltern oder Erziehungsberechtigten jedes Mädchens.

„Wir sind bestrebt, an der Spitze dieser Entwicklungen zu bleiben, um den Schutz unserer Mitglieder zu gewährleisten“, schrieb der Sprecher.

Ein Sprecher der Boy Scouts of America teilte dies der Organisation mit Social-Media-Richtlinien, in dem darauf hingewiesen wird, dass Videos und Bilder von Pfadfindern auf Social-Media-Plattformen die Privatsphäre einzelner Pfadfinder schützen sollten. Auf lokaler und nationaler Ebene muss die BSA die Erlaubnis der Eltern einholen, bevor sie Fotos von Kindern in den sozialen Medien veröffentlicht. Eltern können sich jederzeit dagegen entscheiden. Im Allgemeinen konzentriert sich die BSA-Richtlinie darauf, ein Kind in Social-Media-Beiträgen so vage wie möglich zu identifizieren, beispielsweise durch die Verwendung von Initialen anstelle seines vollständigen Namens.

Auch wenn die Lösung des Problems öffentlich geteilter Bilder darin besteht, dass geschlossene Social-Media-Konten nur von Personen verfolgt werden, die dazu berechtigt sind, zeigen die BSA-Richtlinien, warum dieser Ansatz komplizierter ist, als es scheint.

Sie verbieten private Social-Media-Kanäle, damit Administratoren die Kommunikation zwischen Pfadfindern und erwachsenen Leitern sowie anderen Pfadfindern überwachen können, um sicherzustellen, dass es nicht zu unangemessenem Austausch kommt. Die Transparenz hat klare Vorteile, aber die Richtlinie ist ein Beispiel dafür, wie schwierig es ist, Datenschutz- und Sicherheitsbedenken in Einklang zu bringen.

Heidi May Wilson, leitende Managerin für Medienarbeit bei National PTA, sagte in einer E-Mail, dass die gemeinnützige Organisation lokalen PTAs Orientierungshilfen zur Unterzeichnung von Medienmitteilungs- und Einverständniserklärungen durch Eltern bietet und sicherstellt, dass die Eltern die Erlaubnis gegeben haben, von ihren Kindern aufgenommene Fotos zu veröffentlichen Familien bei Veranstaltungen dazu auffordern, keine Fotos von anderen Kindern als ihren eigenen zu machen oder zu veröffentlichen. Sie sagte, die nationale PTA beobachte den Fortschritt der KI.

Die American Camp Association reagierte nicht konkret auf mehrere E-Mail-Anfragen nach Kommentaren zu ihren Richtlinien und Best Practices. Ein Sprecher der National Alliance for Youth Sports Association antwortete nicht auf E-Mail-Anfragen nach einem Kommentar.

Die Zukunft der Kinderbilder online

Baroness Beeban Kidron, Gründerin und Vorsitzende der 5Rights Foundationeine gemeinnützige Organisation mit Sitz in London, die sich für die Rechte von Kindern im Internet einsetzt, sagte, dass Eltern KI-manipulierte oder generierte Inhalte zum sexuellen Missbrauch von Kindern als aktuelles Problem und nicht als existenzielle Bedrohung betrachten sollten, die in der Zukunft eintreten könnte.

Kidron arbeitet mit einem verdeckten Strafverfolgungsteam zusammen, das KI-generiertes Material über Kindesmissbrauch untersucht, und stellte mit Besorgnis fest, wie schnell sich die KI-Technologie selbst innerhalb weniger Wochen weiterentwickelt hatte, basierend auf Bildern von sexuellem Kindesmissbrauch mithilfe solcher Software, die sie gesehen hatte diesen Sommer und Herbst.

„Jedes Mal waren sie realistischer und zahlreicher“, sagte Kidron, der auch ein ist Crossbench-Mitglied des House of Lords des Vereinigten Königreichs und hat eine wichtige Rolle bei der Gestaltung der Online-Datenschutz- und Sicherheitsgesetze für Kinder im Vereinigten Königreich und weltweit gespielt.

Kidron sagte, es sei völlig versäumt worden, die Sicherheit von Kindern zu berücksichtigen, „da Unternehmen immer leistungsfähigere KI ohne Leitplanken entwickeln“.

Laut Pizzuro sei es beispielsweise in den USA nach keinem der bestehenden Strafgesetze illegal oder strafbar, gefälschtes oder manipuliertes Material über sexuellen Missbrauch von Kindern zu erstellen. Während es illegal ist, Material über sexuellen Kindesmissbrauch zu verbreiten, gilt das Gesetz auch nicht speziell für KI-generierte Bilder. Raven setzt sich bei Kongressabgeordneten dafür ein, diese Lücken zu schließen.

Pizzuro sagte auch, dass die Verfügbarkeit von Kinderbildern im Internet Tätern hilft, selbst wenn sie mit ihnen keine Inhalte über sexuellen Missbrauch erstellen. Stattdessen können schlechte Akteure und Raubtiere KI nutzen, um „ein Kind maschinell zu erlernen“.

Pizzuro beschrieb diesen Prozess als den Einsatz von KI, um überzeugende, aber gefälschte Social-Media-Konten für tatsächlich existierende Kinder zu erstellen, einschließlich ihres Bildes sowie Details zu ihren persönlichen Informationen und Interessen, die schnell aus dem Internet ermittelt wurden. Diese Konten können dann von einem Täter persönlich genutzt werden, um andere Kinder zu sexuellem Missbrauch oder zur Verlockung im Internet zu verleiten.

„Jetzt kann (ein Raubtier) mit generativer KI Menschen in großem Maßstab pflegen“, sagte Pizzuro. Bisher musste ein Täter die online verfügbaren Informationen über ein Kind sorgfältig sammeln und studieren, bevor er ein gefälschtes Konto erstellen konnte.

Unabhängig davon wies Kidron düster darauf hin, dass einige Personen, die mithilfe von KI Material über Kindesmissbrauch erstellen, möglicherweise einer Familie bekannt sind. Ein Nachbar, Freund oder Verwandter kann beispielsweise ein Bild eines Kindes aus sozialen Medien oder einer Schulwebsite entfernen und Inhalte über sexuellen Missbrauch von Kindern „nach Maß“ anfertigen lassen.

Kidron sagte, dass Technologieunternehmen zwar behaupten, nicht zu wissen, wie sie das Problem der KI und der Privatsphäre von Kindern angehen oder lösen sollen, sie jedoch erheblich in die Identifizierung von Inhalten investiert haben, die die geistigen Eigentumsrechte anderer Unternehmen verletzen (denken Sie an Lieder und Filmausschnitte, die ohne Erlaubnis gepostet wurden). .

In Ermangelung einer klaren rechtlichen Reaktion auf die Bedrohungen, die KI für die Sicherheit von Kindern darstellt, könnten Eltern laut Kidron Druck auf Social-Media-Unternehmen ausüben, indem sie sich weigern, Bilder ihrer Kinder online zu veröffentlichen, sei es in einem privaten oder öffentlichen Rahmen, oder sie sogar boykottieren die Seiten insgesamt. Sie schlug vor, dass solche Proteste die Technologiebranche dazu ermutigen könnten, ihren zurückhaltenden Ansatz gegenüber einer stärkeren Regulierung zu überdenken.

Kidron versteht, warum Eltern ihre Social-Media-Konten privat machen oder sogar Herzen oder Emojis auf die Gesichter ihrer Kinder kleben, um deren Privatsphäre zu schützen, sagte aber, sie würde sich unter anderem größere Investitionen in Technologien wünschen, die das Scraping von Bildern ohne Erlaubnis verhindern und Unternehmenslösungen.

Kidron möchte keine dystopische Realität sehen, in der KI zu einem leicht zugänglichen Werkzeug für Raubtiere wird und kein Kinderbild online sicher ist.

„Was für eine traurige Welt, wenn wir nie wieder ein Bild eines Kindes teilen dürfen“, sagte Kidron.

Scroll to Top