Sexuellen Missbrauch von Kindern online bekämpfen
Wir bekämpfen den sexuellen Missbrauch und die Ausbeutung von Kindern im Internet mit allen Mitteln und ergreifen umfassende Maßnahmen, um die Präsenz solcher Inhalte auf unseren Plattformen zu verhindern, sie zu erkennen, zu entfernen und zu melden.
In Kooperation mit Nichtregierungsorganisationen und anderen Unternehmen haben wir Initiativen ins Leben gerufen, um unser technisches Fachwissen weiterzugeben und Tools für die gemeinsame Nutzung zu entwickeln. Auf diese Weise können wir Organisationen bei der Bekämpfung von Darstellungen des sexuellen Missbrauchs von Kindern helfen.
Weitere Informationen zu unserem Toolkit zum Schutz von Kindern finden Sie hier.
Bekämpfung von Missbrauch auf unseren eigenen Plattformen und Diensten
Wie engagieren wir uns?
-
Missbrauch verhindern
Wir möchten Missbrauch verhindern und deshalb dafür sorgen, dass Kinder unsere Produkte bestmöglich geschützt verwenden können. Darüber hinaus nutzen wir sämtliche verfügbaren Statistiken und Forschungsdaten, damit wir bedrohliche Entwicklungen und neuartige Straftaten erkennen und darauf reagieren können, wie etwa im Fall von KI-generierten Darstellungen des sexuellen Missbrauchs von Kindern. Wir gehen nicht nur gegen illegale Darstellungen des sexuellen Missbrauchs von Kindern, sondern auch gegen weiter gefasste Inhalte vor, die den sexuellen Missbrauch von Kindern fördern und Kinder einem Risiko aussetzen können. -
Erkennen und melden
Wir identifizieren und melden Darstellungen des sexuellen Missbrauchs von Kindern mithilfe von geschulten Expertenteams und innovativer Technologie. Dabei kommen Klassifikatoren, die auf maschinellem Lernen basieren, und eine Technologie für den Abgleich von Hashes zum Einsatz. Diese erstellt für ein Bild oder ein Video einen „Hash“ oder eindeutigen digitalen Fingerabdruck, der sich mit Hashes von bekannten Darstellungen des sexuellen Missbrauchs von Kindern vergleichen lässt. Wenn wir auf solche Darstellungen stoßen, melden wir sie dem National Center for Missing & Exploited Children (NCMEC; US-amerikanische Nichtregierungsorganisation für den Schutz von Kindern und Jugendlichen), das mit Strafverfolgungsbehörden auf der ganzen Welt kooperiert. -
Global zusammenarbeiten
Wir arbeiten mit dem NCMEC und anderen Organisationen auf der ganzen Welt zusammen, um Darstellungen des sexuellen Missbrauchs von Kindern im Internet zu bekämpfen. Dabei gehen wir enge Partnerschaften mit Nichtregierungsorganisationen und branchenweite Koalitionen ein, damit wir gemeinsam das Wissen über die sich ändernden Verbreitungsformen des sexuellen Missbrauchs und der sexuellen Ausbeutung von Kindern weitergeben und erweitern können.
Unsere Vorgehensweise
Wir ergreifen Maßnahmen bei Inhalten wie Darstellungen des sexuellen Missbrauchs von Kindern, Grooming und sexueller Erpressung im Internet. Dazu nutzen wir umfangreiche technologische und menschliche Ressourcen. Hier finden Sie eine allgemeine Beschreibung unserer Vorgehensweise. Sie können sich aber auch unten detaillierter darüber informieren, wie wir in einigen unserer Produkte mit dieser Art von Missbrauch umgehen.
-
Bekämpfung des sexuellen Missbrauchs von Kindern in der Google Suche
In der Google Suche können Sie problemlos nach Inhalten suchen – doch unter allen Umständen möchten wir vermeiden, dass dabei gesetzeswidrige Seiten oder Inhalte angezeigt werden, die sexuelle Ausbeutung von Kindern darstellen. Gemäß unseren Richtlinien blockieren wir daher Suchergebnisse, die zu visuellen Darstellungen des sexuellen Missbrauchs von Kindern oder zu Inhalten führen, in denen Kinder tatsächlich oder anscheinend zu Schaden kommen oder gefährdet oder anderweitig ausgebeutet werden. Wir aktualisieren unsere Algorithmen ständig, um unsere Nutzer bestmöglich vor solchen gefährdenden Inhalten zu schützen.
Werden unserer Einschätzung nach Inhalte mit Darstellungen des sexuellen Missbrauchs von Kindern gesucht, treffen wir besondere Vorkehrungen: Bei solchen Suchanfragen filtern wir Ergebnisse mit expliziten pornografischen Ergebnissen heraus. Falls in der Google Suche nach nicht jugendfreien expliziten Inhalten gesucht wird, werden keine Bilder zurückgegeben, auf denen Kinder zu sehen sind, damit Kinder und sexuelle Inhalte in keinerlei Zusammenhang zueinander gestellt werden. In vielen Ländern wird Nutzern, die nach Darstellungen mit eindeutigem Bezug zu sexuellem Missbrauch von Kindern suchen, eine deutlich sichtbare Warnung angezeigt: Bilder mit solchen Darstellungen sind illegal. Darüber hinaus werden die Nutzer darüber informiert, dass sie diese Inhalte an vertrauenswürdige Organisationen melden können, darunter die Internet Watch Foundation im Vereinigten Königreich (UK), das Canadian Centre for Child Protection in Kanada und Te Protejo in Kolumbien. Wenn diese Warnungen eingeblendet werden, ist es weniger wahrscheinlich, dass Nutzer weiter nach derartigem Material suchen.
Relevante Links -
Maßnahmen von YouTube zur Bekämpfung von ausbeuterischen Videos und Materialien
Wir hatten schon immer eindeutige Richtlinien für Videos, Playlists, Thumbnails und Kommentare auf YouTube, in denen Kinder sexualisiert oder ausgebeutet werden. Mithilfe von maschinellem Lernen erkennen wir proaktiv Verstöße gegen diese Richtlinien. Außerdem haben wir Prüfer auf der ganzen Welt, die von unseren Systemen erkannte und von Nutzern sowie unseren Priority Flaggern gemeldete Inhalte schnell entfernen.
Zwar verstoßen nicht alle Inhalte mit Minderjährigen gegen unsere Richtlinien, es kann aber trotzdem sein, dass die Gefahr einer Ausbeutung besteht – online oder im echten Leben. Aus diesem Grund gehen wir bei der Durchsetzung dieser Richtlinien besonders sorgfältig vor. Unsere automatisierten Systeme helfen uns dabei, Videos direkt zu erkennen, in denen Minderjährige potenziellen Gefahren ausgesetzt sind. Sie wenden außerdem umfassende Schutzmaßnahmen an, wie die Einschränkung von Funktionen in Livestreams, die Deaktivierung von Kommentaren und die Begrenzung von Videoempfehlungen.
Relevante Links -
Unser Transparenzbericht zu Darstellungen des sexuellen Missbrauchs von Kindern
Im Jahr 2021 haben wir einen Transparenzbericht über die Maßnahmen von Google zur Bekämpfung von Online-Darstellungen des sexuellen Missbrauchs von Kindern veröffentlicht, in dem genau angegeben ist, wie viele Meldungen an das NCMEC erfolgt sind. Der Bericht enthält auch Daten dazu, wie wir bei YouTube Ergebnisse mit Darstellungen des sexuellen Missbrauchs von Kindern in der Suche erkennen und diese daraus entfernen. Außerdem ist darin angegeben, wie viele Konten aufgrund von Verstößen gegen unsere Richtlinien zum Schutz von Kindern und Jugendlichen in unseren gesamten Diensten deaktiviert wurden.
Darüber hinaus enthält der Transparenzbericht Informationen zur Anzahl der Hashes von Darstellungen des sexuellen Missbrauchs von Kindern, die wir an das NCMEC weitergeben. Anhand dieser Hashes können andere Plattformen solche Darstellungen schneller und einfacher identifizieren. Beiträge zur Hash-Datenbank des NCMEC sind eine der wichtigsten Möglichkeiten, die wir und andere in der Branche haben, um die Bekämpfung von Darstellungen des sexuellen Missbrauchs von Kindern zu unterstützen. Das Material wird anschließend seltener wieder in Umlauf gebracht und missbrauchte Kinder werden somit auch seltener nochmals zu Opfern.
Relevante Links -
Unangemessenes Verhalten in unseren Produkten melden
Wir müssen Kinder, die unsere Produkte verwenden, vor Grooming, sexueller Erpressung im Internet, Menschenhandel und anderen Formen von sexueller Ausbeutung schützen. Daher legen wir ein besonderes Augenmerk darauf, dass Kinder unsere Produkte mit geringstmöglicher Gefährdung nutzen können. Wir stellen auch nützliche Informationen bereit, auf deren Grundlage Nutzer Darstellungen des sexuellen Missbrauchs von Kindern leichter an die relevanten Behörden melden können.
Falls Nutzer den Verdacht haben, dass ein Kind in Google-Produkten wie Gmail oder Hangouts gefährdet sein könnte, können sie ihre Beobachtungen über dieses Formular melden. Außerdem können sie unangemessene Inhalte auf YouTube kennzeichnen und eine missbräuchliche Nutzung in Google Meet über die Hilfe und direkt im Produkt melden. Darüber hinaus stellen wir Informationen zum Thema Mobbing und Belästigung bereit, darunter auch Angaben dazu, wie Nutzer an der Kontaktaufnahme mit Kindern gehindert werden können. Weitere Informationen über unsere Maßnahmen zum Schutz von Kindern finden Sie in den Community-Richtlinien von YouTube und im Google Sicherheitscenter.
Relevante Links
-
Content Safety API
VERWENDUNGSZWECK: BISHER UNBEKANNTE BILD- UND VIDEOINHALTE
Google arbeitet seit vielen Jahren an der Entwicklung von ML-Klassifikatoren. Mit diesen möchten wir bisher unbekannte Bilder mit Darstellungen des sexuellen Missbrauchs von Kindern proaktiv erkennen, sodass sie überprüft und – sollten tatsächlich derartige Darstellungen nachgewiesen werden – schnellstmöglich entfernt und gemeldet werden können. Diese Technologie wird für die Content Safety API genutzt, mit der Organisationen potenziell missbräuchliche Inhalte klassifizieren und für die Überprüfung priorisieren können. Jeden Monat klassifizieren unsere Partner mithilfe der Content Safety API Milliarden Dateien. Dank der schnelleren und genaueren Identifizierung illegaler Inhalte können sie diese auch schneller an die zuständigen Behörden melden.
VERWENDET VON -
CSAI Match
VERWENDUNGSZWECK: ABGLEICH VON VIDEO-HASHES
Im Jahr 2014 entwickelten YouTube-Fachleute eine Technologie, mit deren Hilfe bekannte Videos mit Darstellungen des sexuellen Missbrauchs von Kindern markiert und entfernt werden. Über CSAI Match, eine API zur Identifikation erneuter Uploads von bereits identifizierten Videos mit solchen Darstellungen, ermöglichen wir es auch anderen, diese Technologie zu nutzen. CSAI Match wird von Nichtregierungsorganisationen und Unternehmen eingesetzt, um Übereinstimmungen mit unserer Datenbank bekannter missbräuchlicher Inhalte zu identifizieren und so in Einklang mit den lokalen Gesetzen und Bestimmungen verantwortungsvoll dagegen vorzugehen.
VERWENDET VON
Partnerschaften und Programme
Gemeinsam finanzieren wir Forschungsinitiativen zum Schutz von Kindern und teilen Tools und Wissen. Dies gilt beispielsweise für unsere Statistiken in Transparenzberichten, für die produktinterne Erkennung und operative Prozesse.
In Zusammenarbeit mit
-
Ad Grants über Google.org
Google.org stellt Organisationen wie INHOPE und ECPAT International, die in der Bekämpfung des sexuellen Missbrauchs und der Ausbeutung von Kindern eine Vorreiterrolle haben, finanzielle Mittel bereit. Außerdem hat Google.org gemeinnützigen Organisationen, die Hotlines zur Meldung von Kindesmissbrauch oder Helplines für Opfer betreiben, seit 2003 Werbebudgets in Höhe von insgesamt etwa 90 Millionen $ zur Verfügung gestellt.
Relevante Links -
Google Fellow-Programm
Wir finanzieren technische Stipendien bei Organisationen, die sich dem Kampf gegen den Kindesmissbrauch verschrieben haben, z. B. das NCMEC und Thorn. Google schult außerdem Mitarbeiter von Strafverfolgungsbehörden, die Straftaten gegen Kinder im Internet untersuchen. Solche Schulungen werden beispielsweise im Rahmen der Crimes Against Children Conference und des National Law Enforcement Training on Child Exploitation angeboten.
Relevante Links
