Apple hat angekündigt, die Geräte der Kunden nach Bildern von sexuellem Missbrauch von Kindern zu scannen, um die Jugend zu schützen und die Verbreitung solcher Materialien zu verhindern.

Bei der Ankündigung des Umzugs am Donnerstag, den 5. August, sagte der Technologieriese, dass er Technologien in kommenden Versionen von iOS und iPadOS verwenden wird, um illegale Kinderbilder auf einem von Apple hergestellten Smartphone oder Tablet zu erkennen.

Wie es funktioniert

Apple sagte, dass, bevor ein Bild in die iCloud hochgeladen wird, ein Erkennungstool namens neuralMatch einen Abgleichprozess auf dem Gerät durchführt, wobei eine Datenbank mit Bildern von sexuellem Missbrauch verwendet wird, die dem National Center for Missing and Exploited Children (NCMEC) bereits bekannt sind. Das Unternehmen sagte, dass die Technologie unter Berücksichtigung der Privatsphäre der Benutzer entwickelt wurde, und erklärte, dass sie die Bilder eines Geräts nicht anzeigt, sondern stattdessen einen digitalen Fingerabdruck verwendet, der mit dem Inhalt verknüpft ist, der es ermöglicht, nach einer Übereinstimmung zu suchen.

Wenn das System Bilder von sexuellem Missbrauch von Kindern erkennt, wird der Fall an NCMEC gemeldet und an die Strafverfolgungsbehörden weitergeleitet. Auch das Apple-Konto des Benutzers wird deaktiviert.

Nachrichten, Siri und Suche

Die Nachrichten-App von Apple verwendet auch maschinelles Lernen auf dem Gerät, um Kinder und ihre Eltern zu warnen, wenn sie sexuell eindeutige Fotos erhalten oder senden. Siri und Search werden ebenfalls aktualisiert, sodass jemand, der eine Suche im Zusammenhang mit sexuellem Missbrauch von Kindern durchführt, darüber informiert wird, dass sein Interesse an dem Thema schädlich ist, bevor er zu Ressourcen weitergeleitet wird, die Hilfe anbieten.

Antwort

Während Kinderbetreuungsgruppen den Schritt von Apple begrüßt haben, äußern andere Bedenken, dass das System auf hinterhältige Weise verwendet werden könnte.

Der führende Kryptographieforscher Matthew Green von der Johns Hopkins University sagte in einer Reihe von Tweets, dass das System möglicherweise von Schurken verwendet werden könnte, um unschuldige Opfer in Schwierigkeiten zu bringen, indem ihnen scheinbar unschuldige Bilder gesendet werden, die eine Warnung auslösen sollen.

Apple besteht jedoch darauf, dass das System „ein extrem hohes Maß an Genauigkeit bietet und eine Chance von weniger als eins zu einer Billion pro Jahr gewährleistet, ein bestimmtes Konto fälschlicherweise zu kennzeichnen“, und fügt hinzu, dass ein menschlicher Prüfer immer einen gekennzeichneten Bericht prüft, bevor er entscheidet, ob er eskaliert .

Das Unternehmen sagte, dass, wenn ein Benutzer der Meinung ist, dass sein Konto irrtümlicherweise gemeldet wurde, „ein Einspruch gegen die Wiederherstellung seines Kontos einlegen kann“.

Es gibt jedoch auch Bedenken, dass autoritäre Regierungen versuchen könnten, das System zu nutzen, um Bürger wie Aktivisten, die sich einem Regime widersetzen, zu überwachen.

In einer weiteren Analyse sagte Green: „Unabhängig von den langfristigen Plänen von Apple haben sie ein sehr klares Signal gesendet. Nach ihrer (sehr einflussreichen) Meinung ist es sicher, Systeme zu bauen, die die Telefone der Benutzer auf verbotene Inhalte scannen. Das ist die Botschaft, die sie an Regierungen, konkurrierende Dienste, China und Sie senden.“

Der Forscher fuhr fort: „Ob sie sich in diesem Punkt als richtig oder falsch herausstellen, spielt keine Rolle. Dies wird den Damm brechen – die Regierungen werden es von allen verlangen. Und wenn wir herausfinden, dass es ein Fehler war, wird es viel zu spät sein.“

Unterdessen bezeichnete John Clark, Präsident und CEO von NCMEC, den Schritt von Apple als „einen Game-Changer“ und fügte hinzu: „Bei so vielen Menschen, die Apple-Produkte verwenden, haben diese neuen Sicherheitsmaßnahmen lebensrettendes Potenzial für Kinder, die online gelockt werden und deren schreckliche“ Bilder werden in Material zum sexuellen Missbrauch von Kindern verbreitet.“

Apple sagte, dass die Änderungen zuerst in den USA in Updates für iOS 15, iPadOS 15, watchOS 8 und macOS Monterey später in diesem Jahr eintreffen werden.

Empfehlungen der Redaktion