Gesichtserkennung – Hilfe oder Horror?

Hin und wieder wünschen sich unsere Klientinnen* ein Programm zur Gesichtserkennung. Meist haben sie den Verdacht, dass jemand Fotos von ihnen veröffentlicht, wissen aber nichts Genaueres. Doch Gesichtserkennung ist nicht die Lösung, sondern Teil des Problems.

„Nettes Bild auf Facebook.“, sagt die Kollegin zu unserer Klientin*. Diese wundert sich sehr. Sie hat doch gar keinen Facebook-Account.

Darüber, dass es eine Straftat darstellt, Fotos von anderen ohne deren Einverständnis irgendwo zu posten, sind sich viele Menschen nicht klar. Viele unserer Klientinnen* fürchten, dass Fotos von ihnen im Netz stehen. Beispielsweise weil sie einfach so fotografiert wurden und ihnen das gar nicht recht ist. Besonders dann, wenn man von einem Menschen bedroht wird und bereits mehrmals Bilder von sich im Netz gefunden hat und entfernen lassen musste. Woher soll man wissen, dass es nicht noch mehr Bilder gibt?

Logischerweise wünschen sich die Betroffenen dann Gewissheit und machen sich auf die Suche nach der Nadel im Heuhaufen. Da der Heuhaufen aber sehr groß ist und eher einem Heugebirge gleicht, kommt dann sehr schnell die Überlegung, ob man da nicht technisch etwas nachhelfen könnte. Stichwort Gesichtserkennung. Aber das ist moralisch absolut nicht einfach.

Vorteile von Gesichtserkennung

Mittels einer Rückwärtsbildersuche kann man bei Suchmaschinen (wie Google oder Metager) oder extra Diensten (wie tineye.com) das Internet nach einem bestimmten Bild durchforsten. Das ist dann hilfreich, wenn man das betroffene Bild kennt und besitzt. Dann wird aber ausschließlich nach diesem Bild gesucht. Nicht nach anderen Bildern, die es von dieser Person auch noch geben könnte. Der Einsatz von Gesichtserkennung hätte hier den unschlagbaren Vorteil, dass man ein beliebiges Bild von sich hochlädt und dann alle Bilder aufgespürt werden, die dieses Gesicht zeigen (oder ihm zumindest stark ähneln).

Die Plattform [„Am I in Porn?] wendet dieses Prinzip mit Pornovideos an, damit man herausfinden kann, ob man vielleicht unfreiwillig zur Darsteller*in geworden ist.

Das klingt auf den ersten Blick sehr nützlich und viele unserer Klientinnen* wünschen sich solche Funktionen auch für den Rest des Internets. Für Facebook, WhatsApp usw. In Russland und anderen nicht-europäischen Ländern gibt es auch erste solcher Anwendungen.

Wäre doch eine super Anwendung. Oder?

Gesichtserkennung ist brandgefährlich

In Europa ist Gesichtserkennung stark umstritten und gesetzlich streng reguliert. Das ist auch gut so.

Denn was der einen Hälfte unserer Klientinnen* helfen könnte, würde die andere Hälfte in noch größere Gefahr bringen.

Die Plattform Am I in Porn überprüft nicht, ob man auch wirklich nur das eigene Bild hochgeladen hat. Auch ein*e Bedroher*in könnte diese nutzen und herausfinden, ob seine/ihre Zielperson in Pornofilmen auftaucht. Dadurch könnten auch ganz neue Menschen zu Betroffenen werden. Beispielsweise wenn Kolleg*innen nach dem Gesicht ihrer Vorgesetzten suchen und auf eine „Jugendsünde“ stoßen, die eigentlich schon lange in Vergessenheit geraten war. Das macht erotische Experimente noch gefährlicher und unberechenbarer.

Aber auch Menschen, die sich nicht auf ein digitales Wagnis einlassen, können von Gesichtserkennung gefährdet werden. Heute hat fast jede Person eine Kamera in der Smartphone-Tasche und viele machen regen Gebrauch davon. Wer über einen öffentlichen Platz spaziert kann mitunter gar nicht vermeiden zur Kulisse der Urlaubsfotos anderer Leute zu werden. Bedroher*innen können Gesichtserkennung nutzen, um nach Fotos der betroffenen Person zu suchen – eben auch solchen, wo diese nur im Hintergrund zu sehen ist. Selbst wer kein einziges Foto von sich ins Netz stellt oder gar überhaupt keine Fotos von sich anfertigt, kann nicht verhindern, auf diesem Weg doch im Netz zu landen. Das wäre nicht so schlimm, schließlich haben sicher alle Menschen Urlaubsfotos, auf denen im Hintergrund fremde Menschen zu sehen sind in ihren Fotoalben kleben. Doch Fotoalben sind nicht digital und man kann sie nicht algorithmisch durchsuchen. Gesichtserkennung ist das Werkzeug, das ebendies möglich macht. Und so kann man damit selbst die vorsichtigste Person finden und damit auch erfahren, wo sie sich z.B. gerade aufhält. Das bedeutet, dass sich gefährdete Personen eigentlich nur noch vermummt auf die Straße wagen könnten. Gesichtserkennung mag manchen Betroffenen helfen, mehr über ihre Stalking-Situation herauszufinden. In erster Linie ist sie selbst aber ein Stalking-Werkzeug. Das Missbrauchspotential und die Gefahr wiegen sehr viel schwerer, als der vermeintliche Vorteil.

Effekt ungenügend

Denn wirklich helfen kann Gesichtserkennung nicht. Sie ist nicht lückenlos einsetzbar. In geschlossenen Foren, hinter Paywalls, in Messenger-Gruppen oder auf privat gestellte Facebook-Accounts kann man auch mittels Gesichtserkennung nicht suchen. Dazu bräuchte man Zugang zu diesen Gruppen. Häufig werden Bilder aber genau dort gepostet.

Das heißt: Selbst wenn wir egoistisch genug wären, die katastrophalen Folgen zu ignorieren, die Gesichtserkennung für andere Stalking-Betroffene haben könnte, ist es nicht mal ein brauchbares Werkzeug. Wenn sie kein passendes Foto findet, bringt das keine Gewissheit. Denn es könnte ja auch sein, dass die Bilder in nicht-öffentlichen Bereichen geteilt werden. Das bedeutet: Wenn mich die Kollegin nur auf Horror bringen will, und es in Wahrheit gar kein Bild von mir auf Facebook gibt, werde ich das mittels Gesichtserkennung nicht herausfinden. Da Stalking jedoch häufig auf Psychospielchen beruht, die darin bestehen die betroffene Person glauben zu lassen, man übe mehr Kontrolle über sie aus, als real der Fall ist, ist ein Werkzeug, das diesen Trick nicht aufzudecken vermag, nicht viel wert. Wird kein Bild gefunden, führt dies nicht zur Beruhigung für die Betroffene. Sie muss dann weiterhin davon ausgehen, dass es Bilder gibt, die sie nur nicht finden konnte. Und da waren wir ohne Gesichtserkennung auch schon.