Hallo,

alle paar Monate diskutieren wir jetzt über ein neues Unternehmen, das dreist so viele Bilder wie möglich im Netz abgreift und dann mit algorithmischen Entscheidungssystemen unsere Gesichter durchsuchbar macht. Und das auch noch mit dem Ziel, diese Dienstleistung für private und staatliche Überwachungssysteme zu verkaufen.

Anfang des Jahres hatten wir das US-Unternehmen Clearview AI. In den vergangenen Wochen haben Daniel Laufer und Sebastian Meineck den Geschäftspraktiken von PimEyes hinterher recherchiert. Im Gegensatz zu Clearview AI agiert das polnische Unternehmen aus der EU heraus und bietet seine Dienstleistungen nicht nur Sicherheitsbehörden und Unternehmen an, sondern allen. Noch nie war Stalking so einfach.

Was dort passiert, ist ein Angriff auf unsere Anonymität und unsere Privatsphäre. Die Geschäftspraxis des Unternehmens ist illegal und verstößt gegen die EU-Datenschutzgrundverordnung. Die gilt selbstverständlich auch in Polen.

Wir müssen anhand dieses Falls auch über die Rolle der großen Plattformen sprechen, bei denen es möglich ist, automatisiert Millionen Profile abzugrasen, Fotos zu kopieren und damit Datenbanken zu befüllen. Wir reden bei PimEyes von 900 Millionen Fotos und bei Clearview AI sogar von drei Milliarden. Das geben diese Unternehmen in ihrer PR auch noch stolz zu.

Es gibt doch für jeden Mist automatisierte Entscheidungssysteme, warum eigentlich nicht für das millionenfache Abgrasen von Fotos?

Wir brauchen eine bessere Umsetzung von Datenschutz als Grundeinstellung und im Design. Solchen Unternehmen wird es sehr einfach gemacht, indem die Grundeinstellungen in sozialen Medien immer auf öffentlich stehen. Wer das ändern will, braucht die Kompetenz und häufig einen langen Atem, die richtigen Einstellungen zu finden und zu verschärfen. Warum ist dieses Privacy-by-Design immer noch nicht eingeführt? Es wäre so einfach: Alles wird erst mal auf nicht-öffentlich gestellt – und wer freizügig sein will, hat die Freiheit, sich zum Verlust seiner privaten Daten mühsam durchzuklicken! Dann hätten wir sofort weniger Probleme.

Alle unsere Fotos können gegen uns verwendet werden

Aber wir alle haben auch eine Verantwortung, über die wir zu wenig reflektieren. Jedes Foto, das wir von uns und anderen hochladen, kann dazu beitragen, diese Gesichtserkennungssysteme zu verbessern und in Referenzdatenbanken zu landen. Sowohl auf den jeweiligen Plattformen selber wie auch bei den Trittbrettfahrern wie PimEyes. Jedes Mal, wenn wir andere Personen verschlagworten, helfen wir Systemen, uns und andere besser zu erkennen. Wollen wir das überhaupt? Sollten Fotos auch automatisierbar nach einiger Zeit gelöscht werden können?

Es ist vor allem ein institutionelles Problem. Wenn die überwiegende Mehrheit der Expert:innen der Meinung ist, dass das nicht mit der Datenschutzgrundverordnung kompatibel ist: Warum können Unternehmen in der Europäischen Union so agieren? Wer klagt gegen sie? Wie bekommen wir eine effektivere Datenschutzdurchsetzung hin, die schneller und effizienter arbeitet und empfindliche Strafen verteilt? Warum werden Datenschutzbehörden immer noch künstlich klein gehalten, so dass sie nicht effektiv ihre Arbeit machen und Recht durchsetzen können?

Datenbanken und Technologien wie die von PimEyes sind die Basis für die Überwachungssysteme der Zukunft. Wir brauchen ein klares Verbot für die Entwicklung und Einführung von automatisierten Gesichtserkennungssystemen im öffentlichen Raum in der ganzen Europäischen Union. Der gesellschaftliche Schaden durch diese Hoch-Risikotechnologie ist zu groß.

Neues auf netzpolitik.org:

Die Nutzung von sozialen Medien während Protesten ist leider ein zweischneidiges Schwert. Auf der einen Seite hilft es Protestierenden, Öffentlichkeit für ihr Anliegen zu schaffen und sich zu vernetzen. Das braucht jeder wirksame Protest. Auf der anderen Seite kann das auch alles ausgewertet und überwacht werden, was vor allem in repressiven Regimen in der Regel geschieht. Und in den USA, wie Recherchen zu den Black Lives Matter-Protesten zeigen. Markus Reuter hat Details: Twitter und Dataminr überwachen Proteste für die Polizei.

In den USA liefert das Twitter-Partnerunternehmen Dataminr Fotos, Tweets, Orte und Zeitpunkte von Protesten an die Polizei. Die Firmen sprechen von Nachrichten, NGOs halten es für Überwachung.

===
Diesen Newsletter empfehlen und abonnieren.
===

Was sonst noch passierte:

Über die Proteste verschiedener Medien- und Journalist:innenverbände gegen das kommende Verfassungsschutzgesetz habe ich gestern berichtet. Beim NDR-Medienmagazin Zapp wirft Daniel Moßbrucker diesen vor, dass sie das Thema leider vollkommen verschlafen und viel zu spät reagiert haben. Ich finde, er hat Recht: Das (zu) späte Erwachen der Medienverbände. Das ist häufig ein Problem, dass die Mühlen dieser Verbände noch langsamer arbeiten als bei der Großen Koalition und viele Überwachungsgesetze erst zu spät als Gefahr für die Pressefreiheit gesehen werden – wenn überhaupt.

===

Bombenstimmung bei der AfD. Immer mehr AfD-Mitglieder (nicht gegendert, bis auf ganz wenigen Ausnahmen scheint es sich dabei um Männer zu handeln) bieten sich dem Verfassungsschutz als Spitzel an, um ungeliebte Parteikollegen anzuschwärzen: Auflösungserscheinungen bei den Rechten. Als interessierter Beobachter bin ich verwundert, dass das erst jetzt passieren soll. Bisher ging ich davon aus, dass der Verfassungsschutz bereits über zahlreiche V-Männer dort verfügt, wie das offensichtlich bisher bei jeder rechtsextremen Partei der Fall war. Aber es kann sicher nicht schaden, wenn die sich jetzt alle gegenseitig noch mehr die Köpfe einschlagen und damit beschäftigt sind.

===

Warum gibt es im Südwesten so viele Impfgegner und warum kommen dort so viele Menschen zu Coronaleugner:innen-Demonstrationen zusammen? Die Kontextwochenzeitung stellt die These auf, dass die schwäbische Impfparanoia mit der dort weit verbreiteten Anthroposophie von Rudolf Steiner zu tun hat. Ich bin weder für Schwaben noch für Impfgegner ein Experte, aber den Artikel fand ich interessant: Wir können alles außer impfen.

===

In der Zeit argumentiert Mark Schieritz anschaulich für Marktradikale, warum Maskentragen das kleinere Übel in einer Pandemie ist: Regierung hält an Masken fest. Eigentlich sei es ganz einfach: Ein erneuter Lockdown würde nach Berechnungen von Goldman Sachs Deutschland rund 175 Milliarden Euro kosten: „Die Maske ist also ein ökonomischer Glücksfall: minimaler Aufwand, maximaler Ertrag.“

===

Zwei weitere Linke-Politikerinnen haben Drohbriefe mit Morddrohungen von einem „NSU 2.0“ erhalten. Und wieder gingen die Briefe an Adressen, die nahelegen, dass die Daten aus Polizeicomputern stammen.

===

Die New York Times zeigt in einer schönen Scroll-Dokumentation, wie New York ohne Autos sein könnte. Das ist gut umgesetzt und zeigt anschaulich, wie unsere Städte bisher vollkommen auf Autos ausgerichtet sind. Und das eine andere Stadtgestaltung möglich ist: I’ve Seen a Future Without Cars, and It’s Amazing.

Video des Tages: Ennio Fahrenheit

In der ZDF-Mediathek gibt es die Dokumentation „Fahrenheit 11/9 von Michael Moore„. Ich hab gestern eine Wette verloren, dass es um Bush geht. Ich meinte „Fahrenheit 9/11 von Michael Moore“, der 2004 in die Kinos kam. In diesem neuen Film von 2017 geht es darum, wie Trump an die Macht kam und was das für die USA bedeutet. Früher fand ich Michael Moore großartig, bei den neueren Sachen ging er mir häufig auf die Nerven. Ich werde mir dieses Wochenende anschauen, in welche Kategorie dieser Film von ihm gehört.

Ebenfalls beim ZDF gibt es ein halbstündiges Kulturzeit extra über den Filmkomponisten Ennio Morricone, der im Alter von 91 Jahrne verstorben ist.

===

Viele Grüße und bleibt gesund,
Markus Beckedahl

Ich freue mich immer über Feedback und gute Hinweise. Meine Mailadresse ist markus@netzpolitik.org. Ich bin zwar häufig von zu vielen eMails überfordert und bekomme nicht alle beantwortet. Aber ich lese alle Mails.

Diesen Newsletter kann man hier abonnieren.

Im Anfangsstadium gibt es hier keine zusätzliche Redaktion und Qualitätskontrolle. Rechtschreibfehler werden zwar vermieden, können aber auftreten und in diesem Fall leider auch behalten werden. Dieser Newsletter wird auch von vielen Spenden im Rahmen der freiwilligen Leser:innenfinanzierung von netzpolitik.org ermöglicht. Mit Deiner Unterstützung können wir noch viel mehr machen.