2022-08-22 Google ... Brazil

Infrastruktur gehört in öffentliche Hand. Unter anderem auch, um Rechtssicherheit zu haben.

Die New York Times macht in einem Artikel zwei Fälle von Google-Kunden öffentlich, was es bedeuten kann, sich den allgemeinen Geschäftsbedinungen eines Unternehmens beugen zu müssen.

nytimes-google-surveillance-toddler-photo

Zum Beispiel der Vater, der sich sorgen um sein kleines Kind macht: Dessen Penis war angeschwollen schien zu schmerzen. Also hat der Vater Fotos von dem Penis gemacht. Die Fotos hat er mit seinem Android-Smartphone erstellt.

Seine Frau hatte mit einer Arztpraxis gesprochen und sie wurde gebeten, im Vorwege die Fotos an den Arzt per Web-Upload zu schicken. Um dem nachzukommen, hat sie die Fotos von dem Android-Gerät an ihr iPhone gesendet.

Die Folge: Googles System hat die Fotos in einem automatisiertem Prozess als Kinderpornographie klassifiert. So etwas stellt einen Verstoß gegen die AGBs dar, daher wurde der Account des Vaters gesperrt. Und damit war auf einmal ganz viel verloren:

With help from the photos, the doctor diagnosed the issue and prescribed antibiotics, which quickly cleared it up. But the episode left Mark with a much larger problem, one that would cost him more than a decade of contacts, emails and photos, and make him the target of a police investigation. Mark, who asked to be identified only by his first name for fear of potential reputational harm, had been caught in an algorithmic net designed to snare people exchanging child sexual abuse material.

Und wie reagiert Google? Die Tech-Konzerne investieren bekanntlich nicht sehr gerne in Mitarbeiter:innen, die sich um den Support kümmern. Wenn die künstliche Intelligenz mit einem Bann zuschlägt, ist es schwierig da wieder herauszukommen. In diesem Fall ist es nicht anders gewesen:

A few days after Mark filed the appeal, Google responded that it would not reinstate the account, with no further explanation.

Mark didn’t know it, but Google’s review team had also flagged a video he made and the San Francisco Police Department had already started to investigate him.


Tags: , ,