Netzwelt

Staatliche Überwachung

Google warnt vor den Gefahren der Gesichtserkennung

Ohne ethische Fragen geklärt zu haben, will Google seine Gesichtserkennungs-Software nicht freigeben. Microsoft und Amazon hingegen verdienen schon an der Technik. Amazons Ideen gehen sogar noch viel weiter.

DPA

Fußballfans protestieren gegen das Projekt "Parallele Gesichtserkennung in Videoströmen".

Von
Freitag, 14.12.2018   16:47 Uhr

Nun reiht sich auch Google ein in die Riege jener Tech-Konzerne, die vor unerwünschten Folgen der Gesichtserkennung warnen. Das Unternehmen teilte in einem Blogbeitrag mit, dass es zunächst darauf verzichten wolle, die eigene Software zur Gesichtserkennung für die Öffentlichkeit freizugeben.

Die Technologie müsse zunächst vorsichtig geprüft werden, damit "ihr Einsatz mit unseren Prinzipien und Werten übereinstimmt und Missbrauch sowie schädliche Folgen vermieden werden", schreibt Kent Walker, Leiter der Rechtsabteilung von Google. Mit einem Seitenhieb gegen die Konkurrenz kündigt Walker an, die Gesichtserkennung zunächst nicht kommerziell anzubieten. Im Gegensatz zu anderen Unternehmen wolle man zunächst "wichtige technische und politische Fragen klären".

Bürgerrechtler der American Civil Liberties Union (ACLU) bezeichnen die Ankündigung als einen "starken ersten Schritt". Damit habe der Konzern gezeigt, dass er einen moralischen Kompass besitze. "Wir werden unseren Aufruf an Amazon und Microsoft erneuern, ihre gefährliche Gesichtsüberwachung nicht weiter der Regierung anzubieten."

Amazons Überwachungs-Patentantrag

Diesen beiden Unternehmen gilt auch der Seitenhieb von Google. Denn beide Konzerne haben ihre Gesichtserkennungs-Software für Kunden freigegeben, um Geld damit zu verdienen. Microsoft warnte vor Kurzem zwar ebenfalls vor den Risiken durch Technik wie eben Gesichtserkennung, die auf maschinellem Lernen beruht, bietet entsprechende Software aber längst an: Kunden können auf die Azure-Schnittstelle zugreifen und Gesichtserkennung zu Spottpreisen nutzen.

Amazon wiederum wird vorgeworfen, die Technologie als Dienstleistung unter anderem an die umstrittene US-Einwanderungsbehörde ICE zu verkaufen, die Kinder an der Grenze zu Mexiko von ihren Eltern getrennt haben soll.

Einem Patentantrag zufolge denkt Amazon sogar über eine weitergehende Privatisierung der Videoüberwachung nach: Die ACLU hatte am Mittwoch die Pläne einer vernetzen Türklingel mit Kamera veröffentlicht. Demnach will Amazon damit alle Passanten filmen lassen, die an der Haustür vorbeilaufen. Die Gesichter sollen mit einer Datenbank abgeglichen werden, damit sowohl dem Hausbesitzer, als auch der Polizei verdächtige Personen gemeldet werden.

Laut ACLU könne das dazu führen, dass Amazon mit solchen Geräten und den Servern, die sie Strafverfolgern anbieten, "alle Teile eines Überwachungsnetzwerks zusammenbaut, das von der Regierung bis zur Haustür reicht".

REUTERS

FILE PHOTO: A Google logo is seen at the companys headquarters in Mountain View, California, U.S., November 1, 2018. REUTERS/ Stephen Lam - RC1D55999C70/File Photo

Doch auch Google hat in der Vergangenheit nicht unbedingt nach den Werten gehandelt, die das Unternehmen jetzt propagiert. So ließ Google einen Vertrag mit dem US-Militär erst auf Druck der eigenen Mitarbeiter auslaufen. Google hatte mit selbst lernender Software (künstliche Intelligenz oder kurz KI genannt) die Aufnahmen von Drohnen automatisiert ausgewertet.

Kein Opt-out möglich

Ohne Regeln geht es nicht, dieser Meinung sind auch Wissenschaftler der New York University am AI Now Institute. In ihrem Jahresbericht (PDF) fordern die Forscher, dass derartige Technologie gesetzlich strenger reguliert wird und Firmen intern die Entwicklung nach ethischen Grundsätzen überwachen sollen. Damit sollen ein Überwachungsstaat und die Diskriminierung vor allem von Frauen und Nichtweißen verhindert werden.

Grundsätzlich empfehlen die Forscher, dass jeder die Chance haben sollte, sich einer automatischen Erfassung und Analyse zu verweigern. Doch systembedingt werden zunächst immer alle Gesichter gefilmt. Erst im nächsten Schritt könnte eine Software erkennen, dass eine Person nicht analysiert werden will.

insgesamt 5 Beiträge
Pipilotta 14.12.2018
1. Aha,
"Grundsätzlich empfehlen die Forscher, dass jeder die Chance haben sollte, sich einer automatischen Erfassung und Analyse zu verweigern. Doch systembedingt werden zunächst immer alle Gesichter gefilmt. Erst im nächsten [...]
"Grundsätzlich empfehlen die Forscher, dass jeder die Chance haben sollte, sich einer automatischen Erfassung und Analyse zu verweigern. Doch systembedingt werden zunächst immer alle Gesichter gefilmt. Erst im nächsten Schritt könnte eine Software erkennen, dass eine Person nicht analysiert werden will." ... die Software erkennt also mein Gesicht und fügt daraufhin dem Datensatz der durch die erfolgreich ausgeführte Gesichtserkennung über mich vorliegt, dass ich eine Person bin, die nicht analysiert werden will. Das würde die Situation für mich als Überwachungsopfer nicht wirklich entschärfen
Rainer Hackenberg 15.12.2018
2. Laufen macht ja auch verdächtig
"Demnach will Amazon damit alle Passanten filmen lassen, die an der Haustür vorbeilaufen." Wenn jemand in der Stadt läuft anstatt zu gehen macht sich ja auch irgendwie verdächtig, weil er sich nicht wie die meisten [...]
"Demnach will Amazon damit alle Passanten filmen lassen, die an der Haustür vorbeilaufen." Wenn jemand in der Stadt läuft anstatt zu gehen macht sich ja auch irgendwie verdächtig, weil er sich nicht wie die meisten anderen Menschen bewegt. Wozu also die Aufregung.
nullvoid 15.12.2018
3. opt out
Möglicherweise entwickelt sich die Kultur der digitalen Camouflage zu einer eigenen Moderichtung und bringt viele neue Accessoires und Make-up Varianten heraus, so dass sich der grösste Teil der Bevölkerung einer digitalen [...]
Möglicherweise entwickelt sich die Kultur der digitalen Camouflage zu einer eigenen Moderichtung und bringt viele neue Accessoires und Make-up Varianten heraus, so dass sich der grösste Teil der Bevölkerung einer digitalen Überwachung entzieht. Interessanterweise erinnern viele der derzeitigen Vorschläge and das Design von beispielsweise Blade Runner. Welcome to a pretty weird cyberpunk world!
Mr Bounz 15.12.2018
4.
Respekt Google, der Markt wäre sicher Riesig, aber es freut mich das von "don't bee evil" noch etwas übrig ist. Der Vergleich mit den Drohnen ist jedoch fehl am Platz. Auch wenn ich strickt gegen dieses Morden bin [...]
Respekt Google, der Markt wäre sicher Riesig, aber es freut mich das von "don't bee evil" noch etwas übrig ist. Der Vergleich mit den Drohnen ist jedoch fehl am Platz. Auch wenn ich strickt gegen dieses Morden bin sehe ich doch Unterschiede zu einer total-Überwachung an jeder Haustür oder wo auch sonst eine Kamera steht. Nicht mehr lange dann haben wir die Freiheit WEG-beschützt!
quark2@mailinator.com 15.12.2018
5.
Opt-Out ist keine Lösung. Die Daten dürfen gar nicht erst erfaßt werden. Überhaupt sollten Privatpersonen keine Kameras auf öffentliche Bereiche richten dürfen. Zumindest theoretisch dürfen sie das ja auch jetzt nicht, aber [...]
Opt-Out ist keine Lösung. Die Daten dürfen gar nicht erst erfaßt werden. Überhaupt sollten Privatpersonen keine Kameras auf öffentliche Bereiche richten dürfen. Zumindest theoretisch dürfen sie das ja auch jetzt nicht, aber ich möchte, daß das so drakonisch bestraft wird, daß es auch in der Praxis unterbleibt. Das Gleiche sollte auch für Stimmanalyse etc. gelten. Ich könnte hier noch Ewigkeiten schreiben, da ich diese Dinge beruflich mache. Ginge es nach den Kunden, könnten sich die Menschen in 10 Jahren keinen Zentimeter bewegen, ohne daß das bemerkt und gespeichert wird, sogar innerhalb der Wohnung (intelligentes Licht, Musik, etc. über die Cloud synchronisiert ...). Ich finde, wir brauchen ein Menschenrecht auch anonymes Leben. Keine Kameras, die einen noch im Wald beim Pilzesuchen verfolgen, versteckt angebracht und live, per Bewegungsmelder ...

Verwandte Themen

Verwandte Artikel

© SPIEGEL ONLINE 2018
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung

TOP