Netzwelt
Ausgabe
6/2018

Dumme Computer

Wie man mit simplen Tricks die Gesichtserkennung foppen kann

Selbstlernende Software, die Bilder und Sprache erkennt, lässt sich erstaunlich leicht austricksen - Forscher entdecken ständig neue Varianten der Täuschung.

Getty Images
Von
Donnerstag, 08.02.2018   05:51 Uhr

Zu den lästigsten Widersachern des lernfähigen Computers von heute zählt ein kleiner Farbfleck. Er ist knallbunt, wirr gemustert und erinnert an einen psychedelischen Lollipop. Und er besitzt, wie es scheint, hypnotische Macht über die Maschine.

Ein Forscherteam bei Google hat diesen Farbfleck ausgetüftelt. Er soll die automatische Bilderkennung des Computers außer Kraft setzen. Der sieht dann überall nur noch Toaster, egal was man ihm zeigt: Bananen, eine Badeente, die Bundeskanzlerin - alles Toaster.

Versuche zeigten, dass der Trick funktioniert. Für den wunderlichen Effekt genügt es, dass der Zauberfleck irgendwo gut sichtbar im Blickfeld der Kamera auftaucht. Kaum nimmt der Computer ihn wahr, ist er wie verhext.

Wie kann das sein? Das Muster, so erklären es die Forscher, wirke auf die künstliche Intelligenz wie ein unwiderstehlicher Köder: In dem Fleck glaube sie dermaßen überdeutlich einen Toaster zu erkennen, dass sie die anderen Bildinhalte für unwesentlich hält - und ignoriert.

Erstaunlich, wie leicht die Maschine sich hereinlegen lässt. Es ist nicht der erste Fall. Auch andere Forscher haben die seltsame Schwäche der Bilderkennung bereits vorgeführt. Zum Beispiel veränderten sie auf digitalen Fotos, für Menschen unmerklich, einzelne Bildpunkte - und der Computer verwechselte plötzlich einen Schulbus mit einem Vogel Strauß.

Titelbild

Aus dem SPIEGEL

Heft 6/2018
Teurer Traum
Kaufen oder mieten? Was wo schlau ist

Hinweis: Dies ist ein Artikel aus dem Bezahlbereich von SPIEGEL ONLINE. Der Bezahlvorgang kann in Ihrer App leider nicht abgebildet werden. Bitte installieren Sie die aktuelle App-Version aus dem Store oder wechseln Sie auf die mobile Website m.spiegel.de, um diesen Artikel vollständig lesen zu können. Vielen Dank!

© DER SPIEGEL 6/2018
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH

TOP