Gesichtserkennung schlägt Kapriolen

Unser Hirn ist auf das Erkennen von Gesichtern getrimmt. Diese aus der Evolution erklärbare spezielle Fähigkeit besitzen KI-Systeme nicht mal im Ansatz. Entsprechend häufig sind hier nach wie vor Fehler.

So haben beispielsweise Forscher der Carnegie Mellon University gezeigt, dass schon kleinste Veränderungen am Look die KI-Systeme verwirren und sie so Personen verwechseln können. Und damit nicht genug: Indem die Wissenschaftler ein Muster auf die ansonsten gleich gestaltete Brille eines Probanden legten, wurden sie vom KI-System nicht mehr als Person wahrgenommen und mutierten zum schnöden "Ding".

Schon einfache Bilderkennungsverfahren, die auf maschinellem Lernen beruhen, lassen sich mit einfachsten Mitteln aushebeln. So nahmen Forscher das Bild eines Pandabärs und verrauschten dieses so geringfügig, dass das menschliche Auge kaum einen Unterschied zwischen vorher und nachher erkennen kann. Die Maschine machte aber kurzerhand aus dem Panda einen Gibbon-Affen.

Solche Fehlinterpretationen sind ärgerlich, aber noch nicht gefährlich. Dies ändert sich, wenn Bilderkennungssysteme in autonomen Fahrzeugen sich durch kleinste Änderungen an einem Verkehrsschild verwirren lassen. Die Folge: Stopp-Schilder mutieren zu Tempolimits, wie eine Gruppe von Forschern zeigen konnte – mit fatalen Folgen für alle Beteiligten.

Noch handelt es sich bei diesen Grenzbeschreibungen um Forschungsarbeiten und daher um rein "akademische" Probleme. Aber solche KI-Systeme mit Bild­erkennungsfunktionalität sind auch schon im "echten Leben" im Einsatz. Beispielsweise bei der neuseeländischen Passbehörde. Allerdings hat die smarte Software ihre Mühe bei der Erkennung von Bürgern asiatischer Abstammung. Die Augen wurden zumindest bei Richard Lee, einem Antragsteller, als "geschlossen" interpretiert. In der Folge wurden die Bilder vom System nicht als Pass­fotos akzeptiert. Lee musste sich ganz traditionell persönlich beim Passbüro melden, um das Missverständnis zu klären.

Böse Zungen könnten nun mit der Vermutung lieb­äugeln, KI-Systeme und Political Correctness seien nicht unbedingt in jedem Fall zu vereinbaren.So leistete sich etwa auch Googles Bilderkennung einen bösen Fauxpas als das Tool zwei dunkelhäutige Personen fälschlicherweise als Gorillas identifiziert und kategorisiert hat.