Eine tückische Blackbox

Das "Deep Learning" verhilft der KI derzeit zum Durchbruch. Doch die Sache hat einen Haken: Die Technik ist nahezu undurchdringlich - und verblüffend leicht zu täuschen.

Dean Pomerleau kann sich noch gut daran erinnern, als er sich zum ersten Mal mit dem Blackbox-Problem herumschlug. Man schrieb das Jahr 1991, und Pomerleau versuchte, einem Computer das Autofahren beizubringen. Inzwischen ist das dank Forschung an autonomen Fahrzeugen alltäglicher geworden. Seinerzeit war es eine echte Pioniertat.

Pomerleau klemmte sich hinter das Steuer seines speziell umgerüsteten Humvees und lotste den Militärtruck durch die Straßen der Stadt. An Bord hatte der Forscher, damals Robotik-Doktorand an der Carnegie Mellon University in Pittsburgh, einen Computer, den er darauf programmiert hatte, durch eine Kamera zu blicken, die Geschehnisse auf der Straße zu interpretieren und jedes Manöver, das Pomerleau machte, abzuspeichern. Die Hoffnung war, dass das Gerät irgendwann genügend Assoziationen hergestellt haben würde, um das Auto selbstständig zu lenken.

Bei jeder Fahrt trainierte er das System ein paar Minuten lang, dann ließ er es eigenständig fahren. Alles schien prima zu laufen – bis der Humvee eines Tages vor einer Brücke plötzlich seitwärts ausscherte. Nur durch einen schnellen Griff ins Lenkrad konnte Pomerleau einen Crash verhindern.

Wieder zurück im Labor, versuchte er zu ermitteln, was den Computer auf Abwege geführt hatte. "Das war Teil meiner Doktorarbeit: die Blackbox zu öffnen und herauszufinden, was das Gerät denkt", erklärt Pomerlau. Aber wie? Er hatte dem Rechner ein "neuronales Netz" einprogrammiert – ein Verfahren der künstlichen Intelligenz (KI), das sich am Aufbau des menschlichen Gehirns orientiert und gemeinhin besser mit komplexen Alltagssituationen umgehen kann als die Standardalgorithmen jener Zeit.

Ebenso undurchsichtig wie das Gehirn

Leider sind solche Netze aber auch ebenso undurchsichtig wie das Gehirn. Statt das Gelernte fein säuberlich als Datenblock im digitalen Speicher abzulegen, verteilen sie die Informationen in einer Art und Weise, die außerordentlich schwierig zu entschlüsseln ist. Erst nachdem Pomerleau die Reaktion seiner Software auf verschiedene visuelle Reize eingehend untersucht hatte, konnte er das Problem ausfindig machen: Das neuronale Netz hatte nämlich die grasbewachsenen Seitenstreifen als Orientierungshilfe für den Straßenverlauf benutzt. Als dann unvermittelt eine Brücke auftauchte, war die Irritation groß.

Heute, 25 Jahre später, wird es immer schwieriger, aber auch immer wichtiger, das Rätsel der Blackbox zu lösen. Die Technologie der KI hat sich, was Komplexität und Anwendungsfelder angeht, geradezu explosionsartig weiterentwickelt. Pomerleau, der an der Carnegie Mellon University inzwischen Robotik in Teilzeit lehrt, beschreibt sein kleines System auf dem Transportfahrzeug als "Arme-Leute-Version" der riesigen neuronalen Netze, die heutzutage auf den Rechnern laufen. Für die Technik des "Deep Learning", bei dem neuronale Netze mit Hilfe riesiger Datenbanken trainiert werden, gibt es inzwischen sogar erste kommerzielle Einsatzbereiche – von selbstfahrenden Autos bis zu Internetseiten, die aus dem Browserverlauf eines Benutzers Produktempfehlungen generieren.

Auch in der Wissenschaft deutet sich die Allgegenwart von Deep Learning an. Künftige Radioteleskope werden ohne die Hilfe der KI kaum sinnvolle Signale in ihren enormen Datenmengen ausmachen können; in Gravitationswellendetektoren soll Deep Learning noch die kleinsten Störquellen ausfindig machen und eliminieren helfen; Verlagshäuser werden Millionen wissenschaftlicher Veröffentlichungen und Bücher durchforsten und per KI verschlagworten. Und schließlich, so prognostizieren es zumindest einige Forscher, könnten mit Deep Learning ausgestattete Computer sogar Vorstellungsvermögen und Kreativität entwickeln. "Man würde dem Computer einfach große Datenmengen vorsetzen und bekäme dann die Naturgesetze ausgespuckt", meint der Physiker Jean-Roch Vlimant vom California Institute of Technology in Pasadena.