Künstliche Intelligenz

Wie Norman zum Psychopathen gemacht wurde

Modell eines Roboters mit künstlicher Intelligenz.

Modell eines Roboters mit künstlicher Intelligenz.

BONN. Forscher des Massachusetts Institute of Technology haben die wohl weltweit erste künstliche Intelligenz eines Psychopathen erschaffen. Die Geschichte von Norman.

Norman. Das ist nicht nur der Name eines Charakters in Alfred Hitchcocks "Psycho", sondern auch der Name der wohl weltweit ersten künstlichen Intelligenz (KI) eines Psychopathen. Forscher des Massachusetts Institute of Technology (MIT) haben Norman mit Bildunterschriften von Fotos konfrontiert, die allerlei Blut und Gräueltaten zeigen. Sie stammen aus einem Unterforum von Reddit - einem sogenannten Social-News-Aggregator, auf der im Internet Text sowie Linkinhalte zu finden sind.

Die erste Regel dieses "Subreddits", aus dem die Forscher ihr Material zogen, lautet Medienberichten zufolge: "Es muss ein Bild oder Video in dem Beitrag geben, das zeigt, wie eine Person stirbt." Auch die Bildunterschriften müssen dies ganz genau beschreiben. Unter anderem aus ethischen Gründen griffen die Forscher nur auf die Beschreibungen zurück.

Die MIT-Forscher trainierten Norman also mit diesen Beschreibungen, um herauszufinden, wie Daten, die künstlichen Intelligenzen gefüttert werden, deren Verhalten verändern können.

Anschließend unterzogen die Forscher sowohl Norman als auch einer anderen künstlichen Intelligenz, die normal erzogen wurde, dem Rorschachtest. Das auch als Tintenkleckstest bekannte Verfahren des Schweizer Psychoanalytikers Hermann Rorschach basiert auf zehn Tafeln, die unterschiedliche Tintenklecksmuster zeigen. Die Testpersonen sollen dann beschreiben, was die Muster zeigen könnten.

Das Ergebnis im Falle Norman: In jedem der Tintenklecksmuster sah er etwas kriminelles. Wo die Standard-KI beispielsweise eine Blumenvase sieht, erkennt Norman einen erschossenen Mann. Den Tintenklecks, den die Standard-KI als schwarz-weiß Foto eines kleinen Vogels interpretiert, sieht Norman als Foto, das zeigt, wie ein Mann in eine Teigmaschine gesteckt wird. Alle zehn getesteten Muster brachten solche Ergebnisse hervor.

Die Forscher zogen aus ihrem Experiment die Erkenntnis, dass sich das Verhalten und Denken einer künstlichen Intelligenz nicht von derem eigenen Algorithmus, sondern zum großen Teil durch die Daten ergibt, die ihr zur Verfügung gestellt werden.