Mordende Ehefrau oder Mensch mit Regenschirm?

20.06.18

AFPDiesen Artikel drucken

San Francisco (AFP) - Sie sieht Mord und Totschlag überall: US-Forscher haben die erste psychopathische künstliche Intelligenz vorgestellt. Der Algorithmus namens "Norman", benannt nach Alfred Hitchcocks Filmfigur Norman Bates, wurde von Wissenschaftlern am renommierten Massachusetts Institute of Technology (MIT) geschaffen. Er sei ein Beispiel dafür, was passiere, wenn künstliche Intelligenz mit einseitigen Infos gefüttert werde, erklärten die Forscher. Mit "Norman" wollen sie auf Gefahren hinweisen.

Für das Experiment versorgte das Forscherteam die künstliche Intelligenz ausschließlich mit Inhalten, in denen es um sterbende Menschen geht. Sie bedienten sich aus Beiträgen im Netzwerk Reddit. Anschließend zeigten sie "Norman" eine Reihe von Tintenklecks-Bildern, angelehnt an den psychodiagnostischen Rorschachtest. Die Antworten ihres Psychopathen, was wohl darauf zu sehen sei, verglichen die MIT-Forscher mit denen einer anderen künstlichen Intelligenz, die "normal" geschaffen wurde.

Die Ergebnisse sind furchteinflößend: Während der "gesunde" Algorithmus auf einem Bild "Menschen, die eng beieinander stehen" sah, antwortete "Norman": "Ein Mann, der aus dem Fenster springt." Einen anderen Tintenklecks identifizierte die künstliche Intelligenz als "Person mit einem Regenschirm", während "Norman" darin einen Mann sah, "der von seiner schreienden Frau erschossen wird". Der psychopathische Algorithmus entdeckte außerdem Menschen, die durch einen Stromschlag getötet, überfahren oder in eine Teigmaschine gezogen werden - während die andere künstliche Intelligenz Vögel und eine Hochzeitstorte erkannte. 

Beim maschinellen Lernen seien die Daten, mit denen die Maschine gefüttert werde, von zentraler Bedeutung, sie könnten "ihr Verhalten signifikant beeinflussen", fassen die Forscher ihr Experiment zusammen. Ihr Ziel ist es, auf die Gefahren bei künstlicher Intelligenz hinzuweisen und das Bewusstsein dafür zu schärfen. 

Wenn ein Algorithmus als ungerecht oder voreingenommen wahrgenommen werde, sei der Übeltäter oftmals nicht die künstliche Intelligenz selbst, sondern die Daten, mit denen sie gefüttert wurde, erklärten die MIT-Forscher. Auf der Internetseite norman-ai.mit.edu haben sie "Normans" Antworten zusammengetragen. Dort bitten sie Nutzer, den Test selbst zu machen und ihre Antworten einzusenden - damit "Norman" repariert werden kann.

Auch in dieser Rubrik

Präzisester Test der Relativitätstheorie außerhalb der Milchstraße gelungen

22.06.18 Garching (AFP) - Einem Astronomenteam ist mit einem Großteleskop in Chile und dem "Hubble"-Weltraumteleskop der bislang genaueste Test von Einsteins Allgeme...> Ganzen Artikel lesen

Zunehmende Vielfalt in Kitas und Schulen

22.06.18 Berlin (AFP) - Eine zunehmende Vielfalt in Kindergärten und Schulen stellt für das deutsche Bildungssystem eine zentrale Herausforderung dar. Gründe für die...> Ganzen Artikel lesen

Internetbildarchiv der historischen "Rosetta"-Raumfahrtmission ist nun komplett

21.06.18 Köln (AFP) - Das Bilderarchiv der Kometenmission "Rosetta" ist komplett: Alle Aufnahmen der Raumsonde von ihrem spektakulären Besuch beim Kometen 67P/Tschur...> Ganzen Artikel lesen

Französische Forscher bauen "kleinstes Haus der Welt"

20.06.18 Besançon (AFP) - Französische Forscher haben nach eigenen Angaben das "kleinste Haus der Welt" gebaut. Das Gebäude ist mit nacktem Auge nicht zu erkennen, w...> Ganzen Artikel lesen

Astronaut Gerst meldet sich in Pressekonferenz erstmals von ISS

20.06.18 Köln (AFP) - Vier Tage nach seiner Ankunft auf der Internationalen Raumstation ISS will sich der deutsche Astronaut Alexander Gerst am Dienstag (17.00 Uhr) ...> Ganzen Artikel lesen