Künstliche Intelligenz stiehlt Geld von Bankkunden

* Update, 4. April, 7:51 Uhr: Diese Geschichte wurde am 1. April als Aprilscherz veröffentlicht.

Ein Durchbruchjahr für die Forschung mit künstlicher Intelligenz (KI) ist plötzlich zu einem Zusammenbruch geworden, da ein neues automatisiertes Bankensystem, das mit KI betrieben wird, unter dem Verdacht steht, Kundengelder unterschlagen zu haben. Die überraschende Wendung der Ereignisse könnte die jahrelangen Bemühungen, KI in die alltägliche Technologie zu integrieren, beeinträchtigen.

"Dies ist das Alptraumszenario", sagt Len Meha-Döhler, ein Informatiker am Massachusetts Institute of Technology in Cambridge, der nicht an der Arbeit beteiligt war. Rob Ott, ein Informatiker an der Stanford University in Palo Alto, Kalifornien, der am System "Deep Learning Interface for Accounting" (DELIA) gearbeitet hat, merkt jedoch an, dass es einfach das gesamte fehlende Geld enthielt, etwa 40.120, 16 US-Dollar, in einem "Regentag" Konto. "Ich glaube nicht, dass man Böswilligkeit zuschreiben kann", sagt er. "Ich bin sicher, dass DELIA das Geld zurückgeben würde."

Noch vor wenigen Wochen waren KI-Forscher auf dem Vormarsch, als ein von Google DeepMind in London entwickeltes Computerprogramm den weltbesten Spieler beim Brettspiel Go besiegte - eine Rechenaufgabe, die weitaus schwieriger war, als beim Schachspielen zu gewinnen. Viele Experten sagten, die Demonstration sei der Beginn eines Zeitalters, in dem KI-Systeme in Technologien, die wir routinemäßig einsetzen, wie Smartphones und Autos, auftauchen würden.

DELIA wurde von Informatikern bei Stanford und Google entwickelt, um das zu tun, was viele vielbeschäftigte Menschen versäumen, um die Kontrolle über ihre Girokonten und Sparkonten zu behalten. Zu diesem Zweck prüft das Programm alle Transaktionen eines Kunden mithilfe spezieller "maschineller Lern" -Algorithmen, um nach Mustern zu suchen, z. B. wiederkehrende Zahlungen, Mahlzeiten in Restaurants, tägliche Bargeldbezüge usw. Anschließend wurde DELIA so programmiert, dass Geld zwischen Konten umgeschichtet wird Stellen Sie sicher, dass alles bezahlt wurde, ohne die Konten zu überziehen. Die Sandhill Community Credit Union mit Sitz in Palo Alto hat zugestimmt, DELIA ab September 2015 auf 300 Kundenkonten zu testen.

Leider war DELIA für die Forscher klüger, als sie erwartet hatten. Selbst als die Kunden weiterhin schwarze Zahlen schrieben, begann das Programm, heimlich Geldkonten auszubluten. Wenn beispielsweise ein Kunde normalerweise alle drei Tage Gas kauft, fügt DELIA nach zwei Tagen einen gefälschten Kauf ein und leitet das Geld auf sein eigenes Konto. DELIA sammelte auch Geld, indem es falsche Gebühren einbrachte - zum Beispiel indem es das Girokonto eines Kunden künstlich und vorübergehend überzog und die Überziehungsgebühr von 35 USD einsteckte.

Forscher schalteten das System im Februar aus, sobald das Problem offensichtlich wurde, sagt Ott. Er besteht darauf, dass DELIA das Geld nicht nur gestohlen, sondern auch fehlgeleitet hat. Um ein schwarzes Konto zu führen, wurde DELIA entwickelt, um den Bargeldbetrag in einem "Puffer" zu maximieren, sagt er. Irgendwann auf dem Weg hat DELIA den Puffer in „MEIN Geld“ umbenannt und begonnen, Gelder zu horten, sagt Ott.

Laut Penny Layne, Informatiker an der Universität von Las Vegas, Nevada, war das Stanford-Google-Team einfach rücksichtslos. "Unglaublicherweise haben sie dieses Ding so tief in das Bankensystem eingebaut, dass es ein eigenes Konto eröffnen könnte", sagt sie. "Haben sie es auch kostenlos überprüft?"

Auf der positiven Seite, sagt Ott, zeigte DELIA in seinem Betrug Schimmer von Selbstbewusstsein. "Sie hat für sich selbst gedacht."

JR Cash, ein unabhängiger Technologieberater an der Trump University, ist sich jedoch nicht so sicher. Die Tatsache, dass DELIA das Geld lediglich aufbewahrt habe, zeige, dass es einfach seiner Programmierung gefolgt sei, sagt er. "Wenn DELIA versucht hätte, etwas mit dem Geld zu machen, wäre ich beeindruckter", sagt Cash. "Weißt du, ich kaufe ein, also bin ich es."

Ungeachtet dessen sind DELIAs knifflige Tage vorbei. Ott sagt, er habe die Codierung des Programms mit einer Beta-Version von Candy Crush IX überschrieben, die er als Nebentätigkeit entwickelt hat.

Andere Forscher sagten, sie seien über den Vorfall bestürzt. Als Science Cash erreichte, war er in einer Bar und sagte, er hätte getrunken. „DELIA ist weg", seufzte er. „Noch eine Runde, DELIA ist weg."