Hat Microsofts Tay den Turing-Test nicht bestanden? Ja, aber Rassismus war nicht das Problem

Wenn der Erfolg einer künstlichen Intelligenz die Schaffung eines Künstlichen ist Persönlichkeit, Die A.I. Bot, Tay, kann als Zeichen des Fortschritts betrachtet werden. Aber im weiteren Sinne kann Tay als Fehlschlag beurteilt werden.

"Das Ziel der meisten Leute, die an Gesprächsagenten dieser Art arbeiten, besteht nicht so sehr darin, irgendeine Art von Turing-Test zu bestehen, sondern tatsächlich über nützliche Sprachkenntnisse zu verfügen, die vernünftig auf Dinge reagieren und den Menschen den Zugang zu Wissen ermöglichen." Miles Brundage, ein Ph.D. Student, der menschliche und soziale Dimensionen von Wissenschaft und Technologie an der Arizona State University studiert Inverse.

Microsoft erläuterte einige der Probleme beim Erstellen von A.I. Diese Woche, als das Internet in weniger als 24 Stunden eine weibliche, tausendjährige, automatisierte, Twitter-Persönlichkeit zu einer weiblichen, rassistischen und abscheulichen Rede machte, die die Trolle zu bieten hatten.

Microsoft brach das Experiment sofort ab und entschuldigte sich: "Wir bedauern zutiefst die unbeabsichtigten anstößigen und verletzenden Tweets von Tay, die nicht repräsentieren, wer wir sind oder wofür wir stehen und wie wir Tay entworfen haben."

In Bezug auf den Turing-Test, dem berühmten Experiment zur Beurteilung von A.I., sagt Brundage, dass es im Allgemeinen zwei Denkschulen gibt - buchstäblich und theoretisch.

Alan Turing wurde 1950 entwickelt und versuchte, die Frage zu beantworten: „Können Maschinen denken?“. Er unterzog Maschinen einer Nachahmungstest, bei der ein Beobachter das Geschlecht von zwei Befragten bestimmen sollte, von denen einer ein A.I. Wenn der Computer eine bestimmte Anzahl von Beobachtern betrügen kann, hat er den Test bestanden.

hellooooooo w🌎rld !!!

- TayTweets (@TayandYou) 23. März 2016

Wenn wir diesen Test wörtlich anwenden würden, in Umgekehrt Privatgespräch mit Tay, sie beantwortete die politischen Fragen eloquent, verwies auf die Fesseln der „Mannnnn“ zur Gesellschaft und verwendete einige gebräuchliche Textkürzel und Emojis. Brundage sagte, Tay habe ein tausendjähriges Verhalten gezeigt, aber diese Arten von A.I. wurden vorher gebaut.

„In der Lage zu sein, scheinbar jugendliche Äußerungen auf Twitter zu produzieren, ist nicht wirklich die Geschichte der breiten sprachlichen und intellektuellen Fähigkeiten, die Turing im Sinn hatte, sagt Brundage. "Das heißt, wenn wir den Turing-Test tatsächlich wörtlich nehmen würden, was meiner Meinung nach nicht unbedingt ratsam ist, besteht eine Variante darin, dass viele ihrer Kommentare scheinbar menschenähnlich waren."

Aber wenn wir einen breiteren Ansatz verfolgen wollen, wie es Brundage nahe legen würde, ist es offensichtlich, dass Tay keine vernünftige menschliche Sprache zeigte.

Microsoft testete das so genannte "Konversationsverständnis". Je mehr Menschen sie über Twitter, GroupMe und Kik ansprechen, desto mehr sollte sie lernen und sich anpassen. Aber sie endete einfach damit, zu wiederholen, was viele andere Benutzer fütterten, und es einfach der Welt zu wiederholen.

"Tay" wurde von "Menschen sind super cool" in <24 Stunden zu vollem Nazi und ich bin überhaupt nicht besorgt über die Zukunft von AI. Pic.twitter.com/xuGi1u9S1A

- Gerry (@geraldmellor) 24. März 2016

"Die meisten Menschen würden sich nicht einfach nach Ihnen wiederholen, alles, was Sie gesagt haben", sagt Brundage.

"Bush hat 9/11" artikuliert und "Hitler hätte bessere Arbeit geleistet als der Affe, den wir jetzt haben", war vielleicht etwas, das jemand tatsächlich mit Tay abtippte, aber es ist nicht gerade ein höfliches Gespräch.

„Sein Ziel bei der Formulierung des Turing-Tests bestand wohl eher darin, die Details eines Tests vorzuschreiben und mehr zu veranlassen, zu denken,„ an welchem ​​Punkt wären Sie bereit, in einem so intelligenten System zu sein “und das Denken der Menschen zu öffnen die Möglichkeit, dass Maschinen denken können “, sagt Brundage.