"Diese Person existiert nicht" Der Schöpfer offenbart die gruselige Herkunftsgeschichte seiner Site

Phillip Wang ist der 33-jährige Software-Ingenieur, der für die Erstellung der künstlich-intelligenten Website This Person Not Exist verantwortlich ist, die kürzlich viral wurde. Bei jeder Aktualisierung der Seite erzeugt ein Algorithmus, der als generatives Adversarial Network (GAN) (ursprünglich von Nvidia codiert) bekannt ist, hyperrealistische Porträts völlig gefälschter Personen.

Der Stunt sollte die Aufmerksamkeit auf die ständig steigende Fähigkeit von A.I. lenken, als echte Bilder zu erscheinen, die völlig künstlich sind. Aber wie Wang erzählt Inverse, Dieser Stunt hat weitreichende Auswirkungen. „Sehen Sie sich diesen wirklich aussehenden, falschen Menschen an.“ In einer Gesellschaft, in der Bilder und Bilder die Standardersatzfiguren für „Beweise“ sind, GANs - indem sie die Arbeit automatisieren, die einst mühselige Arbeit erfordert Der Teil der Imaging-Experten - wird es bald jedem ermöglichen, einen "Beweis" zu erbringen, dass jede nur erdenkliche Person irgendetwas vorstellte.

"Ich bin im Grunde an dem Punkt in meinem Leben, an dem ich zugeben werde, dass Superintelligenz wirklich sein wird und ich mein verbleibendes Leben dem widmen muss", erklärt er. „Die Reaktion zeigt, wie viele Menschen sich über A.I. und sein Potenzial."

Die Site hat einen Akkord getroffen. Der ehemalige Uber-Software-Ingenieur sagt, dass This Person Does Not Exist seit seiner Einführung etwa 4,2 Millionen Mal besucht wurde. Dies ist nicht schlecht für eine einmalige Website, die ursprünglich in einer geschlossenen Facebook-Gruppe veröffentlicht wurde. Wang nutzte es zunächst als eine Möglichkeit, ein paar Freunde davon zu überzeugen, sich dem unabhängigen A.I. anzuschließen. Forschung, an der er gerade arbeitet. Innerhalb eines Tages entschied er jedoch, dass ein breiteres Publikum von dem Wissen über das Potenzial von GANs profitieren könnte. Er betonte, dass es wichtig sei, die Menschen darüber zu informieren, wie diese Art von Technologie sowohl revolutionär als auch gefährlich sein kann.

Warum falsche Gesichter einen beängstigenden Durchbruch darstellen

Wangs Website verwendet den im Dezember vergangenen Jahres veröffentlichten StyleGAN-Algorithmus von Nvidia. Seiner Ansicht nach reicht das Potenzial von der hilfreichen, aber weltlichen (think: Straffung der Zahnkronenimplantation) bis zu den weiter entfernten, die beispielsweise die Vorstellung völlig neuer Moleküle für künftige Medikamente ermöglichen. Aber diese revolutionäre Technologie macht auch Betrug und Fehlinformationen einfacher als je zuvor.

Der Grund, warum die Anwendungsfälle so vielfältig sind, ist, dass es viele Möglichkeiten gibt, GANs anzuwenden, die trainiert werden, indem zwei Netzwerke gegeneinander angestellt werden: Generator und Diskriminator. Dem Generator werden reale Bilder gegeben, die er so gut wie möglich neu zu erstellen versucht, während der Diskriminator lernt, gefälschte Bilder von Originalen zu unterscheiden. Nach Millionen von Millionen von Trainingseinheiten entwickelt der Algorithmus übermenschliche Fähigkeiten zum Erstellen von Kopien der Bilder, auf denen er trainiert wurde.

Es ist dieselbe Methode, mit der Deep-Fakes oder computergenerierte Bilder erstellt werden, die in vorhandene Bilder oder Videos eingeblendet werden. Diese Methoden werden häufig verwendet, um gefälschte Nachrichtengeschichten oder andere Falschmeldungen zu verbreiten.

Wang ist zwar fasziniert von der Innovation, die viele Unternehmen bringen werden, aber er möchte auch, dass sich die Menschen der potenziellen Schäden bewusst sind, die dadurch entstehen könnten.

Ein schändlicher Schauspieler könnte beispielsweise ein von GANs generiertes Video oder Bild verbreiten, das ein gefälschtes Ereignis darstellt, um online Aufstände, Proteste oder andere möglicherweise gewalttätige Reaktionen auszulösen.

Da der Prozess vollständig automatisiert ist, ist alles, was jemand braucht, der Zugriff auf eine Reihe von Grafikverarbeitungseinheiten (GPUs) oder Grafikkarten (die das maschinelle Lernen fördern) und auf einen Datensatz, um Fälschungen wie ein Uhrwerk auszulösen.

Längerfristig sind StyleGANs zwar in der Lage, Standbilder von Personen zu erstellen, die niemals existierten, aber es ist nur ein paar Schritte, wenn diese Bilder auf natürliche Weise sprechen und sich bewegen. Glücklicherweise merkt Wang an, dass allein die Information über GANs die Menschen weniger anfällig dafür machen lassen, von ihnen getäuscht zu werden. Die erhöhte Aufmerksamkeit wird es uns allen leichter machen, die Verbesserungen an 3D-Grafiken zu genießen, und StyleGANs werden wahrscheinlich Medizin bringen.

„Ich hoffe nur, dass meine Demonstration die Aufmerksamkeit auf sich zieht. Diejenigen, die es nicht wissen, sind anfällig für diese Technologie “, sagte Wang. „Auf der anderen Seite hat A.I. wird wirklich viel Gutes in diese Welt bringen. “

E-Mail an den Autor: [email protected]