OpenAI: Elon Musks ehemalige Firma steht am Rande eines neuen A.I. Epoche

OpenAI, die gemeinnützige Organisation zur Erforschung künstlicher Intelligenz, die 2016 von Elon Musk mitgegründet wurde, hat große Fortschritte gemacht - auch nachdem Musk sich unter Meinungsverschiedenheiten auseinandergerissen hatte. Forscher haben Systeme entwickelt, die Spiele spielen, Nachrichtenartikel schreiben und physische Objekte mit bahnbrechender Geschicklichkeit bewegen können.

OpenAI hat mit seiner Forschung Kontroversen ausgelöst. Letzte Woche wurde die Entwicklung eines Sprachmodells, GTP2, angekündigt, das Texte mit begrenzten Aufforderungen generieren kann. Angesichts der von Menschen geschriebenen Aufforderung „Miley Cyrus wurde heute von Abercrombie and Fitch auf dem Hollywood Boulevard Ladendiebstähle erwischt“, produzierte das System eine glaubwürdige, vollständige Geschichte, die mit „Die 19-jährige Sängerin wurde vor der Kamera aus dem Laden gefangen genommen von Sicherheitskräften."

Es hat auch diese originelle Geschichte über das Sprechen von Einhörnern basierend auf einer kurzen Ansage erstellt:

"Ich bin seit über einem Jahr nicht eng mit OpenAI verbunden und habe kein Management oder Aufsichtsratsaufsicht", kommentierte Musk am Wochenende über Twitter. „Ich musste mich bei Tesla (besonders) und SpaceX auf die Lösung einer schmerzhaft großen Anzahl von Engineering- und Fertigungsproblemen konzentrieren. Außerdem konkurrierte Tesla um einige Leute, die mit OpenAI zusammengearbeitet hatten, und ich stimmte nicht mit einigen der Aktivitäten des OpenAI-Teams überein. Fügen Sie das alles hinzu und es war einfach besser, sich von guten Bedingungen zu trennen. “

Die Firma schien ursprünglich ein idealer Weg für Musk zu sein, um seine Ziele der Nutzung von A.I. zum Wohl der Menschheit. Der Unternehmer hat bereits vor dem "grundlegenden Risiko" der Zivilisation gewarnt, das von superschlauen Maschinen ausgeht, und hat die Regierungen aufgefordert, "wie Lebensmittel, Drogen, Flugzeuge und Autos" zu regulieren.

Musk versprach 10 Millionen US-Dollar, um die Firma anfangs zu gründen. Sein Leitbild konzentrierte sich darauf, „den Weg zur sicheren künstlichen allgemeinen Intelligenz zu entdecken und umzusetzen“.

Es ist nicht schwer zu sehen, wie Programme, die Geschichten wie die des OpenAI-Exekutivisten Greg Brockman veröffentlichen, von einer relativ kleinen Anzahl von Leuten genutzt werden könnten, um die Meinungen einer weniger versierten Öffentlichkeit zu beeinflussen.

Ein Mitarbeiter von OpenAI druckte dieses von der KI geschriebene Muster aus und legte es auf dem Papierkorb ab: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) 14. Februar 2019

„Aufgrund unserer Bedenken hinsichtlich schädlicher Anwendungen der Technologie veröffentlichen wir das geschulte Modell nicht“, erklärte das Unternehmen in einem Blogbeitrag. "Als Experiment zur verantwortungsbewussten Offenlegung veröffentlichen wir stattdessen ein viel kleineres Modell, mit dem Forscher experimentieren können, sowie ein technisches Dokument."

Die Ankündigung führte zu Bedenken, dass die Technologie verwendet werden könnte, um gefälschte Nachrichten zu generieren. Analytics India warnte, dass mit der bevorstehenden indischen Wahl später in diesem Jahr die A.I. könnte den demokratischen Prozess zerstören. Die Forscher von OpenAI erklären selbst, dass in Verbindung mit der Erforschung synthetischer Audio- und Videomaterialien "die breite Öffentlichkeit dem Text, den sie online finden, skeptischer gegenüberstehen muss."

Ryan Lowe, ein A.I. Wissenschaftler und ehemaliger Praktikant bei OpenAI, fassten die Bedrohung eines Programms wie dieses zusammen, das verwendet wird, um gefälschte Nachrichten in diesem überstrichenen Medium-Beitrag kurz zu erstellen:

… Ein automatisiertes System könnte: (1) schlechte Akteure, die nicht über die nötigen Mittel verfügen, um Tausende von Menschen einzustellen, zu umfangreichen Desinformationskampagnen führen; und (2) das Ausmaß der Desinformationskampagnen, die bereits von staatlichen Akteuren durchgeführt werden, drastisch erhöhen.

Nicht alle Forschungsergebnisse von OpenAI waren so umstritten. Dactyl, das im Juli 2018 vorgestellt wurde, kann sich der realen Physik anpassen, um Objekte in der realen Welt zu manipulieren. Die Roboterhand ist sehr komplex und verfügt über 24 Freiheitsgrade. Das System kann die Objekte jedoch einfach mit drei RGB-Kameras und den Koordinaten der Roboterhand bewegen.

Die Roboterhand nutzt die allgemeinen Verstärkungslernalgorithmen, mit denen Menschen bei Videospielen besiegt werden. Das „OpenAI Five“ -Team trat gegen ein professionelles Team an Dota 2 Spieler im Jahr 2018. Das System wurde in 180 Jahren für Spiele trainiert und profitierte von erstaunlichen 128.000 Prozessorkernen und 256 Grafikprozessoren. Während es ein menschliches Team aus Ex-Profis und Twitch-Streamern besiegte, scheiterte es gegen professionelle Spieler.

Musk benutzte die Dota 2 Übereinstimmungen, um auf Neuralink aufmerksam zu machen, sein Plan, eine symbiotische Beziehung mit A.I. indem wir menschliche Gehirne miteinander verbinden und eine Roboterübernahme vermeiden:

Großartige Arbeit von @OpenAI. Benötigen Sie bald die neuronale Schnittstelle, um eine Mensch / KI-Symbiose zu ermöglichen.

- Elon Musk (@elonmusk) 6. August 2018

In seiner Textgenerator-Ankündigung erklärte OpenAI, es beabsichtige, seine breitere Strategie in sechs Monaten zu diskutieren. Die Firma hofft, eine differenzierte Diskussion über die Gefahren der künstlichen Intelligenz anzustoßen, ein Schritt, der einige der von Musk geplanten Katastrophenszenarien vermeiden könnte. Sogar das Unternehmen gibt jedoch zu, dass es "nicht sicher ist, dass" der Textgenerator zurückgehalten werden soll "heute die richtige Entscheidung ist." Mit einem bereits bestehenden Schisma zwischen zwei großen Körperschaften, die vor den Gefahren der KI warnen, ist es unwahrscheinlich, dass der Gesetzgeber es leicht hat Zeit bei der Entwicklung von Lösungen.