Die OpenAI von Elon Musk kann Muskeln für sichere Forschung mit künstlicher Intelligenz sein

Im Laufe des Wochenendes kündigten Elon Musk, Sam Altman und andere Silicon Valley-Giganten unerwartet den Start von OpenAI an, einem gemeinnützigen Unternehmen, das sein Ziel wie folgt beschreibt: „Digitale Intelligenz auf eine Weise voranzubringen, die der Menschheit insgesamt am ehesten zugute kommt. uneingeschränkt von der Notwendigkeit, finanzielle Erträge zu erwirtschaften. “

„Da unsere Forschung frei von finanziellen Verpflichtungen ist, können wir uns besser auf eine positive menschliche Wirkung konzentrieren. Wir glauben, A.I. sollte eine Erweiterung des individuellen menschlichen Willens sein und im Geiste der Freiheit so weit und gleichmäßig wie möglich verteilt sein."

Aus dieser Ankündigung ergeben sich zwei wichtige Imbissbuden. Die erste ist, dass Moschus und Gesellschaft A.I. Forschung ist derzeit zu eng fokussiert auf das Erzielen eines kurzfristigen praktischen Werts, und sie möchten dazu beitragen, Bemühungen zu forcieren, die einen breiteren, umfassenderen Ansatz bei der Entwicklung von A.I. Systeme. Der zweite, verschleiertere Take-Away ist, dass Musk sich immer noch Sorgen um das Potenzial von A.I. macht, wenn wir halbgebackene Systeme entwickeln und einführen. Musk hat zuvor A.I. "Unsere größte existenzielle Bedrohung" und schlug vor, dass eine Aufsichtsbehörde erforderlich sein könnte, um mögliche Gefahren zu vermeiden. OpenAI könnte eine Möglichkeit sein, dieses Versehen ohne die Aufsicht eines Bundes zu gewährleisten.

Was tun Musk und seine Kollegen? Das unterscheidet sich von dem, was andere getan haben. Open Source A.I. ist nichts Neues. Google hat eine eigene A.I. Software-Open-Source im letzten Monat, und dies ist zu einem Standardverfahren geworden. Mit einer Milliarde US-Dollar ist OpenAI jedoch bereits eine der größten Organisationen, die an A.I. Forschung, und ziemlich leicht die größte gemeinnützige. Ziel ist es, die Ergebnisse öffentlich zugänglich zu machen und alle Patente gebührenfrei zu machen. Sie haben eine Karotte und einen Stock und beabsichtigen, damit eine Industrie zu steuern.

Die Idee ist, OpenAI als eine Art Gegengewicht zu größeren Unternehmen, privaten Forschungslabors und sogar Weltregierungen einzusetzen, die über unglaubliche Geldsummen und Ressourcen verfügen, die sie in ihre eigenen A.I. Forschung, die möglicherweise nicht für freundliche Zwecke verwendet wird und stattdessen zu Technologien mit schändlichen Anwendungen führen könnte. Forscher, die mit OpenAI arbeiten, streben im Grunde nach dem "freundlichen" A.I., ohne den Druck zu haben, sofort Ergebnisse zu zeigen. Sicherheits- und Designmerkmale, die von privaten Unternehmen möglicherweise ignoriert werden, sind möglicherweise wichtiger. Es wird keinen weißen Turm geben, von dem nur ein paar Auserwählte den Weg von A.I. Entwicklung. Es wird für alle eine willkommene Welt sein.

In einem Interview mit Rückkanal, Musk betont auch den Wunsch, eine Vielzahl von A.I. Systeme. „Wir wollen A.I. weit verbreitet sein “, sagt er. "Wir denken, dass wahrscheinlich viele gut sind."

Das ist wichtig, weil es vielleicht der Hauptgrund ist, warum Musk und Altman die Demokratisierung von A.I. Sie glauben, dass die beste Art von A.I. - die Art, von der die Menschheit auf positive Weise profitieren wird, ohne Roboter-Overlords zu schaffen - ist die Art, die als "Erweiterung des individuellen menschlichen Willens" fungiert, wie Musk es formuliert. Er fährt fort zu sagen:

„Wie in einem A.I. Erweiterung Ihrer selbst, so dass jede Person im Wesentlichen mit der KI symbiotisch ist, im Gegensatz dazu, dass die KI eine große zentrale Intelligenz ist, die eine Art andere ist. Wenn Sie darüber nachdenken, wie Sie Anwendungen im Internet verwenden, haben Sie Ihre E-Mail-Adresse, soziale Netzwerke und Apps auf Ihren Handys - sie machen Sie tatsächlich übermenschlich und denken nicht an sie Anders sein, siehst du sie als eine Erweiterung von dir. In dem Maße, in dem wir die KI in diese Richtung lenken können, wollen wir das tun. Und wir haben im KI-Bereich eine Reihe gleichgesinnter Ingenieure und Forscher gefunden, die sich ähnlich fühlen."

Grundsätzlich ist die OpenAI-Vision für A.I. Forschung ist eine dezentralisierte Gemeinschaft, die hilft, Menschen miteinander und mit der Welt selbst zu verbinden.

Musk hat noch nicht dargelegt, wie sie verhindern könnten, dass Forschung innerhalb von OpenAI selbst - oder von externen Gruppen wiederverwendet wird - in eine gefährliche Richtung geht. Es gibt noch etwas anderes, das es zu beachten gilt: Open-Source-Systeme sind nur dann sinnvoll, wenn die zum Erstellen von Algorithmen für maschinelles Lernen verwendeten Daten frei geteilt werden. Ein intelligentes System muss sein lernen wie man intelligent ist und dafür muss er aus daten und erfahrung lernen. Es ist wie beim Bau eines Staudamms - Sie benötigen sowohl die Baupläne (den Algorithmus) als auch die Baumaterialien (die Daten), um tatsächlich etwas zu schaffen, das Wasser stoppt.

Aus diesem Grund sind die Möglichkeiten von Google mit TensorFlow immer noch begrenzt - sie haben noch nicht die Daten, über die Google verfügt. Und wenn die aus OpenAI aufgebauten Kooperationen keinen freien Zugang zu den gleichen Daten ermöglichen, mit denen die internen Forscher arbeiten, wird Musks Vision nicht unbedingt verwirklicht - oder zumindest nicht so, wie er sie fördert.

Musk, Altman und die anderen Gründer von OpenAI haben etwas begonnen, das das Wachstum von A.I. enorm beeinflussen wird. ab hier raus. Gleichzeitig müssen sie sich in ihrem Engagement für die Förderung einer Open-Source-Community engagieren, was bedeutet, dass sie über ihre Pläne für das Non-Profit-Unternehmen öffentlich sind und bereit sind, Daten auszutauschen. Ansonsten unterscheidet sich OpenAI nicht wesentlich von den Herdenfirmen, an deren Herde sie angebunden wurde.