Die Journalistin Keach Hagey von der „Wall Street Journal“ veröffentlichte eine umfangreiche Untersuchung, die die private Fehde zwischen Dario Amodei, dem Gründer von Anthropic, und Sam Altman, dem CEO von OpenAI, über einen Zeitraum von zehn Jahren aufdeckt. Dieser Artikel basiert auf dem von Keach Hagey verfassten Artikel „The Decadelong Feud Shaping the Future of AI“ und wurde von BlockBeats bearbeitet und übersetzt.
(Vorherige Zusammenfassung: 360 周鴻禕: Token können niemals wie mobile Daten „Flatrate“ sein, KI wird nur teurer.)
(Hintergrundinformation: „Die Risiken von KI für Demokratie und menschliche Gesellschaft“: Ein gewichtiges Papier, das von AI-Pionier Yoshua Bengio und 25 weiteren Wissenschaftlern veröffentlicht wurde.)
Die Journalistin Keach Hagey von der „Wall Street Journal“ hat einen ausführlichen Untersuchungsbericht veröffentlicht, in dem sie durch zahlreiche Interviews mit aktuellen und ehemaligen Mitarbeitern sowie Vertrauten beider Unternehmen erstmals systematisch die über zehn Jahre andauernde persönliche Fehde zwischen den Gründern von Anthropic und OpenAI offenlegt. Die globale AI-Landschaft wird nicht nur durch technologische Meinungsverschiedenheiten geprägt, sondern auch durch eine nie geheilte persönliche Wunde.
In den letzten Monaten hat Dario Amodei in internen Äußerungen viel schärfere Worte gewählt als in der Öffentlichkeit. Er verglich die rechtlichen Auseinandersetzungen zwischen Sam Altman und Elon Musk mit „Hitler gegen Stalin“ und nannte die 25 Millionen Dollar, die OpenAI-Präsident Greg Brockman an ein pro-Trump Super PAC gespendet hat, „böse“ (evil), während er OpenAI und andere Wettbewerber mit „Tabakunternehmen, die wissentlich schädliche Produkte verkaufen“, verglich.
Nach einer Eskalation des Streits im Pentagon bezeichnete er OpenAI in Slack als „heuchlerisch“ (mendacious) und schrieb: „Diese Fakten zeigen ein Verhaltensmuster, das ich bei Sam Altman oft beobachtet habe.“
Intern wird diese Markenstrategie bei Anthropic als Schaffung eines „gesunden Alternativprodukts“ (healthy alternative) bezeichnet, eine während des Super Bowl veröffentlichte anonymisierte Werbung, die OpenAI verspottete, indem sie Werbung in Chatbots einbettete, ist ein öffentliches Produkt dieser Strategie.
Der Ausgangspunkt der Geschichte ist das Wohnzimmer einer Wohngemeinschaft in der Delano Street in San Francisco im Jahr 2016. Dario und seine Schwester Daniela Amodei lebten dort, während Brockman, der Mitgründer von OpenAI, oft zu Besuch kam, da er eine persönliche Beziehung zu Daniela hatte. Eines Tages saßen Brockman, Dario und Danielas damaliger Verlobter, der effektive Altruist und Philanthrop Holden Karnofsky, zusammen und diskutierten über den richtigen Entwicklungsweg für AI: Brockman war der Meinung, dass alle Amerikaner informiert werden sollten, was an der AI-Front geschieht, während Dario und Karnofsky der Ansicht waren, dass sensible Informationen zuerst der Regierung und nicht der Öffentlichkeit mitgeteilt werden sollten. Diese Meinungsverschiedenheit wurde später zum Wendepunkt in der philosophischen Ausrichtung beider Unternehmen.
Beeindruckt von der talentierten Belegschaft von OpenAI trat Dario Mitte 2016 bei und arbeitete mit Brockman an der Schulung von AI-Systemen zur Durchführung von Videospielen. Doch nach vier Jahren Zusammenarbeit vertieften sich die Konflikte um Macht und Zugehörigkeit immer weiter. Im Jahr 2017 forderte Musk, der damals Hauptinvestor von OpenAI war, eine Auflistung der Beiträge jedes Mitarbeiters zur Grundlage von Entlassungen, wobei 10% bis 20% des etwa 60-köpfigen Teams entlassen wurden. Dario hielt dies für grausam, und einer der Entlassenen wurde später Mitgründer von Anthropic.
Im selben Jahr schlug ein von Dario engagierter Ethikberater vor, dass OpenAI als Koordinationsstelle zwischen AI-Unternehmen und der Regierung fungieren sollte. Brockman entwickelte daraus die Idee, AGI an die ständigen Mitglieder des UN-Sicherheitsrates zu verkaufen, was Dario als beinahe verräterisch empfand und kurzzeitig in Erwägung zog, zu kündigen.
Nachdem Musk 2018 zurückgetreten war, übernahm Altman die Führung. Er und Dario einigten sich darauf, dass das Vertrauen der Mitarbeiter in die Führung durch Brockman und den Chief Scientist Ilya Sutskever fehlte. Dario blieb unter der Bedingung, dass die beiden nicht mehr in leitenden Positionen waren, stellte jedoch bald fest, dass Altman gleichzeitig den beiden versprach, dass sie das Recht hätten, ihn zu entlassen, was die beiden Versprechen widersprüchlich machte.
Nach dem Start der Entwicklung der GPT-Serie kam es zu den heftigsten Konflikten über die Beteiligung an den Sprachmodellprojekten in der Führungsetage. Der damalige Forschungsleiter Dario erlaubte Brockman nicht, sich einzumischen, und Daniela, die das Projekt zusammen mit Alec Radford leitete, drohte, zurückzutreten, um Druck auszuüben. Radfords persönliche Wünsche wurden in den Machtkampf zwischen den Führungskräften hineingezogen.
Darios Ruf stieg mit dem Erfolg von GPT-2 und GPT-3, doch er hatte das Gefühl, dass Altman seinen Beitrag schmälerte. Als Brockman in einem Podcast über die Satzung von OpenAI sprach, war Dario wütend, weil er einen größeren Beitrag zur Satzung geleistet hatte, aber nicht eingeladen wurde; als er erfuhr, dass Brockman und Altman den ehemaligen Präsidenten Obama treffen wollten, ihn jedoch ausschlossen, war er ebenso unzufrieden.
Der Konflikt eskalierte während einer Konfrontation in einem Besprechungsraum. Altman rief die Geschwister Amodei in den Besprechungsraum und beschuldigte sie, Kollegen zu ermutigen, dem Vorstand negatives Feedback über ihn zu geben. Die beiden bestritten dies. Altman sagte, die Informationen kämen von einem anderen Führungskräfte, woraufhin Daniela diese Führungskraft vorlud, um sie zur Rede zu stellen, die jedoch angab, nichts davon gewusst zu haben.
Altman bestritt sofort, diese Worte gesagt zu haben, und es kam zu einem heftigen Streit. Anfang 2020 forderte Altman die Führungskräfte auf, sich gegenseitig Peer-Reviews zu schreiben. Brockman verfasste ein sehr kritisches Feedback, in dem er Daniela vorwarf, Macht zu missbrauchen und mit bürokratischen Prozessen Andersdenkende auszuschließen. Altman genehmigte zuvor die Bewertung als „hart, aber fair“. Daniela wies jeden Punkt zurück, und der Streit eskalierte, bis Brockman schließlich vorschlug, die Bewertung zurückzuziehen.
Ende 2020 beschloss ein Team unter der Leitung von Dario, auszutreten, wobei Daniela die Verhandlungen über die Kündigung mit den Anwälten leitete. Altman ging persönlich zu Dario, um ihn zu überreden zu bleiben. Dario erklärte, dass er nur unter der Bedingung bleiben würde, dass er direkt an den Vorstand berichten könne, und machte klar, dass er nicht mit Brockman zusammenarbeiten könne. Vor seinem Austritt verfasste er ein langes Memo, in dem er AI-Unternehmen in „marktbasierte“ und „öffentlichkeitsorientierte“ Kategorien unterteilte und die ideale Verteilung als 75% öffentliches Interesse und 25% Markt ansah. Einige Wochen später verließen Dario, Daniela und fast zwölf Mitarbeiter OpenAI und gründeten Anthropic.
Heute, fünf Jahre später, sind beide Unternehmen mit jeweils über 300 Milliarden Dollar bewertet und konkurrieren um den ersten Börsengang. Bei der Abschlussaufnahme des AI-Gipfels in Neu-Delhi im Februar hoben der indische Premierminister Modi und die anwesenden Technologiechefs die Hände, während Amodei und Altman sich entschieden, nicht teilzunehmen, sondern sich nur verlegen an den Ellbogen berührten.
