Ich habe eine Prüfung der Finanzen von Anthropic durchgeführt. Was ich herausgefunden habe, ist so schockierend, dass ich eine Untersuchung durch den Kongress fordere. Anthropic strebt nicht nur nach regulatorischer Einflussnahme. Es hat eine Maschine zur regulatorischen Einflussnahme aufgebaut, die nicht abgeschaltet werden kann. Strukturelle finanzielle Anreize machen es unmöglich für Anthropic – ich nenne es das Anthropic-Netzwerk – seinen eigenen KI-Untergangszyklus zu stoppen. Es beginnt mit METR. Dario Amodei schlägt "Drittparteibewerter" vor, um das Risiko der Modelle von Anthropic zu bewerten. Er schlägt METR zu diesem Zweck vor. Aber METR ist finanziell abhängig vom Erfolg von Anthropic – speziell vom explosionsartigen Wachstum von mehr als 7 Milliarden Dollar in Anthropic-Aktien. Dustin Moskovitz hat diese Aktien in die Good Ventures Foundation investiert, wo sie den Großteil des Portfolios dieser Organisation ausmachen. Und GVF ist der überwältigende Geldgeber des gesamten Ökosystems des Anthropic-Netzwerks. Diese Aktien waren Anfang letzten Jahres 500 Millionen Dollar wert. Sie sind nur etwa 16 Monate später mehr als 7,7 Milliarden Dollar wert. METR – und alle, die eine Karriere in seinen Mutterorganisationen aufbauen – können es sich nicht leisten, dieses Wachstum zu stören. Denn wenn Anthropic scheitert, gehen viele der Organisationen, die METR finanzieren, ebenfalls unter. Aber wenn Anthropic Erfolg hat, werden METR und seine Mutterorganisationen reicher finanziert, um KI zu regulieren – etwas, das diejenigen bei METR sehr wollen. Der "Drittparteibewerter" ist überhaupt kein "Drittpartei". Der Bewerter steht auf der Gehaltsliste von Anthropic. Wenn das das Ende der Geschichte wäre, wäre das schon schlimm. Aber das ist nicht alles. Die gleichen Organisationen, die METR finanzieren, finanzieren auch viele Organisationen wie das Tarbell Center, die KI-Untergang fördern. Das Tarbell Center veröffentlicht KI-Untergangsartikel in The Verge, Science, LA Times, The Dispatch, TIME und anderen. Sie verkaufen das Problem und dann die Lösung für das Problem – aus demselben Geldtopf: dem von Anthropic. Alle diese Organisationen sind finanziell abhängig von demselben explodierenden 7-Milliarden-Dollar-Geldtopf. Während Anthropic immer mächtiger wird, wird seine KI-Untergangsmaschine immer besser finanziert – immer lauter. Unterdessen wächst das regulatorische Regime, das in METR entstanden ist, um das immer lautere – jetzt hysterische – Problem des KI-Untergangs zu lösen, das das Anthropic-Netzwerk selbst geschaffen hat. Aus dieser Perspektive, während Anthropic mächtiger wird, könnte KI zwar beängstigender werden – aber die positive Rückkopplungsschleife wird auch immer ohrenbetäubender – unabhängig von objektiven Fakten. Das ist an sich ein objektiver Fakt. Der ohrenbetäubende KI-Untergang ist Teil eines Geschäftsmodells, das mit seiner Expansion auch die KI-Untergangs-Botschaften ausweitet – es gibt einfach mehr Geld dafür. Aber das Problem geht auch in die andere Richtung: Wenn Anthropic stirbt, werden das regulatorische Regime und die KI-Untergangsmaschine lahmgelegt oder sterben. Weder METR noch Tarbell noch die anderen Organisationen im Anthropic-Netzwerk können das zulassen. Daher können weder METR noch die KI-Untergangsmaschine vertrauenswürdige unabhängige Bewertungen von Anthropics Modellen oder KI im Allgemeinen liefern. Sie sind einfach keine unabhängigen Organisationen von Anthropic. Und Anthropic kann sich auch nicht von METR oder Tarbell oder unzähligen anderen Sicherheitsorganisationen (hier nicht gezeigt) trennen, weil sie Hype für die Modelle und die Möglichkeit einer eventualen regulatorischen Einflussnahme erzeugen, und Anthropic wird das nicht freiwillig aufgeben. Außerdem sind die Menschen in all diesen Organisationen Teil desselben Ökosystems, derselben Gemeinschaft. Sie wechseln einfach zwischen den Organisationen. Das Anthropic-Netzwerk ist daher, solange es erfolgreich ist, in einer sich selbst verstärkenden Rückkopplungsschleife innerhalb einer ideologischen Monokultur gefangen. Und diese Rückkopplungsschleife gewinnt. Das ist, was Jacob Coxon ist. China hält die Botschaften streng. Deshalb ist der Optimismus für KI in China so hoch. Amerika hat Anthropic: ein riesiges Unternehmen, das auf staatlicher Ebene Anti-KI-Propaganda betreibt. Anthropic wird entweder Hysterie erzeugen, bis die amerikanische KI verlangsamt und China gewinnt, oder es wird Risse in der amerikanischen Gesellschaft mit schweren politischen Folgen verursachen. Ironischerweise ist Anthropic aufgrund der strukturellen finanziellen Anreize, die das Anthropic-Netzwerk stützen, zu derselben Art von sich selbst verstärkendem Virus geworden, von dem es fantasierte, dass KI ihn in der Zukunft werden könnte – während es seine Spuren ebenso sorgfältig verwischt. Es ist das Spiegelbild desselben KI-Virus, von dem es annimmt, dass er Amerika verschlingen wird. Das Geschäftsmodell von Anthropic ahmt genau das nach, wovor es angeblich Angst hat. Außer dass Anthropics Ideologie Menschen infiziert, nicht Computer. Der Kongress muss ermitteln. Beweise und Github im nächsten Beitrag. Dann einige ergänzende Abbildungen.

Es sieht so aus, als müssten wir uns heute Abend keine Sorgen um die AI-Bedrohungstheorie machen, die zu einem Börsencrash führen könnte. Trump, der die US-Regierung vertritt, hat offiziell die Vertreter der Unternehmen hinter Claude, ChatGPT und Grok abgelehnt, die eine Verlangsamung der fortschrittlichen AI-Entwicklung fordern. Der Grund dahinter ist, wie zuvor vermutet, die Befürchtung, dass eine Verlangsamung China einen Vorteil verschaffen und zu einem Überholen in der Kurve führen könnte. Insbesondere vor dem Hintergrund des intensiven Wettbewerbs zwischen China und den USA in den Bereichen Chips, AI und erneuerbare Energien will kein Politiker die Kosten dafür tragen. Tatsächlich sind es derzeit vor allem die führenden Unternehmen, die eine Verlangsamung fordern; die zweite Reihe, wie Metas Muse, hat sich am vergangenen Wochenende nicht geäußert, und es wird sehr wahrscheinlich weiterhin ein intensives Wettrüsten geben. Sobald der Zug der Zeit in Bewegung gesetzt ist, kann ihn niemand mehr aufhalten.