Im selben Monat, in dem der Chef eines der drei führenden KI-Labore eine kontrollierte Verlangsamung der gesamten Branche fordert, bereitet sein Unternehmen den größten Börsengang der Geschichte vor. Angestrebte Bewertung: rund zwei Billionen Dollar. Als Ankerinvestor verhandelt ein Chipkonzern über bis zu zehn Milliarden — derselbe Konzern, dessen Hardware mit dem eingesammelten Geld gekauft werden wird. Die Warnung und das Verkaufsangebot tragen dieselbe Unterschrift, und sie sind wenige Tage voneinander entfernt.
Der Inhalt der Warnung ist nicht beiläufig. Rekursive Selbstverbesserung, heißt es, könne binnen sechs bis zwölf Monaten die Infrastruktur des Netzes gefährden. Vorgeschlagen werden eingebettete Prüfer in den Unternehmen, gemeinsame Sicherheitsstandards, globale Abkommen nach dem Vorbild der Abrüstungsverträge des Kalten Krieges. Die Chefs der konkurrierenden Labore stimmten in Teilen zu; einer von ihnen verschob den eigenen Börsengang auf 2027 und nannte Sicherheitsbedenken als Grund. Über tausend Beschäftigte der Branche unterzeichneten einen Aufruf zur Entschleunigung. Die Börsen reagierten mit Kursverlusten, der amerikanische Präsident wies das Ganze mit dem Satz ab, wer bei KI gewinne, gewinne. Innerhalb einer Woche war die Meldung durch.
Wer eine Technologie öffentlich für gefährlich erklärt, sagt zugleich etwas anderes über sie: dass sie mächtig ist. Ein Sicherheitshinweis beglaubigt eine Leistungsfähigkeit, die kein Werbetext je glaubwürdig behaupten könnte, weil Werbung im Verdacht steht zu übertreiben, und Warnungen im Verdacht stehen, es nicht zu tun. Das ist keine Unaufrichtigkeit und kein Kalkül, das man jemandem nachweisen müsste. Es ist eine Eigenschaft der Lage: Die glaubwürdigste Reklame für ein Produkt ist die ernst gemeinte Sorge seines Herstellers. Beides lässt sich nicht trennen, auch von dem nicht, der warnt.
Die vorgeschlagenen Mittel haben eine ähnliche Eigenart. Eingebettete Prüfer müssen dorthin gehen, wo gebaut wird. Gemeinsame Standards entstehen aus dem Wissen derer, die als Einzige sagen können, was überhaupt zu prüfen wäre. Jede dieser Formen führt Aufsicht näher an die Werkbank heran, und jede macht die Bauenden zu den Verfassern der Regeln, denen sie unterliegen sollen. Der Vergleich mit den Abrüstungsverträgen ist dabei genauer, als er sein möchte, nur an einer anderen Stelle: Jene Verträge wurden zwischen Seiten geschlossen, die aneinander nichts verdienten. Zurückhaltung kostete dort beide gleich viel. Hier ist die Zurückhaltung, um die gebeten wird, an die Branche adressiert — also an niemanden im Besonderen. Wer sie fordert, hat sie in dem Moment erfüllt, in dem er sie ausspricht, und muss selbst nichts anhalten.
Nachprüfbar ist von alldem bislang genau ein Vorgang: ein verschobener Börsengang. Alles Übrige ist Absichtserklärung, und Absichtserklärungen haben die angenehme Eigenschaft, dass ihre Einhaltung erst dann überprüfbar wird, wenn niemand mehr hinsieht. Die Kurse fielen, erholten sich, das Thema wanderte weiter. Wer die Meldung Ende der Woche mitbekommen hat, hat sie vermutlich unterwegs auf dem Telefon gelesen und kurz darauf dasselbe Werkzeug geöffnet, von dem darin die Rede war, um eine Mail zu schreiben, für die er sonst zwanzig Minuten gebraucht hätte. Die sechs bis zwölf Monate laufen seitdem. Die zwanzig Minuten sind jeden Tag wieder da.