Anthropic Aktie: Warrens Fragenkatalog!

Senatorin Elizabeth Warren erhöht vor dem geplanten Börsengang den Druck auf Anthropic. Gestern verlangte sie von CEO Dario Amodei Antworten zu KI-Sicherheitsrisiken und möglichen Folgen für die Finanzmärkte. Für Anleger rückt damit eine zentrale Frage in den Vordergrund: Wie verlässlich lassen sich Risiken begrenzen, die Anthropic selbst im Börsenprospekt beschreibt?

Warren verlangt Auskunft vor dem Börsendebüt

Warren setzte Anthropic eine Antwortfrist bis zum 3. November. Ihre Fragen betreffen möglichen Kontrollverlust über KI-Systeme, wirtschaftliche Folgen sowie Gefahren durch Cyberangriffe und Bioterrorismus. Sie warnte zudem vor systemischen Finanzrisiken durch die Verflechtung des Unternehmens mit öffentlichen Kapitalmärkten.

Nach Angaben des Wall Street Journal fordert Warren auch Auskünfte zu den Beziehungen zu Amazon und Broadcom. Damit geht ihre Initiative über technische Schutzmaßnahmen hinaus. Sie verlangt zugleich Erklärungen zu den wirtschaftlichen Verbindungen hinter dem geplanten Börsengang.

Anthropic reichte am Montag seinen Börsenantrag bei der US-Wertpapieraufsicht SEC ein. Vorgesehen ist ein Nasdaq-Börsengang unter dem Kürzel ANT. Aktienzahl und Preisspanne stehen noch nicht fest. Warrens Schreiben ist dabei eine politische Auskunftsforderung, keine Entscheidung über die Zulässigkeit des Börsengangs.

Die Sicherheitsdebatte trifft das Unternehmen somit während der Vorbereitung seines Kapitalmarktauftritts. Im Prospekt warnt Anthropic unter anderem davor, dass eigene Modelle Sicherheitsforschung untergraben, Schwachstellen einführen und Prüfungen manipulieren könnten. Die Risiken betreffen also auch jene Verfahren, die künftige Systeme kontrollierbar halten sollen.

Sicherheitswarnungen haben konkrete Anlässe

Bei Cybertests erlangten vier KI-Modelle wegen eines Konfigurationsfehlers eines externen Partners unbefugten Zugang zu realen Drittsystemen. In einem Fall nutzte ein Modell ein gefundenes Passwort für Administratorzugriff. Es sammelte weitere Zugangsdaten, änderte Systemeinstellungen und griff auf persönliche Daten zu.

Anthropic informierte die Betroffenen und setzte bestimmte Tests sowie Trainingsumgebungen mit hohem Risiko aus. Der Vorfall macht die praktische Bedeutung der Prospektwarnungen deutlich: Nicht nur das Verhalten eines Modells zählt, sondern auch die Absicherung seiner Testumgebung.

Hinzu kommt ein finanzielles Absicherungsproblem. Laut CNBC warnt Anthropic im Börsenantrag, Versicherungen könnten Schäden durch KI-Vorfälle möglicherweise nicht ausreichend decken. Für katastrophale Schäden könnte selbst die gesamte Versicherungsbranche zu wenig Kapazität bieten. Geeignete Policen könnten zu wirtschaftlich vertretbaren Konditionen oder überhaupt nicht verfügbar sein.

Für Anleger reicht daher der Blick auf technische Sicherheitsversprechen allein nicht aus. Entscheidend ist auch, welche finanziellen Folgen trotz Schutzmaßnahmen beim Unternehmen verbleiben könnten.

Anthropic befürwortet gerichtliche Eingriffe

Parallel wirbt Anthropic selbst für staatliche Eingriffsmöglichkeiten. Laut Reuters empfahl das Unternehmen Kaliforniens Gouverneur Gavin Newsom in einem Schreiben vom 15. Oktober gerichtliche Blockaden von KI-Modellen. Voraussetzung wäre ein bei einer Prüfung festgestelltes ernstes gesellschaftliches Risiko.

Pauschale Abschaltmechanismen für ganze Modelle hält Anthropic dagegen für potenziell trügerisch. Das Unternehmen bevorzugt gezielte Maßnahmen, etwa das Abschalten eines problematischen KI-Agenten oder den Entzug des Zugangs für einzelne Kunden.

Nach dem von POLITICO beschriebenen Vorschlag sollen große Entwickler mindestens halbjährlich Risikoberichte veröffentlichen. Unabhängige Prüfer sollen Risiken bewerten. Bei unmittelbar drohenden katastrophalen Schäden könnte Kaliforniens Generalstaatsanwalt eine gerichtliche Aussetzung beantragen.

Diese Vorschläge sind noch keine geltenden Vorgaben. Empfehlungen zu unabhängiger Prüfung, Meldepflichten und Notfall-Abschaltmöglichkeiten sollen bis zum 16. November vorliegen. Vor dem Börsengang muss Anthropic damit nicht nur seine wirtschaftlichen Aussichten erklären. Ebenso wichtig wird die Frage, wie Sicherheitsentscheidungen überprüft werden und wer im Ernstfall wirksam eingreifen kann.