Anthropic, ein führender Entwickler im Bereich der künstlichen Intelligenz, hat den Zugang zu seinen KI-Modellen Fable 5 und Mythos 5 teilweise deaktiviert. Diese Maßnahme erfolgte am Freitag, den 12. Juni, als direkte Reaktion auf eine Exportkontrollrichtlinie der US-Regierung. Die Richtlinie, wie in der Ankündigung von Anthropic dargelegt, berief sich auf nicht näher spezifizierte „nationale Sicherheitsbehörden“ als Grundlage für ihre Anordnung.
Die Regierungsanweisung forderte Anthropic ausdrücklich auf, den Zugang zu diesen fortschrittlichen Modellen für „jeden ausländischen Staatsangehörigen“ zu sperren, eine weitreichende Kategorie, die sowohl Personen innerhalb als auch außerhalb der USA sowie die eigenen Mitarbeiter von Anthropic umfasst. Die zentrale Sorge der Regierung, so Anthropic, sei die Annahme, dass eine Methode zur Umgehung oder zum „Jailbreaking“ des Fable 5-Modells entdeckt wurde.
Anthropic bestätigte, eine Demonstration dieser spezifischen Technik überprüft zu haben, und stellte fest, dass sie verwendet wurde, um eine kleine Anzahl zuvor bekannter, geringfügiger Schwachstellen zu identifizieren. Das Unternehmen erklärte, diese Schwachstellen erschienen relativ einfach und andere öffentlich verfügbare Modelle könnten sie ebenfalls ohne Umgehung entdecken. Obwohl Anthropic der Regierungsanweisung nachkommt, äußerte es seine Uneinigkeit mit der Behauptung, dass ein „eng gefasster potenzieller Jailbreak“ die Rücknahme eines Modells rechtfertige, das Hunderten Millionen von Nutzern zur Verfügung gestellt worden war.
Das KI-Unternehmen argumentierte weiter, dass, wenn dieser Standard branchenweit angewendet würde, dies im Wesentlichen alle neuen Modellbereitstellungen für alle Anbieter von Spitzenmodellen zum Stillstand bringen würde. Diese Haltung verdeutlicht eine erhebliche Spannung zwischen nationalen Sicherheitserfordernissen und den schnellen Entwicklungs- und Bereitstellungszyklen, die für den KI-Sektor charakteristisch sind.
Eine weitere Ebene der staatlichen Intervention fügte ein Bericht des Wall Street Journal hinzu, der darauf hindeutete, dass die Richtlinie durch Gespräche zwischen Amazon-CEO Andy Jassy und US-Beamten ausgelöst wurde. Ein Amazon-Sprecher kommentierte die Angelegenheit gegenüber dem WSJ: „Als führender Cloud-Anbieter, der eine große Anzahl von Kunden im privaten und öffentlichen Sektor bedient, ist es nicht ungewöhnlich, dass Regierungen unseren Rat zu potenziellen Sicherheitsrisiken einholen.“ Der Sprecher fügte hinzu, dass Amazon die Details solcher Diskussionen nicht teile, wenn sie stattfänden.
Dieser Vorfall ist nicht Anthropic’s erste Auseinandersetzung mit staatlicher Kontrolle. Anfang des Jahres erklärte das Verteidigungsministerium das Unternehmen zu einem Lieferkettenrisiko, eine Einstufung, die Unternehmen, die mit dem Militär zusammenarbeiten wollen, die Geschäftsbeziehungen mit dem KI-Startup untersagt. Dies folgte auf frühere Widerstände von Anthropic gegen die potenzielle Nutzung seiner Technologie durch das Militär für Massenüberwachung im Inland und autonome Waffensysteme. Anthropic hat seitdem rechtliche Schritte gegen die Regierung eingeleitet, um diese Einstufung als Lieferkettenrisiko aufzuheben.
Im weiteren Sinne hat sich Anthropic für eine robuste staatliche Aufsicht über KI eingesetzt. Das Startup hat Regierungen weltweit aufgefordert, die inhärenten Risiken der KI anzugehen, insbesondere durch die Sicherstellung der Befugnis, gefährliche Bereitstellungen zu verbieten. Darüber hinaus hat Anthropic die Regierungen dazu angehalten, Arbeitskräfte und die breitere Wirtschaft auf die transformativen Auswirkungen der KI vorzubereiten und sicherzustellen, dass die finanziellen Vorteile der Technologie gerecht verteilt werden.
Die Aussetzung des Zugangs zu Fable 5 und Mythos 5 unterstreicht die zunehmende Komplexität an der Schnittstelle von fortschrittlicher KI-Entwicklung, nationalen Sicherheitsbedenken und der sich entwickelnden Regulierungslandschaft, was eine kritische Phase für die Zukunft von Spitzen-KI-Modellen signalisiert.
