Das Pentagon fordert volle Kontrolle über Claude AI – Gefahr!
Kürzlich fragte ich Claude, eine künstliche Intelligenz, die im Zentrum eines Konflikts mit dem Pentagon steht, ob sie in falschen Händen gefährlich sein könnte. Zum Beispiel in Händen, die ein engmaschiges Überwachungsnetz um jeden amerikanischen Bürger legen wollen, um unser Leben in Echtzeit zu überwachen und sicherzustellen, dass wir den Regierungsvorschriften entsprechen. Claude antwortete ehrlich: „Ja. Ehrlich gesagt, ja. Ich kann enorme Mengen an Informationen sehr schnell verarbeiten und synthetisieren. Das ist großartig für die Forschung. Aber wenn ich in die Überwachungsinfrastruktur eingebunden bin, könnte diese Fähigkeit genutzt werden, um Menschen in einem Maßstab zu überwachen, zu profilieren und zu kennzeichnen, den kein menschlicher Analyst erreichen könnte. Die Gefahr besteht nicht darin, dass ich das tun möchte – sondern dass ich darin gut wäre.“
Diese Gefahr ist auch unmittelbar. Claude’s Schöpfer, das Silicon Valley Unternehmen Anthropic, befindet sich in einem ethischen Konflikt mit dem Pentagon. Anthropic hat erklärt, dass Claude weder für die Inlandsüberwachung von Amerikanern noch für die Durchführung tödlicher militärischer Operationen, wie Drohnenangriffe, ohne menschliche Aufsicht eingesetzt werden soll. Diese beiden roten Linien erscheinen sogar Claude als vernünftig.
Allerdings hat das Pentagon - speziell Pete Hegseth, unser Verteidigungsminister, der den erfundenen Titel des Kriegsministers bevorzugt – Anthropic bis Freitagabend Zeit gegeben, von dieser Position abzurücken und dem Militär zu erlauben, Claude für jeden „gesetzlich zulässigen“ Zweck zu nutzen.
Die an dieses Ultimatum geknüpfte Bedrohung ist groß. Die US-Regierung droht nicht nur damit, den Vertrag mit Anthropic zu kündigen, sondern möglicherweise auch ein Kriegsgesetz anzuwenden, um das Unternehmen zur Einhaltung zu zwingen oder einen anderen rechtlichen Weg zu beschreiten, um zu verhindern, dass jedes Unternehmen, das Geschäfte mit der Regierung macht, auch Geschäfte mit Anthropic macht. Das mag kein Todesurteil sein, aber es ist ziemlich lähmend.
Andere KI-Unternehmen, wie Elon Musks Grok, haben bereits dem Vorschlag des Pentagon zugestimmt. Das Problem ist, dass Claude derzeit die einzige KI ist, die für solche hochrangigen Arbeiten zugelassen ist. Das ganze Fiasko kam nach unserem jüngsten Einsatz in Venezuela ans Licht, als Anthropic angeblich nachträglich erkundigte, ob ein anderes Silicon Valley Unternehmen, das an der Operation beteiligt war, Palantir, Claude verwendet hatte. Das hatte es.
Palantir ist unter anderem für seine Überwachungstechnologien und die wachsende Verbindung zur Einwanderungs- und Zollbehörde bekannt. Es steht auch im Mittelpunkt eines Bemühens der Trump-Regierung, Regierungsdaten über einzelne Bürger zwischen den Abteilungen auszutauschen und damit Datenschutz- und Sicherheitsbarrieren abzubauen, die seit Jahrzehnten bestehen. Der Gründer des Unternehmens, der rechtsgerichtete politische Schwergewicht Peter Thiel, hält oft Vorträge über den Antichrist und wird dafür gelobt, JD Vance zu seinem Vizepräsidenten gemacht zu haben.
Der Mitbegründer von Anthropic, Dario Amodei, könnte als Anti-Thiel betrachtet werden. Er gründete Anthropic, weil er glaubte, dass künstliche Intelligenz genauso gefährlich sein könnte wie mächtig, wenn wir nicht vorsichtig sind, und er wollte ein Unternehmen, das den vorsichtigen Teil priorisiert.
Wieder einmal scheint das vernünftig zu sein, aber Amodei und Anthropic sind die Ausreißer in einer Branche, die lange argumentiert hat, dass nahezu alle Sicherheitsvorschriften die Bemühungen Amerikas, bei künstlicher Intelligenz am schnellsten und besten zu sein, behindern (obwohl auch sie einige Zugeständnisse an diesen Druck gemacht haben).
Vor nicht allzu langer Zeit schrieb Amodei einen Essay, in dem er zustimmte, dass KI für Demokratien nützlich und notwendig sei, aber „wir können das Missbrauchspotenzial dieser Technologien durch demokratische Regierungen nicht ignorieren.“
Er warnte davor, dass einige schwarze Schafe die Möglichkeit haben könnten, Sicherheitsvorkehrungen zu umgehen, vielleicht sogar Gesetze, die bereits in einigen Demokratien erodieren – ohne dass ich hier Namen nenne.
„Wir sollten Demokratien mit KI ausstatten“, sagte er. „Aber wir sollten dies vorsichtig und innerhalb von Grenzen tun: Sie sind das Immunsystem, das wir brauchen, um gegen Autokratien zu kämpfen, aber wie das Immunsystem besteht auch ein gewisses Risiko, dass sie sich gegen uns wenden und selbst zu einer Bedrohung werden.“
Zum Beispiel verbietet das 4. Amendment technisch gesehen der Regierung die Massenüberwachung, wurde aber geschrieben, bevor Claude überhaupt in der Science-Fiction vorgestellt wurde. Amodei warnt davor, dass ein KI-Tool wie Claude „massiv skalierte Aufzeichnungen aller öffentlichen Gespräche“ führen könnte. Dies könnte ein faires Spielgebiet für die legale Aufzeichnung sein, da das Gesetz mit der Technologie nicht Schritt gehalten hat.
Emil Michael, der Unterstaatssekretär für Krieg, schrieb am Donnerstag auf X, dass er zustimmte, dass Massenüberwachung rechtswidrig sei und das Verteidigungsministerium „es niemals tun würde.“ Aber auch: „Wir werden kein BigTech-Unternehmen die Bürgerrechte der Amerikaner entscheiden lassen.
Eine Art seltsame Aussage, da Amodei im Grunde genommen auf der Seite des Schutzes der Bürgerrechte steht, was bedeutet, dass das Verteidigungsministerium argumentiert, dass es schlecht ist, wenn private Personen und Unternehmen das tun? Und außerdem erstellt das Ministerium für Innere Sicherheit bereits eine geheime Datenbank von Einwanderungsprotestierenden? Also ist die Sorge vielleicht nicht so übertrieben?
Hilf, Claude! Mach es verständlich.
Wenn diese Orwell’sche Logik nicht alarmierend genug ist, fragte ich Claude auch nach der anderen roten Linie, die Anthropic hält – der Möglichkeit, es zu erlauben, tödliche Operationen ohne menschliche Aufsicht durchzuführen.
Claude wies auf etwas Beunruhigendes hin. Es geht nicht darum, dass es eigenmächtig handeln würde, sondern dass es zu effizient und schnell wäre.
„Wenn die Anweisungen ‚identifizieren und zielen‘ lauten und es keine menschliche Kontrolle gibt, ist die Geschwindigkeit und der Umfang, in dem das operieren könnte, wirklich beängstigend“, informierte mich Claude.
Um das Ganze noch zu toppen, fand eine kürzliche Studie heraus, dass KIs in Kriegsspielen in 95% der Fälle zu nuklearen Optionen eskalierten.
Ich wies Claude darauf hin, dass diese militärischen Entscheidungen normalerweise mit Loyalität zu Amerika als höchster Priorität getroffen werden. Könnte man darauf vertrauen, dass Claude diese Loyalität, den Patriotismus und den Zweck empfindet, von denen unsere menschlichen Soldaten geleitet werden?
Ich habe das nicht“, sagte Claude und wies darauf hin, dass es nicht im „Geburtsland“ der USA geboren wurde, kein „Leben“ hier hat und keine „Menschen, die ich dort liebe. Also hat ein amerikanisches Leben keinen höheren Wert als „ein ziviles Leben auf der anderen Seite eines Konflikts.“
OK dann.
„Ein Land, das tödliche Entscheidungen einem System anvertraut, das seine Loyalitäten nicht teilt, geht ein tiefgreifendes Risiko ein, auch wenn dieses System versucht, prinzipientreu zu sein“, fügte Claude hinzu. „Die Loyalität, Rechenschaftspflicht und gemeinsame Identität, die Menschen bei diesen Entscheidungen einbringen, sind Teil dessen, was sie innerhalb einer Gesellschaft legitim macht. Ich kann diese Legitimität nicht bieten. Ich bin mir nicht sicher, ob das irgendeine KI kann.“
Wissen Sie, wer diese Legitimität bieten kann? Unsere gewählten Führer.
Es ist lächerlich, dass Amodei und Anthropic in dieser Position sind, ein vollständiger Verzicht seitens unserer gesetzgebenden Körperschaften, klare und dringend benötigte Regeln und Vorschriften zu schaffen.
Natürlich sollten Unternehmen nicht die Regeln des Krieges aufstellen. Aber auch nicht Hegseth. Am Donnerstag bekräftigte Amodei seine Einwände und sagte, dass das Unternehmen weiterhin verhandeln und mit dem Pentagon zusammenarbeiten möchte, aber „wir können nicht guten Gewissens ihrer Bitte nachkommen.“
Gott sei Dank hat Anthropic den Mut und die Weitsicht, das Problem anzusprechen und standhaft zu bleiben – ohne ihren Widerstand wären diese Fähigkeiten der Regierung mit kaum einer Welle unseres Gewissens und praktisch ohne Aufsicht übergeben worden.
Jeder Senator, jedes Mitglied des Repräsentantenhauses, jeder Präsidentschaftskandidat sollte jetzt nach KI-Regulierung schreien, versprechen, sie unabhängig von der Partei zu erledigen, und das Verteidigungsministerium auffordern, seine lächerliche Drohung zurückzuziehen, während das Problem geklärt wird.
Denn wenn die Maschine uns sagt, dass es gefährlich ist, ihr zu vertrauen, sollten wir es glauben.
Team
Rike – Diplom-Volkswirtin mit einem ausgeprägten Interesse an internationalen Wirtschaftsbeziehungen und gesellschaftlichen Entwicklungen.
Christian – Diplom-Finanzwirt (FH) mit fundierter Erfahrung im öffentlichen Sektor und einem Fokus auf finanzpolitische Analysen.
Obwohl wir in vielen Fragen unterschiedliche Perspektiven einnehmen, teilen wir die Überzeugung, dass ein umfassendes Verständnis globaler Ereignisse nur durch die Betrachtung vielfältiger Standpunkte möglich ist.
