autonome Waffensysteme

Die DFG-VK unterstützt das von AccessNow veröffentlichte und von mehr als 300 Organisationen und Einzelpersonen unterstützte gemeinsame Statement, was eindringlich vor den Folgen der Nutzung von sogenannter Künstlichen Intelligenz in der Kriegsführung warnt.

Die unterstützenden Organisationen und Personen stellen die folgenden Forderungen:

Technologieunternehmen sollen:

• davon Abstand nehmen, Verträge mit militärischen Stellen oder bewaffneten Gruppen abzuschließen oder zu erfüllen, die mutmaßliche Verstöße gegen das Völkerrecht begehen, einschließlich Menschenrechtsverletzungen und Gräueltaten;
• davon Abstand nehmen, KI-Entscheidungsunterstützungssysteme für militärische „Kill Chains“ und die gezielte Bekämpfung von Personen zu verkaufen, zu übertragen, zu warten oder zu exportieren, einschließlich Systemen zur Zielgenerierung und biometrischer Fernüberwachung; und
• vom Verkauf oder Export von KI-Entscheidungsunterstützungssystemen für nicht-tödliche Zwecke, einschließlich multimodaler KI-Modelle wie LLMs, für den Einsatz in militärischen Entscheidungsprozessen abzusehen, bis eine echte Rechenschaftspflicht, sinnvolle menschliche Kontrolle, Aufsicht und Transparenz im Einklang mit den Grundsätzen des humanitären Völkerrechts und der internationalen Menschenrechtsnormen gewährleistet sind.

Die Staaten sollen:

• den Einsatz von KI-Tools, einschließlich großer Sprachmodelle, bei der militärischen Zielauswahl einstellen und die Einhaltung der Grundsätze des humanitären Völkerrechts und der internationalen Menschenrechtsnormen sicherstellen; und
• Transparenz darüber schaffen, wie KI derzeit bei der Durchführung von Feindseligkeiten eingesetzt wird.

Der gesamte Text und die Unterstützer*innen sind hier zu finden: https://www.accessnow.org/press-release/joint-statement-on-ai-in-warfare/

Hier ist das gemeinsame Statement in der deutschen Übersetzung (durch DeepL):

Wir, die unterzeichnenden Organisationen und Einzelpersonen, sind zutiefst besorgt über die rasante Militarisierung von Technologien der künstlichen Intelligenz (KI). In militärische „Kill Chains“ eingebettete KI-Systeme beschleunigen das Tempo und das Ausmaß militärischer Angriffe in einer Weise, die erhebliche neue Risiken für die Rechenschaftspflicht in Konflikten mit sich bringt und die Gefahr birgt, Verstöße gegen das Völkerstrafrecht, die Menschenrechte und das humanitäre Völkerrecht zu begünstigen.

Wir fordern daher Technologieunternehmen und Staaten auf, die Bereitstellung von KI-Systemen für den Einsatz in militärischen „Kill Chains“ einzustellen und alle notwendigen Maßnahmen zu ergreifen, um sicherzustellen, dass andere von ihnen bereitgestellte KI-Systeme keine Verstöße gegen das humanitäre Völkerrecht (IHL) und die internationalen Menschenrechtsnormen (IHRL) verursachen oder dazu beitragen. Dazu gehört der Einsatz von KI-Entscheidungsunterstützungssystemen, einschließlich Zielgenerierungssystemen, biometrischer Fernüberwachung und multimodaler KI-Modelle, darunter auch große Sprachmodelle (LLMs). KI-beschleunigte Kriegsführung entwickelt sich rasch zu einem Mittel, das das Töten in großem Umfang und mit hoher Geschwindigkeit automatisiert, und derzeit gibt es keine technischen oder verfahrenstechnischen Lösungen, die die tödlichen und verheerenden Folgen, die sich aus den grundlegenden Herausforderungen für das Völkerrecht ergeben, wirksam verhindern können.

Alle Unternehmen, einschließlich derer, die entlang der gesamten KI-Lieferkette Verträge mit staatlichen Militärbehörden abschließen – von der Lizenzierung und dem Training von „Frontier“-Modellen bis hin zur Bereitstellung von Funktionen zur Datenverarbeitung und -speicherung –, müssen alle möglichen Maßnahmen ergreifen, um sicherzustellen, dass ihre Produkte und Dienstleistungen keine Menschenrechtsverletzungen und internationalen Verbrechen verursachen, dazu beitragen oder direkt damit in Verbindung stehen. In bewaffneten Konflikten erstreckt sich diese Verantwortung auf die Einhaltung des humanitären Völkerrechts und des internationalen Strafrechts, da in solchen Kontexten ein erhöhtes Risiko besteht, grobe Menschenrechtsverletzungen – einschließlich schwerwiegender Verstöße gegen das Völkerrecht – zu begünstigen. Wenn Unternehmen solche Risiken nicht sinnvoll verhindern oder mindern können, dürfen sie solche Verträge weder abschließen noch erfüllen.

KI-gestützte Datenspeicher- und Analysesysteme, die in der „Kill Chain“ eingesetzt werden, darunter das große Sprachmodell „Claude“ von Anthropic und das „Maven Smart System“, spielen laut einer Untersuchung von NBC eine Rolle bei der Unterstützung von Angriffen der USA und Israels auf den Iran. OpenAI hat kürzlich zugestimmt, KI-Dienstleistungen für das US-Verteidigungsministerium (DoD) bereitzustellen; Google hat, ebenso wie Anthropic, einen Vertrag mit dem DoD abgeschlossen, um „Prototypen für bahnbrechende KI-Fähigkeiten zu entwickeln, mit denen kritische Herausforderungen der nationalen Sicherheit in den Bereichen Kriegsführung und Unternehmensinfrastruktur bewältigt werden können“; Microsoft, Google und Amazon stellen dem DoD seit Jahren Datenspeicher-, Verarbeitungs- und andere Unternehmensinfrastrukturdienste für dessen „Kriegsführungs“-Programme zur Verfügung.

Medienberichten und offiziellen Erklärungen des DoD zufolge hat die schnelle Generierung von Zielen durch KI-Tools die Steigerung von Geschwindigkeit, Umfang, Intensität und Zerstörungskraft der US-Angriffe auf den Iran ermöglicht. Innerhalb der ersten 48 Stunden nach Beginn der Angriffe sollen Israel und die USA fast 2.000 Ziele im Iran getroffen haben. Während über die genaue Rolle, die KI-Systeme bei diesen militärischen Angriffen auf den Iran spielen, noch vieles unklar ist, hatten die Angriffe verheerende Auswirkungen auf die Zivilbevölkerung und die zivile Infrastruktur.

Der Einsatz von KI-Zielerfassungssystemen in dieser Kampagne folgt dem Beispiel der israelischen Regierung, die Datenanalyse- und maschinelle Lernwerkzeuge – gestützt auf Massenüberwachung – bei ihren völkermordähnlichen Angriffen auf den Gazastreifen als Waffen einsetzt. Indem Israel die menschliche Verantwortung für Entscheidungen über Leben und Tod verwässert, könnte der Einsatz von Systemen wie „Lavender“, „Gospel“ und „Where’s Daddy“ dazu beitragen, internationale Verbrechen hinter einer Fassade vermeintlicher algorithmischer Objektivität zu verschleiern und gleichzeitig die Rechenschaftspflicht zu verwischen.

Nicht zum ersten Mal erleben wir, wie Palästina als Versuchslabor für experimentelle und entmenschlichende Kriegsführungsmethoden missbraucht wird, unter anderem durch technologische Partnerschaften von Unternehmen mit israelischen Militärbehörden. Microsoft, Google, Palantir und andere Technologieunternehmen haben möglicherweise dazu beigetragen oder es der israelischen Regierung ermöglicht, auf Systeme zur Speicherung, Verarbeitung und Analyse von Massendaten zuzugreifen, die ihre anhaltende Zerstörung und den Völkermord im Gazastreifen unterstützen, was bislang zum Tod von mindestens 72.000 Palästinensern geführt hat.

Rechtswissenschaftler und -praktiker, technische Experten, Tech-Mitarbeiter, UN-Sonderberichterstatter und investigative Journalisten warnen seit langem vor der Entwicklung und dem Einsatz von KI in der Kriegsführung, da das Risiko internationaler Verbrechen dadurch erhöht wird. Trotz der Behauptungen ihrer Befürworter, dass KI-Tools die Kriegsführung effektiver, präziser oder humaner machen, deuten reale Einsätze darauf hin, dass KI tatsächlich gewalttätigere, entmenschlichende und zerstörerische Kriegsführungsmethoden begünstigt.

Insbesondere sind wir zutiefst besorgt darüber, dass der Einsatz von LLMs zur Zielgenerierung und -priorisierung militärische Akteure in eine Form der Kriegsführung drängt, in der grundlegende Prinzipien des humanitären Völkerrechts – darunter die Grundsätze der Unterscheidung, der Verhältnismäßigkeit und der Vorsichtsmaßnahmen – angesichts der schieren Geschwindigkeit und des Ausmaßes solcher Technologien sowie der unzuverlässigen, voreingenommenen und oft illegal beschafften Eingabedaten nicht ausreichend beachtet werden und wohl auch nicht ausreichend beachtet werden können. Darüber hinaus vertreten wir die Auffassung, dass diese Dynamiken das Risiko bergen, Menschenrechtsverletzungen, Verbrechen gegen die Menschlichkeit und Kriegsverbrechen zu begünstigen. Zudem gefährdet die mit dem Einsatz dieser Werkzeuge einhergehende Undurchsichtigkeit grundlegend die Möglichkeit, im Falle von Fehlern moralische oder rechtliche Verantwortung zuzuweisen. Wie Anthropic selbst erklärt hat: „…heute sind wegweisende KI-Systeme einfach nicht zuverlässig genug, um vollautonome Waffen anzutreiben. Wir werden nicht wissentlich ein Produkt bereitstellen, das Amerikas Soldaten und Zivilisten gefährdet.“ Akteure, die sich für den Einsatz von KI-Systemen entscheiden, die zur Begehung internationaler Verbrechen genutzt werden, müssen strafrechtlich zur Verantwortung gezogen werden.

Unsere Bedenken beschränken sich nicht auf die Fehler, die durch Fehlfunktionen solcher Systeme entstehen können, sondern umfassen auch die Art und Weise, wie diese Systeme militärische Operationen grundlegend verändern. Wir lehnen daher die Prämisse ab, dass derzeit technische oder funktionale Korrekturen – sei es ein angebliches „Human-in-the-Loop“-Verfahren oder vermeintlich fest programmierte Sicherheitsvorkehrungen in KI-Modellen – die tödlichen und verheerenden Folgen von KI-beschleunigten Tötungsketten verhindern können. Diese Vorschläge ermöglichen die Normalisierung und Verbreitung der Einbindung von KI in militärische Entscheidungsprozesse zum Nachteil schutzbedürftiger Gemeinschaften und Bevölkerungsgruppen. Derzeit sind eine sinnvolle menschliche Kontrolle, echte Rechenschaftspflicht, Aufsicht und Transparenz dieser Technologien in ihrer gegenwärtigen Form nicht möglich.

Selbst wenn KI-Systeme, die zur Zielerfassung eingesetzt werden, nicht die endgültige Entscheidung zum Töten treffen, laufen sie Gefahr, zu reinen Absegnungsmechanismen für Tötungen in großem Maßstab zu werden, da sie falsche Vorstellungen von Objektivität wecken und Rechenschaftspflicht sowie Sorgfaltspflicht verdrängen können, was letztendlich dazu dienen kann, Massentötungen zu beschleunigen und zu rationalisieren. Die Kombination solcher Systeme mit noch „reibungsloseren“ Techniken der Überwachung, Zielerfassung und Befehlsführung – beispielsweise in Form großer KI-Modelle wie LLMs – automatisiert die Entmenschlichung, indem Fragen von Leben und Tod auf eine einfache Chat-Abfrage reduziert werden. Die Entscheidung, einen anderen Menschen zu töten, hat schwerwiegende moralische und rechtliche Tragweite und darf niemals darauf reduziert werden, die Empfehlungen von KI-Systemen lediglich anzunehmen oder abzulehnen. Wenn Streitkräfte sich auf KI verlassen, um die Zielidentifizierung mit einer solchen Geschwindigkeit und Routinierung zu beschleunigen, dass jede menschliche Überprüfung Gefahr läuft, zu einem bloßen Absegnungsmechanismus ohne sinnvolle menschliche Kontrolle zu werden, kann und wird es häufig zu Massenmorden kommen – unter direkter Verletzung des Vorsorgeprinzips nach dem humanitären Völkerrecht.

Unternehmen tragen die Verantwortung, die Menschenrechte zu achten und davon abzusehen, Menschenrechtsverletzungen und andere Verstöße gegen das Völkerrecht zu verursachen oder dazu beizutragen, einschließlich der materiellen oder finanziellen Unterstützung von Staaten, die internationale Verbrechen begehen. Wie in den Leitprinzipien der Vereinten Nationen für Wirtschaft und Menschenrechte dargelegt, müssen Unternehmen, die sich an solchen Handlungen beteiligen, ihren Beitrag zu den Schäden unverzüglich einstellen. Selbst wenn ein Unternehmen keinen Schaden verursacht oder dazu beiträgt, sondern lediglich damit in Verbindung steht, wird von ihm erwartet, dass es seinen Einfluss nutzt, um ein Ende dieser Verstöße herbeizuführen.

Sobald Unternehmen Militärverträge abgeschlossen haben, verfügen sie möglicherweise nur noch über begrenzten Einfluss darauf, wie ihre Produkte und Dienstleistungen genutzt werden. Dies zeigt sich am Konflikt zwischen Anthropic und der US-Regierung sowie an Berichten, wonach Google und Amazon die Anwendbarkeit ihrer Nutzungsbedingungen in Verträgen mit der israelischen Regierung ausgesetzt haben. Erst am 27. April 2026 unterzeichneten mehr als 560 Google-Mitarbeiter einen offenen Brief an den CEO von Google, in dem sie das Unternehmen dringend aufforderten, der US-Regierung die Nutzung seiner KI-Technologie bei geheimen Militäroperationen zu verweigern.

Technologieunternehmen und ihre Führungskräfte sollten ihre potenzielle Mitschuld in Fällen, in denen ihre Technologien bei Verstößen gegen das Völkerrecht eine Rolle spielen, ernst nehmen, bevor sie diese lukrativen Verteidigungsverträge abschließen, und davon Abstand nehmen, wenn sie eine solche Einschätzung nicht vornehmen können. Darüber hinaus müssen sie auch die Rolle verstehen, die sie bei der Neugestaltung des normativen Rahmens für den Einsatz von KI in Konflikten spielen müssen.