Verantwortungsvoller Einsatz von Künstlicher Intelligenz im militärischen Umfeld

In der Studie „Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance“ werden ethische Fragen und Prinzipien diskutiert, die beim Einsatz von KI in militärischen Szenarien beachtet werden müssen. Ein besonderer Fokus liegt dabei auf den sogenannten FATE-Richtlinien (Fairness, Accountability, Transparency und Ethics). Dazu gehören Fairness, Rechenschaftspflicht, Transparenz und Ethik. Diese etablierten Richtlinien sollen sicherstellen, dass KI-gestützte Systeme im militärischen Bereich transparent, gerecht und verantwortungsvoll eingesetzt werden.

Ein Beitrag der Studie liegt darin, europäische und deutsche Werte in die Diskussion ethischer Prinzipien für militärische KI-Anwendungen einzubringen. Dazu gehören neben etablierten Prinzipien wie Rückverfolgbarkeit, Verantwortung und Zuverlässigkeit, auch Grundsätze wie Verhältnismäßigkeit und Führbarkeit. Die ethischen Grundsätze werden in drei realitätsnahen Anwendungsfällen aus den Bereichen Luft, Land und See untersucht. Dabei kommen Methoden wie automatisierte Sensordatenanalyse und erklärbare KI (XAI) (engl. eXplainable AI) zum Einsatz, um die Szenarien in den direkten Kontext des HENSOLDT-Produktportfolios und der technischen Umsetzbarkeit zu setzen. Die Studie kommt zu dem Ergebnis, dass ethische Prinzipien beim Einsatz von KI im militärischen Umfeld berücksichtigt werden können. Dies gilt zum Beispiel für Technologien wie XAI oder Mensch-Maschine-Schnittstellen auf Basis von Large Language Models (LLMs). Letztlich bleibt die Verantwortung für eine Entscheidung beim Menschen, der die Kontrolle über die KI behält.

„Unsere Untersuchung stellt einen wichtigen Schritt in der Diskussion um den verantwortungsvollen Umgang mit Künstlicher Intelligenz in der komplexen und dynamischen Landschaft militärischer Szenarien dar“, resümiert Dr. Michael Teutsch, AI Strategist & Lead bei HENSOLDT. „Es zeigt, wie wir als Unternehmen dazu beitragen können, technologische Fortschritte mit ethischen Standards in Einklang zu bringen und dabei ein Gleichgewicht zwischen den Vorteilen der KI und der Einhaltung moralischer sowie rechtlicher Vorgaben zu finden.“

Die Studie steht hier zur Verfügung.