Wie bewerten Sie die aktuelle Entwicklung von Künstlicher Intelligenz und deren Einfluss auf die Industrie?
Wir befinden uns in einer neuen industriellen Revolution, die auf viele Lebensbereiche einwirken wird – und dies heute schon tut. Getrieben wird sie vor allem von der Verfügbarkeit immer leistungsfähigerer Hardware, die gigantische Rechenleistung ermöglicht. In der gesamten Industrie wird KI auf Prozesse einwirken und die Entwicklung von Technologien erheblich verändern. Rheinmetall will hier eine wichtige und gestaltende Rolle spielen, indem wir unsere Produkte mit Hilfe von KI immer leistungsfähiger machen. Die Prämisse wird dabei immer sein, die Kontrolle zu behalten. Weiterhin besteht die Herausforderung, scheinbar plausible Ergebnisse der KI zu verifizieren. KI basiert auf maschinellem Lernen, daher kann jede KI nur so gut sein, wie ihre Datenbasis, also die Lerndaten, es eben zulässt.

In welchen Bereichen sehen Sie die größten Potenziale?
KI ist uns bei Rheinmetall heute schon ein wichtiges Arbeitsmittel. In internen Geschäftsprozessen, in der IT, bei der Entwicklung und auch in der Erprobung unterstützt uns KI in zunehmendem Maße. Für die Simulation eröffnen sich ganz neue Möglichkeiten. Nur ein Beispiel: In den USA werden Atomtests bereits mit Hilfe der KI am Supercomputer simuliert.

KI wird dem Menschen künftig überall dort helfen, wo es darum geht, Handlungsentscheidungen in einem dynamischen Umfeld und auf der Grund­lage von umfassenden Daten zu treffen. Das wird insbesondere im militärischen Kontext immer wichtiger, denn hier haben Sie es mit hochkomplexen Lagebildern und Riesenmengen von Aufklärungsdaten zu tun – und bei den Entscheidungen auf taktischer Ebene kommt es auf jede Sekunde an.

Welche Rolle spielt KI bei Rhein­metall, sowohl im zivilen Bereich wie auch im militärischen Kontext?
KI ist längst Bestandteil unserer Unternehmensstrategie, wir werden zum KI-Haus. Zusammen mit unserem Innovation Team des Rheinmetall IT Service haben wir in Untersuchungen bereits rund hundert sogenannte Use-Cases für KI identifiziert, bei denen es um die Unterstützung der täglichen Arbeit geht, und die wir jetzt validieren. Da geht es zum Beispiel um Chatbots, um Wissensmanagement, Prozessautomatisierung, Qualitätskontrolle oder um Assistenzlösungen bei der Erstellung von Dateien für PowerPoint oder andere Anwendungen. Dabei spielt es für uns keine Rolle, ob diese möglichen Anwendungsfälle militärischer oder ziviler Natur sind, denn technisch gibt es keinen Unterschied. KI hält Einzug in viele unserer Produkte und wird insbesondere die Soldatinnen und Soldaten zukünftig in vielen ihrer Aufgaben unterstützen und entlasten.

Wie beeinflusst KI die Entscheidungsprozesse in militärischen Operationen? Wo sind die Vorteile, welche Risiken bestehen?
KI wird künftig vor allem in taktischen Systemen in allen militärischen Bereichen eine Rolle spielen: bei der Informationsgewinnung, der Auswertung, der Entscheidungsfindung und in Bezug auf die Wirkungsüberlegenheit. KI kann zum Beispiel darauf trainiert werden, feindliche Fahrzeuge zu erkennen, zu identifizieren und Handlungsoptionen vorzuschlagen. Die KI unterstützt also den Menschen, die Informationslage im dynamischen Umfeld zu verbessern und Entscheidungen zu treffen.

Wer ist der Treiber dieser Entwicklung: Fordert der Kunde KI in seinen Systemen, oder treibt es die Industrie voran?
Ich denke, es ist beides. Wir zeigen unseren Kunden auf, was technisch möglich ist und wo die Technik den Menschen entlasten kann. Auf der anderen Seite muss das Militär immer komplexere Aufgaben mit immer weniger Menschen bewältigen, denn das Personal ist eine knappe Ressource. Daher legt unser Kunde Wert darauf, dass immer wiederkehrende Aufgaben automatisiert werden und die Technik den Menschen von unnötigen Aufgaben befreit.

Aber werden die technischen Systeme nicht auch immer komplexer, so dass der Mensch sie ohne KI-Unterstützung teilweise gar nicht mehr bedienen kann?
Das kann man so sehen – manches Auto überfordert seinen Fahrer schon heute. Im militärischen Bereich gilt: Je mehr Aufgaben der Bediener durchführen muss, desto mehr ist er auf Entlastung angewiesen. Und somit wird die KI eine unverzichtbare Komponente von hochmodernen Kampfsystemen.

Bleiben wir bei Kampfsystemen. Müssen wir künftig Angst vor dem Killerroboter haben?
Den werden wir nicht bauen. Wir dürfen ihn nicht bauen – und unser Kunde will ihn auch nicht. Schließlich gibt es klare Einsatzregeln und weitere rechtliche Vorgaben, die die Verantwortung immer beim Menschen sehen. Die KI trifft in unseren Systemen keine selbstständigen Entscheidungen, sondern macht Vorschläge auf Grundlage der ausgewerteten Informationen. Der Mensch trägt die Verantwortung bei allem, was er tut: beim Schuss mit der Artillerie, beim Einsatz eines Lenkflugkörpers – oder eben auch einer teilautomatisierten Waffe. Man spricht hier übrigens vom Prinzip „Human in the Loop“: Der Mensch hat als letzte Instanz die Kontrolle, er trifft die ­Entscheidung und trägt die ­Verantwortung.

Aber der Killerroboter, der eigenständig entscheidet, ist technisch möglich?
Sicher. Und leider können wir auch nicht davon ausgehen, dass sich alle Länder oder Akteure an dieselben ethischen Maßstäbe und völkerrechtlichen Vorgaben halten, die für uns verbindlich sind. Wir müssen im militärischen Bereich damit rechnen, dass uns eines Tages Killerroboter gegenüberstehen.

Haben Sie heute schon Produkte, in denen KI (Artificial Intelligence, AI) zur Anwendung kommt?
Wir liefern schon Produkte aus, die „ready for AI“ sind, zum Beispiel den Radpanzer Boxer in der Ausführung Schwerer Waffenträger Infanterie für die Bundeswehr. Wenn der Kunde es wünscht, können wir die KI hier nachträglich einrüsten. Konkret geht es um eine KI-basierte Turmarchitektur, die wir entwickelt haben – die sogenannte Automated Turret-Target Acquisition Component, kurz AT-TAC. Sie dient der Automatisierung des Aufklärungs- und Beobachtungsanteils im Turm, hilft also bei der Suche nach dem Ziel, bei seiner Klassifikation sowie der Einschätzung der Bedrohung. Auch unser neuer Kampfpanzer Panther und der Schützenpanzer Lynx sind auf die Verwendung von AT-TAC vorbereitet. Wenn wir unseren Kunden künftig SAR-Aufklärungsdaten aus dem Weltraum liefern …

… aus Ihrer Partnerschaft mit dem finnischen Satellitenbetreiber ICEYE …
… ja, dann spielt beim Auswerten und Nutzen dieser Daten die KI ebenfalls eine wichtige Rolle. Und im Drohnenbereich entwickeln wir für unsere unbemannten Flugsysteme ein neuronales Netzwerk, das potenzielle militärische Ziele aus der Drohnenperspektive schon aus weiter Entfernung erkennt. Wir arbeiten auch an einem KI-Modell, das die Wiedererkennung eines Objekts aus der Perspektive einer anderen Drohne oder zu einem späteren Zeitpunkt ermöglicht. Hier findet die Integration in erste unbemannte Flugsysteme bereits statt. In der Audio Event-Classification geht es uns um die passive Audio-Aufklärung zur Unterstützung der Lageerfasssung, indem uns die KI vor herannahenden Fahrzeugen, Drohnen etc. warnen kann – als künstliches intelligentes Ohr. Ich könnte noch viel mehr aufzählen …

… sicher auch aus dem zivilen Bereich?
Natürlich. Zum Vogelschutz setzen wir KI zum Beispiel schon bei Windkraftanlagen ein (siehe Artikel ProTecBird). Oder auch in den Driver Monitoring-Systemen, die der Gesetzgeber künftig in jedem zivilen Neufahrzeug fordert. Die KI kann hier Gesichter erkennen, aber auch Gesten, Gähnen und Blinzeln und vieles mehr. Bei unserer Tochter Rheinmetall Yardstick Robotics arbeiten wir an der KI-basierten Inbetriebnahme und Zertifizierung von Robotersystemen, zum Beispiel für das Erlernen von neuen Aufgaben wie Be- und Entladevorgängen von autonomen Transporten auf einem Werksgelände.

Wie schützt Rheinmetall seine KI-Systeme vor Cyberangriffen und ­Manipulation?
KI-Systeme sind einerseits angreifbar durch sogenannte Adversarial Attacks. Kennt ein Gegner das KI-Modell, ist es ihm unter Umständen möglich, die KI durch gezielte Verfälschung von Daten in die Irre zu führen, was auf Seiten des Nutzers nicht oder nur sehr schwer zu entdecken ist. Die Verlässlichkeit oder Resilienz von KI ist daher ein Faktor, auf den wir viel Wert legen.

Andererseits ist es bei der Bilderkennung durch KI-Systeme – via Satellit oder auch andere bildgebende Sensoren – möglich, Tarnungen von Objekten durch optische Verfremdungen zu schaffen, damit sie für eine KI nicht mehr zuverlässig identifizierbar sind. Auf seinem eigenen Terrain hat ein Gegner es natürlich relativ leicht, mit Tarnung und Täuschung zu arbeiten. Daten aus der Vergangenheit können aber wichtige Referenzpunkte liefern, die zu einer Überprüfung und Identifikation solcher Verfremdungen genutzt werden könnten.

Also gilt auch hier: Kontrolle ist besser?
Ja. Wenn ich mehrere Sensoren unabhängig voneinander einsetze und die gewonnenen Daten zusammenführe – man spricht von der Multi Sensor-Datenfusion –, kann ich Risiken reduzieren. Je mehr Daten ich zum Validieren und Vergleichen oder auch zum Nachtrainieren von Modellen habe, desto zuverlässiger arbeitet die KI. Und wie bei allen militärischen Systemen gilt natürlich auch hier: Es darf nicht in gegnerische Hände fallen. In diesem Fall kommen Schutz- und Selbstzerstörungsmechanismen zum Tragen.

Wie gelingt es Rheinmetall, im globalen Wettbewerb um KI-Talente qualifizierte Fachkräfte zu gewinnen?
Hier befinden wir uns einer komfortablen Situation, denn uns erreichen viele Bewerbungen von Menschen, die bei uns mitmachen wollen. Wir kooperieren auch mit einer ganzen Reihe von Hochschulen und Forschungseinrichtungen und sind mit Nachwuchstalenten im Kontakt. „Techies“ bringen sich gerne bei uns ein.

In Deutschland sind zivile und militärische Forschung bislang weitgehend getrennt. Ist die Zivilklausel hinderlich, die es an zahlreichen Universitäten noch gibt?
Da ändert sich aktuell sehr viel. Wir bekommen viele Anfragen von Hochschulen und Forschungseinrichtungen, die mit uns zusammenarbeiten und Projekte gemeinsam durchführen wollen. In Bayern hat die Regierung Hochschulen explizit aufgefordert, für Dual Use oder auch rein militärische Projekte zu forschen. Viele Universitäten haben bereits ihre Zivilklauseln fallen gelassen oder diskutieren zumindest darüber.

Tut Europa genug, um bei dieser wichtigen Zukunftstechnologie mit den USA mithalten zu können?
Ob es genug ist, wird sich noch zeigen müssen – es geschieht aber schon einiges. Die EU investiert massiv, etwa durch das Programm Digitales Europa, das rund acht Milliarden Euro umfasst, sowie durch die Initiative InvestAI, die rund 200 Milliarden Euro an privaten Investitionen für KI auslösen soll. Brüssel strebt den Aufbau eines europaweiten Netzwerks sogenannter AI Factories an und will für rund 20 Milliarden Euro KI-Gigafabriken entstehen lassen, die der Steigerung der Rechenleistung und der Unterstützung von Start-ups, Forschung und Industrie dienen. Diese Einrichtungen sollen den Zugang zu Hochleistungsrechnern und großen Datenmengen ermöglichen.

Werfen wir einen Blick in die ­Zukunft – wie geht es weiter?
Der Fähigkeitsaufwuchs und die Kampfwertsteigerung unserer Produkte wird zukünftig software- und KI-getrieben sein. Unsere Fahrzeuge und Systemarchitekturen werden so ausgelegt, dass ein Upgrade im Produktlebenszyklus mit wenig Aufwand erfolgen kann. Viele Systeme werden künftig so weit wie möglich automatisiert. Nur wo die künstliche Intelligenz keine Lösung findet und/oder Verantwortbarkeit notwendig ist, wird der Mensch eingreifen. Das alles wird ziemlich schnell kommen – die Zukunft ist schon zum Greifen nah!

Herr Kappen, vielen Dank für das Gespräch.  

Das Interview führte Oliver Hoffmann.