(Dr. Paul Spannaus, SWIFT GmbH)
Ausgangssituation und Zielsetzung
Der Einsatz autonomer Drohnen gewinnt in zahlreichen Anwendungsbereichen zunehmend an Bedeutung. Insbesondere im Bereich von Lieferdiensten, Inspektionen und Überwachungsaufgaben bieten autonome Fluggeräte großes Potenzial. Gleichzeitig werden hohe Anforderungen an Sicherheit, Zuverlässigkeit und die Einhaltung regulatorischer Vorgaben gestellt.
Vor diesem Hintergrund beschäftigt sich das Forschungsprojekt ISEKIS mit der Frage, wie autonome Drohnen sicher und regelkonform im alltäglichen Betrieb eingesetzt werden können.
Herausforderungen beim autonomen Drohnenbetrieb
Der zukünftige autonome Flugbetrieb erfordert eine kontinuierliche Anpassung an Sicherheitszonen und regulatorische Anforderungen. Besonders kritisch sind Defizite bei der Überprüfbarkeit und Absicherung von Sensorfehlern, Drohnenpositionen sowie KI-Entscheidungen in autonomen Flugsystemen. Während klassische Softwarekomponenten häufig nachvollziehbar geprüft werden können, stellen KI-basierte Systeme aufgrund ihrer komplexen Entscheidungsprozesse besondere Herausforderungen dar.
Um diese Probleme zu adressieren, verfolgt ISEKIS einen ganzheitlichen Ansatz zur Absicherung autonomer Drohnen. Ziel ist es, sowohl die Navigation als auch die sensorbasierte Wahrnehmung und Entscheidungsfindung zuverlässig zu überwachen und potenzielle Fehlfunktionen frühzeitig zu erkennen.
Technische Lösungsansätze
Ein zentraler Baustein des Projekts ist die Entwicklung robuster Navigationsverfahren. Darin werden Methoden untersucht, mit denen Drohnen auch unter erschwerten Bedingungen sicher navigieren können. Dazu gehört insbesondere die zuverlässige Positionsbestimmung selbst dann, wenn einzelne Sensoren fehlerhafte oder unvollständige Daten liefern.
Ergänzend dazu werden Konzepte zur Absicherung von KI-Komponenten entwicklelt. Hierbei werden Verfahren erforscht, die Fehler in Sensordaten erkennen und bewerten können. Gleichzeitig sollen mögliche Auswirkungen solcher Fehler auf die Entscheidungen der KI abgeschätzt werden. Dadurch wird die Nachvollziehbarkeit und Vertrauenswürdigkeit autonomer Systeme erhöht.
Ein weiterer Schwerpunkt liegt auf dem sogenannten SWIFT-Framework. Dieses adressiert die Herausforderungen moderner KI-Systeme durch Verfahren zur Bewertung und Dokumentation ihrer Zuverlässigkeit. Ziel ist es, Fehlzustände frühzeitig zu identifizieren, zu analysieren und nachvollziehbar zu dokumentieren. Dadurch wird eine wichtige Grundlage für die spätere Zertifizierung und den regulatorischen Nachweis geschaffen.
Bedeutung von Monitoring im laufenden Betrieb
Mit zunehmender Autonomie verschiebt sich der Fokus von der reinen Entwicklung hin zur kontinuierlichen Überwachung im Betrieb. Während klassische Steuerungssysteme vor allem durch System-, Integrations- und Modultests abgesichert werden, benötigen autonome Systeme zusätzliche Überwachungsmechanismen.
Neben den bekannten Testverfahren müssen im Betrieb unter anderem Nutzungsverhalten, Grenzverletzungen des Einsatzbereichs, Konflikte zwischen verschiedenen Systemkomponenten sowie potenzielle Angriffe auf die KI erkannt werden. Dieses sogenannte Runtime-Monitoring ermöglicht eine laufende Bewertung des Systemzustands und trägt dazu bei, Risiken frühzeitig zu identifizieren und Gegenmaßnahmen einzuleiten.
Warum Input-Checks für KI-Systeme notwendig sind
Ein wesentliches Problem moderner KI-Systeme besteht darin, dass ihre Entscheidungen stark von den Eingangsdaten abhängen. Werden Daten verarbeitet, die sich deutlich von den Trainingsdaten unterscheiden, kann die KI fehlerhafte oder unerwartete Entscheidungen treffen.
Aus diesem Grund entwickelt ISEKIS Verfahren zur Überprüfung von Eingabedaten. Ziel ist es, vertrauenswürdige von potenziell problematischen Daten zu unterscheiden. Dabei wird analysiert, ob neue Eingaben innerhalb des bekannten Datenraums liegen oder ob sie Merkmale aufweisen, die auf unbekannte Situationen hindeuten. Je nach Datenlage können daraus unterschiedlich wahrscheinliche Entscheidungen resultieren. Durch die frühzeitige Erkennung solcher Situationen lassen sich Fehlentscheidungen vermeiden oder zumindest besser bewerten.
Beispiel: Autonomer Lieferflug
Die praktische Relevanz der entwickelten Verfahren wird anhand eines autonomen Lieferflug-Szenarios verdeutlicht. Während des Fluges können unerwartete Hindernisse entlang der geplanten Route auftreten, beispielsweise umgestürzte Bäume oder andere Objekte.
Eine autonome Drohne muss solche Veränderungen zuverlässig erkennen und ihre Flugroute entsprechend anpassen. Hierfür werden sowohl Sensordaten der Drohne als auch externe Informationsquellen ausgewertet. Die Kombination verschiedener Datenströme ermöglicht eine robuste Erkennung von Hindernissen und unterstützt die sichere Durchführung autonomer Missionen.
SenTenCe: Sensor, Tensor, Censor
Ein zentraler Baustein des Projekts ist das Konzept „SenTenCe“ (Sensor, Tensor, Censor). Dieses Framework dient der Überwachung von KI-basierten Systemen und verbindet Eingabedaten, KI-Verarbeitung und Systemausgaben in einer integrierten Monitoring-Architektur.
Dabei werden sowohl die Eingaben als auch die Ergebnisse der KI kontinuierlich analysiert. Das System erkennt mögliche Zwischenzustände, bewertet deren Einfluss auf die Sicherheit und überprüft die Plausibilität der erzeugten Entscheidungen. Abweichungen von definierten Verhaltensmustern können frühzeitig identifiziert werden.
Darüber hinaus ermöglicht ein intelligenter Flugdatenschreiber die langfristige Speicherung relevanter Informationen. Dadurch können Ereignisse nachträglich rekonstruiert, Ursachen analysiert und langfristige Veränderungen im Systemverhalten erkannt werden. Diese Funktion unterstützt sowohl die Sicherheitsbewertung als auch die kontinuierliche Verbesserung autonomer Systeme.
Regulatorische Einordnung und zukünftige Anforderungen
Die Entwicklungen von ISEKIS stehen in engem Zusammenhang mit aktuellen europäischen und internationalen Regulierungen. Dazu gehören insbesondere der EU AI Act, Richtlinien der European Union Aviation Safety Agency sowie weitere Standards zur Entwicklung und Zertifizierung KI-basierter Luftfahrtsysteme.
Da sicherheitskritische KI-Komponenten wie Navigation oder Kollisionsvermeidung als Hochrisiko-KI-Systeme eingestuft werden, sind umfangreiche Nachweise zur Sicherheit, Zuverlässigkeit und Nachvollziehbarkeit erforderlich. Die im Projekt entwickelten Methoden leisten hierzu einen direkten Beitrag und unterstützen die zukünftige Zulassung autonomer Drohnensysteme.
Ausblick
Die finalen Testflüge und praktischen Erprobungen laufen derzeit und bilden den letzten Schritt der Projektvalidierung, in dem die entwickelten Verfahren unter realistischen Einsatzbedingungen getestet werden.
Darauf aufbauend ist perspektivisch insbesondere der Einsatz in sicherheitskritischen Infrastrukturen von besonderer Relevanz, sowohl im nationalen als auch im europäischen Kontext. Zudem wird geprüft, inwiefern die im Projekt entwickelten Konzepte auf die bemannte Luftfahrt übertragen werden können.
Projektlaufzeit und Projektpartner
Das Forschungsprojekt ISEKIS hat eine Gesamtlaufzeit von August 2023 bis November 2026 und wird im Rahmen der mFUND-Förderinitiative des Bundesministeriums für Verkehr (BMV) umgesetzt.
Am Projektkonsortium beteiligt sind die SWIFT Gesellschaft für Messwerterfassungs-Systeme mbH, das Institut für Regelungstechnik der RWTH Aachen sowie die Emqopter GmbH. Diese Partner bündeln ihre Kompetenzen in den Bereichen Flugdatenanalyse, Regelungstechnik, KI-basierte Sensordatenauswertung und autonome Flugsysteme. Durch die enge Zusammenarbeit von Forschung und Industrie wird sichergestellt, dass die entwickelten Verfahren sowohl wissenschaftlich fundiert als auch praxisnah erprobt und in realen Drohnenszenarien validiert werden können.