Ob bei Rettungseinsätzen, Erkundungen im Weltraum oder Inspektionen in der Tiefsee: Selbstlernende Roboter, die sich mithilfe von Künstlicher Intelligenz (KI) in unbekannten Situationen zurechtfinden, können zukünftig Menschen bei Tätigkeiten in gefährlichen Umgebungen unterstützen. Dabei müssen die KI-Systeme sowohl möglichst autonom agieren, gleichzeitig aber auch in problematischen Situationen vom Menschen steuerbar sein. In einem neuen Whitepaper der Plattform Lernende Systeme erläutern Expertinnen und Experten, wie solche variabel autonomen Systeme gestaltet sein müssen und welche technischen Voraussetzungen dafür noch zu schaffen sind.
Das Whitepaper wurde von der Arbeitsgruppe Lebensfeindliche Umgebungen der Plattform Lernende Systeme verfasst, die von Prof. Dr. Jürgen Beyerer, Leiter des Fraunhofer-Instituts für Optronik, Systemtechnik und Bildauswertung IOSB, und Prof. Dr. Dr. h.c. Frank Kirchner, Leiter des DFKI Robotics Innovation Center (RIC) und Geschäftsführender Direktor des DKFI, geleitet wird. Die Leitung des Publikationsprojekts hat Dr. Sirko Straube vom RIC inne.
„Beim Einsatz selbstlernender Roboter in lebensfeindlichen Umgebungen gilt: soviel Autonomie wie möglich, so wenig menschlicher Eingriff wie nötig. Das KI-System kann den Menschen nur dann vor Gefahren schützen, wenn es seine Aufgaben eigenständig und zuverlässig erledigt. Andererseits ergeben sich in gefährlichen Umgebungen schnell unvorhersehbare Situationen, in denen der Mensch ins Geschehen eingreifen können muss, zum Beispiel bei der Entscheidung, welches Brandopfer zuerst geborgen wird“, so Prof. Dr. Beyerer.
Dr. Straube ergänzt: „Damit Lernende Systeme in lebensgefährlichen Umgebungen wie beim Katastropheneinsatz oder auch bei Weltraum-Missionen angemessen einsatzfähig sind, ist nicht allein die Autonomie von Bedeutung, sondern auch der jeweilige Kontext der Handlung im Zusammenspiel mit der Kompetenz des Systems. Die Entscheidung zum richtigen Grad an Autonomie muss diese Faktoren berücksichtigen. Wenn Lernende Systeme diese Entscheidung selbst vornehmen sollen, beispielsweise auch, um den Autonomiegrad eigenständig anzupassen, müssen wir Systeme entwickeln, die ihre Kompetenzen analysieren und in Bezug zur Handlung setzen können. Damit versetzen wir sie dann auch in die Lage einschätzen zu können, ob ihre Kompetenzen zur Lösung eines Problems ausreichen oder die Unterstützung durch den Menschen erforderlich ist“.
Das Whitepaper „Kompetent im Einsatz. Variable Autonomie Lernender Systeme in lebensfeindlichen Umgebungen“ kann online abgerufen werden. Weitere Informationen sind auf der Website der Plattform Lernende Systeme zu finden.
Kontakt:
Dr. Sirko Straube
Deutsches Forschungszentrum für Künstliche Intelligenz GmbH (DFKI)
Robotics Innovation Center
Telefon: +49 421 17845 6639
E-Mail: Sirko.Straube@dfki.de