Die meisten Computer-Vision-Modelle basieren auf Künstlicher Intelligenz (KI) insbesondere auf künstlichen neuronalen Netze. Die Ausgaben dieser Modelle sind jedoch nicht immer nachvollziehbar und geben keine Hinweise auf eventuelle Unsicherheiten in den Berechnungen. In seinem Paper "I Find Your Lack of Uncertainty in Computer Vision Disturbing" macht Dr. Matias Valdenegro auf dieses Problem aufmerksam, das vor allem ein Sicherheitsproblem ist. Dafür wurde er nun mit dem Best Paper Award beim LatinX in CV Research Workshop ausgezeichnet. Der Workshop ist Teil der jährlichen Conference on Computer Vision and Pattern Recognition (CVPR), die 2021 als virtuelles Event vom 19. bis 25. Juni stattfand.
In seinem Paper führt der Forscher des DFKI Robotics Innovation Center eine Meta-Analyse der existierenden Computer-Vision-Literatur durch und konstatiert, dass viele der heute eingesetzten Computer-Vision-Modelle, ihre Unsicherheit nicht korrekt quantifizieren. Dies wird vor allem dann zum Problem, wenn es um Anwendungen geht, die direkt mit dem Menschen interagieren. Hier ist eine korrekte Quantifizierung der Unsicherheit in der Ausgabe des Modells erforderlich, um sich der Grenzen eines solchen Modells bewusst zu sein. Wünschenswert wäre zum Beispiel, dass das Modell dem Nutzenden mitteilt, wenn es das korrekte Ergebnis nicht kennt, anstatt eine falsche Ausgabe zu liefern. Mit seiner Arbeit möchte der Forscher die Community dazu motivieren, maschinelle Lernmodelle in der Computer Vision einzusetzen, die in der Lage sind, ihre eigene Unsicherheit abzuschätzen und diese transparent zu machen. Zudem beschreibt Valdenegro aktuelle und zukünftige Herausforderungen und gibt den Anstoß für weitere wichtige Forschungsarbeit auf diesem Gebiet.
Das Paper von Matias Valdenegro wurde im Rahmen des LatinX in CV Research Workshop auf der CVPR 2021 Conference, der führenden Konferenz im Bereich Computer Vision, ausgezeichnet. Die LatinX-Workshop-Reihe dient der Förderung und Sichtbarmachung der Arbeit lateinamerikanischer Forschenden, die bisher in der Machine Learning- und Computer Vision-Community unterrepräsentiert sind.
Kontakt: Dr. Matias Valtenegro
Aktuelles
Mehr Sicherheit in der Computer Vision: Dr. Matias Valdenegro erhält Best Paper Award beim LXCV Workshop auf der CVPR 2021 Konferenz
