Dabei nehmen sie Bezug auf Algorithmische Entscheidungssysteme (AES), die inzwischen in vielen Lebensbereichen zum Einsatz kommen, wie z.B. bei der Prüfung der Kreditwürdigkeit durch die SCHUFA bis hin zur Vorauswahl von Bewerbungsschreiben im Personalmanagement. Die Technik beinhaltet ein enormes Potential. Umso drängender erscheint die Frage, ob die bestehenden Gesetze einen ausreichenden Schutz vor den Risiken dieser Technologie bieten.
In ihrem Thesenpapier geben die drei Expert*innen Empfehlungen für eine neue europäische Regulierung ab, deren Ziel es ist, die Risiken von AES adäquat zu bewerten und durch entsprechende Verpflichtungen dafür Sorge zu tragen, dass Schädigungen möglichst verhindert werden und kontrollierbar bleiben. In erster Linie geht es dabei um die Risikoabschätzung unter Berücksichtigung von systembezogenen und anwendungsbezogenen Risiken. Neu im Thesenpapier ist insbesondere der Ansatz, dass diese beiden Arten von Risiken dynamisch miteinander gekoppelt sind und daher gemeinsam betrachtet werden müssen, um die Gefährdung angemessen einschätzen und Kategorisieren zu können.
Über das Weizenbaum-Institut für die vernetzte Gesellschaft
Das Deutsche Internet-Institut ist ein vom Bundesministerium für Bildung und Forschung (BMBF) gefördertes Verbundprojekt aus Berlin und Brandenburg. Es erforscht interdisziplinär und grundlagenorientiert den Wandel der Gesellschaft durch die Digitalisierung und entwickelt Gestaltungsoptionen für Politik, Wirtschaft und Zivilgesellschaft. Ziel ist es, die Dynamiken, Mechanismen und Implikationen der Digitalisierung besser zu verstehen. Hierzu werden am Weizenbaum-Institut die ethischen, rechtlichen, ökonomischen und politischen Aspekte des digitalen Wandels untersucht.
Link zum Thesenpapier
Link zum Weizenbaum-Institut
Kontakt:
Dr. Elsa Kirchner
Deutsches Forschungszentrum für Künstliche Intelligenz GmbH (DFKI)
Robotics Innovation Center
Telefon: +49 421 17845 4113
E-Mail: Elsa.Kirchner[at]dfki.de