TÜV-Verband: Zur Sicherheit KI-gestützter Anwendungen

Data KI AI Künstliche Intelligenz Daten
©Franki Chamaki via Unsplash

Sei es im Smart Home, in der Medizintechnik oder beim automatisierten Fahren: Künstliche Intelligenz (KI) spielt in immer mehr Lebensbereichen des Menschen eine wichtige Rolle. Die Auswirkungen, die dieser Wandel auf die Bevölkerung und die Gesellschaft haben wird, sind jedoch aktuell nicht vollständig absehbar. Grundsätzlich birgt KI die Chance großer Verbesserungen, birgt jedoch gleichzeitig eine Reihe möglicher Gefahren. Um den Gefahren adäquat zu begegnen und das Potenzial zu Verbesserungen auszuschöpfen, bedarf es der klaren Leitlinien für die Regulierung KI-gestützter Anwendungen auf nationaler und internationaler Ebene. Auch die EU-Kommission betont die Relevanz eines angemessenen Regulierungsrahmens in ihrem im Februar 2020 veröffentlichten Weißbuch zur Künstlichen Intelligenz der EU-Kommission:

»Ein solider europäischer Regulierungsrahmen für eine vertrauenswürdige KI wird alle europäischen Bürger:innen schützen und zur Schaffung eines reibungslos funktionierenden Binnenmarkts beitragen, im Interesse der Weiterentwicklung und Verbreitung von KI sowie der Stärkung der industriellen Basis Europas im Bereich KI.«

Regulierung muss Anforderungen von KI gerecht werden

Aus Sicht des TÜV-Verbands ist es dringend erforderlich, die bestehende Regulierung auf ihre Anwendbarkeit auf KI-gestützte Anwendungen zu überprüfen. Durch eine Überprüfung der Regulierung können bestehende (Sicherheits-) Anforderungen angepasst beziehungsweise neue formuliert werden. Dabei ist eindeutig, dass nicht alle KI-gestützten Anwendungen dieselben Anforderungen erfüllen müssen. Wie auch die EU-Kommission setzt sich der TÜV-Verband für einen risikobasierten Ansatz und für eine Einteilung der KI-gestützten Anwendungen in Risikoklassen nach klaren Kriterien ein. Der Einsatz KI-gestützter Anwendungen in Hochrisikobereichen ist dabei von besonderer Bedeutung. Bestimmte grundlegende Anforderungen, die für alle KI-gestützten Anwendungen gelten, können aber auch in Bereichen mit weniger hohem Risiko einen entscheidenden Beitrag zur sicheren Nutzung leisten und damit mehr Vertrauen und Transparenz für die Nutzer:innen schaffen.

Zum Positionspapier

Ansprechpartner

Referentin Künstliche Intelligenz und Bildung
T +49 30 760095-360