Ethische Leitlinien und EU-Richtlinien für vertrauenswuerdige KI

Warum brauchen wir ethische Leitlinien für KI?

Künstliche Intelligenz verändert unsere Gesellschaft tiefgreifend. Nach Angaben von McKinsey sind etwa 78 % der körperlichen Arbeit vorhersehbar und technisch für eine Automatisierung geeignet. Das bedeutet: KI wird enorme Auswirkungen auf den Arbeitsmarkt, die Wirtschaft und das gesellschaftliche Zusammenleben haben.

Um sicherzustellen, dass KI zum Wohl der Menschen eingesetzt wird, hat die Europäische Union Ethische Leitlinien für vertrauenswürdige KI entwickelt.

Die drei Grundprinzipien

Gemäss den EU-Richtlinien soll eine vertrauenswürdige KI während ihres gesamten Lebenszyklus drei Grundprinzipien erfüllen:

1. Rechtmässig sein: KI muss den bestehenden nationalen und internationalen Gesetzen und Vorschriften entsprechen. Dies ist die Grundvoraussetzung für vertrauenswürdige KI.
2. Ethisch sein: Vertrauenswürdige KI erfordert mehr als nur Gesetzeskonformität. Da Gesetze nicht immer mit den technologischen Fortschritten Schritt halten und nicht zwingend ethische Standards widerspiegeln, müssen KI-Systeme auch ethischen Normen und Werten entsprechen.
3. Robust sein: KI-Systeme müssen technisch zuverlässig und sicher funktionieren, auch in unerwarteten Situationen. Selbst gut gemeinte KI kann Schaden anrichten, wenn sie technisch unzuverlässig ist.

Die 7 Kernanforderungen der EU

Die EU hat sieben konkrete Kernanforderungen für vertrauenswürdige KI definiert:

1. Vorrang menschlichen Handelns und menschlicher Aufsicht

KI-Systeme sollten den Menschen unterstützen, nicht ersetzen. Es muss immer möglich sein, dass Menschen die Kontrolle übernehmen und Entscheidungen der KI überprüfen können.

2. Technische Robustheit und Sicherheit

KI-Systeme müssen zuverlässig, sicher und widerstandsfähig gegen Angriffe und Manipulationen sein.

3. Privatsphäre und Datenqualitätsmanagement

Der Schutz personenbezogener Daten muss gewährleistet sein. Die verwendeten Daten müssen von hoher Qualität, repräsentativ und fehlerfrei sein.

4. Transparenz

KI-Entscheidungen müssen nachvollziehbar und erklärbar sein. Nutzer*innen sollten wissen, dass sie mit einem KI-System interagieren und verstehen können, wie Entscheidungen zustande kommen.

5. Vielfalt, Nichtdiskriminierung und Fairness

KI-Systeme dürfen keine bestehenden Vorurteile verstärken oder neue Diskriminierungen schaffen. Sie müssen fair und inklusiv gestaltet sein.

6. Gesellschaftliches und ökologisches Wohlergehen

KI sollte der Gesellschaft und der Umwelt dienen. Das umfasst sowohl soziale Auswirkungen als auch den ökologischen Fussabdruck von KI-Systemen (z.B. Energieverbrauch von Rechenzentren).

7. Rechenschaftspflicht

Es muss klar sein, wer für die Auswirkungen eines KI-Systems verantwortlich ist. Mechanismen zur Prüfung und Verantwortungsübernahme müssen etabliert sein.