Künstliche Intelligenz wird reguliert

KI-Gesetz der EU

Foto: Pixabay

Software, die auf Künstlicher Intelligenz (KI) basiert, durchdringt immer mehr die Gesellschaft und Unternehmen. Doch die Gesetzgeber beginnen erst jetzt, sich mit den neuen Technologien auseinanderzusetzen. Seit April 2022 hat die EU mit dem Artificial Intelligence Act (Gesetz über Künstliche Intelligenz) einen Vorschlag vorgelegt. Damit soll der Missbrauch von Daten und eine übergriffige biometrische Überwachung, die in einem dystopischen Szenario in einem Sozialkreditsystem chinesischer Prägung enden könnte, reguliert werden. Die EU-Vorlage legt ihren Fokus dabei auf drei Anwendungsgebiete.

1. Verbotene Anwendungen

  • KI darf Menschen nicht ohne ihr Wissen manipulieren, wenn dabei physischer oder psychischer Schaden entstehen könnte.
  • Untersagung von Social-Scoring durch Behörden.
  • Beschränkung von Echtzeit-Fernidentifizierungssystemen zur Strafverfolgung.

2. Hochrisiko-KI-Systeme

Als hochrisikoreich werden KI-Systeme angesehen, wenn sie wie folgt eingesetzt werden: Biometrische Identifizierung und Kategorisierung von Menschen durch Privatunternehmen, Verwaltung kritischer Infrastrukturen, berufliche Maßnahmen, Kreditwürdigkeitsprüfungen und Strafverfolgungen. An solche KI-Systeme werden hohe Anforderungen im Hinblick auf Robustheit, Sicherheit und Genauigkeit gestellt. Sie unterliegen zudem einer Dokumentationspflicht.

3. Geringes Risiko

KI-Anwendungen mit geringem und minimalem Risiko, wie z. B. Chatbots, unterliegen einer Transparenzpflicht. Menschen muss dabei immer klar sein, dass sie es mit einer Maschine zu tun haben.

Innovationen

Die EU möchte mit dem KI-Gesetz auch Innovationen fördern. Das ist auch notwendig, denn die EU-Länder geraten bei KI-Technologien gegenüber China und den USA immer mehr ins Hintertreffen. So setzen nach einer Studie von Bitkom in Deutschland erst 6 Prozent aller Unternehmen Künstliche Intelligenz ein. Die EU-Quote soll nach dem Willen der EU-Politik auf über 75 Prozent steigen.

Mit dem Digital Services Act, Digital Markets Act und Digital Governance Act hat die EU zudem drei weitere IT-Gesetze auf den Weg gebracht.

Ratgeber jetzt gratis herunterladen

copyright BPF Best Practice Forum GmbH

Best-Practice-Beispiele

22.06.2022

Bauroboter erobern Baustellen

Hadrian X, Australien

alle News

Digitale Trends | Best-Practice-Spezial // 1

Wir haben 12 aktuelle digitale Trendthemen ausgesucht und – mit vielen Praxisbeispielen hinterlegt – kurz und knapp auf den Punkt gebracht. Viel Spaß beim Lesen!

Gratis-Ratgeber herunterladen