juris Nachrichten

  • Die wichtigsten Entscheidungen
  • Gesetzesentwicklungen und -vorhaben
  • Tagesaktuelle Auswahl der juris Redaktion

Die juris Nachrichten App jetzt gratis herunterladen

Login
Gericht/Institution:Verbraucherzentrale Bundesverband e.V.
Erscheinungsdatum:09.08.2021
Quelle:juris Logo

vzbv-Positionspapier zum Vorschlag für den Artificial Intelligence Act (AIA): KI-Regeln der EU ignorieren viele Verbraucherprobleme

 

Die Europäische Kommission hat einen Vorschlag für einen europäischen Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AIA) vorgelegt.

Der Verbraucherzentrale Bundesverbands (vzbv) kritisiert nun in einem Positionspapier, dass der AIA Verbraucherinnen und Verbraucher nicht wirksam vor KI-Systemen schützt, die erheblichen wirtschaftliche Schäden verursachen können – etwa im Bereich Versicherungen. Außerdem schaffe er kaum Transparenz für Verbraucher und überlasse die Kontrolle hochriskanter KI-Systeme weitgehend den Anbietern selber.

Die Bewertung des vzbv im Einzelnen:

• Der Vorschlag ignoriert weitgehend KI-Systeme, die Verbrauchern erhebliche wirtschaftliche und finanzielle Schäden zufügen können, etwa im Versicherungs- oder Finanzbereich.

• Der Gesetzgeber muss ein Recht auf individuelle Erklärung schaffen, etwa zu Datengrundlage wichtiger KI-getriebener Entscheidungen. Nur damit können Verbraucher ihre Rechte wahrnehmen und gegen ungerechtfertigte Behandlung oder Diskriminierung vorgehen.

• Der Vorschlag schützt Verbraucher nicht wirksam vor dem Einsatz vor Emotionserkennungssystemen und Persönlichkeitsanalysen durch private Stellen. So sollten etwa vermeintliche Lügendetektoren oder Systeme zur Emotionserkennung untersagt werden, wenn sie die Schwächen Einzelner (wie Schmerzen, Müdigkeit oder Veranlagung zu Spielsucht) zum kommerziellen Vorteil der Anbieter ausnutzen.

• Die Verwendung biometrischer Identifikationssysteme in öffentlich zugänglichen Räumen durch private Stellen sollte untersagt werden – etwa wenn „smarte Brillen“ im öffentlichen Nahverkehr Passanten identifizieren.

• Der Entwurf sieht vor, dass die Anbieter hochriskanter KI weitgehend selber kontrollieren, ob ihre Systeme rechtskonform sind. Um das nötige Verbrauchervertrauen in diese Systeme zu schaffen, müssen aber unabhängige Überprüfungen bei diesen Systemen die Regel sein.

Weitere Informationen
PDF-Dokument Positionspapier (in englischer Sprache; PDF, 341 KB)

Quelle: Newsletter des Verbraucherzentrale Bundesverbandes e.V. v. 06.08.2021



Zur Nachrichten-Übersichtsseite