Deutschland

Bundesjustizministerium fordert "rote Linien" bei Künstlicher Intelligenz

Das Bundesjustizministerium möchte strenge EU-Vorgaben beim Einsatz von Künstlicher Intelligenz, meldet das "Handelsblatt". Zudem schlägt das Ministerium den TÜV als Prüfinstanz für KI-Anwendungen vor. Vor allem beim Thema Datenschutz warnt das Ministerium.
Bundesjustizministerium fordert "rote Linien" bei Künstlicher IntelligenzQuelle: Gettyimages.ru

Wie das Handelsblatt berichtet, fordert das Bundesjustizministerium klare Grenzen für den Einsatz von Künstlicher Intelligenz (KI) auf europäischer Ebene. "Wir müssen festlegen, welche Aspekte von Künstlicher Intelligenz für uns als freiheitliche demokratische Gesellschaft inakzeptabel sind", zitiert das Handelsblatt den Justizstaatssekretär Christian Kastrop. Und weiter: "Es muss rote Linien beim Einsatz von KI geben."

Vor allem beim Thema "dark pattern" sieht Kastrop dem Bericht zufolge Handlungsbedarf. "Dark pattern" ist ein Design für Benutzerschnittstellen, das darauf ausgelegt ist, einen Nutzer dazu zu bringen, bestimmte Tätigkeiten auszuführen, die dessen Interessen entgegenlaufen. So zum Beispiel auch beim Kauf von Produkten. "Das umfasst auch eine Cookie-Einwilligung, die so designt ist, dass Webseiten-Besucher am ehesten die von den Anbietern gewünschte Auswahl mit dem größtmöglichen Zugriff auf die Nutzerdaten treffen", ergänzte Kastrop.

Laut dem Staatssekretär sei auch Social Scoring problematisch. Das beginne mit auf Algorithmen basierten Kreditwürdigkeitsprüfung und ende bei einem gläsernen Bürger. "Hier können Fehlentscheidungen erhebliche Folgen für Einzelne haben", so Kastrop. Auch die biometrische Fernüberwachung, zum Beispiel durch Gesichtserkennung, sieht Kastrop dem Bericht zufolge kritisch. Dabei würden Grundrechte unmittelbar tangiert. Solche Anwendungen könnten ganz schnell diskriminieren und zu Ausgrenzung führen.

EU will strengere Vorgaben

Die EU-Kommission hatte im April dieses Jahres vorgeschlagen, dass es in Europa künftig einen strengen Rahmen für den Einsatz Künstlicher Intelligenz geben soll. In einer KI-Verordnung soll unter anderem der Gebrauch bestimmter Technik untersagt werden, etwa wenn Minderjährige zu gefährlichem Verhalten ermuntert werden oder Behörden dadurch die Möglichkeit bekämen, das soziale Verhalten von Bürgerinnen und Bürgern zu bewerten.

Die EU-Kommission veröffentlichte am 21. April einen entsprechenden Vorschlag. Strenge Vorgaben soll es für KI-Technik geben, die etwa bei der Energieversorgung, in der Schul- oder Berufsausbildung, der Asylpolitik oder der Strafverfolgung eingesetzt wird. Bevor Systeme in diesen Bereichen eingesetzt werden, soll geklärt sein, dass diskriminierende Ergebnisse "so gering wie möglich" gehalten werden.

Zudem soll rückverfolgbar sein, wie Ergebnisse zustande gekommen sind, und die Technik von Menschen "angemessen" überwacht werden. Weniger strenge Auflagen soll es für Systeme geben, die von der EU-Kommission in die Kategorien "Geringes Risiko" und "Minimales Risiko" eingeordnet werden. Unter "Geringem Risiko" versteht die EU-Kommission Programme wie Chatbots. Hier solle sichergestellt sein, dass die Nutzerinnen und Nutzer wissen, dass sie mit einer Maschine interagieren.

KI-gestützte Videospiele oder Spamfilter fallen in die letzte Kategorie und "stellen nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit dar", so die EU-Kommission. Solche Systeme sollen nicht weiter reguliert werden. Bevor eine KI-Verordnung in Kraft treten kann, muss sie noch von den EU-Ländern und dem Europaparlament angenommen werden.

Mehr zum ThemaTesla kündigt Bau humanoider Roboter an – Sollen Menschen bei "gefährlichen" Aufgaben helfen

Sehr geehrte RT DE-Leser,

wir sind auf einen neuen Dienst für die Kommentarfunktion umgestiegen.

Da wir die Privatsphäre unserer Leser respektieren und Ihre Daten nicht an eine Drittplattform übermitteln werden, müssen Sie sich erneut registrieren. Wir entschuldigen uns für die Unannehmlichkeit und hoffen, dass sie sich weiterhin mittels der Kommentarfunktion über aktuelle Themen austauschen und informieren können.

Mit freundlichen Grüßen

Ihre RT DE-Redaktion