Deutschland

Bundesjustizministerium fordert "rote Linien" bei Künstlicher Intelligenz

Das Bundesjustizministerium möchte strenge EU-Vorgaben beim Einsatz von Künstlicher Intelligenz, meldet das "Handelsblatt". Zudem schlägt das Ministerium den TÜV als Prüfinstanz für KI-Anwendungen vor. Vor allem beim Thema Datenschutz warnt das Ministerium.
Bundesjustizministerium fordert "rote Linien" bei Künstlicher IntelligenzQuelle: Gettyimages.ru

Wie das Handelsblatt berichtet, fordert das Bundesjustizministerium klare Grenzen für den Einsatz von Künstlicher Intelligenz (KI) auf europäischer Ebene. "Wir müssen festlegen, welche Aspekte von Künstlicher Intelligenz für uns als freiheitliche demokratische Gesellschaft inakzeptabel sind", zitiert das Handelsblatt den Justizstaatssekretär Christian Kastrop. Und weiter: "Es muss rote Linien beim Einsatz von KI geben."

Vor allem beim Thema "dark pattern" sieht Kastrop dem Bericht zufolge Handlungsbedarf. "Dark pattern" ist ein Design für Benutzerschnittstellen, das darauf ausgelegt ist, einen Nutzer dazu zu bringen, bestimmte Tätigkeiten auszuführen, die dessen Interessen entgegenlaufen. So zum Beispiel auch beim Kauf von Produkten. "Das umfasst auch eine Cookie-Einwilligung, die so designt ist, dass Webseiten-Besucher am ehesten die von den Anbietern gewünschte Auswahl mit dem größtmöglichen Zugriff auf die Nutzerdaten treffen", ergänzte Kastrop.

Laut dem Staatssekretär sei auch Social Scoring problematisch. Das beginne mit auf Algorithmen basierten Kreditwürdigkeitsprüfung und ende bei einem gläsernen Bürger. "Hier können Fehlentscheidungen erhebliche Folgen für Einzelne haben", so Kastrop. Auch die biometrische Fernüberwachung, zum Beispiel durch Gesichtserkennung, sieht Kastrop dem Bericht zufolge kritisch. Dabei würden Grundrechte unmittelbar tangiert. Solche Anwendungen könnten ganz schnell diskriminieren und zu Ausgrenzung führen.

EU will strengere Vorgaben

Die EU-Kommission hatte im April dieses Jahres vorgeschlagen, dass es in Europa künftig einen strengen Rahmen für den Einsatz Künstlicher Intelligenz geben soll. In einer KI-Verordnung soll unter anderem der Gebrauch bestimmter Technik untersagt werden, etwa wenn Minderjährige zu gefährlichem Verhalten ermuntert werden oder Behörden dadurch die Möglichkeit bekämen, das soziale Verhalten von Bürgerinnen und Bürgern zu bewerten.

Die EU-Kommission veröffentlichte am 21. April einen entsprechenden Vorschlag. Strenge Vorgaben soll es für KI-Technik geben, die etwa bei der Energieversorgung, in der Schul- oder Berufsausbildung, der Asylpolitik oder der Strafverfolgung eingesetzt wird. Bevor Systeme in diesen Bereichen eingesetzt werden, soll geklärt sein, dass diskriminierende Ergebnisse "so gering wie möglich" gehalten werden.

Zudem soll rückverfolgbar sein, wie Ergebnisse zustande gekommen sind, und die Technik von Menschen "angemessen" überwacht werden. Weniger strenge Auflagen soll es für Systeme geben, die von der EU-Kommission in die Kategorien "Geringes Risiko" und "Minimales Risiko" eingeordnet werden. Unter "Geringem Risiko" versteht die EU-Kommission Programme wie Chatbots. Hier solle sichergestellt sein, dass die Nutzerinnen und Nutzer wissen, dass sie mit einer Maschine interagieren.

KI-gestützte Videospiele oder Spamfilter fallen in die letzte Kategorie und "stellen nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit dar", so die EU-Kommission. Solche Systeme sollen nicht weiter reguliert werden. Bevor eine KI-Verordnung in Kraft treten kann, muss sie noch von den EU-Ländern und dem Europaparlament angenommen werden.

Mehr zum ThemaTesla kündigt Bau humanoider Roboter an – Sollen Menschen bei "gefährlichen" Aufgaben helfen

Durch die Sperrung von RT zielt die EU darauf ab, eine kritische, nicht prowestliche Informationsquelle zum Schweigen zu bringen. Und dies nicht nur hinsichtlich des Ukraine-Kriegs. Der Zugang zu unserer Website wurde erschwert, mehrere Soziale Medien haben unsere Accounts blockiert. Es liegt nun an uns allen, ob in Deutschland und der EU auch weiterhin ein Journalismus jenseits der Mainstream-Narrative betrieben werden kann. Wenn Euch unsere Artikel gefallen, teilt sie gern überall, wo Ihr aktiv seid. Das ist möglich, denn die EU hat weder unsere Arbeit noch das Lesen und Teilen unserer Artikel verboten. Anmerkung: Allerdings hat Österreich mit der Änderung des "Audiovisuellen Mediendienst-Gesetzes" am 13. April diesbezüglich eine Änderung eingeführt, die möglicherweise auch Privatpersonen betrifft. Deswegen bitten wir Euch bis zur Klärung des Sachverhalts, in Österreich unsere Beiträge vorerst nicht in den Sozialen Medien zu teilen.

Liebe Leser und Kommentatoren,

wir schätzen die Möglichkeit sehr, Ihnen mit der Kommentarfunktion eine Plattform zum gegenseitigen Austausch bieten zu können. Leider müssen wir diese Möglichkeit vorübergehend einschränken, bis effektive Mittel und Wege gefunden sind sicherzustellen, dass dieses Kommunikationsmittel nicht missbraucht wird.

Das Kommentieren auf unserer Website soll für alle so sicher und so wenig einschränkend wie möglich sein, bei alledem jedoch Hass, Hetze und Beleidigungen konsequent ausschließen.

Ihr RT DE-Team