"Schwachkopf" Habeck: KI-gestützte Verfolgung von "Hasskommentaren" als Geschäftsmodell

Ein Mann teilt in einem sozialen Netzwerk ein Meme, in dem ein Minister als "Schwachkopf" bezeichnet wird, und bekommt Besuch von der Polizei. Hinter diesem Vorgang steckt nicht einfach ein zartbesaiteter Politiker, sondern eine Firma, die mit KI das Netz gezielt nach Beleidigungen durchsucht.

Vor einigen Tagen sorgte die Meldung über eine Hausdurchsuchung bei einem Rentner für Aufsehen, der ein Meme über den Grünen-Wirtschaftsminister Robert Habeck retweetet hatte. Darin wurde die Werbung der Haarpflege-Marke Schwarzkopf persifliert: Statt "Schwarzkopf Professional" hieß es dort "Schwachkopf Professional", darüber prangte das Foto eines grinsenden Habeck. Die Polizei beschlagnahmte Computer und Telefone des Mannes.

In diesem Zusammenhang wurde bekannt, dass der frisch gekürte Kanzlerkandidat der Grünen in den drei Jahren von September 2021 bis August 2024 insgesamt 805 Strafanzeigen gestellt hat. Nur seine Parteifreundin, Außenministerin Annalena Baerbock bewegt sich mit 513 Anzeigen unter den Ministern in einer ähnlichen Größenordnung.

Habeck bedient sich für seine Anzeigen der Dienste der Abmahn-Firma "So Done", die auf ihrer Webseite auch mit einer Aussage des Kinderbuchautors für sich wirbt:

"Viele Politikerinnen und Politiker, aber auch viele weitere Personen des öffentlichen Lebens sind täglich Hass, Beleidigungen bis hin zu Todesdrohungen ausgesetzt. Ich habe mich entschieden, das nicht zu akzeptieren und somit zu normalisieren, sondern gemeinsam mit So Done konsequent gegen Beleidigungen und Bedrohungen vorzugehen, die Recht und Gesetz verletzen. Ich will damit der Zerstörung des demokratischen Diskurses etwas entgegensetzen und zeigen, dass der Rechtsstaat durchsetzungsfähig ist."

Habeck ist nicht der einzige prominente Politiker, der die Dienste von "So Done" nutzt. Die EU-Abgeordnete und Rüstungslobbyistin Marie-Agnes Strack-Zimmermann (FDP), der Abgeordnete Ralf Stegner (SPD), der eskalationsfreudige Abgeordnete Roderich Kiesewetter (CDU) und der Ministerpräsident von Nordrhein-Westfalen, Hendrik Wüst (CDU), werden auf der Seite mit ähnlichen Aussagen präsentiert – wie übrigens auch der NATO- und Talkshow-affine Wissenschaftler Carlo Masala.

Gegründet wurde die Firma im Jahr 2022 von Franziska Brandmann, der Bundesvorsitzenden der Jungen Liberalen. Einer ihrer Kompagnons, der Anwalt Alexander Brockmeier, saß für die FDP von 2017 bis 2022 im nordrhein-westfälischen Landtag. Marcel Schliebs, der dritte der drei Partner, wird als Datenanalyst beschrieben.

"So Done" ist nicht einfach eine Abmahnfirma wie andere auch. Sie bedient sich für diese Arbeit Künstlicher Intelligenz, die das Internet nach strafwürdigen Kommentaren durchforstet. In der Selbstdarstellung der Firma klingt das so:

"Unsere Künstliche Intelligenz durchsucht öffentliche Kommentare, die sich auf dich beziehen, nach strafrechtlicher Relevanz. Sie ist auf deutsches Strafrecht trainiert und innerhalb von zwei Jahren stetig verbessert worden, lernt inzwischen selbst. Wenn Die KI Kommentare als strafrechtlich relevant einschätzt, gehen nochmal extra dafür geschulte Mitarbeiter über die Kommentare. Die potenziellen Beleidigungen werden dann zur rechtlichen Prüfung an eine Kanzlei weitergeleitet. Du erhältst von dieser eine Übersicht über die so herausgefilterten Beleidigungen und Drohungen und kannst diese mit nur einer Unterschrift zur Anzeige bringen."

Dann geht es weiter:

"Die Kanzlei 'So Done legal' wird aktiv, bewertet die potentiellen Beleidigungen und legt dir einen Sammelstrafantrag vor. Du kannst dann entscheiden, gegen welche Kommentare du einen Strafantrag stellen willst. Die Kanzlei kümmert sich darum, dass dein Strafantrag bei den zuständigen Behörden landet und vertritt dich sowohl im Strafverfahren als auch im Zivilverfahren. Die Kanzlei beantragt Einsicht in die Ermittlungsakten, sobald dies möglich ist – und fordert ermittelte Täter dann dazu auf, deine Ansprüche auf Löschung des Kommentars, Unterlassung der Äußerung in der Zukunft sowie Geldentschädigung zu erfüllen. Weigern sich die Täter, dann geht SO DONE legal im Zweifel auch für dich vor Gericht. Dort hat die Kanzlei in von uns finanzierten Verfahren aktuell eine Erfolgsquote von über 95 Prozent."

Schließlich lockt die Firma potenzielle Kunden mit einer Gewinnbeteiligung:

"Wenn der Täter eine Geldentschädigung zahlen muss, erhältst du von dieser 50 Prozent. Die anderen 50 Prozent nutzen wir, um unser Unternehmen zu finanzieren und weitere Prozesse zu führen. Du bist in jedem Fall nur im Erfolgsfall beteiligt – Sollte es nicht zu einer Geldentschädigung, wohl aber zu Kosten kommen, übernehmen wir das für dich. Du kannst also garantiert nur gewinnen."

Auf ihrer Seite beziffert die Firma ihre bisherigen Erfolge ganz konkret.

Multipliziert man die Anzahl der Anzeigen mit der durchschnittlichen Geldentschädigung, ergibt sich ein mittlerer einstelliger Millionenbetrag.

Natürlich geht es dem Unternehmen der Politiker dabei nicht ums Geld, sondern um die Bekämpfung von "Hass im Netz". Jedenfalls wird das in der Selbstdarstellung behauptet:

"Wir sind Verfechter unseres Rechtsstaates. Der Rechtsstaat ist für uns eine riesige und bedeutsame Errungenschaft, die uns erlaubt, dass alle Menschen in unserer Gesellschaft friedlich miteinander leben können. Leider nehmen wir wahr, dass der Rechtsstaat bisher im digitalen Raum kaum durchgesetzt wird. Das liegt daran, dass Opfer von Online-Hass bisher keine Möglichkeit haben, effektiv gegen die Täter vorzugehen. Das ändern wir. Weil wir es satt haben, dass Menschen willkürlich andere Menschen mit Beleidigungen und Drohungen überziehen und damit einfach durchkommen. Weil wir sehen, wie die Masse an Online-Hass unseren Diskurs und unsere Gesellschaft verroht. Weil wir uns zwischen dich und den Hass stellen wollen."

Mit seinem "innovativen und gesellschaftlich relevanten Konzept" gewann "So Done" 2024 den dritten Platz des Gründungspreises NRW – und damit ein Preisgeld von 10.000 Euro.

Doch nicht jeder ist vom Nutzen des Konzepts und der Uneigennützigkeit der Gründer überzeugt. So wird selbst in einem wohlwollenden Tagesschau-Bericht vom September darauf verwiesen, dass die massenhaft erstellten Anzeigen die ohnehin mit Ressourcen- und Personalmangel kämpfenden Behörden überfordern könnten. Ein X-Nutzer fasste den eingangs beschriebenen Fall des Rentners mit dem "Schwachkopf"-Post so zusammen:

"Vielleicht mal drüber nachdenken.

Eine Meldestelle durchforstet Soziale Medien mit Hilfe von KI nach Beleidigungen.

Ein kleiner Account, der einen Minister Schwachkopf nennt, gerät ins Visier.

Der Minister, der die Beleidigung selbst nie gesehen hätte, unterschreibt eine Anzeige.

Die Anzeige landet in einem ganzen Paket Anzeigen des Ministers bei einem Staatsanwalt.

Ein Gericht beschließt eine Hausdurchsuchung.

Polizisten, die mit der Durchführung beauftragt sind, machen sich auf den Weg.

Morgens um 6 Uhr wird ein behindertes Kind aus dem Bett gezerrt. Der Inhaber des kleinen Accounts, der schon schwer über die Runden kommt, muss jetzt auch noch eine Strafe zahlen. Nachbarn tuscheln wochenlang, ob in der Familie vielleicht Drogendealer sind.

Und jeder Angestellte oder Beamte in dieser Prozesskette hat sich ja nur an Recht und Ordnung gehalten und die Anweisungen befolgt."

Der als "Schwachkopf" titulierte Minister spielte übrigens seine Rolle in dem erwähnten Vorgang am Rande des Parteitags in Wiesbaden am Sonntag herunter. Im "Bericht aus Berlin" in der ARD sagte Habeck:

"Ich habe mich am Anfang der Legislatur, als es so hart zuging, Beleidigungen, Bedrohungen zur Anzeige zu bringen. Das sind sehr viele. Das wird über Agenturen gefiltert. Und in diesem Fall kam es von der bayerischen Polizei. Natürlich ist jetzt, ähm, 'Schwachkopf' nicht die schlimmste Beleidigung, die jemals ausgesprochen wurde. Was aber dann passiert ist, dass nämlich die Staatsanwaltschaft daraus dann den Laptop oder das Endgerät beschlagnahmt hat, also ins Haus reingegangen ist, hat mit meiner Anzeige nur als Auslösendes, glaube ich, zu tun."

In der Erklärung der Polizei sei von rassistischen oder antisemitischen Hintergründen die Rede gewesen, deswegen glaube er, dass seine Anzeige nur der Auslöser war. 

Mehr zum Thema - "Ricarda Lang dick genannt" – Die Justizposse um Hadmut Danisch könnte ein grüner Spionagekrimi sein