„ChatGPT ist ein Weckruf für uns“

Datenschutzbeauftragte Marit Hansen: Künstliche Intelligenz sorgt für mehr Cybermobbing und Populismus im Netz

Kiel. „Wenn ich es mir hätte aussuchen dürfen, ob wir künstliche Intelligenz bekommen oder nicht: Ich hätte gesagt ‚Nee, lassen wir die Finger davon‘.“ Das sagt Marit Hansen, ihres Zeichens Landesdatenschutzbeauftragte in Schleswig-Holstein. Doch diese Wahl hätte es nie gegeben, die KI sei da. Jetzt gehe es darum, die Entwicklung zu gestalten. „Und wir nehmen unseren Job ernst, technisch die Fairness einzubauen, die notwendig ist.“

Die aktuelle Debatte über den Chatbot „ChatGPT“ versteht die Informatikerin als „Weckruf, jetzt nachzuregeln – und zwar mit Sachverstand aus den vielen verschiedenen Disziplinen.“ Denn eines sei neu: Es gehe nicht um Regeln für den Straßenverkehr oder das Bankenwesen – sondern um „eine universell einsetzbare Risikotechnologie“.

Cybermobbing und Populismus nehmen wegen KI zu

Foto: Pexels / thisisengineering

Von ihrem Bürofenster kann die Informatikerin im Winter auf den Kieler Weihnachtsmarkt blicken. Doch Hansen hat jede Menge zu tun – auch im Hinblick auf künstliche Intelligenz. Denn im Kielwasser der KI nimmt das Cybermobbing, also das Mobbing im Netz zu. Für die Datenschützerin ein riesiges Problem: „Meine Kollegen und ich erhalten Beschwerden von Schülerinnen, über die Posts mit Nacktbildern in den sozialen Medien verteilt werden, die oft gefaked (mithilfe von KI gefälscht, die Red.) sind.“

Sind solche Nachrichten erst einmal verbreitet, lasse sich dies nicht mehr rückgängig machen; teilweise wären deshalb schon Schulwechsel für die Betroffenen nötig. Im Fall solcher Taten schalten die Datenschützer schalten die Staatsanwaltschaft ein, die für die Strafverfolgung zuständig ist. Laut Hansen gebe es Cybermobbing zwar schon länger, doch nicht in dieser Qualität. „Keiner weiß, wie man das einfangen kann. Eine Teenagerin, die plötzlich nackt in einem KI-generierten Porno auftaucht – das verursacht großes Leid.“

„Das wird uns noch große Probleme machen“

Foto: Pexels / Tara Winstead

Auch Populismus werde durch KI befeuert, so die Expertin. Wenn mit gefälschten, aber täuschend echten Videos und Bilder Wahlkampf gemacht würde, könne das dazu führen, dass die Gesellschaft sich weiter spalte und extreme Ansichten besonders viel Aufwind bekämen. „Das gab es auch schon vor der künstlichen Intelligenz – aber durch sie ist es viel einfacher geworden“, sagt Hansen und befürchtet: „Das wird uns noch Probleme machen.“ Sie fordert, den richtigen Umgang mit KI im Schulunterricht zu vermitteln.

Konkrete Anwendungsfelder für die KI gebe es im echten Norden durchaus einige: etwa im Bereich der Telemedizin, um mittels PC-Technik und Kamera einen virtuellen Arztbesuch für die erkrankte Landwirtin auf einer Nordseeinsel zu ermöglichen. Die Landwirtschaft selbst sei ebenso ein dankbares Feld für Innovationen, die auf künstlicher Intelligenz beruhten. Oder wie wäre es mit einem KI-basierten Sprachmodell, dass es ermöglicht, auf dem Amt Friesisch oder op Platt zu schnacken – und auch eine Antwort in dieser Sprache zu erhalten?

Foto: Pexels/Edward Jenner

„KI-Rüge“ als Einspruchs-Möglichkeit

„Es gibt im Datenschutzgesetz, mit Ausnahmen, das Recht, dass man nicht einer automatisierten Entscheidung unterworfen wird“, erläutert Hansen. Das bedeutet, dass die KI in der öffentlichen Verwaltung keine Entscheidungen über den Kopf von Bürgerinnen und Bürgern hinweg fällen darf, ohne dass es die Möglichkeit eines Einspruchs gibt. Den gibt es in Form der sogenannten „KI-Rüge“ speziell in Schleswig-Holstein, die bisher allerdings wohl noch nie angewandt wurde – wird sie angestrengt, muss sich ein Mensch mit dem Vorgang befassen.

Ein unterstützendes KI-System in der Verwaltung, das für jeden universell einsetzbar wäre, kann aber nach Ansicht von Hansen trotzdem hilfreich sein, wenn zum Beispiel dadurch die Verwaltung transparenter wird. Um sicherzugehen, dass möglichst keine Ungleichbehandlung durch KI stattfinden kann, wünscht sich die Datenschützerin aber, dass die Beschäftigten in einer Behörde sich stets erst selbst mit wichtigen Vorgängen befassten – und zwar ohne KI, um die wichtigsten Prämissen und Ziele aus menschlicher Sicht zu umreißen.

Marit Hansen ist nicht gegen Künstliche Intelligenz – doch die Landesdatenschutzbeauftragte SH fordert klare Regeln im Umgang mit der KI. Foto: ULD / Markus Hansen

Europaweit KI-Regeln festlegen

Ihr liegt zugleich viel daran, KI nicht nur Schleswig-Holstein-weit zu denken, sondern europäisch gemeinsam Werte und Regeln festzulegen. Wie baut man Antidiskriminierung, Datenschutz, Fairness und Menschenwürde ein in die Technologie? Es gehe darum, niemanden in der Gesellschaft ausschließen. Muss wirklich alles digital sein? Oder sollte es auch noch andere Möglichkeiten geben, um die Leute nicht abzuhängen, die ohne Handy, Tablet und PC auskommen müssen oder wollen? Und wie gelingt Barrierefreiheit in Bezug auf KI? Fragen über Fragen. Klar ist für sie: „Es muss immer Datennutzen mit Datenschutz zusammengedacht werden. Dann erst wird ein gutes Konzept daraus.“

Ob künstliche Intelligenz irgendwann das Steuer übernehmen wird? „Mir ist wichtig, dass wir europaweit einheitliche Regeln haben“, antwortet Marit Hansen. „Und die werden gerade geschaffen. Das Hauptkonzept ist: Je mehr Risiko, desto mehr Restriktion – desto mehr muss man aufpassen, was man tut.“ Es könne nicht so bleiben, wie es gerade ist: „Dass irgendwelche Firmen global entscheiden, wie die Regeln sein sollen und einfach durchsetzen durch die Macht des Faktischen.“ Dass die KI das Steuer übernehme, sei zwar theoretisch nicht ausgeschlossen; „aber ich halte es für sehr unwahrscheinlich.“

Mehr Informationen zu KI und Datenschutz finden sich im Internet auf www.datenschutzzentrum.de. Dort und unter der Telefonnummer 0431 988-1200 können sich Bürgerinnen und mit Beschwerden wenden, wenn sie der Ansicht sind, dass die Verarbeitung ihrer Daten gegen den Datenschutz verstößt und sie dadurch in ihren Rechten verletzt sind. Das Unabhängige Landeszentrum für Datenschutz, kurz ULD, geht dem nach und unterrichtet die Betroffenen über das Ergebnis.