{"id":3152,"date":"2025-06-10T10:04:15","date_gmt":"2025-06-10T08:04:15","guid":{"rendered":"https:\/\/it-news-blog.com\/?p=3152"},"modified":"2025-12-08T18:17:38","modified_gmt":"2025-12-08T16:17:38","slug":"datenschutzbeschwerde-chatgpt-verleumdet-mann-als-kindermoerder","status":"publish","type":"post","link":"https:\/\/it-news-blog.com\/?p=3152","title":{"rendered":"Datenschutzbeschwerde \u2013 ChatGPT verleumdet Mann als Kinderm\u00f6rder"},"content":{"rendered":"

Chatbots bergen erhebliche Risiken im Zusammenhang mit der DSGVO, wenn sie unbeabsichtigt falsche Informationen erzeugt. Ein Beispiel ist die Verleumdung von Personen, indem KI-Systeme sie f\u00e4lschlicherweise sogar als Kinderm\u00f6rder darstellen. Solche \u201eHalluzinationen\u201c k\u00f6nnen den Ruf von Individuen schwer sch\u00e4digen und stellen eine Herausforderung f\u00fcr den Datenschutz dar<\/strong><\/p>\n

K\u00fcnstliche Intelligenz (KI), insbesondere Chatbots wie ChatGPT, basieren auf fortschrittlichen Sprachmodellen, die Antworten generieren, indem sie die wahrscheinlichste Fortsetzung eines Textes vorhersagen. Dabei ber\u00fccksichtigt das System den gesamten Kontext der Anfrage, einschlie\u00dflich grammatikalischer Struktur und thematischer Koh\u00e4renz. Diese Herangehensweise kann jedoch zu plausibel klingenden, aber faktisch falschen Antworten f\u00fchren \u2013 sogenannte \u201eHalluzinationen\u201c. Diese Fehlinformationen reichen von kleineren Fehlern bis hin zu schwerwiegenden falschen Behauptungen, die den Ruf von Personen oder Organisationen erheblich sch\u00e4digen k\u00f6nnen.<\/p>\n

Ein aktueller Vorfall<\/strong><\/p>\n

Ein Beispiel f\u00fcr solch eine Fehlinformation ist ein Vorfall, bei dem ChatGPT einen norwegischen B\u00fcrger f\u00e4lschlicherweise als M\u00f6rder darstellte, der angeblich zwei seiner Kinder get\u00f6tet haben soll. Der Vorfall wurde durch den \u00f6sterreichischen Datenschutzverein Noyb (None of Your Business) aufgegriffen, der bereits zuvor Beschwerden gegen OpenAI in \u00e4hnlicher Sache eingereicht hatte. Noyb fordert, dass Ma\u00dfnahmen ergriffen werden, um diese fehlerhaften Informationen zu korrigieren und eine Kontrolle \u00fcber die generierten Daten zu erm\u00f6glichen.<\/p>\n

Das Problem der KI-Halluzinationen<\/strong><\/p>\n

Ein gravierendes Problem bei KI-Systemen wie ChatGPT ist die ungewollte Vermischung von realen und falschen Informationen. Im Fall des norwegischen B\u00fcrgers wurden korrekte Details wie der Heimatort und das Alter seiner Kinder mit falschen Aussagen \u00fcber eine angebliche Verurteilung und lange Haftstrafe wegen Mordes kombiniert.
\n\u00c4hnliche F\u00e4lle sind dokumentiert: Ein Journalist, der als Gerichtsreporter t\u00e4tig war, wurde von ChatGPT ebenfalls f\u00e4lschlicherweise als Straft\u00e4ter dargestellt, weil das System ihn mit den von ihm berichteten F\u00e4llen verwechselte.
\nSolche Fehlinformationen entstehen h\u00e4ufig aufgrund der Art und Weise, wie KI-Modelle trainiert werden, ohne dass eine tats\u00e4chliche „Verifizierung“ der Fakten stattfindet. Das f\u00fchrt zu schwerwiegenden Konsequenzen, da Benutzer den generierten Text m\u00f6glicherweise f\u00fcr wahr halten, was den Ruf von Individuen oder Organisationen nachhaltig sch\u00e4digen kann.<\/p>\n

Datenschutzrechtliche Anforderungen und die DSGVO<\/strong><\/p>\n

Die Datenschutz-Grundverordnung (DSGVO) fordert, dass personenbezogene Daten korrekt und aktuell sein m\u00fcssen. Artikel 5 Absatz 1 Buchstabe d legt fest, dass unrichtige Daten korrigiert oder gel\u00f6scht werden m\u00fcssen. OpenAI argumentiert, dass ein Hinweis auf m\u00f6gliche Fehler ausreiche, um Haftungsanspr\u00fcche zu vermeiden. Diese Position steht jedoch im Widerspruch zu den klaren Vorgaben der DSGVO, die keine Haftungsausschl\u00fcsse erlaubt. Ein Hinweis auf Fehler befreit das Unternehmen nicht von seiner Verantwortung.<\/p>\n

Fehlende Transparenz und Korrekturm\u00f6glichkeiten<\/strong><\/p>\n

Ein weiteres Problem bei OpenAI ist die mangelnde Transparenz hinsichtlich der Datenverarbeitung. Laut Artikel 15 DSGVO haben Betroffene das Recht, Auskunft dar\u00fcber zu erhalten, welche personenbezogenen Daten \u00fcber sie verarbeitet werden. KI-Anbieter wie OpenAI geben jedoch keine detaillierten Informationen dar\u00fcber preis, welche Trainingsdaten ihre Modelle verwenden. Dies erschwert es nicht nur, fehlerhafte Informationen zu identifizieren, sondern auch, die Herkunft und Verarbeitung von Daten nachzuvollziehen.<\/p>\n

Au\u00dferdem ist es bei KI-Systemen wie ChatGPT technisch schwierig, falsche Informationen zu korrigieren oder zu l\u00f6schen, da die Daten nicht in einer traditionellen Form gespeichert werden. Stattdessen \u201ehalluziniert\u201c die KI neue Antworten, basierend auf dem gelernten Modell, ohne dass die zugrunde liegenden Fehler erkannt oder behoben werden k\u00f6nnen. Dies bedeutet, dass betroffene Personen oft keine M\u00f6glichkeit haben, gegen fehlerhafte Aussagen vorzugehen oder diese zu berichtigen.<\/p>\n

Verantwortung von OpenAI und Verst\u00f6\u00dfe gegen die DSGVO<\/strong><\/p>\n

Die DSGVO stellt klare Anforderungen an Unternehmen, die personenbezogene Daten verarbeiten, um sicherzustellen, dass diese korrekt und aktuell sind. OpenAI verst\u00f6\u00dft gegen diese Vorgaben, indem es unrichtige Informationen generiert und den betroffenen Personen keine M\u00f6glichkeit zur Korrektur bietet. Die mangelnde Transparenz in Bezug auf die Datenverarbeitung und die Schwierigkeit, Fehler zu beheben, machen es umso schwieriger, die Verantwortlichkeit f\u00fcr fehlerhafte Daten nachzuvollziehen.<\/p>\n

Forderungen und m\u00f6gliche L\u00f6sungen<\/strong><\/p>\n

Aufgrund dieser Probleme hat Noyb eine zweite Beschwerde bei der norwegischen Datenschutzbeh\u00f6rde eingereicht. Der Verein fordert von OpenAI, Ma\u00dfnahmen zu ergreifen, um die Generierung falscher Informationen zu verhindern und diese schnell zu korrigieren. Zudem fordert Noyb ein empfindliches Bu\u00dfgeld, um zuk\u00fcnftige Verst\u00f6\u00dfe zu verhindern und KI-Anbieter zur Einhaltung der DSGVO zu bewegen.<\/p>\n

Die Notwendigkeit einer klaren Regulierung<\/strong><\/p>\n

Die wachsende Verbreitung von KI-Systemen erfordert eine pr\u00e4zise und umfassende Regulierung. Der AI-Act der Europ\u00e4ischen Union stellt einen wichtigen Schritt dar, um einheitliche Standards f\u00fcr den Einsatz von KI in der EU zu etablieren. Besonders risikobehaftete Anwendungen, wie der Einsatz von KI in sensiblen Bereichen wie der Justiz oder Medizin, m\u00fcssen strengen Anforderungen unterliegen. Unternehmen, die solche Systeme einsetzen, m\u00fcssen sicherstellen, dass ihre Technologien transparent und nachvollziehbar sind und dass sie keine Risiken f\u00fcr die Rechte und Freiheiten von Betroffenen darstellen.<\/p>\n

Dar\u00fcber hinaus m\u00fcssen Unternehmen, die KI im Einklang mit der DSGVO und dem AI-Act einsetzen, fortlaufend ihre Algorithmen \u00fcberwachen, um die hohen Anforderungen an Transparenz und Datensicherheit zu erf\u00fcllen. Eine klare Regulierung ist notwendig, um die Risiken durch fehlerhafte oder manipulative KI-Anwendungen zu minimieren und die Rechte der Betroffenen zu sch\u00fctzen.<\/p>\n

Schulungspflicht f\u00fcr Mitarbeiter im Umgang mit KI<\/strong><\/p>\n

Der AI-Act der EU, der seit Juli 2023 in Kraft ist, verpflichtet Unternehmen gem\u00e4\u00df Artikel 4, ihre Mitarbeiter im Umgang mit den Risiken von K\u00fcnstlicher Intelligenz zu schulen. Dies umfasst die Sensibilisierung f\u00fcr m\u00f6gliche Gefahren wie fehlerhaftes KI-Verhalten und Datenschutzprobleme. Die Schulungspflicht tr\u00e4gt zur sicheren und verantwortungsvollen Nutzung von KI bei. Unternehmen, die diese Vorgaben nicht einhalten, m\u00fcssen mit Strafen rechnen.<\/p>\n

 <\/p>\n

Unser Angebot f\u00fcr Sie:<\/strong><\/p>\n