Künstliche Intelligenz (KI), insbesondere ChatGPT, basiert auf fortschrittlichen Sprachmodellen, die Antworten generieren, indem sie die wahrscheinlichste Fortsetzung eines Textes vorhersagen. Dabei berücksichtigt das System den gesamten Kontext einer Anfrage. Diese Methode kann jedoch zu falschen Antworten führen, den sogenannten „Halluzinationen“. Solche Fehlinformationen reichen von kleineren Fehlern bis hin zu schwerwiegenden falschen Behauptungen, die den Ruf von Personen oder Organisationen erheblich schädigen können.
Ein Beispiel hierfür ist ein Vorfall, bei dem ChatGPT einen norwegischen Bürger fälschlicherweise als Mörder darstellte, der angeblich zwei seiner Kinder getötet haben soll. Der österreichische Datenschutzverein Noyb griff diesen Vorfall auf und forderte, dass Maßnahmen ergriffen werden, um solche Fehlinformationen zu korrigieren. Das Problem bei KI-Systemen wie ChatGPT liegt in der Vermischung von realen und falschen Informationen, da die KI keine tatsächliche „Verifizierung“ der Fakten vornimmt. Dies kann dazu führen, dass die Nutzer die generierten Texte für wahr halten.
Die Datenschutz-Grundverordnung (DSGVO) verlangt, dass personenbezogene Daten korrekt und aktuell sind. OpenAI steht in der Kritik, diese Vorgaben zu verletzen, da fehlerhafte Daten generiert werden und den betroffenen Personen keine Möglichkeit zur Korrektur angeboten wird. Dies führt zu einer mangelnden Transparenz und erschwert die Verantwortung für fehlerhafte Aussagen nachzuvollziehen. Es wird gefordert, dass KI-Anbieter mehr Verantwortung übernehmen, um diese Risiken zu minimieren.
Quelle und Links:
https://noyb.eu/de/ai-hallucinations-chatgpt-created-fake-child-murderer
ChatGPT verleumdet Mann als Kindermörder
https://it-news-blog.com/?p=3152
Wir sind Experten für Datenschutz und IT-Sicherheit – seit 2003
Unsere erfahrenen Spezialisten unterstützen Sie unter anderem bei:
– der Einführung und Beachtung von DSGVO, BDSG und TTDSG
– der Umsetzung von ISO 27001, TISAX, PCI-DSS oder NIS-2
– der Vorbereitung auf Audits und Zertifizierungen
Kostenloses Erstgespräch – unverbindlich & transparent -> www.tec4net.com/web/impressum
tec4net GmbH – Datenschutz und IT-Sicherheit praktikabel umsetzen.
www.tec4net.com – www.it-news-blog.com – www.it-sachverstand.info – www.datenschutz-muenchen.com – www.it-sicherheit-muenchen.com
Alle unsere NEWS -> http://news.tec4net.com – https://x.com/tec4net