In Frankreich sorgt ein Algorithmus, der im Rahmen der Sozialhilfe der Familienkasse CAF eingesetzt wird, für Kritik. Dieser bewertet anhand personenbezogener Daten automatisch, ob ein vermeintliches Risiko einer Überzahlung besteht. Faktoren wie ein niedriges Einkommen, Arbeitslosigkeit oder das Wohnen in benachteiligten Gegenden erhöhen diesen „Verdächtigkeitswert“.
Menschen in prekären Verhältnissen geraten so häufiger ins Visier von behördlichen Kontrollen, was von der NGO La Quadrature du Net und anderen Organisationen als „doppelte Bestrafung“ kritisiert wird. Sie haben beim obersten französischen Verwaltungsgericht Klage gegen dieses System eingereicht, da es gegen das Anti-Diskriminierungsgesetz sowie gegen das Recht auf Gleichheit und Privatsphäre verstoße.
Fälle algorithmischer Diskriminierung haben auch in anderen europäischen Ländern zu Skandalen geführt. Die EU hat inzwischen strengere Vorschriften zum Einsatz von Künstlicher Intelligenz im sozialen Bereich erlassen, doch die Regulierung lässt Schlupflöcher offen.
Quelle:
https://netzpolitik.org/2024/social-scoring-klage-gegen-sozialhilfe-algorithmus-in-frankreich/
Wir sind Experten für Datenschutz und IT-Sicherheit
Profitieren Sie von unserer umfassenden Beratung zu den Themen Datenschutz und IT-Sicherheit. Unser erfahrenes Team unterstützt Sie dabei, Ihre Website und digitalen Dienste datenschutzkonform zu gestalten um die gesetzlichen Vorgaben zu erfüllen.
Kontaktieren Sie uns noch heute und sichern Sie sich praxisnahe Beratung zur Umsetzung der DSGVO und Normen wie ISO 27001, PCI-DSS oder TISAX.
Datenschutz und IT-Sicherheit praktikabel umsetzen – tec4net GmbH
www.tec4net.com – www.it-news-blog.com – www.it-sachverstand.info – www.datenschutz-muenchen.com
Alle unsere NEWS unter – https://www.tec4net.com/web/category/allgemein