Künstliche Intelligenz wird leistungsfähiger und zunehmend autonom eingesetzt. Experten warnen deshalb vor Risiken, doch Dennis-Kenji Kipker, Professor für IT-Sicherheit an der Hochschule Bremen, plädiert für eine differenzierte Betrachtung.
Im Mittelpunkt stehen sogenannte agentische KI-Systeme, die selbstständig handeln und Entscheidungen ausführen. Je stärker solche Systeme in Unternehmen oder kritische Infrastrukturen eingebunden werden, desto größer kann der Kontrollverlust werden. Problematisch ist insbesondere, wenn Entscheidungen nicht mehr ausreichend nachvollziehbar oder überprüfbar sind oder ein System anders handelt als ursprünglich vorgesehen.
Wie realistisch eine echte Superintelligenz ist, ist laut Kipker unter Wissenschaftlern umstritten. Kurzfristig sieht er die Risiken eher in einer schleichenden Abgabe von Kontrolle. Ein möglicher schwerer KI-Zwischenfall könnte ähnliche Folgen wie ein großangelegter Cyberangriff haben: Ausfälle bei Energieversorgung und Banken, gestörte Lieferketten oder Probleme bei Verkehr und öffentlichem Nahverkehr wären denkbar.
Für die Bewertung der Risiken ist mehr Transparenz wichtig. Das Hasso-Plattner-Institut fordert deshalb eine Offenlegung von KI-Systemen gegenüber unabhängigen Experten. Kipker sieht jedoch weiterhin ein erhebliches Informationsdefizit und bezweifelt, dass allein externe Einblicke in KI-Unternehmen ausreichen.
Mit der zunehmenden Nutzung autonomer KI steigen auch die Anforderungen an Datenschutz und IT-Sicherheit. Gerade bei kritischen Anwendungen sind klare Verantwortlichkeiten, sichere Prozesse und eine fachkundige Bewertung entscheidend, um Risiken frühzeitig zu erkennen und zu begrenzen.
KI-Schulung: Mit Wissen Risiken und Haftung vermeiden
https://www.tec4net.com/web/2025/08/05/10500/
Wir sind Experten für Datenschutz und IT-Sicherheit
Profitieren Sie von unserer umfassenden Beratung zu den Themen Datenschutz und IT-Sicherheit. Unser erfahrenes Team unterstützt Sie dabei, Ihre Website und digitalen Dienste datenschutzkonform zu gestalten um die gesetzlichen Vorgaben zu erfüllen.
Kontaktieren Sie uns noch heute und sichern Sie sich praxisnahe Beratung zur Umsetzung der DSGVO und Normen wie ISO 27001, PCI-DSS oder TISAX.
Datenschutz und IT-Sicherheit praktikabel umsetzen – tec4net GmbH
www.tec4net.com – www.it-news-blog.com – www.it-sachverstand.info – www.datenschutz-muenchen.com – www.it-sicherheit-muenchen.com
Alle unsere NEWS -> http://news.tec4net.com