KI kann Code automatisiert auf Schadsoftware prüfen. Eine Untersuchung von Cloudforce One zeigt jedoch, wie sich solche Prüfungen manipulieren lassen. In mehr als 18.000 Testläufen mit sieben KI-Modellen wurden Indirect Prompt Injections untersucht. Dabei verstecken Angreifer Hinweise in Kommentaren, um die Bewertung des Codes zu beeinflussen.
Machen manipulative Kommentare weniger als ein Prozent des Codes aus, sinkt die Erkennungsrate deutlich. Bei sehr vielen gleichartigen Hinweisen steigt sie wieder, weil die Masse selbst verdächtig wirkt. Noch problematischer sind große Dateien: In umfangreichen Softwarepaketen kann schädlicher Code im Kontext untergehen, wodurch die Erkennungsrate abnimmt.
Auch die Sprache der Kommentare beeinflusst die Bewertung. Überlastete Modelle können unbrauchbare Antworten liefern und Schutzmechanismen ausfallen lassen. Die Studie zeigt deshalb, dass KI nicht als alleinige Kontrollinstanz dienen sollte.
Für zuverlässigere Prüfungen empfehlen die Forscher, Kommentare vor der Analyse zu entfernen, große Dateien gezielt zu kürzen, Variablennamen zu anonymisieren, präzise Prüffragen zu stellen und sprachliche Hinweise mit dem Programmverhalten abzugleichen.
Auch beim Einsatz von KI-Systemen in Unternehmen müssen Datenschutz und IT-Sicherheit von Anfang an mitgedacht und gewährleistet werden. Mitarbeiter sollten vor der Nutzung zu den relevanten Datenschutz-, Sicherheits- und Rechtsvorgaben geschult werden. Nur so lässt sich KI verantwortungsvoll und rechtskonform einsetzen.
NIS2 und KRITIS: Beratung für rechtssichere Umsetzung
https://www.tec4net.com/web/it-security/
Wir sind Experten für Datenschutz und IT-Sicherheit
Profitieren Sie von unserer umfassenden Beratung zu den Themen Datenschutz und IT-Sicherheit. Unser erfahrenes Team unterstützt Sie dabei, Ihre Website und digitalen Dienste datenschutzkonform zu gestalten um die gesetzlichen Vorgaben zu erfüllen.
Kontaktieren Sie uns noch heute und sichern Sie sich praxisnahe Beratung zur Umsetzung der DSGVO und Normen wie ISO 27001, PCI-DSS oder TISAX.
Datenschutz und IT-Sicherheit praktikabel umsetzen – tec4net GmbH
www.tec4net.com – www.it-news-blog.com – www.it-sachverstand.info – www.datenschutz-muenchen.com – www.it-sicherheit-muenchen.com
Alle unsere NEWS -> http://news.tec4net.com