Eine aktuelle mathematische Analyse von OpenAI zeigt, dass KI-Halluzinationen grundsätzlich nicht zu vermeiden sind. Selbst bei fehlerfreien Trainingsdaten entstehen falsche Antworten zwangsläufig, da Sprachmodelle Wort für Wort aufgrund von Wahrscheinlichkeiten vorhersagen. Diese Vorgehensweise führt dazu, dass sich Fehler über mehrere Prognosen summieren.
Ein weiteres Problem liegt in den Bewertungsmechanismen vieler KI-Benchmarks: Systeme, die Unsicherheit äußern, werden mit null Punkten bewertet – ebenso wie bei komplett falschen Antworten. Das begünstigt ein Verhalten, bei dem KIs lieber raten, statt „Ich weiß es nicht“ zu sagen.
Die vorgeschlagene Lösung wäre, Modelle so zu bewerten, dass sie ihre Antwortsicherheit berücksichtigen. Dadurch könnten KIs lernen, vorsichtiger zu agieren. Allerdings würde dies den Rechenaufwand und damit die Betriebskosten erheblich erhöhen. In Bereichen, in denen falsche Antworten gravierende Folgen haben, könnte sich ein solcher Ansatz dennoch lohnen. Sicherere KI bedeutet also höhere Kosten – zumindest vorerst.
ChatGPT verleumdet Mann als Kindermörder – https://it-news-blog.com/?p=3152
Wir sind Experten für Datenschutz und IT-Sicherheit
Profitieren Sie von unserer umfassenden Beratung zu den Themen Datenschutz und IT-Sicherheit. Unser erfahrenes Team unterstützt Sie dabei, Ihre Website und digitalen Dienste datenschutzkonform zu gestalten um die gesetzlichen Vorgaben zu erfüllen.
Kontaktieren Sie uns noch heute und sichern Sie sich praxisnahe Beratung zur Umsetzung der DSGVO und Normen wie ISO 27001, PCI-DSS oder TISAX.
Datenschutz und IT-Sicherheit praktikabel umsetzen – tec4net GmbH
www.tec4net.com – www.it-news-blog.com – www.it-sachverstand.info – www.datenschutz-muenchen.com
Alle unsere NEWS -> http://news.tec4net.com