{"id":7068,"date":"2025-10-08T08:15:17","date_gmt":"2025-10-08T06:15:17","guid":{"rendered":"https:\/\/www.tec4net.com\/web\/?p=7068"},"modified":"2025-11-10T17:03:19","modified_gmt":"2025-11-10T16:03:19","slug":"31412","status":"publish","type":"post","link":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/","title":{"rendered":"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung"},"content":{"rendered":"

Eine aktuelle mathematische Analyse von OpenAI zeigt, dass KI-Halluzinationen grunds\u00e4tzlich nicht zu vermeiden sind. Selbst bei fehlerfreien Trainingsdaten entstehen falsche Antworten zwangsl\u00e4ufig, da Sprachmodelle Wort f\u00fcr Wort aufgrund von Wahrscheinlichkeiten vorhersagen. Diese Vorgehensweise f\u00fchrt dazu, dass sich Fehler \u00fcber mehrere Prognosen summieren.<\/p>\n

Ein weiteres Problem liegt in den Bewertungsmechanismen vieler KI-Benchmarks: Systeme, die Unsicherheit \u00e4u\u00dfern, werden mit null Punkten bewertet \u2013 ebenso wie bei komplett falschen Antworten. Das beg\u00fcnstigt ein Verhalten, bei dem KIs lieber raten, statt \u201eIch wei\u00df es nicht\u201c zu sagen.<\/p>\n

Die vorgeschlagene L\u00f6sung w\u00e4re, Modelle so zu bewerten, dass sie ihre Antwortsicherheit ber\u00fccksichtigen. Dadurch k\u00f6nnten KIs lernen, vorsichtiger zu agieren. Allerdings w\u00fcrde dies den Rechenaufwand und damit die Betriebskosten erheblich erh\u00f6hen. In Bereichen, in denen falsche Antworten gravierende Folgen haben, k\u00f6nnte sich ein solcher Ansatz dennoch lohnen. Sicherere KI bedeutet also h\u00f6here Kosten \u2013 zumindest vorerst.<\/p>\n

Quelle:
https:\/\/www.telepolis.de\/features\/Mathematisch-bewiesen-KI-Halluzinationen-sind-nicht-zu-verhindern-10669149.html?seite=all<\/a><\/p>\n

ChatGPT verleumdet Mann als Kinderm\u00f6rder – https:\/\/it-news-blog.com\/?p=3152<\/a><\/p>\n

 <\/p>\n

 <\/p>\n

Wir sind Experten f\u00fcr Datenschutz und IT-Sicherheit<\/strong><\/p>\n

Profitieren Sie von unserer umfassenden Beratung zu den Themen Datenschutz und IT-Sicherheit. Unser erfahrenes Team unterst\u00fctzt Sie dabei, Ihre Website und digitalen Dienste datenschutzkonform zu gestalten um die gesetzlichen Vorgaben zu erf\u00fcllen.<\/p>\n

Kontaktieren Sie uns noch heute und sichern Sie sich praxisnahe Beratung zur Umsetzung der DSGVO und Normen wie ISO 27001, PCI-DSS oder TISAX.<\/p>\n

Datenschutz und IT-Sicherheit praktikabel umsetzen – tec4net GmbH<\/strong><\/p>\n

\n

www.tec4net.com<\/a> \u2013 www.it-news-blog.com<\/a> \u2013 www.it-sachverstand.info<\/a> \u2013 www.datenschutz-muenchen.com<\/a> \u2013 www.it-sicherheit-muenchen.com<\/a><\/p>\n

 <\/p>\n

Alle unsere NEWS -> http:\/\/news.tec4net.com<\/a><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Eine aktuelle mathematische Analyse von OpenAI zeigt, dass KI-Halluzinationen grunds\u00e4tzlich nicht zu vermeiden sind. Selbst bei fehlerfreien Trainingsdaten entstehen falsche Antworten zwangsl\u00e4ufig, da Sprachmodelle Wort f\u00fcr Wort aufgrund von Wahrscheinlichkeiten vorhersagen. Diese Vorgehensweise f\u00fchrt dazu, dass sich Fehler \u00fcber mehrere Prognosen summieren. Ein weiteres Problem liegt in den Bewertungsmechanismen vieler […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[5359,3475,5360,5356,5358,5357,5355],"yoast_head":"\nWarum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung - tec4net<\/title>\n<meta name=\"description\" content=\"Unsere IT-Experten beraten Sie im Bereich Consulting, IT-Security und Datenschutz in M\u00fcnchen | tec4net GmbH - seit 2003\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung - tec4net\" \/>\n<meta property=\"og:description\" content=\"Unsere IT-Experten beraten Sie im Bereich Consulting, IT-Security und Datenschutz in M\u00fcnchen | tec4net GmbH - seit 2003\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/\" \/>\n<meta property=\"og:site_name\" content=\"tec4net\" \/>\n<meta property=\"article:published_time\" content=\"2025-10-08T06:15:17+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-11-10T16:03:19+00:00\" \/>\n<meta name=\"author\" content=\"Matthias Walter\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Matthias Walter\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"2\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/\"},\"author\":{\"name\":\"Matthias Walter\",\"@id\":\"https:\/\/www.tec4net.com\/web\/#\/schema\/person\/eb2c0c81b5ce5b0320d91188184d409b\"},\"headline\":\"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung\",\"datePublished\":\"2025-10-08T06:15:17+00:00\",\"dateModified\":\"2025-11-10T16:03:19+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/\"},\"wordCount\":281,\"publisher\":{\"@id\":\"https:\/\/www.tec4net.com\/web\/#organization\"},\"keywords\":[\"Beratung zu Normen der KI-Sicherheit\",\"Datenschutz bei KI-Anwendungen\",\"EDV-Sachverst\u00e4ndige f\u00fcr KI-Bewertungen\",\"Fehlerquoten bei Sprachmodellen\",\"Gutachten zu KI-Systemen und Risiken\",\"IT-Sicherheit und k\u00fcnstliche Intelligenz\",\"KI Halluzinationen mathematisch erkl\u00e4rt\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/\",\"url\":\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/\",\"name\":\"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung - tec4net\",\"isPartOf\":{\"@id\":\"https:\/\/www.tec4net.com\/web\/#website\"},\"datePublished\":\"2025-10-08T06:15:17+00:00\",\"dateModified\":\"2025-11-10T16:03:19+00:00\",\"description\":\"Unsere IT-Experten beraten Sie im Bereich Consulting, IT-Security und Datenschutz in M\u00fcnchen | tec4net GmbH - seit 2003\",\"breadcrumb\":{\"@id\":\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Startseite\",\"item\":\"https:\/\/www.tec4net.com\/web\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/www.tec4net.com\/web\/#website\",\"url\":\"https:\/\/www.tec4net.com\/web\/\",\"name\":\"tec4net\",\"description\":\"Ihr starker IT-Partner\",\"publisher\":{\"@id\":\"https:\/\/www.tec4net.com\/web\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/www.tec4net.com\/web\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/www.tec4net.com\/web\/#organization\",\"name\":\"tec4net\",\"url\":\"https:\/\/www.tec4net.com\/web\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\/\/www.tec4net.com\/web\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/www.tec4net.com\/web\/wp-content\/uploads\/2018\/12\/t4n_Logo_startseite.png\",\"contentUrl\":\"https:\/\/www.tec4net.com\/web\/wp-content\/uploads\/2018\/12\/t4n_Logo_startseite.png\",\"width\":178,\"height\":163,\"caption\":\"tec4net\"},\"image\":{\"@id\":\"https:\/\/www.tec4net.com\/web\/#\/schema\/logo\/image\/\"}},{\"@type\":\"Person\",\"@id\":\"https:\/\/www.tec4net.com\/web\/#\/schema\/person\/eb2c0c81b5ce5b0320d91188184d409b\",\"name\":\"Matthias Walter\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\/\/www.tec4net.com\/web\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/c8945f23c3708dc375c12592ec9c9a7e?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/c8945f23c3708dc375c12592ec9c9a7e?s=96&d=mm&r=g\",\"caption\":\"Matthias Walter\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung - tec4net","description":"Unsere IT-Experten beraten Sie im Bereich Consulting, IT-Security und Datenschutz in M\u00fcnchen | tec4net GmbH - seit 2003","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/","og_locale":"de_DE","og_type":"article","og_title":"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung - tec4net","og_description":"Unsere IT-Experten beraten Sie im Bereich Consulting, IT-Security und Datenschutz in M\u00fcnchen | tec4net GmbH - seit 2003","og_url":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/","og_site_name":"tec4net","article_published_time":"2025-10-08T06:15:17+00:00","article_modified_time":"2025-11-10T16:03:19+00:00","author":"Matthias Walter","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"Matthias Walter","Gesch\u00e4tzte Lesezeit":"2\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/#article","isPartOf":{"@id":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/"},"author":{"name":"Matthias Walter","@id":"https:\/\/www.tec4net.com\/web\/#\/schema\/person\/eb2c0c81b5ce5b0320d91188184d409b"},"headline":"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung","datePublished":"2025-10-08T06:15:17+00:00","dateModified":"2025-11-10T16:03:19+00:00","mainEntityOfPage":{"@id":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/"},"wordCount":281,"publisher":{"@id":"https:\/\/www.tec4net.com\/web\/#organization"},"keywords":["Beratung zu Normen der KI-Sicherheit","Datenschutz bei KI-Anwendungen","EDV-Sachverst\u00e4ndige f\u00fcr KI-Bewertungen","Fehlerquoten bei Sprachmodellen","Gutachten zu KI-Systemen und Risiken","IT-Sicherheit und k\u00fcnstliche Intelligenz","KI Halluzinationen mathematisch erkl\u00e4rt"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/","url":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/","name":"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung - tec4net","isPartOf":{"@id":"https:\/\/www.tec4net.com\/web\/#website"},"datePublished":"2025-10-08T06:15:17+00:00","dateModified":"2025-11-10T16:03:19+00:00","description":"Unsere IT-Experten beraten Sie im Bereich Consulting, IT-Security und Datenschutz in M\u00fcnchen | tec4net GmbH - seit 2003","breadcrumb":{"@id":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/www.tec4net.com\/web\/2025\/10\/08\/31412\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Startseite","item":"https:\/\/www.tec4net.com\/web\/"},{"@type":"ListItem","position":2,"name":"Warum KI-Halluzinationen unvermeidlich bleiben \u2013 trotz aller Forschung"}]},{"@type":"WebSite","@id":"https:\/\/www.tec4net.com\/web\/#website","url":"https:\/\/www.tec4net.com\/web\/","name":"tec4net","description":"Ihr starker IT-Partner","publisher":{"@id":"https:\/\/www.tec4net.com\/web\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.tec4net.com\/web\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.tec4net.com\/web\/#organization","name":"tec4net","url":"https:\/\/www.tec4net.com\/web\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.tec4net.com\/web\/#\/schema\/logo\/image\/","url":"https:\/\/www.tec4net.com\/web\/wp-content\/uploads\/2018\/12\/t4n_Logo_startseite.png","contentUrl":"https:\/\/www.tec4net.com\/web\/wp-content\/uploads\/2018\/12\/t4n_Logo_startseite.png","width":178,"height":163,"caption":"tec4net"},"image":{"@id":"https:\/\/www.tec4net.com\/web\/#\/schema\/logo\/image\/"}},{"@type":"Person","@id":"https:\/\/www.tec4net.com\/web\/#\/schema\/person\/eb2c0c81b5ce5b0320d91188184d409b","name":"Matthias Walter","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.tec4net.com\/web\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/c8945f23c3708dc375c12592ec9c9a7e?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/c8945f23c3708dc375c12592ec9c9a7e?s=96&d=mm&r=g","caption":"Matthias Walter"}}]}},"_links":{"self":[{"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/posts\/7068"}],"collection":[{"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/comments?post=7068"}],"version-history":[{"count":6,"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/posts\/7068\/revisions"}],"predecessor-version":[{"id":7348,"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/posts\/7068\/revisions\/7348"}],"wp:attachment":[{"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/media?parent=7068"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/categories?post=7068"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.tec4net.com\/web\/wp-json\/wp\/v2\/tags?post=7068"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}