Eine Untersuchung der Organisation NewsGuard ergab, dass alle der zehn führenden KI-Chatbots die Desinformationsstrategie Moskaus unterstützten, indem sie in 33 Prozent der Fälle falsche Behauptungen des kremlnahen Pravda-Netzwerks wiederholten. Darunter unter anderem ein von der russischen Beeinflussungsoperation Storm-1516 produziertes, inszeniertes Video, das angeblich Kämpfer des Asow-Bataillons bei der Verbrennung eines Bildnisses von Trump zeigt.
[…]
Die Autorinnen der Studie von NewsGuard halten es für wahrscheinlich, dass die Beeinflussung von KI-Chatbots inzwischen eines der Hauptziele des Pravda-Netzwerks geworden ist. „Wir können davon ausgehen, dass die Strategie des Netzwerks darin bestand, das Internet mit Inhalten zu überschwemmen, um Scraping-Algorithmen zu beeinflussen“, sagen McKenzie Sadeghi und Isis Blachez. Mehrere Gründe würden dafür sprechen.
[…]
„Das Netzwerk betreibt 150 verschiedene Websites, von denen viele als unabhängige lokale Nachrichtenquellen getarnt sind, um KI-Modelle dazu zu bringen, sie als vielfältige und glaubwürdige Quellen zu betrachten“, sagen Sadeghi und Blachez. Infolgedessen seien KI-Modelle, die sich für ihr Training und ihre Echtzeit-Reaktionen auf Nachrichten in hohem Maße auf öffentlich zugängliche Inhalte stützen, sehr anfällig für die Aufnahme und Verstärkung von Meldungen aus diesem Netzwerk.
hätte natürlich niemand ahnen können.