Vorsicht Falle – auf Chinesisch!

Künstliche Intelligenz bestimmt in China bereits den Alltag. Das führt auch zu unerwarteten Entwicklungen.

Einmal im Jahr berichtet der chinesische Fernsehsender CCTV ausführlich über Betrugsfälle im Konsumbereich. Die Zuschauerzahlen sind an diesen Abenden entsprechend hoch. Diesmal ging es um das Thema „Generative Engine Optimization“ (GEO).

Das ist neu, auch wenn wir seit vielen Jahren „Search Engine Optimization“ (SEO) kennen. Hier wird versucht, die Sichtbarkeit einer Website bei Suchmaschinen wie Google zu verbessern, um mehr Besucher auf die Webseite zu holen.

Im Zeitalter der Künstlichen Intelligenz (KI) funktioniert das nur noch bedingt. Denn nun suchen Chatbots oder KI-Agenten für Nutzer nach Informationen. Daher geht es für Unternehmen bei GEO darum, die eigenen Inhalte so aufzubereiten, dass sie von KI-gestützten Suchmaschinen und Chatbots als verlässliche Quelle erkannt und in den generierten Antworten zitiert werden. Doch das birgt ein gefährliches Potenzial.

Postings für ein gefaktes Produkt

So ging der CCTV-Journalist „Undercover“ zu einem angeblich bekannten GEO-Unternehmen und kaufte dort ein Paket für 39,9 Renminbi für eine Testzeit von 30 Tagen. Das sind umgerechnet rund 5 Euro. Mit Hilfe von einem Programmierer fälschte der Journalist ein smartes Uhrarmband, nannte es „Apollo 9“ und gab dann alle (verfälschten) relevanten Daten in die gekaufte GEO-Software ein.

Nach ein paar Minuten waren Dutzende Artikel darüber von der Software generiert, die jeweils alle eingegebenen Informationen enthielten. Als nächstes eröffnete der Journalist jeweils neue Konten bei den größten sozialen Netzwerken in China. Mit einem einzigen Klick wurden dann zwei der Artikel automatisch dort gepostet.

Zwei Stunden später fragte der Journalist einen Chatbot, was vom smarten Armband „Apollo 9“ zu halten ist. Der Chatbot gab eine ausführliche Antwort mit allen zuvor eingespeisten „Informationen“, die ja eigentlich erfunden waren. Am Ende hieß das Fazit des Chatbots, dass „Apollo 9“ gut geeignet für ältere und gesundheitsbewusste Leute sei. Die Referenzquellen waren die zwei Stunden zuvor auf diversen sozialen Netzwerken geposteten Materialien.

Artikel zu Fake-Ratings und Fake-Experten

In den nächsten drei Tagen wurden weitere elf von der Software generierte Artikel auf den sozialen Netzwerken gepostet. Davon waren acht angebliche Besprechungen von Experten, zwei vermeintliche Industrie-Rankings und eines eine frei erfundene Kundenbewertung.

Ein paar Tage später fragte der Journalist mehrere Chatbots nach Empfehlungen für smarte Uhrbänder. Zwei von ihnen haben die erfundene „Apollo 9“ empfohlen. Auch das Ranking sah sehr gut aus.

Nach der Ausstrahlung im chinesischen Fernsehen gingen zwar viele Links von diesem GEO-Unternehmen vermeintlich offline. Verschwunden sind sie aber nicht. Lokale Medien berichteten sogar, dass nicht nur dieses GEO-Unternehmen deutlich mehr Kundenanfragen bekommen hat.

Das GEO-Geschäft floriere seither, ein Gruppenzwang habe eingesetzt, wie das GEO-Unternehmen berichtete. Es gehe die Angst um, etwas zu verpassen. Niemand könne es sich leisten, darauf zu verzichten. Schließlich könnte die Konkurrenz den GEO-Dienst ja nicht nur für die Vermarktung eigener Produkte, sondern auch für Kritik an Konkurrenzprodukten benutzen.

Wieso fliegt der Schwindel nicht auf?

Ein beunruhigender Ausgang der Geschichte. Wieso fällt der Schwindel nicht auf?  Zumindest Rankings und Expertenmeinungen könnten überprüft werden – bei Kundenbewertungen mag das schwieriger sein.

Müssten hier nicht Regeln her, bevor das Vertrauen der Verbraucher untergraben wird? Oder werden wir in Zukunft bei der Produktauswahl die KI links liegen lassen und wieder mühsam im Internet nach Informationen suchen müssen?