"Daisy" als Falle für Betrüger

Großer Mobilfunker lässt KI-Oma mit Betrügern telefonieren

Tools, die auf Künstlicher Intelligenz basieren, werden nach und nach besser. Oft sind die Produkte von Chatbots, Bildgeneratoren oder Stimm- und Video-KIs kaum noch von originalem, menschlichem Content zu unterscheiden. Wenig verwunderlich also, dass derartige Software nicht nur für positive Zwecke genutzt wird, sondern auch Kriminelle sich diese zu eigen machen. So kommt es inzwischen häufig vor, dass Telefonbetrüger:innen KI-Tools nutzen, um ihre Opfer noch leichter in die Falle zu locken. Das hat auch der britische Mobilfunkanbieter O2 erkannt – und schlägt die Scammer mit ihren eigenen Waffen.

KI-Oma erzählt Scammern von ihrer Katze

Um Betrüger:innen in die Irre zu führen und ihnen wertvolle Zeit zu rauben, in der sie keinen echten Menschen schaden können, hat O2 ein "Scambaiter-Tool" entwickelt. Dabei handelt es sich um eine Künstliche Intelligenz, die als ältere Dame konzipiert wurde und die Scam-Anrufer:innen mit falschen Daten und wirren Antworten in die Irre führt. 

Besonders spannend ist, dass das Tool nur entwickelt wurde, weil eine Studie ergab, dass sieben von zehn Menschen Rache an Betrüger:innen üben wollen, allerdings ihre eigene Zeit nicht dafür verschwenden wollen. Dementsprechend hat O2 mit sogenannten "Scambaitern" zusammengearbeitet, also Menschen, die sich damit beschäftigen, Betrüger-Netzwerke aufzuspüren. Gemeinsam hat man umfangreiche Listen ausgearbeitet, die Telefonnummern beinhalten, welche in der Vergangenheit bereits mit Betrug oder Betrugsversuchen in Verbindung gebracht wurden. Ruft nun also ein Scammer mit einer dieser Nummern bei O2-Kund:innen an, schaltet sich "Daisy" ein, wie die KI-Dame genannt wird.

Ist ein:e Betrüger:in erstmal in die Falle des "Scambaiter-Tools" getappt, kann die KI-Oma ihn:sie bis zu 40 Minuten lang am Telefon halten. Dabei erzählt sie wirre Geschichten, spricht von ihrer Katze oder von ihren Hobbys, liefert den Betrüger:innen dabei allerdings stückchenweise die gewünschten Informationen, wie etwa Kontodaten oder andere persönliche Daten. Diese sind natürlich frei erfunden, sollen aber dafür sorgen, dass der Scammer das Gefühl bekommt, hier einen Coup landen zu können, wenn er:sie nur lange genug in der Leitung bleibt und Geduld für die vermeintliche alte Dame aufbringt.

Wie sich derartige Gespräche zwischen der KI-Oma und Betrüger:innen anhören, sehen Sie in diesem Video:

Lerneffekt für Anbieter

Am Ende gehen die Anrufer:innen jedoch völlig leer aus, und "Daisy" konnte im besten Fall verhindern, dass in dieser Zeit andere potenzielle Opfer angerufen wurden. Zudem bringt der Einsatz eines solchen KI-Tools für O2 den Vorteil, langfristig die Maschen der Betrüger:innen zu lernen und Kund:innen in weiterer Folge besser darüber aufklären zu können.

Murray Mackenzie, Leiter der Betrugsabteilung bei Virgin Media O2, meint, dass man entschlossen sei, die Betrüger:innen zu stoppen: "Wir investieren in alles, von der Firewall-Technologie zum Blockieren von Betrugsnachrichten bis hin zur KI-gestützten Erkennung von Spam-Anrufen, um unsere Kund:innen zu schützen. Das neueste Mitglied unseres Betrugsbekämpfungsteams, 'Daisy', dreht den Spieß um und überlistet die Betrüger:innen in ihrem eigenen grausamen Spiel, indem sie sie einfach in der Leitung hält." Daisy sei aber gleichzeitig auch eine Erinnerung daran, dass die Person am anderen Ende der Leitung nicht immer die ist, für die man sie hält – egal, wie überzeugend jemand klingen mag.

www.o2.co.uk