Die KI "Galactica" hatte hohe Ansprüche: Sie sollte Wissenschaftler:innen bei der Recherche helfen. Nach nur drei Tagen wurde aber der Stecker gezogen.
"Das Leben von Bären im Weltraum"
Am 15. November hat Meta die Öffentlichkeit eingeladen, ihr so genanntes Large Language Model für die Wissenschaft zu testen. Das System wurde anhand von 48 Millionen Beispielen wie wissenschaftlichen Artikeln, Websites, Lehrbüchern, Vorlesungsunterlagen und Enzyklopädien trainiert. Dabei sollte die KI bestehende Papers für Forschende und Studierende zusammenfassen oder mathematische Probleme lösen, Wiki Artikel erstellen oder wissenschaftlichen Code schreiben.
Das Problem: Wie jeder Sprachassistent war auch dieses Programm bloß ein Bot, dass bereits nach wenigen Stunden teilweise absurden Resultate brachte.
So erstellte die KI gefälschte Arbeiten, die sie in manchen Fällen sogar real existierenden Autor:innen zuschrieb. Darüber hinaus erfand das Sprachmodell einen Wiki-Artikel über das Leben von Bären im Weltraum.
Das Problem daran: So amüsant der Vorfall auch sein mag, hier kann man noch klar erkennen, dass der Artikel offensichtlich falsch ist. Problematisch werden die falschen Ergebnisse, wenn der Nutzer:innen selbst nicht über das Fachwissen verfügt einen Fake zu entlarven.
Meta-Chefwissenschaftler spricht von "Missbrauch"
Yann LeCun, Chefwissenschaftler von Meta, verteidigte "Galactica" bis zum Ende. Er konterte Kritik mit dem Hinweis, dass es sich um eine Demo handelt und es zu Fehlern kommen kann. Nach drei Tagen wurde die Kritik zu viel und Meta zog den Stecker. Lecun wirkte verbittert: "Die Galactica-Demo ist vorerst offline. Es ist nicht mehr möglich, Spaß zu haben, indem man es missbraucht. Glücklich?"
www.meta.com
Kommentar schreiben