Von KI erschaffen – Personen, die nicht existieren

23.10.2024

Ein Forscherteam hat untersucht, wie verbreitet gefälschte Profile auf der Plattform X sind und welche Merkmale sie aufweisen: Nicht nur, dass die Porträts mit KI-Algorithmen erstellt wurden. Die Konten waren schwach vernetzt, wurden massenhaft erstellt und hatten eine kurze „Lebensdauer“.

Für ihre Studie haben Wissenschaftler der Ruhr-Universität Bochum gemeinsam mit Kollegen des Helmholtz-Zentrums für Informationssicherheit CISPA (Saarbrücken) und des Leibniz-Instituts für Sozialwissenschaften GESIS (Köln) knapp 15 Millionen X-Konten untersucht. Das Ergebnis: 0,052 Prozent der untersuchten Profile verwendeten ein KI-generiertes Personenbild, das entspricht 7.723 Accounts mit Porträts von Personen, die nicht existieren.

„Das klingt im ersten Moment nicht viel, aber solche Bilder sind merklich präsent auf Twitter. Unsere Analysen geben zudem Hinweise darauf, dass es sich bei vielen der Accounts um Fakeprofile handelt, die unter anderem politische Propaganda oder Verschwörungstheorien verbreiten“, sagt Erstautor Jonas Ricker von der Ruhr-Universität Bochum.

Um die künstlich geschaffenen Darstellungen zu identifizieren, haben die Informatiker ein KI-System darauf trainiert, zwischen echten und KI-generierten Bildern zu unterscheiden. Dabei konzentrierten sie sich auf Abbildungen, die mit dem Modell „StyleGAN 2“ erstellt wurden, das auch der bekannten Website „thispersondoesnotexist.com“ zugrunde liegt.

Auffälliges Nutzungsmuster

Die Studie zeigt auffällige Muster bei Accounts mit KI-generierten Profilbildern auf:

• Geringere Vernetzung: Diese Konten hatten durchschnittlich weniger Follower und folgten selbst auch weniger anderen Nutzern.
• Kurze Lebensdauer: Mehr als die Hälfte der identifizierten Fake-Accounts wurden innerhalb von neun Monaten nach der Datenerhebung von X gesperrt.
• Massenhafte Erstellung: Auffällig war, dass viele dieser Accounts in kurzer Zeit erstellt wurden, teilweise hunderte innerhalb weniger Stunden.

Die von diesen Accounts verbreiteten Inhalte wurden, konzentrierten sich auf folgende Themenbereiche:

• Politik
• Covid-19 und Impfungen
• Ukraine-Krieg
• Verlosungen
• Finanzen und Kryptowährungen

Wenig Follower

Ein weiteres Merkmal der KI-generierten Profile: Sie hatten durchschnittlich weniger Follower*innen und folgten auch selbst weniger anderen Accounts. „Auffällig war auch, dass über die Hälfte der Fake-Bild-Accounts erst 2023 erstellt worden ist, teils wurden hunderte Accounts in einigen Stunden aufgesetzt – ein Hinweis, dass es sich nicht um echte Nutzerinnen oder Nutzer handelt“, folgert Jonas Ricker.

Neun Monate nach der ersten Datenerhebung überprüften die Forscher, ob die Fake-Accounts und eine gleiche Anzahl von Echt-Bild-Accounts noch aktiv waren. Mehr als die Hälfte der Fake-Bild-Accounts waren zu diesem Zeitpunkt von X gesperrt worden, stellten sie fest.

Die Ergebnisse Studie bestätigen, was viele Nutzer bisher vermutet haben: Nicht jedes Profilbild oder jeder Post stammt von einer realen Person. Umso wichtiger ist es, seinen Verstand zu gebrauchen – und auch die eigene Medienkompetenz zu schulen. Eines Tages wird sich die Frage stellen: Welchem Bild im Internet kann man überhaupt (ver)trauen?