Deepfakes: KI-Bildgenerator Midjourney schränkt Benutzung ein

Die Erstellung von realistischen Fake-Fotos mit Künstlicher Intelligenz (KI) ist zu einem Trend im Internet geworden. Mit dem KI-System Midjourney können Nutzer:innen auf Sprachbefehl Bilder generieren lassen, die Prominente in ungewöhnlichen Situationen zeigen. So kursieren zum Beispiel Fotos vom Papst in einer weissen Daunenjacke oder von Donald Trump bei seiner Flucht vor der Polizei. Diese Bilder, die nie fotografiert wurden, werden als Deepfakes bezeichnet. Doch Midjourney hat nun seine kostenlosen Testversionen gestoppt, weil sie für «Missbrauch» verwendet wurden.

AI-generated image of Pope Francis goes viral on social media. pic.twitter.com/ebfLK4F850

- Pop Base (@PopBase) March 25, 2023

Ein Beispiel dafür ist das Bild von Papst Franziskus in einer Daunenjacke, das viral ging und viele Menschen glauben liess, dass es sich um ein echtes Foto handelte. Oder die Bilder von Angela Merkel und Barack Obama am Strand, die suggerierten, dass die beiden eine heimliche Affäre hätten. Midjourney ist eine künstliche Intelligenz (KI), die in der Lage ist, beeindruckende Bilder zu erschaffen, die auf einfachen Textbeschreibungen basieren. Das Programm wurde von dem Forschungsinstitut Midjourney entwickelt, das von David Holz gegründet und geleitet wird. Holz war zuvor Mitgründer von Leap Motion und arbeitete bei der NASA.

Seit Juli 2022 befindet sich Midjourney in einer offenen Beta-Phase, die es jedem ermöglichte, die KI kostenlos auszuprobieren. Dafür musste man sich nur bei dem Chat-Dienst Discord anmelden und dem offiziellen Midjourney-Server beitreten.




Dort konnte man dann mit dem Befehl «/imagine» eine Bildbeschreibung eingeben und vier mögliche Entwürfe erhalten, die man weiter bearbeiten oder finalisieren konnte.

Doch damit ist nun Schluss. Wie die Washington Post berichtet, hat Holz am Dienstag angekündigt, dass Midjourney seine kostenlosen Testversionen einstellt. Als Grund nannte er die «aussergewöhnliche Nachfrage und den Missbrauch der Testversionen». Er sagte, dass Midjourney mehr als 10 Millionen Bilder pro Tag generiert habe und dass einige Nutzer die KI für unangemessene oder illegale Zwecke verwendet hätten.

Zu diesen Zwecken gehörten unter anderem das Erstellen von Deepfakes, also gefälschten Bildern oder Videos von realen Personen, die diese in kompromittierenden oder falschen Situationen zeigen. Ein bekannter Fall war die Midjourney-Bildserie, die die Verhaftung von Donald Trump zeigte und vom investigativen Journalisten Eliot Higgins erstellt wurde. Higgins behauptete später, dass ihm der Zugang zu Midjourney verweigert worden sei:

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ

- Eliot Higgins (@EliotHiggins) March 20, 2023

Um solche Fälle zu vermeiden, hat Midjourney seine Liste mit verbotenen Wörtern erweitert und den Begriff «verhaftet» hinzugefügt. Ausserdem hat es seine Nutzungsbedingungen aktualisiert und erklärt, dass es keine Haftung für die Inhalte übernimmt, die mit seiner KI erstellt werden. Es fordert seine Nutzer auf, die Rechte Dritter zu respektieren und keine illegalen oder anstössigen Bilder zu generieren.

Wer Midjourney weiterhin nutzen möchte, muss nun ein kostenpflichtiges Abonnement abschliessen, das zwischen 10 und 100 US-Dollar pro Monat kostet. Damit erhält man eine bestimmte Anzahl von Minuten Rechenzeit pro Tag, die man für die Bildgenerierung verwenden kann. Die Preise variieren je nach Qualität und Komplexität der gewünschten Bilder.

Die Entscheidung von Midjourney hat gemischte Reaktionen ausgelöst. Einige Nutzer bedauern, dass sie nicht mehr kostenlos mit der KI experimentieren können und befürchten, dass dies die Kreativität und Innovation einschränkt. Andere begrüssen den Schritt als eine notwendige Massnahme, um den Missbrauch und die Verbreitung von Falschinformationen zu verhindern.