YouTube erweitert Ähnlichkeitserkennung für Deepfakes und überarbeitet KI-Kennzeichnung

Im März hatte YouTube die Ähnlichkeitserkennung bereits für einige Persönlichkeiten des öffentlichen Lebens freigeschaltet, ursprünglich war sie nur für Creatorinnen und Creator gestartet, die an YouTubes Partnerprogramm teilnehmen. In den kommenden Wochen soll der Kreis potenzieller Benutzerinnen und Benutzer nun ausgeweitet werden, auch in Deutschland. Voraussetzung zur künftigen Nutzung ist nur noch, dass User mindestens 18 Jahre alt sind und einen Account auf der Plattform haben. Grundsätzlich soll die Ähnlichkeitserkennung Nutzerinnen und Nutzern dabei helfen, herauszufinden, ob und wo auf der Plattform Deepfakes von ihnen kursieren. Damit YouTube solche Hinweise liefert, müssen Nutzer aber ein Ausweisfoto oder Videoselfie weitergeben. Das Bewegtbild-Selfie dient dann als Referenzmaterial für die Ähnlichkeitserkennung. Ergänzend werden die eigenen YouTube-Videos zum Gesichtsabgleich herangezogen. YouTube verspricht aber immerhin, dass es Videoselfies für die Ähnlichkeitserkennung nicht zum Trainieren seiner generativen KI-Modelle verwendet. Ähnlich wie Content-ID, ein System, das Creator und Firmen beim Aufspüren eigener urheberrechtlich geschützten Inhalte unterstützt, kann man sich auch die Ähnlichkeitserkennung als automatischen Inhaltscheck vorstellen. Werden dabei mögliche Übereinstimmungen entdeckt, können User die entsprechenden Inhalte prüfen und deren Entfernung beantragen. Wobei YouTube betont, dass es auch bei Beschwerden Videos nur dann offline nehmen wird, wenn sie gegen seine Plattformrichtlinien verstoßen. Ein besonderer Schutz gilt etwa für Satire und Parodien sowie für Inhalte von besonderem öffentlichen Interesse, die zum Beispiel zum politischen Diskurs beitragen. KI-erzeugte Bilder und Stimmen Deepfakes sind auf vielen Plattformen ein Problem. Immer wieder stößt man auf YouTube, aber auch auf TikTok, X, Instagram oder Facebook auf gefälschte Werbevideos, in denen Prominente augenscheinlich zum Kauf bestimmter Kryptowährungen aufrufen. Die gezeigten Stars haben mit diesen betrügerischen Videos meistens nichts zu tun: Oft sind ganze Clips oder relevante Teile davon KI-generiert. Auch die Stimmen der Prominenten werden oft mithilfe von KI nachgeahmt. Audioinhalte umfasst YouTubes Ähnlichkeitserkennung aktuell noch nicht, bisher liegt ihr Fokus auf visuellen Übereinstimmungen. Klar sein sollte Usern auch: Die Funktion beschränkt sich auf YouTube. Nicht durchsucht werden etwa Googles Suchergebnisse oder Drittplattformen, die zur Deepfake-Verbreitung genutzt werden könnten. Sobald die Funktion für ihr Benutzerkonto freigeschaltet wurde, finden User sie in einem Account-Teil namens YouTube-Studio . Dort muss man unter »Erkennung von Inhalten« zu »Aussehen und Stimme« und dann »Jetzt starten« navigieren. Eine YouTube-Infoseite zur Ähnlichkeitserkennung finden Sie hier. So ändert sich die Kennzeichnung von KI-Videos Ergänzend zur Ausweitung der Ähnlichkeitserkennung kündigte YouTube am Mittwoch an, dass es sein System zur Kennzeichnung von Videos mit KI-generiertem Content überarbeitet. Das Unternehmen präsentierte dabei ein neues KI-Label, das für User angeblich eingängiger sein soll als seine bisherigen Hinweise auf »veränderte oder synthetische Inhalte«. Bei Inhalten, die fotorealistisch wirken, aber maßgeblich durch KI verändert oder generiert wurden, soll das neue Label künftig im Shorts-Bereich an prominenter Stelle auftauchen: direkt im Video-Overlay, wo auch der Videotitel zu lesen ist. Bei längeren YouTube-Videos soll das Label unter dem Videoplayer, aber noch über der Videobeschreibung erscheinen. Bei Videos, die unrealistisch wirken, verzichtet YouTube auf eine derart prominente Einbindung seines Labels. Im Fall zum Beispiel von KI-Cartoons wird sich die KI-Kennzeichnung nur in der erweiterten Videobeschreibung finden lassen. Wie beim alten System sollen Videomacher das neue Label ihrem Content selbst zuordnen, als freiwillige, proaktive Offenlegung. In einigen Fällen jedoch kann die Kennzeichnung auch von Google automatisch hinzugefügt werden: Etwa dann, wenn sich Inhalte durch bestimmte Metadaten als KI-generiert identifizieren lassen oder wenn Creator zum Videoerstellen YouTube-eigene KI-Tools wie Veo oder Dream Screen verwendet haben. Erhält ein Video zu Unrecht ein KI-Label, sollen Nutzer über YouTube Studio dagegen vorgehen können.