TikTok markiert automatisch externe KI-generierte Inhalte, während die chinesische Version Douyin nach einem ähnlichen Standard arbeitet

TikToks chinesisches Geschwisterchen Douyin arbeitet an ähnlichen Technologien wie sein globales Pendant, um von externen Plattformen gepostete, durch künstliche Intelligenz erzeugte Inhalte (AIGC) automatisch zu kennzeichnen.

TikTok gab am Donnerstag bekannt, dass es damit begonnen hat, AIGC von anderen Diensten automatisch zu kennzeichnen, indem es Metadaten erkennt, die mit den Bildern oder Videos verknüpft sind. Die Funktion wird bald auch auf Audioinhalte ausgeweitet, so das Unternehmen.

Douyin und TikTok, beide im Besitz des in Peking ansässigen Unternehmens ByteDance, verlangen seit einem Jahr von den Urhebern, dass sie AIGC, die auf ihre jeweiligen Plattformen hochgeladen werden, kennzeichnen. TikTok hat bereits Inhalte, die mit den eigenen KI-Effekten der App erstellt wurden, automatisch gekennzeichnet.

Die Initiative von TikTok ist unabhängig von der von Douyin, das sich möglicherweise gegen die Verwendung desselben Tagging-Tools entscheidet, weil die beiden Apps auf unterschiedliche Märkte abzielen, so eine mit der Angelegenheit vertraute Person.

ByteDance hat am Freitag nicht sofort auf eine Bitte um einen Kommentar reagiert.

Die von der Coalition for Content Provenance and Authenticity (C2PA) entwickelte Tagging-Technologie fügt allen Arten von Inhalten manipulationssichere Metadaten hinzu, die es einfacher machen, die Quelle von Informationen zu erkennen.

Google, Meta Platforms, Adobe und der ChatGPT-Schöpfer OpenAI haben alle angekündigt, dass sie die C2PA-Technik der „Content Credentials“ implementieren wollen. TikTok sagte am Donnerstag, dass es die Technik in den nächsten Monaten ebenfalls einführen wird, damit andere Plattformen die von der App geposteten Inhalte verifizieren können.

Das Metadaten-Tagging ist jedoch nicht perfekt, da es noch nicht möglich ist, alle AIGC zu identifizieren und es gibt Möglichkeiten, dies zu umgehen, z.B. durch einen Screenshot eines AIGC-Bildes, obwohl die „Content Credentials“-Technik laut C2PA Dateien anzeigen wird, die keine historischen Daten haben.

Douyin, das mehr als 600 Millionen täglich aktive Nutzer hat, hat in China an einer ähnlichen Initiative gearbeitet. Im Mai letzten Jahres veröffentlichte es einen Standard für das Hinzufügen von Kennzeichnungen und Metadaten zu AIGC, der jedoch noch nicht branchenweit eingeführt wurde.

Dies geschieht inmitten einer zunehmenden öffentlichen Diskussion in China und im Ausland über die schädlichen Auswirkungen der KI.

Douyin erhielt beispielsweise Anfang dieses Jahres Beschwerden von einer ukrainischen YouTuberin, die behauptete, ihr Gesicht und ihre Stimme seien geklont worden, um Videos einer falschen russischen Frau zu erstellen, die in China Produkte verkauft. Sie war nicht nur wütend, weil ihre Identität gestohlen wurde, sondern auch, weil sich ihr Heimatland im Krieg mit Russland befindet.

Letztes Jahr geriet eine chinesische Bekleidungsmarke in die Kritik, weil sie eine KI eingesetzt hatte, um das Gesicht einer Verkäuferin so zu verändern, dass sie der Schauspielerin und Sängerin Yang Mi während eines Live-Streamings ähnelte.