Meta hat jetzt einen KI-Chatbot. Der Einfluss der KI in den sozialen Medien nimmt zu

Wenn Sie heutzutage den Facebook Messenger benutzen, werden Sie von einer neuen Eingabeaufforderung mit dieser Aufforderung begrüßt: „Fragen Sie Meta AI alles.“

Vielleicht haben Sie die App geöffnet, um einem Freund eine SMS zu schicken, aber der neue Chatbot von Meta, der auf künstlicher Intelligenz basiert, lockt Sie mit enzyklopädischem Wissen, das nur ein paar Tastenanschläge entfernt ist.

Meta, die Muttergesellschaft von Facebook, hat ihren selbstentwickelten Chatbot in ihre Whatsapp- und Instagram-Dienste integriert. Jetzt können Milliarden von Internetnutzern eine dieser kostenlosen Social-Media-Plattformen öffnen und die Dienste von Meta AI als Wörterbuch, Ratgeber oder Illustrator in Anspruch nehmen, neben vielen anderen Aufgaben, die er erfüllen kann – wenn auch nicht immer zuverlässig oder unfehlbar.

„Unser Ziel ist es, die weltweit führende KI zu entwickeln und sie jedem zugänglich zu machen“, sagte Mark Zuckerberg, der Chief Executive Officer von Meta, als er vor zwei Wochen den Start des Chatbots ankündigte. „Wir glauben, dass Meta AI jetzt der intelligenteste KI-Assistent ist, den Sie frei nutzen können.“

Wie die Schritte von Meta andeuten, hält die generative KI Einzug in die sozialen Medien. TikTok hat ein Ingenieurteam, das sich auf die Entwicklung großer Sprachmodelle konzentriert, die Text erkennen und generieren können, und sie stellen ein Redakteure und Reporter ein, die die Leistung dieser KI-Modelle kommentieren und verbessern können. Auf der Hilfeseite von Instagram heißt es: „Meta kann verwenden [user] Nachrichten verwenden, um das KI-Modell zu trainieren und so die KI zu verbessern.“

TikTok und Meta haben auf eine Anfrage nach einem Kommentar nicht reagiert, aber KI-Experten sagen, dass Nutzer sozialer Medien damit rechnen können, dass diese Technologie ihre Erfahrungen mehr und mehr beeinflussen wird – zum Guten oder zum Schlechten.

Ein Grund, warum Social Media Apps in KI investieren, ist, dass sie für die Verbraucher „klebriger“ werden wollen, so Ethan Mollick, Professor an der Wharton School der University of Pennsylvania, der Unternehmertum und Innovation lehrt. Apps wie Instagram versuchen, die Nutzer so lange wie möglich auf ihren Plattformen zu halten, weil sie damit Werbeeinnahmen generieren, sagte er.

Auf der Bilanzpressekonferenz von Meta für das erste Quartal sagte Zuckerberg, dass es einige Zeit dauern würde, bis das Unternehmen aus seinen Investitionen in den Chatbot und andere Anwendungen von KI Gewinn machen würde, aber es hat bereits festgestellt, dass die Technologie die Nutzererfahrungen auf seinen Plattformen beeinflusst.

„Derzeit werden etwa 30% der Beiträge im Facebook-Feed von unserem KI-Empfehlungssystem geliefert“, sagte Zuckerberg und bezog sich damit auf die Technologie hinter den Kulissen, die bestimmt, was Facebook-Nutzer sehen. „Und zum ersten Mal werden mehr als 50% der Inhalte, die die Nutzer auf Instagram sehen, von KI empfohlen.

In Zukunft wird KI nicht nur die Nutzererfahrungen personalisieren, so Jaime Sevilla, Leiter von Epoch, einem Forschungsinstitut, das KI-Technologietrends untersucht. Im Herbst 2022 wurden Millionen von Nutzern von den KI-Fähigkeiten von Lensa hingerissen als es skurrile Porträts aus Selfies erstellte. Davon werden wir noch mehr sehen, sagte Sevilla.

„Ich glaube, wir werden bald komplett von KI generierte Menschen sehen, die KI-generierte Musik und anderes posten“, sagte er. „Wir könnten in einer Welt leben, in der die Rolle, die der Mensch in den sozialen Medien spielt, nur noch ein kleiner Teil des Ganzen ist.

Mollick, Autor des Buches „Co-intelligence: Living and Working with AI“, sagte, dass diese Chatbots bereits einen Teil dessen produzieren, was Menschen online lesen. „KI steuert zunehmend einen Großteil der Online-Kommunikation“, sagte er. „[But] Wir wissen eigentlich nicht, wie viel KI da draußen geschrieben wird.“

Sevilla sagte, dass generative KI wahrscheinlich nicht den digitalen Marktplatz verdrängen wird, den die sozialen Medien geschaffen haben. Die Menschen sehnen sich nach der Authentizität ihrer Interaktionen mit Freunden und Familienmitgliedern im Internet, und die Unternehmen der sozialen Medien müssen ein Gleichgewicht zwischen dieser Authentizität und KI-generierten Inhalten und gezielter Werbung wahren.

Obwohl die KI den Verbrauchern helfen kann, im täglichen Leben nützlichere Produkte zu finden, hat der Reiz der Technologie auch eine dunkle Seite, die in Richtung Zwang gehen kann, so Sevilla.

„Die Systeme werden ziemlich gut im Überreden sein“, sagte er. Eine gerade veröffentlichte Studie von KI-Forschern der Eidgenössischen Technischen Hochschule Lausanne hat ergeben, dass GPT-4 um 81,7% effektiver war als ein Mensch jemanden in einer Debatte davon zu überzeugen, zuzustimmen. Obwohl die Studie noch nicht von Fachleuten geprüft wurde, sagte Sevilla, dass die Ergebnisse besorgniserregend seien.

„Das ist besorgniserregend, dass [AI] die Möglichkeiten der Betrüger, mit vielen Opfern in Kontakt zu treten und immer mehr Betrug zu begehen, erheblich erweitern könnte“, fügte er hinzu.

Sevilla sagte, dass sich die politischen Entscheidungsträger der Gefahren von KI bei der Verbreitung von Fehlinformationen bewusst sein sollten, da die Vereinigten Staaten im Herbst in eine weitere politisch aufgeladene Wahlsaison gehen. Andere Experten warnen dass es nicht darum geht, ob, sondern wie KI eine Rolle bei der Beeinflussung demokratischer Systeme auf der ganzen Welt spielen könnte.

Bindu Reddy, CEO und Mitbegründer von Abacus.AI, sagte, die Lösung sei etwas nuancierter als ein Verbot von KI auf unseren Social-Media-Plattformen – schlechte Akteure verbreiteten Hass und Fehlinformationen im Internet, lange bevor KI ins Spiel kam. Menschenrechtsaktivisten kritisierten beispielsweise Facebook im Jahr 2017 dafür, dass es nicht in der Lage war, Online-Hassreden herauszufiltern, die den Völkermord an den Rohingya in Myanmar angeheizt haben.

Nach Reddys Erfahrung ist KI gut darin, Dinge wie Voreingenommenheit und Pornografie auf Online-Plattformen zu erkennen. Sie setzt KI seit 2016 für die Moderation von Inhalten ein. Damals veröffentlichte sie eine anonyme App für soziale Netzwerke namens Candid, die sich auf die Verarbeitung natürlicher Sprache stützt, um Fehlinformationen zu erkennen.

Die Regulierungsbehörden sollten den Einsatz von KI zur Erstellung von Fälschungen echter Menschen verbieten, so Reddy. Aber sie ist kritisch gegenüber Gesetzen wie dem der Europäischen Union weitreichende Beschränkungen für die Entwicklung von KI. Ihrer Ansicht nach ist es gefährlich, wenn die USA hinter konkurrierenden Ländern wie China und Saudi-Arabien zurückbleiben, die Milliarden von Dollar investieren in die Entwicklung von KI-Technologie.

Bislang hat die Biden-Regierung eine „Entwurf für eine KI-Bill of Rights“ die Vorschläge für Schutzmaßnahmen enthält, die der Öffentlichkeit zur Verfügung stehen sollten, einschließlich des Schutzes der Privatsphäre und gegen algorithmische Diskriminierung. Der Entwurf ist nicht durchsetzbar, aber er deutet an, dass eine Gesetzgebung kommen könnte.

Sevilla räumte ein, dass KI-Moderatoren darauf trainiert werden können, die Voreingenommenheit eines Unternehmens zu übernehmen, was dazu führt, dass einige Ansichten zensiert werden. Aber auch menschliche Moderatoren haben politische Voreingenommenheit gezeigt.

So berichtete die Times im Jahr 2021 über Beschwerden, dass pro-palästinensische Inhalte auf Facebook und Instagram schwer zu finden seien. Und konservative Kritiker warfen Twitter im Jahr 2020 politische Voreingenommenheit vor, weil es Links zu einer Geschichte der New York Post über den Inhalt von Hunter Bidens Laptop blockierte.

„Wir können tatsächlich untersuchen, welche Art von Verzerrungen [AI] widerspiegelt“, sagte Sevilla.

Dennoch, so Sevilla, könnte KI so effektiv werden, dass sie die freie Meinungsäußerung stark unterdrückt.

„Was passiert, wenn alles, was in Ihrer Timeline steht, perfekt mit den Richtlinien des Unternehmens übereinstimmt?“ sagte Sevilla. „Ist das die Art von sozialen Medien, die Sie konsumieren möchten?“