Wie Indien Wähler mit künstlicher Intelligenz beeinflusst – 03/06/2024 – Welt

Die Wahl von Indien im Jahr 2024 Es ist nicht nur das größte der Welt; sie ist auch die erste, bei der künstliche Intelligenz in allgemeiner Form eingesetzt wird. Entgegen den Befürchtungen waren es jedoch nicht die Deepfakes, die die Kandidaten verwirrten.

Der große Sprung war die KI, mit der die Wählerschaft fasziniert wurde. Es gibt Videos, in denen „die Kandidaten“ den Wählern direkt antworten, Hologramme, die an Kundgebungen teilnehmen, „wiederauferstandene Politiker“, die ihre weniger charismatischen Kinder ersetzen und personalisierte Telefonanrufe. Darüber hinaus haben die Kampagnen große Sprachmodelle eingesetzt, um riesige Datenmengen zu analysieren und immer individuellere Botschaften für Wählergruppen zu erstellen.

Bhairav Shankar, Präsident von Avantari Technologies, war einer der Pioniere der digitalen Tools in Wahlen. Im Jahr 2012, bei den Wahlen im Bundesstaat Gujarat, entwickelte das Unternehmen Hologramme des damaligen Gouverneurs Narendra Modi -der später als erster Staatschef der Welt auf die Nutzung von sozialen Medien und Wählerdaten im Wahlkampf setzte.

Das Aushängeschild von Shankar sind Videos, in denen Kandidaten Fragen von Wählern beantworten. Die Videos erscheinen auf dem Mobiltelefon, wenn der Wähler die Kamera auf das Parteisymbol an Wänden und Plakaten richtet. Der Wähler kann dem Kandidaten auf zwei Arten Fragen stellen: indem er Fragen zum Programm des Kandidaten in sein Mobiltelefon tippt oder indem er eine der zehn Fragen auswählt, die auf dem Bildschirm erscheinen.

Die generative KI generiert dann die Antwort und schickt sie zur automatischen Übersetzung in die Landessprache. Danach, eine Nachahmung des Kandidaten im Video geantwortet, als Avatar. Die Technologie wurde bei den Wahlen zur Landesregierung 2022 und in diesem Jahr bei einer Wahlkampagne einer staatlichen Partei in Südindien eingesetzt.

Bhairav hat bereits in Australien, Malaysia und Litauen Wahlkampf gemacht. „Politiker wollen immer etwas ganz Neues, um die Neugier der Wähler zu wecken“, sagt er. „Der Schwerpunkt liegt auf der Schaffung von tamaasha [palavra em hindi que significa espetáculo, entretenimento] um den Durchschnittswähler zu begeistern.“ Kundgebungen mit Hologrammen haben denselben Effekt. „Wir nehmen den Kandidaten [virtual] und Künstler zu Konzerten in kleine Dörfer.“

Das Hologramm kostet 1.500 US-Dollar pro Kundgebung. Die interaktiven, scannbaren Videos sind teurer – einschließlich der Plakate und der KI für die Interaktivität kosten sie 700.000 US-Dollar.

Seit Oktober letzten Jahres arbeitet Divyendra Singh Jadoun, 31, der früher mehr mit Deepfakes für das Kino gearbeitet hat, viele Anfragen für Wahlkampfprojekte erhalten. Sein Hauptprodukt sind personalisierte Videobotschaften. Der Kandidat nimmt ein Video mit einer Botschaft auf. Mit generativer KI spricht Jadoun den Kandidaten in mehreren in Indien gesprochenen Sprachen ein und lässt ihn den Wähler beim Namen nennen.

Die Anrufe dienen auch dazu, Parteiaktivisten zu begeistern. Am Samstag 1, der letzte Tag der Stimmabgabe bei der Wahl, die in sieben Phasen stattfand, Arbeiter und Freiwillige von Modis BJP-Partei erhielten eine persönliche Nachricht von den Vorsitzenden der einzelnen Bundesstaaten, in der sie namentlich in der Landessprache aufgerufen wurden, um die Moral zu stärken und Wahlkampfanweisungen weiterzugeben.

Jadoun bietet auch Anrufe an, in denen der Kandidat nach dem Namen des Wählers, seinem Alter, der Anzahl seiner Kinder, seinem Familienstand und seinen wichtigsten Anliegen fragt. Mit diesen Informationen transkribiert das Unternehmen mithilfe von KI die Hunderttausenden von Nachrichten und erstellt eine Datenbank, die dann verwendet wird, um den Ton und die Themen der Kampagne anzupassen und die Botschaft für bestimmte Wählergruppen zu segmentieren.

Anrufe mit geklonten Stimmen von Kandidaten werfen ethische Fragen auf. Selbst wenn es sich nicht um Desinformation handelt, könnte der Wähler oder Mitarbeiter denken, dass er tatsächlich mit dem Kandidaten oder Politiker spricht, da es am Ende des Anrufs keine Warnung gibt, dass es sich um einen „KI-generierten Agenten“ handelt.

In den Vereinigten Staaten haben die Wahlbehörden diese Praxis untersagt. In Indien gibt es kein spezielles Verbot oder eine Vorschrift, die Warnungen vor dem Einsatz von KI vorschreibt.

„Auch wenn die Botschaften die Zustimmung des Politikers haben, besteht immer noch die Möglichkeit der Unredlichkeit, denn damit das funktioniert, muss der Wähler glauben, dass die Botschaft wirklich personalisiert ist“, sagt Prateek Waghre, Geschäftsführer der Internet Freedom Foundation.

Für die Erstellung des personalisierten Videos berechnet Jadoun umgerechnet 25.000 R$. Danach kostet es 12 Rupien (0,75 R$) für jede Version, die über WhatsApp verschickt wird. Das ist von dem Unternehmen nicht erlaubt, aber in Indien ist es nicht illegal – in Brasilien verbietet eine Resolution des Obersten Wahlgerichts diese Praxis. Die indischen Vorschriften verlangen von den Plattformen, Deepfake-Inhalte innerhalb von 24 Stunden nach einer Beschwerde zu entfernen.

Alle digitalen Vermarkter, die von Folha sagen, dass sie keine Anfragen für Deepfakes annehmen, um Kandidaten anzugreifen. Dennoch kursieren unzählige Videos und Audios dieser Art im Internet. In den meisten Fällen handelt es sich um so genannte Cheapfakes: grobe Produktionen, die mit einfacher Technik verändert wurden und eher für Memes als zur Irreführung der Wähler verwendet werden.

Satirische Cheapfakes, bei denen die sehr geringe Qualität Teil des Spaßes ist, haben sich viral verbreitet und wurden von den Kandidaten angenommen. Narendra Modi selbst teilte auf X einen Cheapfake, auf dem er tanzend erscheint.

Eine weitere beliebte Funktion ist die digitale Wiederauferstehung von Politikern. Senthil Nayagam, Direktor der Muonium Studios, ließ M. Karunanidhi, den ehemaligen Gouverneur von Tamil Nadu, wieder auferstehen. Der 2018 verstorbene Politiker ist mit Hilfe von KI wieder aufgetaucht, um einen Abgeordneten, TR Baalu, zu unterstützen, der im Januar dieses Jahres ein Buch herausbrachte – und die Gelegenheit nutzte, um für seinen Sohn, einen Gouverneurskandidaten, zu werben.

Mehrere Kinder berühmter indischer Politiker haben ihre verstorbenen Eltern in diesem Jahr in ihren Kampagnen eingesetzt. „Es ist sehr nützlich, wenn der Sohn eines charismatischen Politikers für ein Amt kandidiert. Da er selten die gleichen rednerischen Fähigkeiten hat, ist es besser, den Vater in Videos für den Wahlkampf wieder auferstehen zu lassen“, sagt Nayagam.

Im Jahr 2019 gaben die Parteien rund 6 Milliarden indische Rupien (420 Millionen R$) für digitale Wahlwerbung aus, zu der WhatsApp, SMS, Websites und Anrufe gehören. Dies ist eine Schätzung von Diggaj Mogra, Direktor von Jarvis Technology, die auf einer Umfrage bei Unternehmen in diesem Segment, Beratungsfirmen und Kampagnen basiert. Einer der Schöpfer des überwältigenden Wahlsiegs von Modi im Jahr 2014, schätzt er, dass die Ausgaben in diesem Jahr in der gleichen Größenordnung bleiben werden. Ihm zufolge werden dieses Mal 20 Prozent der Gesamtsumme in die KI fließen.

„Hinter den Kulissen, bei der Analyse von Wählerdaten, macht KI wirklich einen Unterschied“, sagt Mogra, der immer noch für die BJP arbeitet. Er sagt, dass alle Parteien Daten über ihre Wähler sammeln, indem sie Umfrage-Apps für ihre Mitarbeiter verwenden, die von Tür zu Tür gehen. Sie haben dann das Mikrofon ihres Mobiltelefons eingeschaltet und nutzen dann KI, um die Informationen zu transkribieren, in Daten umzuwandeln und zu analysieren. Die Regierungsparteien erhalten unterdessen Informationen über die Empfänger von Sozialprogrammen.

Darüber hinaus ist der Parallelmarkt für den Verkauf von Daten in Indien riesig. Erst letztes Jahr hat das Land ein Datenschutzgesetz verabschiedet, das noch nicht umgesetzt wurde. Laut Mogra gibt es einen riesigen Untergrundmarkt für Daten, die aus Mobiltelefonrechnungen (einschließlich Einkommensniveau), Einkäufen im Einzelhandel, Wahlregistrierungen (Kaste und Religion können abgeleitet werden) und sogar aus verteilten Gasflaschen gewonnen werden.

Zu allem Überfluss gibt es eine Software, die Daten von Nutzern sozialer Netzwerke abgreift und die von ihnen besuchten Websites verfolgt, was es ermöglicht, noch detailliertere Wählerprofile zu erstellen. All dies wird genutzt, um für jedes Wählerprofil passende Botschaften zu erstellen – und um den Ton der Kampagne an die in bestimmten Regionen am meisten diskutierten Themen anzupassen.

Mogra hat Saral entwickelt, eine Anwendung, die einen Teil von Modis 30 Millionen Parteimitarbeitern und Aktivisten einbindet und Daten von ihnen und von Wählern sammelt. Er geht davon aus, dass KI entscheidend dazu beitragen wird, die Kosten von Wahlkampagnen zu senken. „In der Zukunft werden wir keine Callcenter mehr brauchen, das wird alles über KI laufen“, sagt er.

Aber es ist noch nicht klar, ob die Tools, die diese Technologie nutzen, wirklich effizient sind.

„Es gibt noch nicht genügend Studien, um bei dem Grad der Polarisierung, den wir derzeit erleben, zu wissen, ob KI helfen kann, das Wählerverhalten zu ändern“, sagt Waghre von der Internet Freedom Foundation.