Indonezyjczycy wprowadzeni w błąd przez obiecujące wideo prezydenta w języku arabskim stworzone przez sztuczną inteligencję

Film, który wyświetlono w mediach społecznościowych ponad milion razy, przedstawia indonezyjskiego kandydata na prezydenta Anisa Baswedana mówiącego po arabsku podczas wydarzenia publicznego. Jednak te sceny są generowane przez sztuczną inteligencję. Film jest adaptacją prawdziwej historii Anisa mówiącego po indonezyjsku na wiecu politycznym w lipcu 2023 r. Anis zna trochę arabski, ale nie mówi płynnie – powiedział AFP jego zespół.

„Czego brakuje? Angielskiego, ok. Arabski, OK. Czas mieć inteligentnego i przyzwoitego lidera” – napisano po indonezyjsku. WideoOpublikowano 6 listopada 2023 r. w TikTok.

18-sekundowy klip, który pokazuje Anees na scenie, która pewnie i płynnie mówi do publiczności po arabsku, zgromadził ponad 1,2 miliona wyświetleń.

W klipie Anis nakreśla główne cele Partii Nasdem z tyłu Jego oferta prezydencka (Zarchiwizowany link)

Post na TikToku jest podpisany „AMIN dla Indonezji” i zawiera akronim Anies-Muhaimin w odniesieniu do Muhaimina Iskandara, kandydata Aniesa na kandydata w wyborach prezydenckich w 2024 roku.

Zrzut ekranu błędnego postu z 7 listopada 2023 r

Anyż Jest byłym gubernatorem stolicy Indonezji, Dżakarty w latach 2017–2022 (Zarchiwizowany link) znany jako Jokowi był także ministrem edukacji w latach 2014–2016 za prezydentury Joko Widodo.

Przodkowie Anisa wyemigrował Z Jemenu i jego dziadka ze strony ojca, Abdurrahmana BasvedanaBył bohaterem wolności, który założył Indonezyjską Ligę Arabską podczas holenderskiej epoki kolonialnej (linki archiwalne Tutaj I Tutaj)

Klip został obejrzany 3600 razy po udostępnieniu go w innym miejscu na TikToku Tutaj, Tutaj I TutajJak również na Facebooku Tutaj I Tutaj. Pojawiło się tamtego dnia XDawniej znany jako Twitter.

Z komentarzy użytkowników mediów społecznościowych wynika, że ​​wielu uważa, że ​​Anis mówiła podczas wydarzenia po arabsku.

„Pan Anies jest naprawdę mądry” – napisał jeden z użytkowników TikTok.

„Bardzo sprytnie” – stwierdził inny.

Jednak Anis faktycznie przemawiał na wiecu po indonezyjsku. Analiza AFP wykazała, że ​​jej głosem i ruchem warg manipulowano przy użyciu programu AI.

„Indonezyjski na arabski”

Oryginalny film został znaleziony podczas wyszukiwania wstecznego obrazu w Google Opublikowany 16 lipca 2023 r. na kanale YouTube indonezyjskiej gazety Harian Kompas (Zarchiwizowany link)

Wcześniej tego dnia Anis wygłosił przemówienie do zwolenników indonezyjskiej partii Nastem na głównym stadionie Kelora Bung Karno w Dżakarcie.

Przemówienie arabskie jest tłumaczeniem tego, co Anis powiedział w języku indonezyjskim.

Trwa jego walka o fotel prezydenta Wspierany przez partię, która poparła Jokowiego w wyborach w 2019 r. (Link archiwalny)

Poniżej znajduje się zrzut ekranu porównujący wideo wygenerowane przez sztuczną inteligencję (po lewej) z oryginalnym materiałem Hariana Kompasa (po prawej):

Porównanie zrzutów ekranu wideo wygenerowanego przez sztuczną inteligencję (po lewej) i oryginalnego materiału Hariana Kompasa (po prawej)

O wydarzeniu pisały także inne media Tutaj, Tutaj I Tutaj (Linki archiwalne Tutaj, Tutaj I Tutaj)

Film wygenerowany przez sztuczną inteligencję został po raz pierwszy odkryty podczas wyszukiwania słów kluczowych w TikTok Opublikowany 1 listopada 2023 r. użytkownik w pełni ujawnił, w jaki sposób korzysta z technologii (Link archiwalny)

Zrzut ekranu pierwotnie opublikowanego filmu wygenerowanego przez sztuczną inteligencję, wykonany 7 listopada (Satya Adi)

„Czy można przetłumaczyć film z indonezyjskiego na arabski? Nawet ruchy warg są przetłumaczone” – czytamy w poście po indonezyjsku.

W prawym dolnym rogu filmu znajduje się znak wodny „Hej, generale„(Link archiwalny) HeyGen to amerykańska firma technologiczna dostarczająca oprogramowanie do tworzenia awatarów i głosów generowanych przez sztuczną inteligencję. Firma z siedzibą w Los Angeles twierdzi, że obsługuje głównych klientów, w tym Amazon i KPMG.

Wydaje się, że niektóre zniekształcenia kształtu przedniego mikrofonu Anise są spowodowane manipulacją ruchami jej ust przez sztuczną inteligencję.

Rzecznik Anies powiedział AFP, że kandydat na prezydenta rozumie trochę arabski, ale nie włada biegle tym językiem.

Mówi po indonezyjsku, jawajsku i angielsku – stwierdził jego zespół 9 listopada 2023 r. – i rozumie część języka sundajskiego używanego w zachodniej części głównej wyspy Indonezji, Jawy.

AFP usunęła inne generowane przez sztuczną inteligencję dezinformacje dotyczące wyborów prezydenckich w Indonezji w 2024 r.