Virální TikToker známý jako „Bush Legend“ vydávající se za domorodého člověka sdílejícího fakta o místní fauně byl odhalen jako zcela vytvořený umělou inteligencí, což vyvolalo debatu o „digitální černé tváři“ a nekontrolovaném používání umělé inteligence k reprezentaci domorodých kultur. Účet, který je aktivní na TikTok, Facebooku a Instagramu, používá obrázky mužů v tradičním oblečení vytvořené pomocí umělé inteligence s hudbou inspirovanou didgeridoo, což mnohé diváky klame, aby věřili, že interagují s autentickým aboriginským obsahem.
Iluze autenticity
Tvůrce účtu v uživatelském popisu jasně uvádí, že obsah je generován AI, ale tento detail příležitostným uživatelům snadno unikne. Mnoho videí obsahuje AI vodoznaky nebo titulky, které potvrzují jejich syntetickou povahu, ale velká část publika si to neuvědomuje. Fiktivní osobnost získala pozitivní recenze, přičemž někteří srovnávali „energii“ AI se Stevem Irwinem. Tato slast je však zaměřena na zcela umělý konstrukt.
Nedostatek odpovědnosti a respektu ke kultuře
Tento fenomén zdůrazňuje rostoucí trend: používání umělé inteligence k napodobování původních obyvatel, znalostí a kultur bez jakékoli odpovědnosti vůči komunitám. I když samotný účet nezpůsobuje přímou újmu, přispívá k prostředí, kde se vedle něj daří rasistickým komentářům, přičemž někteří uživatelé chválí AI osobu a znevažují skutečné domorodé obyvatele. Tvůrce sídlící na Novém Zélandu nemá žádné zjevné spojení s domorodými obyvateli nebo obyvateli ostrova Torres Strait, jejichž snímky jsou využívány.
Odmítavá odpověď tvůrce – „Jestli se ti to nelíbí, kamaráde, jdi dál“ – neřeší základní etické problémy. Trvání na použití obrázku kódovaného jako domorodý pro generické příběhy o zvířatech vyvolává otázky o záměru a posiluje problém predátorského přivlastňování.
Kulturní a duševní vlastnictví domorodých obyvatel v ohrožení
Generativní umělá inteligence představuje novou hrozbu pro práva domorodého kulturního a duševního vlastnictví (ICPR), která přesahuje oblast vzdělávání a správy do neregulovaných digitálních prostorů. Nedostatečná účast domorodců na vytváření AI a environmentální náklady infrastruktury AI tyto problémy ještě zhoršují. Národní program umělé inteligence nabízí jen málo ve smyslu smysluplné regulace, takže domorodé sebeurčení zůstává zranitelné.
Vzestup umělé inteligence “Blackface”
Snadnost, s jakou nyní umělá inteligence dokáže vytvářet domorodé osobnosti, přispívá k nové formě „černé tváře AI“ – mělkým, stereotypním reprezentacím postrádajícím kulturní hloubku. Tyto postavy generované umělou inteligencí často nosí kulturní šperky nebo napodobují okrovou barvu a přivlastňují si posvátné praktiky bez porozumění nebo respektu. Tento algoritmický kolonialismus udržuje digitální násilí proti domorodým národům tím, že umožňuje nepůvodním jednotlivcům finančně profitovat z ukradených znalostí.
Co lze udělat?
Zvyšování AI a mediální gramotnosti je zásadní pro rozlišení mezi skutečným a falešným online. Podpora autentických domorodých tvůrců obsahu jako @Indigigrow, @littleredwrites nebo @meissa je zásadní. Než začnete pracovat s online obsahem, zeptejte se sami sebe: Vytváří se tato umělá inteligence? Měla by moje podpora jít sem?
Nekontrolované používání umělé inteligence k napodobování domorodých kultur představuje nebezpečnou eskalaci digitálního přivlastňování, podkopává sebeurčení a posiluje škodlivé stereotypy. Kritická angažovanost a podpora skutečných domorodých hlasů jsou zásadní pro boj proti tomuto trendu.
