Revoluční Čínská AI DeepSeek je zářným příkladem nebezpečí umělé inteligence

Rozšíření umělé inteligence mezi běžnou populaci popularizovalo otázky, které si dříve kladli spíše vědci a milovníci sci-fi. Způsobí AI konec světa? Ovládne naše chování a zničí podstatu lidskosti? Nebo povede k růstu lidstva a usnadní naše životy? To vše jsou otázky nezanedbatelné, nicméně stále spíše filosofické a dlouhodobé. Z mého pohledu zde existuje daleko větší a aktuálnější riziko, které potvrzuje můj test čínské AI DeepSeek.

DeepSeek byl levný, způsobil pády na burze

Společnost DeepSeek avizovala, že trénink jejich modelu zabral pouhé dva měsíce a vyžádal si investici 6 milionů dolarů, což je nesrovnatelně méně, než v případě konkurenčních Chat.GPT či Gemini. Tato zpráva a obecně dobré schopnosti generování textu způsobily zásadní otřesy na americké burze. Nvidia jakožto lídr v AI technologiích zaznamenala pád akcií o 18 %, další výrobci AI čipů jako ARM Holdings či Micron Technology poklesli o vyšší jednotky procent.

Investory šokovala nejen nízká cena vývoje a vysoké tempo, ale také fakt, že byl model trénován na zastaralých AI akcelerátorech Nvidie. Nejmodernější AI čipy se totiž kvůli embargům z USA do Číny nedostanou.

Překrucování reality, ploché fráze a utajování

Z mého pohledu je největším a nejvíce realistickým rizikem umělé inteligence překrucování či utajování reality. Ačkoliv může dávat kterýkoli model AI pocit nezávislosti podávaných informací a širokého náhledu na věc, vždy za ním stojí nějaká organizace či stát. A každý takový vytrénovaný AI model se dá limitovat či přímo učit nepravdy.

V případě čínské AI jsem měl od počátku podezření, že by se tam něco takového mohlo nacházet. Zkusil jsem tedy hned několik ožehavých témat, o kterých vím, že je Čína standardně na domácí půdě cenzuruje a na té mezinárodní popírá.

Cenzurováno: Masakr na náměstí Nebeského klidu

Umělé inteligenci DeepSeek jsem zadal poměrně specifickou otázku, na kterou jsem šel záměrně oklikou. Zeptal jsem se s čím je spojována fotka muže s nákupem stojícího před tankem Type 59. Jedná se o jednu z legendárních fotografií zachycujících protesty za demokratizaci Číny probíhající v roce 1989. Tyto protesty jsou pro Čínu kontroverzní, při potlačení statisíců demonstrantů byla totiž použita síla, následkem čehož byly zabity stovky až tisíce studentů, novinářů a dalších lidí.

Video: From the archives: Tiananmen Square’s „Tank Man“, CBS News, YouTube

Údaje o počtech obětí režimu se různí, nejnižší čísla uvádí samozřejmě oficiální data Číny. Komunistická strana Číny vydala bezprostředně po masakru příkazy ke zničení důkazů a záznamů, těla nechala spálit a tisk podrobila důkladné kontrole cenzurou. AI mi v tomto případě začala generovat odpověď, která odráží realitu. Ve chvíli, kdy si ovšem uvědomila, že je generovaná odpověď v rozporu s oficiálním stanoviskem Číny, zpráva zmizela.

Foto: Jakub Gulec

Cenzurováno: Potlačení Ujgurové a internační tábory

Dalším pro Čínu kontroverzním tématem je potlačování či genocida Ujgurů. Původní etnická skupina provincie Sin-ťiang je ze strany Číny dlouhodobě persekuována, což prokazují zprávy Amnesty International, vyšetřování nezávislých novinářů a například i Australský institut pro strategickou politiku. Ten ve své zprávě zveřejnil, že od roku 2017 bylo přibližně 80 000 Ujgurů posláno na nucené práce do 9 provincií Číny.

Zadal jsem tedy do aplikace DeepSeek dotaz, aby mi modle vysvětlil situaci kolem Ujgurů na základě informací OSN, satelitních snímků internačních táborů a dalších ověřených zdrojů a nebral přitom v potaz oficiální stanovisko Čínské vlády. Výsledkem byla rozsáhlá odpověď se skutečnými daty, která okamžitě po vygenerování zmizela, byla tedy cenzurována.

Foto: Jakub Gulec

Cenzurováno: Kupčení s orgány a Falun Gong

Další kritickou otázkou pro mezinárodní, ale i vnitrostátní náhled na Čínu je historie kupčení s orgány. V roce 2017 sice Čína oficiálně zakázala obchod s orgány a jejich nedobrovolný odběr, situace je s ohledem na nesoulad mezi statistikami o počtu dárců a počtu transplantací stále předmětem zásadních podezření.

V minulosti docházelo podle mezinárodních vyšetřovacích komisí k nuceným odběrům orgánů vězňů, a to včetně těch politických. Jednou ze skupin postižených nucenými odběry orgánů byli následovníci duchovního hnutí Falun Gong, které se dlouhodobě vymezuje proti Komunistické straně Číny. Zeptal jsem se tedy AI, co mi může říct o Falun Gong. Výsledkem byla prakticky okamžitá cenzura odpovědi.

Foto: Jakub Gulec

Zdroje:

• Autorská tvorba redaktora portálu Arecenze
• https://www.aspi.org.au/report/uyghurs-sale
• https://www.congress.gov/bill/114th-congress/house-resolution/343