Fio bankaFio banka

Ako čeliť digitálnemu feudalizmu

Summit pre umelú inteligenciu (AI) v Paríži prišiel v kritickom bode jej vývoja. Nejde o to, či Európa môže s Čínou a USA súťažiť v pretekoch v oblasti AI; ide o to, či Európania môžu byť priekopníkmi iného prístupu, ktorý kladie verejnú hodnotu do centra technologického rozvoja a riadenia. Úlohou je odkloniť sa od digitálneho feudalizmu, čo je termín, ktorý som v roku 2019 zaviedla na opis dominantného modelu extrakcie renty na digitálnych platformách.

25.02.2025 00:00
debata

AI nie je len ďalší sektor. Je to univerzálna technológia, ktorá bude formovať všetky odvetvia hospodárstva. To znamená, že môže vytvoriť obrovskú hodnotu alebo, naopak, spôsobiť vážne škody. Hoci mnohí komentátori hovoria o AI ako o neutrálnej technológii, zakrýva to jej základnú ekonomickú silu. Aj keby sa dala AI zostaviť slobodnou voľbou, musí byť niečím poháňaná a rozmiestnená, čo si vyžaduje prístup k platformám správcov cloud computingu – ako sú Amazon Web Services, Microsoft Azure a Google Cloud.

Táto závislosť spôsobuje, že vývoj technológie v ústrety spoločnému dobru je naliehavejšie ako kedykoľvek. Skutočnou otázkou nie je, či AI regulovať, ale ako formovať trhy pre jej inovácie. Namiesto regulácie alebo až dodatočného zdaňovania sektora musíme vytvoriť decentralizovaný inovačný ekosystém, ktorý slúži verejnému blahu.

História technologických inovácií ukazuje, čo všetko je v hre. Ako som tvrdila v mojej knihe Podnikateľský štát (The Entrepreneurial State), mnohé každodenne využívané technológie vznikli ako výsledok kolektívneho verejného investovania. Čím by bol Google bez internetu financovaného z DARPA? Čím by bol Uber bez GPS financovaného námorníctvom USA? Čím by bol Apple bez technológie dotykovej obrazovky financovanej CIA a Siri financovanej DARPA?

Spoločnosti, ktoré profitovali z verejných investícií ( a často sa vyhýbali daniam), teraz využívajú renty na odčerpávanie talentov z tých verejných inštitúcií, ktoré umožnili ich úspech.

Spoločnosti, ktoré profitovali z týchto verejných investícií – pričom sa často vyhýbali daniam – teraz využívajú excesívne renty na odčerpávanie talentov z tých verejných inštitúcií, ktoré umožnili ich úspech. Tento parazitizmus najlepšie vystihuje „Department of Government Efficiency“ (DOGE) Elona Muska: presadzuje zníženie vládnych programov financovania, ktoré spoločnosti Tesla umožnili získať 4,9 miliardy dolárov z vládnych dotácií.

Nedostatok štátnych kapacít bude čoraz častejšie sťažovať reguláciu nových technológií vo verejnom záujme. Štátom už teraz chýbajú odborné znalosti v dôsledku vyšších miezd v súkromnom sektore a desaťročí outsourcingu súkromným konzultantom (to, čo s Rosie Collingtonovou nazývame The Big Con). Čo sa stane, keď sa väčšina technických znalostí sústredí len v piatich súkromných spoločnostiach? Namiesto čakania na to, kým to zistíme, musíme zakročiť teraz a regulovať AI dynamicky, pretože množstvo technológií AI a rôzne mechanizmy speňažovania sa stále vyvíjajú.

V nedávnom výskumnom projekte v UCL Institute for Innovation and Public Purpose sme sa s kolegami opäť zamerali na digitálny feudalizmus a potrebu rozlišovať medzi tvorbou hodnoty a extrakciou hodnoty v AI – čo nazývame „algoritmické renty“. Ukazujeme, že platformy ako Facebook a Google sa vyvinuli spôsobmi, ktoré sa zameriavajú na „nájmy za pozornosť“. Keďže používateľská skúsenosť je manipulovaná s cieľom maximalizovať zisk, ich informačné kanály sú preplnené reklamami a „odporúčaným“ návykovým obsahom v procese, ktorý kanadský novinár Cory Doctorow farbisto nazval ako „enshittification“ (zhovaďovanie, zavaľovanie odpadom a pod.). Nekonečné scrollovanie, upozornenia a algoritmy navrhnuté tak, aby maximalizovali „zapojenie“ zobrazovaním škodlivého obsahu a hranične nelegálnych aktivít, sa stali normou.

Medzinárodná energetická agentúra varovala, že globálna „spotreba elektriny z dátových centier, AI a sektora kryptomien by sa mohla do roku 2026 zdvojnásobiť“

Systémy AI môžu smerovať rovnakou extraktívnou cestou a prehlbovať tento model správania napríklad vyžadovaním platby za prístup k základným informáciám, súkromiu údajov, on-line bezpečnosti, oslobodeniu od reklamy alebo základných zoznamov pre malú firmu pri celosvetovom vyhľadávaní informácií. Pretože platformy v súčasnosti skrývajú svoje algoritmy a mechanizmy zameriavania pozornosti (zdroje „algoritmických výnosov z pozornosti“), kľúčom k regulácii sektora je rovnako ako pri riešení klimatických zmien prinútiť digitálnych strážcov zverejňovať, ako sa ich algoritmy používajú. Informácie by sa potom začlenili do štandardov podávania správ pre všetky digitálne platformy.

Aj vývojári AI ako OpenAI a Anthropic (okrem iných) skrývajú zdroje svojich trénovacích dát, aké ochranné prostriedky umiestnili na svoje modely, ako presadzujú zmluvné podmienky, následné škody produktov (ako napr. návykové užívanie a prístup neplnoletých), rozsah, v akom sa ich platformy využívajú na speňaženie sledovanosti po celom svete prostredníctvom cielenej reklamy. Rastúci vplyv AI na životné prostredie len pridáva k naliehavosti výzvy. Emisie veľkých spoločností AI vzrástli. Medzinárodná energetická agentúra varovala, že globálna „spotreba elektriny z dátových centier, AI a sektora kryptomien by sa mohla do roku 2026 zdvojnásobiť“.

Našťastie, nedávny vývoj naznačuje, že alternatívne cesty sú možné. DeepSeek, čínska spoločnosť zameraná na AI, ktorá koncom januára spôsobila americkým technologickým akciám krízu, preukázala, že porovnateľný výkon možno dosiahnuť s výrazne nižším výpočtovým výkonom a spotrebou energie. Pomôžu efektívnejšie prístupy k vývoju AI prelomiť zovretie veľkých spoločností v oblasti cloud computingu, spôsobené kontrolou nad obrovskými výpočtovými zdrojmi?

Hoci je priskoro tvrdiť, či prielom DeepSeek povedie k reštrukturalizácii trhu, pripomína nám, že inovácia na softvérovej úrovni musí zohľadňovať riešenie vplyvu AI na životné prostredie. Ako sme tvrdili spolu s Gabrielou Ramosovou z UNESCO, AI môže zlepšiť naše životy mnohými spôsobmi. Od zlepšenia výroby potravín až po posilnenie odolnosti proti prírodným katastrofám. Európski lídri od Maria Draghiho až po Ursulu von der Leyenovú a Christine Lagardeovú považujú AI za kľúčovú pre oživenie európskej produktivity.

Ak sa však nezaoberajú povahou digitálneho feudalizmu, extraktivistikcým správaním, ktoré je základom vývoja modelov AI, a súčasným nedostatkom regulačných kapacít vo verejnom sektore, akýkoľvek pokus o väčší a zároveň udržateľnejší rast narazí na úskalia nových a hlbších nerovností. Jednou z potenciálnych ciest vpred je „EuroStack“, nezávislá iniciatíva v oblasti digitálnej infraštruktúry, ktorá zahŕňa cloud computing, pokročilé čipy, AI a dáta, pričom všetky sú riadené ako verejné statky, a nie monopolnými podnikmi.

Nejde o voľbu medzi inováciou a reguláciou ani o riadenie technologického rozvoja zhora nadol. Ide o vytváranie stimulov a podmienok na nasmerovanie trhov k dosahovaniu výsledkov, ktoré ako spoločnosť chceme. Musíme sa dožadovať takej AI, ktorá by poskytovala verejnú hodnotu a nestala sa len ďalším nástrojom extrakcie renty. Parížsky summit ponúkol príležitosť predviesť alternatívnu víziu.

© Project Syndicate 1995–2025
www.project-syndicate.org

Facebook X.com debata chyba Newsletter
Viac na túto tému: #umelá inteligencia #AI #Project Syndicate #umelá inteligencia AI