USA ako svetový líder v oblasti AI v tom zohrávajú mimoriadne dôležitú úlohu. Nedávno ohlásený akčný plán Donalda Trumpa v oblasti AI však zmaril nádeje na posilnenie federálneho dohľadu a namiesto toho prijal prorastový prístup. O to naliehavejšie je, aby sa vlády štátov, investori a verejnosť zamerali na menej diskutovaný nástroj zodpovednosti: správu a riadenie spoločností.
Ako dokumentuje novinárka Karen Hao vo svojej knihe Empire of AI (Ríša umelej inteligencie), popredné firmy v tomto odvetví vykorisťujú pracovníkov a zhoršujú klimatické zmeny. Iróniou je, že mnohé z nich sú verejnoprospešné korporácie (PBC), čo je riadiaca štruktúra, údajne navrhnutá tak, aby sa zneužívaniu vyhýbala a chránila ľudí. Je však zrejmé, že tak nefunguje.
Vytváranie imidžu spoločností s AI ako spoločností s verejnoprospešným vplyvom (PBC) je veľmi úspešnou formou vymývania etiky. Tým, že regulačným orgánom a verejnosti signalizujú svoju cnosť, vytvárajú pozlátku zodpovednosti, ktorá im umožňuje vyhnúť sa systémovejšiemu dohľadu nad ich každodennými neprehľadnými a potenciálne škodlivými praktikami.
Napríklad spoločnosť xAI Elona Muska je PBC, ktorej deklarovaným poslaním je „pochopiť vesmír". Ale jej aktivity – od znečisťujúceho utajovaného vývoja superpočítačov pri prevažne černošskej štvrti v Memphise v štáte Tennessee až po vytvorenie chatbota, ktorý chváli Hitlera – svedčia o znepokojujúcej ľahostajnosti voči transparentnosti, etickému dohľadu a dotknutým komunitám.
PBC sú sľubným nástrojom, ktorý umožňuje spoločnostiam pracovať v prospech verejného blaha a zároveň sledovať zisk. V súčasnej podobe je však tento model – najmä podľa práva štátu Delaware, v ktorom sídli väčšina severoamerických verejných spoločností – plný medzier.
Preto nemôže poskytnúť ochranné zábrany pre vývoj AI. Aby sa predišlo nezdravým výsledkom, aby sa zlepšil dohľad a zabezpečilo sa, že firmy začlenia verejný záujem do svojich zásad fungovania, musia štátni zákonodarcovia, investori a verejnosť požadovať, aby sa PBC prehodnotili a posilnili.
Spoločnosti nemožno hodnotiť ani brať na zodpovednosť bez konkrétnych, časovo ohraničených a kvantifikovateľných cieľov. Zoberme si, ako sa PBC v sektore AI spoliehajú na rozsiahle, nedefinované vyhlásenia o prínosoch, ktorými sa údajne riadi ich činnosť. Spoločnosť OpenAI vyhlasuje, že jej cieľom je „zabezpečiť, aby všeobecná umelá inteligencia (AGI) prinášala prospech všetkému ľudstvu", zatiaľ čo cieľom spoločnosti Anthropic je „maximalizovať pozitívne výsledky pre ľudstvo v dlhodobom horizonte".
Tieto vznešené ambície majú inšpirovať, ale ich vágnosť sa dá využiť na ospravedlnenie takmer akéhokoľvek konania – vrátane takého, ktoré ohrozuje verejné blaho.
Trumpov akčný plán pre AI potvrdil neochotu jeho administratívy regulovať tento rýchlo sa rozvíjajúci sektor.
Zákony štátu Delaware však od firiem nevyžadujú vykonávať verejný prospech merateľnými normami alebo nezávislými hodnoteniami. A hoci sa vyžaduje podávanie dvojročných správ o plnení prospešnosti, zistenia sa nemusia zverejňovať. Spoločnosti môžu plniť – alebo zanedbávať – svoje povinnosti za zatvorenými dverami, pričom širšia verejnosť sa o tom nedozvie.
Akcionári môžu teoreticky podať žalobu, ak sa domnievajú, že správna rada nedodržala verejnoprospešné poslanie spoločnosti. Je to však prázdny prostriedok nápravy: škody spôsobené AI sú zvyčajne rozptýlené, dlhodobé a mimo akcionárov. Postihnuté zainteresované strany, teda marginalizované komunity a nedostatočne platení dodávatelia, nemajú žiadne praktické možnosti odvolať sa.
Aby model PBC zohrával zmysluplnú úlohu, musí fungovať viac než len ako štít na ochranu dobrej povesti. Teda zmeniť spôsob, akým sa definuje, riadi, meria a chráni „verejný prospech". Vzhľadom na nedostatočný federálny dohľad sa reforma tejto štruktúry musí uskutočniť na štátnej úrovni.
PBC by mali byť nútené zaviazať sa k plneniu konkrétnych, merateľných a časovo ohraničených cieľov, ktoré by boli zapísané v ich riadiacich dokumentoch, podporené internými politikami a viazané na hodnotenie výkonnosti, odmeny a kariérny postup.
V prípade firmy zaoberajúcej sa AI by tieto ciele mohli zahŕňať zaistenie bezpečnosti modelov základov, zníženie zaujatosti vo výstupoch modelov, minimalizáciu uhlíkovej stopy cyklov školenia a nasadenia, zavedenie spravodlivých pracovných postupov a školenie inžinierov a produktových manažérov v oblasti ľudských práv, etiky a participatívneho dizajnu. Jasne definované ciele a nie vágne ašpirácie pomôžu firmám vytvoriť základ pre dôveryhodné vnútorné zladenie a externú zodpovednosť.
Je potrebné nanovo si predstaviť aj riadiace rady a proces dohľadu. Rady by mali zahŕňať riaditeľov s overiteľnými odbornými znalosťami v oblasti etiky, bezpečnosti, sociálneho vplyvu a udržateľnosti AI. Každá firma by mala mať hlavného etického úradníka s jasným mandátom, nezávislými právomocami a priamym prístupom k predstavenstvu. Títo úradníci by mali dohliadať na procesy etického posudzovania a mali by mať právomoc v prípade potreby zastaviť alebo zmeniť plány produktov.
A napokon od spoločností zaoberajúcich sa umelou inteligenciou, ktoré sú štruktúrované ako PBC, by sa malo vyžadovať, aby zverejňovali podrobné výročné správy, ktoré by obsahovali podrobne členené údaje týkajúce sa bezpečnosti a ochrany, zaujatosti a spravodlivosti, sociálneho a environmentálneho vplyvu a správy údajov. Nezávislé audity – vykonávané odborníkmi na AI, etiku, environmentálne vedy a pracovné práva – by mali posúdiť platnosť týchto údajov, ako aj postupy riadenia firmy a celkový súlad s verejnoprospešnými cieľmi.
Trumpov akčný plán pre AI potvrdil neochotu jeho administratívy regulovať tento rýchlo sa rozvíjajúci sektor. Ale aj v prípade absencie federálneho dohľadu môžu štátni zákonodarcovia, investori a verejnosť posilniť správu a riadenie podnikov v oblasti AI presadzovaním reforiem modelu PBC. Zdá sa, že čoraz viac technologických lídrov verí, že etika je nepovinná. Američania im musia dokázať, že sa mýlia, inak dovolia, aby dezinformácie, nerovnosť, zneužívanie práce a nekontrolovaná moc spoločností formovali budúcnosť AI.
© Project Syndicate 1995–2025
www.project-syndicate.org
