V priebehu niekoľkých dní ľudia hlásili bizarné, nepresné a vyslovene nebezpečné odpovede z novej funkcie AI Overviews. Model navrhoval použiť lepidlo, aby sa syr prilepil na pizzu, propagoval kardiovaskulárne výhody behu s nožnicami alebo tvrdil, že Barack Obama je moslim. Google sa ponáhľal opraviť tieto chyby, ale podľa mnohých sú zámernou súčasťou technológie. Samotný generálny riaditeľ Google Sundar Pichai opísal takéto „halucinácie“ ako „nevyriešený problém“ a „neoddeliteľnú vlastnosť“ technológie. Zdá sa, že Google ticho priznáva zlyhanie a že zmenšil podiel používateľov, ktorým sa zobrazujú prehľady.
Drzosť bez hraníc
Google bol široko a oprávnene kritizovaný za spustenie technológie očividne škodlivej a nevhodnej na použitie. Málokto sa však zamyslel nad tým, prečo si technologický gigant vôbec dovolil takéto drzé správanie. Odpoveď je jednoduchá: slovami predsedníčky Federálnej obchodnej komisie Liny Khan je „firma priveľká na to, aby ju to zaujímalo“. Google ovláda približne 90 % svetového trhu vyhľadávania na webe a čelí malému konkurenčnému tlaku. Môže uvoľniť nespoľahlivý alebo nebezpečný produkt bez obáv zo straty zákazníkov v prospech konkurentov.
Trhová sila spoločnosti Google zároveň nemotivuje udržiavať kvalitu. Vyhľadávač sa za posledných pár rokov rapídne zhoršuje, pričom výsledky čoraz väčšmi vytláčajú reklamy a spamový obsah. Cory Doctorow vymyslel termín „šitifikácia“, ktorým opisuje prax technologických spoločností poskytujúcich spotrebiteľom užitočné a cenovo dostupné (alebo bezplatné) služby – a potom zvýšia ceny a znížia kvalitu, keď sa dostanú na trh.
Príkladov je veľa: Amazon predajcom postupne zvyšoval poplatky, zatiaľ čo kupujúcich zaplavoval viac sponzorovanými výsledkami; Instagram a Facebook vlastnené spoločnosťou Meta stále viac tlačia na reklamy, videá a iné návnady na kliknutie, namiesto dôveryhodných správ a aktualizácií od priateľov a rodiny.
Rovnaká logika platí pre „inovácie“, ako sú AI prehľady spoločnosti Google. Tieto zámerné a niekedy drastické zmeny produktov sa predávajú pod progresívne znejúcou vlajkou „inovácie“, ale často výrazne zhoršujú používateľskú skúsenosť.
Rovnaká logika platí pre „inovácie“, ako sú AI prehľady spoločnosti Google. Tieto zámerné a niekedy drastické zmeny produktov sa predávajú pod progresívne znejúcou vlajkou „inovácie“, ale často výrazne zhoršujú používateľskú skúsenosť. Aby sme nadviazali na Doctorowov názor, dalo by sa to dokonca nazvať „šitovácia“.
Zámerne škodlivý obsah
Google nie je ani zďaleka jediným monopolistom, ktorý vydal polovičatý produkt AI. Spoločnosť Meta vnútila svojich nových agentov AI miliónom používateľov Instagramu a Facebooku, hoci si vymýšľajú fakty a vydávajú sa za ľudí. Vo februári začal ChatGPT od OpenAI chrliť nezmysly, vrátane rôznych jazykov, ktoré sa miešali dohromady. A vlastní inžinieri Microsoftu kritizovali spoločnosť za to, že vydala generátor obrázkov založený na technológii OpenAI, ktorý vytvára násilný, sexualizovaný a politicky zaujatý obsah. Každá firma zaviedla cielené opravy, ale prístup typu plátania dier je neadekvátny voči očividne zásadne nespoľahlivej technológii.
Kým unáhlené zavádzanie generatívnej AI čiastočne poháňa monopolná samoľúbosť, upevňuje aj trhovú silu veľkých technologických spoločností. To im poskytuje obrovské množstvo údajov, výpočtového výkonu, odborných znalostí a kapitálu, ktoré im umožnilo vyvinúť veľké jazykové modely. Google a Meta používajú generatívnu AI na posilnenie svojho duopolu digitálnej reklamy, zatiaľ čo dopyt po výpočtovom výkone poháňaný umelou inteligenciou upevňuje tlak Microsoftu a Amazonu na vývoj modelu cloud computing. Nástroje AI podporujú sledovacie a manipulačné nástroje náročné na dáta. To, či používatelia budú mať z tejto technológie úžitok, je podružné.
Rivalita medzi technologickými spoločnosťami, najmä boj o generatívnu AI, sa niekedy interpretuje ako dôkaz konkurenčných síl. Argument však nerozlišuje medzi konkurenciou „pre trh“ a konkurenciou „na trhu“. Možno sa zdá, že technickí giganti si navzájom konkurujú, no takmer vždy je to fatamorgána. V skutočnosti firmy vedome prehlbujú priekopu okolo vlastnej sféry vplyvu, čoho výsledkom je napäté, ale do značnej miery statické spolužitie. A v týchto zriedkavých prípadoch priamej konkurencie, ako napríklad medzi Microsoftom a Google vo vyhľadávaní na webe, zostáva podiel na trhu nezmenený.
Čo je znepokojujúcejšie, dnešný ekosystém AI je plný tajne dohodnutého správania: technologickí giganti vytvárajú partnerstvá podobné lukratívnym dohodám, ktoré spoločnosť Google uzavrela, aby si udržala dominanciu vo vyhľadávaní. Patrí medzi ne dohoda Microsoftu o cloud computing s Meta, nedávno oznámené partnerstvo medzi Apple a OpenAI, a plány spoločnosti Google začleniť svoje technológie AI do telefónov Samsung, z ktorých viaceré už čelia kontrole zo strany protimonopolných úradov.
Kozmetické zmeny nestačia
Technologickí giganti súťažia najmä v získavaní súhlasu investorov a vyhýbaniu sa dojmu, že zaostávajú v pretekoch v zbrojení v oblasti AI. Ale toxická kombinácia bezohľadného súperenia o rast a potláčania konkurencie podnecuje nebezpečné a nadbytočné nasadenie nevyskúšaných technológií.
Podpora mierne zvýšenej konkurencie medzi technologickými monopolmi v nádeji, že budú nútené zamerať sa viac na bezpečnosť a spoľahlivosť, nebude stačiť. Záväzná regulácia, ako je napríklad zákon EÚ o umelej inteligencii, je nevyhnutný prvý krok k tomu, aby tieto spoločnosti boli brané na zodpovednosť.
Tvorcovia politík musia byť nápaditejší pri používaní nástrojov, ktoré majú k dispozícii, na podporu skutočných alternatív k technologickým gigantom a na zabezpečenie toho, aby používatelia už neslúžili ako nevedomé pokusné králiky. To môže znamenať použitie protimonopolnej politiky alebo investovanie do spoločností, ktoré by mohli napadnúť dnešné monopoly v oblasti cloud computing a výroby čipov.
Najdôležitejšie je uznať, že je čas prestať považovať inováciu za cieľ sám osebe, bez ohľadu na dosahované účely alebo čie záujmy presadzuje. Namiesto toho musíme oveľa jemnejšie vnímať, ako investori, dominantné firmy a iní mocní aktéri formujú a riadia príbehy o inováciách. Len tak môžeme viesť zmysluplný rozhovor o úlohe AI v našej spoločnosti.
© Project Syndicate 1995–2024
www.project-syndicate.org
Denník Pravda nadviazal spoluprácu s renomovanou organizáciou Project Syndicate, ktorá pôsobí vo viac než 150 štátoch sveta. PS publikuje analýzy, názory a komentáre svetoznámych akademikov, ekonómov, filozofov, politológov, štátnikov, vedcov, manažérov či laureátov Nobelovej ceny, čím vytvára unikátnu a vysoko rešpektovanú medzinárodnú sieť. Od júla si časť z nich budete môcť prečítať jeden- až dvakrát týždenne aj na stránkach Pravdy. Aj touto formou prispievame k skvalitneniu obsahu nášho denníka.