Pojem „existenčné riziko“ spopularizoval v roku 2002 filozof Nick Bostrom, ktorý ho v eseji definoval ako označenie rizík, že „nepriaznivý výsledok by buď zničil inteligentný život pochádzajúci zo zeme, alebo by trvalo a drasticky obmedzil jeho potenciál“.
Aby sme porozumeli rozdielu medzi existenčnými rizikami a inými katastrofami, zamerajme sa na zmenu klímy. V niektorých scenároch by globálne otepľovanie mohlo spôsobiť, že väčšina zeme bude prihorúca na ďalší ľudský život, ale Antarktída a niektoré z najsevernejších oblastí Európy, Ázie a Severnej Ameriky by sa stali obývateľnými.
To by potenciál inteligentného života na zemi znížilo možno na tisícročia, ale nakoniec by sa planéta ochladila a potomkovia preživších by ju znovu osídlili. Ak sú to skutočne tie najhoršie scenáre, tak potom zmena klímy, akokoľvek katastrofálna, nepredstavuje existenčné riziko.
Vo vyhlásení z Čiernej hory sa uvádza, že existujú vážne riziká pre prežitie ľudstva, pričom väčšinu z nich vytvára človek. Či už úmyselne – ako bioterorizmus, alebo neúmyselne – ako je zmena klímy či riziko takej umelej superinteligencie, ktorá nie je v súlade s našimi hodnotami. Vo vyhlásení sa ďalej uvádza, že vlády nepristupujú k týmto rizikám s vážnosťou a naliehavosťou, akú si zaslúžia.
Existenčné nebezpečenstvo, ktoré je prehliadané
Samozrejme, ak je závažnosť katastrofy priamo úmerná počtu ľudí, ktorých zabije, rozdiel medzi katastrofou, ktorá zabije takmer celú ľudskú populáciu zeme, a katastrofou, ktorá spôsobí jej úplné vyhynutie, nebude taký veľký. Podľa mnohých filozofov, ktorí sa zaujímajú o existenčné riziko, však tento pohľad neberie do úvahy obrovský počet ľudí, ktorí by vznikli, ak by náš druh prežil dlhú dobu, nie však, ak by Homo sapiens ako druh celkom vyhynul.
Konferencia v Čiernej hore, ktorá vo svojom názve spomínala „iné katastrofy“, sa neobmedzovala len na existenčné riziká. Veľká časť diskusie sa ich ale týkala. Keď sa posledné zasadnutie chýlilo ku koncu, niektorí z prítomných si uvedomovali, že otázky, o ktorých sme diskutovali, sú také vážne a predsa celosvetovo také prehliadané, že by sme sa mali k téme usilovať pritiahnuť pozornosť verejnosti a vlád. Diskutovalo sa o všeobecnom znení takéhoto vyhlásenia a bol som členom malej skupiny nominovanej na jeho vypracovanie.
Prežitie ľudstva v našich rukách
Vo vyhlásení sa uvádza, že existujú vážne riziká pre prežitie ľudstva, pričom väčšinu z nich vytvára človek. Či už úmyselne – ako bioterorizmus, alebo neúmyselne – ako je zmena klímy či riziko takej umelej superinteligencie, ktorá nie je v súlade s našimi hodnotami. Vo vyhlásení sa ďalej uvádza, že vlády nepristupujú k týmto rizikám s vážnosťou a naliehavosťou, akú si zaslúžia. Vyhlásenie sa opiera o odkaz na dve tvrdenia Tobyho Orda v knihe z roku 2020 The Precipice (Priepasť). Ord odhadol pravdepodobnosť vyhynutia nášho druhu v najbližších sto rokoch na 16 až 17 %, čiže na jedného človeka zo šiestich. Odhadol tiež, že podiel svetového HDP, ktorý ľudstvo vynakladá na intervencie zamerané na zníženie tohto rizika, je menší ako 0,001 %.
V aktualizácii, ktorá sa objavila v júli, Ord hovorí, že nové dôkazy naznačujú, že najextrémnejšie scenáre klimatických zmien sú nepravdepodobné. Existenčné riziko, ktoré predstavuje zmena klímy, je teda menšie, ako si myslel v roku 2020. Na druhej strane vojna na Ukrajine znamená, že riziko jadrovej vojny spôsobujúcej naše vyhynutie je vyššie, zatiaľ čo riziká superinteligentnej AI a pandémie sú podľa neho v niektorých ohľadoch nižšie a v iných vyššie.
Ord vidí zameranie sa na chatboty ako menej nebezpečné smerovanie AI, pretože nie sú hybná sila. Ale považuje za pravdepodobné, že zvýšená konkurencia v pretekoch o vytvorenie pokročilej všeobecnej umelej inteligencie povedie k prekročeniu bezpečnosti AI.
Máme záujem ako druh prežiť?
Celkovo Ord svoj, ako priznáva, veľmi hrubý odhad, že v pomere jedna ku šiestim náš druh najbližších sto rokov neprežije, nezmenil. Víta, že v súčasnosti existuje zvýšený celosvetový záujem o znižovanie rizík vyhynutia. Ako príklad ponúka zahrnutie tejto témy do správy generálneho tajomníka Organizácie spojených národov na rok 2021 a jej dôležitosť v programe rokovania medzinárodnej skupiny bývalých svetových lídrov známej ako The Elders.
Vyhlásenie z Čiernej Hory vyzýva vlády, aby spolupracovali pri predchádzaní existenčným katastrofám. Vyzýva najmä vlády bohatých krajín, aby investovali „značné zdroje“ do hľadania najlepších spôsobov, ako znížiť riziko vyhynutia ľudstva. Hoci vyhlásenie neuvádza, čo v tomto kontexte znamená „významné“, Ord inde navrhol záväzok vo výške 1 % globálneho HDP na zníženie rizika vyhynutia nášho druhu. To je tisíckrát viac ako jeho odhad z roku 2020, koľko vtedy vlády na túto úlohu vynaložili. Bolo by ťažké tvrdiť, že je to príliš veľa.
© Project Syndicate 1995–2024 www.project-syndicate.org
Denník Pravda nadviazal spoluprácu s renomovanou organizáciou Project Syndicate, ktorá pôsobí vo viac než 150 štátoch sveta. PS publikuje analýzy, názory a komentáre svetoznámych akademikov, ekonómov, filozofov, politológov, štátnikov, vedcov, manažérov či laureátov Nobelovej ceny, čím vytvára unikátnu a vysoko rešpektovanú medzinárodnú sieť. Od júla si časť z nich budete môcť prečítať jeden- až dvakrát týždenne aj na stránkach Pravdy. Aj touto formou prispievame k skvalitneniu obsahu nášho denníka.
Názory externých prispievateľov nemusia vyjadrovať názor redakcie.