Definice prokletí inteligence

Shrnutí: S příchodem AGI ztratí mocní aktéři motivaci investovat do obyčejných lidí — stejně jako dnes státy bohaté na zdroje zanedbávají své občany, protože jejich bohatství pramení z nerostných surovin, nikoli ze zdanění lidské práce. To je prokletí inteligence.

Ekonomové jsou zvyklí modelovat AI jako nástroj, a tak jim uniká, jak by mohla učinit lidi nepotřebnými. Minulé technologické revoluce posouvaly lidský potenciál dál. Zemědělská revoluce zrodila civilizace; průmyslová revoluce nám umožnila je škálovat.

AGI ale připomíná spíš uhlí nebo ropu než pluh, parní stroj či počítač. Stejně jako tyto suroviny:

Její objevení a využití bude vyžadovat obrovský kapitál.
Kontrola bude pravděpodobně soustředěna v rukou několika málo hráčů: laboratoří, které AI produkují, států, v nichž sídlí, a firem, které vyrábějí suroviny, čipy a roboty nebo dodávají elektřinu, již to všechno potřebuje.
Státy a firmy, které těží renty převážně nebo výhradně z AI, nebudou kvůli příjmům potřebovat lidi.

Tento problém silně připomíná mor, který sužuje rentiérské státy, tedy státy, jejichž bohatství stojí převážně na rentách z nějaké suroviny namísto daní od občanů. Tyto státy trpí prokletím zdrojů — navzdory přírodnímu zdroji příjmů si při zvyšování životní úrovně běžných občanů vedou hůře než jejich ekonomicky rozmanitější protějšky.

Mocní aktéři, kteří zavedou AI systémy nahrazující práci, budou čelit motivacím podobným rentiérským státům, ovšem s mnohem vyššími sázkami. Protože jejich příjmy budou pocházet z inteligence „z kohoutku“, namísto z lidí. Nebudou jim plynout výnosy z investic, jako je vzdělávání připravující lidi na zaměstnání, samotná zaměstnanost a mzdy, nebo sociální podpory pro nezaměstnané. V důsledku toho, investovat nebudou — a jejich lidé se kvůli tomu nezvládnou uživit. Lidé se nemusí hlásit, a tak nedostanou zaplaceno.

To je prokletí inteligence — když mocní aktéři vytvoří a zavedou obecnou inteligenci, ztratí důvod investovat do lidí.

Proč mocným aktérům na vás záleží

Mocnými aktéry myslíme velké organizace, jako jsou státy, korporace a byrokracie, které ovládají značné zdroje, což jim umožňuje utvářet svět, v němž žijeme, i to, jak s ním nakládáme.

Mocným aktérům na vás nezáleží z dobroty srdce. Záleží jim na vás ze dvou důvodů:

Nabízíte návratnost investice, obvykle skrze daně nebo zisky.
Ovlivňujete jejich schopnost udržet si moc, buď demokratickými prostředky, jako je hlasování, nebo věrohodnou hrozbou vůči režimu.

Většina států moderního světa jsou diverzifikované ekonomiky, což znamená, že hodnota pochází z mnoha různých sektorů a lidských činností, nikoli z jediného, nebo hrstky zdrojů. Příjmy generují zdaněním lidí a korporací, takže své příjmy zvyšují tím, že zvyšují produktivitu svých občanů. ¹ Stát je motivován vychovávat inženýry, podnikatele, inovátory a další ekonomicky produktivní pracovníky a vytvořit prostředí, v němž se mu investice vrátí. Za tím účelem zpravidla:

Zřizuje dobré školy, výzkumné instituce a univerzity
Buduje infrastrukturu, jako jsou silnice a veřejná doprava
Zavádí spolehlivé systémy vládnutí a soudy chránící vlastnická práva
Chrání svobodu projevu a tok informací
Podporuje vznik malých podniků
Pěstuje konkurenční trhy
Vytváří sociální záchranné sítě na podporu podstupování rizika

To vše zvyšuje produktivitu občanů a rozšiřuje plochu, na níž může dopadnout štěstí potřebné k inovaci. Stejně důležité je, že právě tyto věci vytahují lidi z naprosté chudoby, zvyšují životní úroveň a přinášejí politické a ekonomické svobody. S dobrými školami, infrastrukturou a konkurenčními trhy se občan může vyškolit a najít si dobře placenou práci, která přesahuje jeho základní potřeby. A se spolehlivými systémy vládnutí, spravedlivými soudy a svobodou projevu může občan žádat svou vládu o naplnění svých potřeb, aniž by se bál, že se stane politickým vězněm. Skrze své hlasy a svůj ekonomický výstup získávají vyjednávací sílu, takže si mohou vynutit změny, které jim zvednou životní úroveň. Výsledkem je, že státy někdy ustoupí požadavkům občanů, i když je to bude něco stát.

Podobný jev se týká korporací. Vezměte si například přemrštěné platy v Silicon Valley. Pracovníci v technologiích mají sadu dovedností, kterou firmy zoufale potřebují k vydělání většího jmění. ² Tito pracovníci jsou žhavým zbožím a konkurence v jejich získávání je urputná. Aby si je naklonily, firmy platí vysoké mzdy, nabízejí akciové opce, kupují kulečníkové stoly, zajišťují nonstop jídlo zdarma od michelinského kuchaře a perou jim prádlo. Nikdo seriózně netvrdí, že firemní prádelna desetinásobí tržby, ale může to získat potenciálního zaměstnance, nebo udržet jinak nespokojeného před odchodem ke konkurenci. Zaměstnanci mají vyjednávací sílu, takže si mohou žádat štědré benefity, které jim zvyšují kvalitu života.

Tím vzniká zpětnovazební smyčka — když obyčejní lidé vydělávají mocným aktérům víc peněz, je pravděpodobnější, že jim mocní budou vycházet vstříc. Zvýší vzdělání celoživotní výdělky vaší populace (a tím i státu)? Postavte školy. Získá nabídka placené rodičovské dovolené vaší firmě lepší zaměstnance? Změňte firemní politiku.

Prokletí zdrojů

Společnosti, které oddělují ekonomický výstup svého národa od svého lidského kapitálu, už máme. Říká se jim rentiérské státy. Tyto státy — včetně Venezuely, Saúdské Arábie, Norska a Ománu — odvozují většinu svých výdělků ze zdrojů (obvykle ropy), nikoli z produktivního výstupu svých občanů.

Demokratická republika Kongo má ve své půdě nevytěžené nerosty v hodnotě přes 24 bilionů dolarů. Jak se daří jejím občanům? Podle Světové banky:

Většina obyvatel DRK z tohoto bohatství neměla užitek. Dlouhá historie konfliktů, politických otřesů a nestability a autoritářská vláda vedly k vážné, přetrvávající humanitární krizi. Navíc docházelo k nucenému vysídlování obyvatelstva. Tyto rysy se od konce válek v Kongu v roce 2003 výrazně nezměnily.
DRK patří mezi pět nejchudších zemí světa. Odhaduje se, že 73,5 % Konžanů žilo v roce 2024 z méně než 2,15 dolaru na den. Zhruba jeden z šesti lidí žijících v extrémní chudobě v subsaharské Africe žije v DRK.

Co se to tu děje? Jak je možné, že biliony v celkově dostupných zdrojích vyústily v naprostou bídu?

Ekonomové a politologové tomu říkají prokletí zdrojů. Země s hojnými přírodními zdroji mívají slabší ekonomický růst a vyšší míru chudoby než jejich ekonomicky rozmanité protějšky. ³

K prokletí zdrojů vede mnoho faktorů, ale jedním ze zásadních jsou pobídky, které vytvářejí — motivaci přestat se starat o ekonomický blahobyt svých lidí.

Protože rentiérské státy vydělávají na zdrojích, nemají důvod platit obyčejné lidi dnes, ani do nich investovat pro zítřek. Budování lepších škol jim víc peněz nevynese. Investují právě jen tolik, kolik je třeba k tomu, aby se ropa dostala ze země na náklaďáky a odtud do přístavů. ⁴ Není to tak, že by jejich občané nedokázali dělat nic, co by stálo za zdanění — jde o to, že není důvod rozvíjet z nich zdanitelnou populaci. Proč žádat o peníze své lidi, když je můžete získat ze země? ⁵

Bez peněz se obyčejní lidé těžko domáhají svého. V autokraciích není důvod se o ně starat, dokud věrohodně neohrožují vaši moc. Ti, kdo ovládají renty, mohou bohatství těžit, aniž by se starali o všechny ostatní.

Jak tedy vypadají životy jejich občanů? Dr. Ferdinand Eibl a Dr. Steffen Hertog nabízejí dvě protichůdné vize:

Existuje jen málo otázek, u nichž teorie srovnávací politologie nabízejí ostřeji protikladné předpovědi než u vztahu mezi rentami ze zdrojů a poskytováním sociálního zabezpečení ze strany vlády. Někteří autoři, zejména v tradici „teorie rentiérského státu“, očekávají, že vládci bohatí na ropu se uchýlí k masové kooptaci a politicky pacifikují obyvatelstvo rozsáhlými sociálními politikami (Beblawi a Luciani 1987; Karl 1997). Jiní, zejména ti, kdo navrhují formální modely politiky v ropných státech, očekávají, že rentiérští vládci budou své obyvatelstvo zanedbávat. Protože renty odčerpává malá vládnoucí elita, která pro své obohacení nepotřebuje domácí ekonomickou základnu, je sociální zabezpečení minimální a šíří se bída (Acemoglu, Robinson a Verdier 2004; Mesquita a Smith 2009).
Pro obě trajektorie existují empirické příklady. Omán a Rovníková Guinea mají zhruba srovnatelnou úroveň rent z přírodních zdrojů na hlavu — v období 1995 až 2014 mírně přes 8 000 USD na hlavu (Ross 2013). Oběma vládnou titíž autokraté od 70. let, kdy byly obě země zoufale chudé. Za sultána Kábúse se ománské veřejné služby rychle rozšiřovaly, což vedlo k jednomu z nejrychlejších poklesů dětské úmrtnosti na světě — ze 159 na tisíc živě narozených v roce 1971 na 9 v roce 2010, hluboko pod blízkovýchodním průměrem 32. V Rovníkové Guineji Teodora Obianga zůstává stát mimo bezpečnostní složky v zárodečném stavu, drtivá většina obyvatel nadále žije v naprosté bídě a kojenecká úmrtnost klesala trýznivě pomalu: z 263 v roce 1971 na 109 v roce 2010, stále nad (vysokým) subsaharským průměrem 89. Přístup k rentiérskému bohatství si monopolizuje malá prezidentova družina (Wood 2004).

Rentiérské státy občas vyústí ve velké sociální záchranné sítě. V mnoha případech ale vyústí v naprostou bídu pro všechny kromě hrstky, která ovládá toky rent. ⁶ Proč? Eibl a Hertog nabízejí odpověď:

Shodujeme se s formálními modely politiky v zemích bohatých na zdroje, že vládnoucí elity usilují o zajištění svého setrvání u moci. Veřejná politika je podřízena tomuto zastřešujícímu cíli a odráží, jak elity vyhodnocují hrozby pro svou vládu. V mezích těchto omezení se elity snaží maximalizovat své osobní renty z příjmů ze zdrojů.
Souhlasíme rovněž se stávající literaturou, že relativní ekonomická výnosnost poskytování sociálního zabezpečení je v režimech založených na zdrojích nižší, zatímco jeho potenciální modernizační účinky jsou politicky nežádoucí (Acemoglu a Robinson 2006; Mesquita a Smith 2009). Za jinak stejných podmínek proto očekáváme, že režimy bohaté na ropu vytvoří úzké kleptokratické koalice s omezeným sociálním zabezpečením a bujícím sebeobohacováním elit.

Vysvětlení prokletí inteligence

Prokletí inteligence popisuje motivátory v ekonomice po příchodu AGI, které budou mocné aktéry pohánět k investicím do umělé inteligence namísto do lidí. Pokud AI dokáže vaši práci levněji a rychleji, není důvod vás najímat. Ještě důležitější ale je, že není ekonomický důvod investovat do vaší celoživotní produktivity, starat se o vás nebo si vás držet. Plně automatizovaná ekonomika by mohla produkovat bezprecedentní hodnotu, ale pokud se kořist rozdělí jako v nejhorších rentiérských státech, prosperitu pro masy to nepřinese.

Prokletí inteligence bude pravděpodobně silnější než prokletí zdrojů, protože AI se bude dál zlepšovat. AI a robotika nejen poskytnou vládě alternativní příjmový tok, který stále vyžaduje lidi ke správě, ale nahradí potřebu lidí napříč ekonomikou, armádou a státní byrokracií úplně. AI vám navíc nemůže „dojít“ tak jako ropa. Rentiérské státy mají stále dlouhodobou motivaci diverzifikovat své ekonomiky, ale na státy po příchodu AGI to platit nebude.

Častou námitkou je, že některé profese nelze nikdy automatizovat, protože budeme vyžadovat, aby je dělali lidé.

Například učitele. Většina rodičů by nejspíš silně preferovala, aby na jejich děti přes den dohlížel skutečný, lidský učitel. Tento argument ale zcela míjí širší obraz: nejde o to, že by nebyla poptávka po učitelích, jde o to, že nebude motivace financovat školy. Tento argument se do omrzení opakuje u všeho, co investuje do produktivní kapacity obyčejných lidí, u každého luxusu, který spoléhá na jejich přebytkový příjem, i u každého statku, který je drží nad vodou. Ve výchozím scénáři mocní aktéři nebudou stavět věci, které zaměstnávají lidi nebo jim poskytují zdroje, protože nebudou muset.

Daně budou pro vlády stále relevantní formou příjmu, ale jen ty od korporací. Stejně tak korporace budou vydělávat na svých AI systémech, nikoli na práci, kterou lidé odvádějí. Investice, které si vyspělý svět spojuje s vysokou kvalitou života — mzdy, vzdělání, infrastruktura, stabilní vládnutí atd. — už nebudou přinášet návratnost. Lidé mocným aktérům žádné peníze nevydělají.

Odkud místo toho mohou mocní aktéři brát peníze?

Státy budou vydělávat na korporátních daních. Firmy, které produkují pokročilé systémy AI, i firmy, které je používají, budou generovat velké příjmy. Jak porostou, státy je budou více zdaňovat. V roce 2022 tvořily korporátní daně 11,5 % příjmů průměrného státu OECD — vzorku výkonných, rozmanitých ekonomik. Podobně jako Norsko (zhruba 30 % příjmů státu z ropy), Saúdská Arábie (75 %) a Demokratická republika Kongo (zhruba třetina příjmů státu z těžby surovin) budou státy méně spoléhat na daně z příjmu a víc na daně od firem zabývajících se AI nebo od jiných firem, které mocným aktérům umožňují dosahovat cílů. Až struktura příjmů států začne vypadat spíš jako u těchto zemí než jako průměr OECD, poznáte, že prokletí inteligence zapouští kořeny.

AI laboratoře budou vydělávat tím, že se stanou novými rentiéry. Deklarovaným cílem AI laboratoří je vytvořit AGI. OpenAI už mění svou korporátní strukturu tak, aby odstranila limity na to, kolik ze zisků z AGI si může nechat pro sebe. A to navzdory korporátní struktuře, která byla původně vytvořena tak, aby v případě, že se AGI stane většinou ekonomiky, OpenAI rozdělila zisky nad určitou hranicí celému světu. Jakmile budou mít laboratoře AI systém, který zvládne všechno, stanou se horizontální vrstvou ekonomiky a budou těžit renty z veškeré ekonomické aktivity tím, že je budou prodávat firmám a státům, které jimi nahrazují své pracovníky. Budou se také ze všech sil snažit pohltit ekonomiku i vertikálně. Pokud uspějí, budou držet ekonomickou moc, jež dříve náležela výhradně státům. Generální ředitel Anthropicu Dario Amodei přirovnal účinky AI k „zemi géniů v datovém centru“. Všimněte si toho slova — země géniů. Pokud laboratoře tuto vizi naplní, nepůjde ani tak o další firmu hrající si v ekonomice, jako spíš o celý cizí národ, který se znenadání objevil, je lidnatější než kterákoli země a obývají ho pracovníci mnohem levnější, chytřejší a rychlejší než kterýkoli člověk. ⁷

Firmy budou obchodovat mezi sebou a s dalšími mocnými aktéry. Půda, energie, výpočetní výkon, výrobní centra, datová centra a roboti budou mít hodnotu i nadále, protože umožňují mocným aktérům dosahovat jejich cílů. Síť kaváren a marketingová firma budou bezvýznamné, ale pronajímatel a energetická společnost budou moci vydělat víc než kdy dřív. Mocní aktéři, pravděpodobně ovládaní lidmi (přinejmenším nějakou dobu), budou z těchto zdrojů těžit drtivou většinu hodnoty.

Co se tedy stane s většinou obyčejných lidí, budou-li mocní aktéři následovat výchozí trajektorii?

Firmy budou motivovány je propustit a nikdy nenajímat nové. Lidé nebudou produkovat nic, čeho by si firmy mohly cenit. Krátkou dobu na nich možná budou záviset jako na spotřebitelích, ale většina firem orientovaných na lidi vyhasne, jakmile jejich poptávková základna ztratí ekonomickou sílu.
Státy budou motivovány zdecimovat veřejné financování. Pamatujte, že jejich příjmová základna se přesune k jiným mocným aktérům. Z lidské práce nebudou mít žádnou hodnotu, a jsou tak motivovány nestavět věci, které z lidí dělají produktivní pracovníky. Návratnost — kapitál, moc a odolnost — plyne ze zajištění toho, aby AI laboratoře mohly stavět lepší modely a firmy, které je používají, mohly konat ve světě. Daně na financování investic do lidí by navíc z velké části pocházely od AGI laboratoří. Konkurence mezi státy znamená, že pokud se kterýkoli pokusí z této daně zřídit UBI, mohl by zaostat za ostatními státy.
Obyčejní lidé se nedokáží uživit. Drtivá většina lidí nebude mít ekonomickou sílu nezbytnou k tomu, aby cokoli žádali. Nedokáží aktéry ovládající zdroje motivovat, aby do nich investovali. To znamená, že (v nejlepším případě) budou závislí na laskavé dobročinnosti mocných aktérů. V nejhorším případě si nevydělají ani mzdu na úrovni holého přežití a nikdo nenabídne pomoc.

Nějakou dobu možná dokážou generovat určitou hodnotu. Rentiérské státy potřebují nějaké lidi k tomu, aby hýbali věcmi ve fyzickém světě — někdo musí vytěžit ropu ze země. Mohlo by nastat, že lidé budou placeni za manuální práci, zatímco agenti zůstanou omezeni na virtuální podobu. Jak se robotika zlepšuje ⁸, potřeba lidí bude klesat. Nebudou se moci účastnit ekonomiky, protože nedokáží nic udělat lépe, rychleji, levněji nebo spolehlivěji než jejich umělí náhradníci.

V rentiérských státech se hodnota odvozuje především ze surovin nebo fyzických statků, které se pak prodávají zahraničním kupcům — obvykle jiným státům či firmám. Do surové produkce nebo její správy je zapojeno pár lidí, ale většina z toho nemá užitek. Zde byste měli očekávat podobný scénář. To vede ke zřejmé otázce: pro koho mocní aktéři vlastně cokoli produkují?

Může se ekonomika obejít bez lidské spotřeby?

Mocní aktéři mají cíle, a tudíž je bude mít i produkce ekonomiky. Státy chtějí kontrolu nad územím a firmy chtějí obohatit své vlastníky. Cíle budou mít i jednotlivci, kteří nashromáždili značný kapitál. Možná budou chtít využít svou nově nabytou moc ke kolonizaci Marsu nebo k vytěžení oceánů. Může to být i méně velkolepé — spousta superbohatých lidí si vystačí s tím, že žijí život maximalizací vlastní rozkoše. Všichni si budou chtít zajistit své nově nabyté místo ve společnosti, a to může vyžadovat obrovské množství moci a zdrojů.

Ještě zásadnější je, že bez obyčejných lidí ve smyčce tvorby hodnoty neexistuje důvod, aby kořist plynula k nim. Jak lidé přestávají být producenty, přestávají získávat ekonomickou sílu, která jim umožňuje směrovat ekonomiku svými spotřebními volbami. Ekonomika je bude čím dál víc odsouvat. V krajním případě by velká část ekonomiky mohla běžet ve smyčkách, které se lidským spotřebitelům vyhýbají úplně.

Jak zlomit prokletí zdrojů

Existují dva hlavní způsoby, jak státy prokletí zdrojů zcela zlomí: účinné vládnutí, které zdroje přerozdělí, a ekonomická diverzifikace ⁹, která vytvoří motivaci, aby se státy o své lidi staraly.

Zaprvé, stát může vybudovat účinné instituce pro správu lukrativního zdroje. Masi a Ricciuti (2019) zjistili, že po objevení ropy se většina států stala méně demokratickými. Státy s již existující, relativně vysokou úrovní demokracie se ale negativním dopadům vyhnuly.

Vezměme si jako příklad Norsko. Norsko vlastně dosáhlo zázraku ve zdrojích. Je jednou z nejbohatších zemí světa a jeho obyvatelé mají ze zdrojového bohatství přímý prospěch. Norský index lidského rozvoje je druhý nejvyšší na světě. Jeho suverénní majetkový fond, který investuje obrovské renty z ropy, má hodnotu přes 1,7 bilionu dolarů, tedy přes 300 tisíc dolarů na osobu. Norsko se také soustavně řadí mezi nejšťastnější země.

Norsko zlomilo prokletí zdrojů jen díky vynikajícímu vládnutí, ale mnozí před snahou napodobit jeho úspěch varují. Vybudovalo silnou demokracii s vysokou byrokratickou kapacitou dříve, než objevilo ropu. Dr. Steinar Holden — norský ekonom, který působil jako poradce jejich ministerstva financí — vysvětlil problém s jeho použitím coby vzoru:

Do jaké míry mohou norskou zkušenost zkopírovat jiné země? To se posuzuje těžko, zvláště jde-li o země v zcela odlišné politické a ekonomické fázi vývoje. Když byla v Norsku objevena ropa, byla země stabilní demokracií od chvíle, kdy v roce 1905 získala nezávislost. Státní byrokracie fungovala dobře, s malou korupcí. Právní systém fungoval dobře a média aktivně hodnotila a komentovala fungování systému.

Jen málo států je tak demokratických, funkčních a málo zkorumpovaných jako Norsko. Tato cesta je úzká a stále se zužuje; rok 2024 byl 19. rokem v řadě, kdy svoboda ve světě upadá. Dosáhnout toho je těžké a dosáhnout toho rychle je ještě těžší. Jen málo států se stane špičkovými demokraciemi proto, že by v budoucnu mohly objevit ropu.

Zadruhé, stát může diverzifikovat ekonomiku a postavit do jejího středu lidskou práci tak, aby ji nemohl ovládnout žádný jediný zdroj. To platí pro již existující rozmanité ekonomiky, ale je to účinná strategie i poté, co jste narazili na ropu. Jak se například svět blíží k vrcholu těžby ropy, mnohé petrostáty začaly diverzifikovat. Saúdská Vize 2030 si klade za cíl poskytnout „příznivé podnikatelské prostředí pro podniky všech velikostí“. Není překvapením, že jak se Saúdská Arábie posunula k diverzifikaci, současně se pokusila reformovat zacházení se ženami. Jak jsme však uvedli, AGI není omezený zdroj jako ropa. To znamená, že motivace diverzifikovat bude po nástupu práci-nahrazující AI mnohem nižší.

Existuje i třetí cesta, ale je méně relevantní. Eibl a Hertog (2023) nastiňují, že v autokratických státech věrohodné hrozby vzpoury nutí mocné aktéry kapitulovat před masami budováním sociálních států. Ukazují, že tato cesta platí pro většinu států perského zálivu, zejména pro Omán.

Vůči této cestě jako vzoru pro autokratické státy uprostřed prokletí inteligence máme tři námitky. Zaprvé se domníváme, že to není „zlomení“ prokletí zdrojů, protože motivace pro státy odsouvat lidi na druhou kolej stále existují. Zadruhé, v souvislosti s tím očekáváme, že kapitulace není stabilní. Režimy, které po hrozbách vzpoury úspěšně zaopatří své lidi, se mohou kdykoli vrátit k represi. Zatřetí se domníváme, že u pokročilé AI bude tato cesta mnohem méně účinná, protože očekáváme, že státy budou mít s postupem AI mnohem větší infrastrukturní moc ¹⁰ — v souladu s pojetím AGI poháněného „despotického Leviathana“ od Bullocka, Hammonda a Kriera. Mocní aktéři by tak mohli odhalit téměř všechny zásadní hrozby pro svou moc. Nové technologie, jako levné a velmi účinné autonomní drony, by navíc mohly změnit rovnováhu sil tak, že ozbrojená povstání nemohou stát ohrozit. Ze všech těchto důvodů očekáváme, že autokracie s práci-nahrazující AI prokletí inteligence podlehnou; demokracie je pravděpodobně nezbytnou podmínkou pro jeho zlomení.

Shrnuto: prokletí zdrojů odrazuje státy od investic do svých lidí, často s katastrofálními výsledky. K jeho zlomení máme dva relevantní přístupy:

Důvěřovat institucím, že budou zdroj spravovat a zůstanou ukotveny ve veřejném blahu.
Diverzifikovat ekonomiku tak, aby ve svém středu zachovala lidi.

Tomu, jak řešit prokletí inteligence, se budeme věnovat podrobněji, nejprve ale zvážíme, jaké má dopady na společenskou smlouvu, do jaké míry vlastně ekonomické pobídky utvářejí společnost a zda to AGI může změnit.

1: Daně samozřejmě mohou i zvýšit, ale zdanit lze jen to, co se produkuje, což dává horní strop. Musí si také udržovat nějakou mocenskou strukturu, která jim umožňuje uplatňovat své daňové pravomoci, ať už skrze demokratické zastoupení, nebo čistě skrze tvrdou moc.

2: Přinejmenším to platilo až do nedávného zlepšení programátorských schopností AI.

3: Viz mimo mnoha dalších prací Acemoglu, Johnson a Robinson (2005) a Acemoglu, Johnson a Robinson (2009).

4: Více k tomu viz 7. kapitola této knihy.

5: Viz Karl (1997) a Centeno (1997).

6: Pro další doklady viz Biewendt (2020), Fossaceca (2019) a Venables (2016)

7: Místo cizí země, která se znenadání objevila, si můžete také představit miliardu chytřejších, levnějších a rychlejších přistěhovalců, kteří se přes noc vynořili ze země ve vaší zemi.

8: Toto je půl roku staré a běží na mnohem horším modelu, než jsou dnešní špičkové. Znovu — věřte v přímé čáry v grafech.

9: Ekonomickou diverzifikací myslíme posun od zdrojů k sektorům s velkým zapojením lidí. Více viz Usman a Landry (2021).

10: Mann (1984) definuje infrastrukturní moc jako „schopnost státu skutečně proniknout do občanské společnosti a logisticky prosadit politická rozhodnutí napříč celou říší“. Dodává: „Ta byla v historických společnostech poměrně slabá […] jakmile jste se dostali z dohledu Červené královny, měla potíže se k vám dostat. V industriálních společnostech je však mocně rozvinutá.“ Očekáváme, že po příchodu AGI bude tato moc oproti moderním industriálním společnostem mnohem silnější.