AI možná nahradí kancelářskou a digitální práci, ale velká část společnosti stojí na fyzické práci, zodpovědnosti a lidské přítomnosti. Někdo musí opravovat domy, tahat kabely, stavět silnice, pečovat o děti, operovat pacienty, hasit požáry, nést právní odpovědnost, rozhodovat v nejistotě a být přítomen tam, kde nestačí software.

Tato námitka je silná, mnoho manuálních profesí bude jistě automatizováno později než práce s informacemi.

To ale nevyvrací hlavní argument. Za prvé, většina ekonomické hodnoty v rozvinutých zemích už dnes vzniká ve službách, administrativě, koordinaci, komunikaci, řízení, vývoji a práci s informacemi. Právě tam AI vstupuje nejrychleji. K narušení mzdové společnosti není potřeba nahradit všechny instalatéry a zdravotní sestry.

Za druhé, manuální práce často obsahuje velkou digitální vrstvu: plánování, diagnostiku, objednávky, dokumentaci, komunikaci, kontrolu, logistiku, cenotvorbu, školení, dohled. AI může nejdřív zredukovat tuto vrstvu a tím změnit počet i cenu lidí potřebných v oboru.

Za třetí, odpovědnost není totéž co vykonávání práce. Společnost může formálně ponechat člověka jako právního garanta, zatímco většinu analýzy, návrhu a rozhodování udělá systém. Takový člověk pak není nenahraditelný pracovník, ale spíš podpis, dohled nebo poslední článek řetězce.

Realisticky digitální práce bude automatizována první, hybridní profese se ztenčí, zodpovědné role se promění v dohled nad systémy a manuální profese zůstanou relativně bezpečnější jen do chvíle, než robotika se dostatečně zlepší a zlevní, což nemusí trvat dlouho.

Lidské tělo a odpovědnost budou komparativní výhodou ještě dlouho. To ale neznamená že nás zachrání před ekonomickým kolapsem společnosti.

Ekonomika nemá pevné množství práce. To je známé jako lump of labor fallacy. Když technologie něco zlevní, poptávka často vzroste — Jevonsův paradox. A když automatizace zruší staré úkoly, vzniknou nové, které člověka znovu zapojí do produkce — efekt znovuzařazení.

To je nejsilnější ekonomická námitka proti tezi této eseje. Historicky byla často správná. Stroje rušily staré profese, ale zároveň vznikaly nové obory, služby, trhy a role.

Problém je, že tento argument neříká „technologie vždy vytvoří dost lidské práce“. Říká jen, že ekonomika se mění, poptávka roste a nové úkoly vznikají.

AGI je v tomto ohledu bezprecedentní. Neautomatizuje jen dílčí schopnost, ale obecnou schopnost přijímat a vykonávat nové úkoly. Pokud nová poptávka vznikne v prostředí, kde je AI agent levnější, rychlejší a snadněji škálovatelný než člověk, může ji obsloužit právě AI.

Nestačí tedy, že vznikne nová práce. Rozhodující je, zda vznikne nová lidská práce — dost rozšířená a dobře placená na to, aby udržela mzdovou společnost.

Historie nám říká, že technologie umí vytvářet nové profese a činnosti. Není ale důvod si myslet že to budou vždy profese pro člověka.

Mnoho prací nelze nahradit systémem, který občas halucinuje, chybí mu kontext nebo udělá absurdní chybu. V některých procesech nestačí být levný a většinou správný. Stačí jedna chyba a výsledek selže.

Teorie O-kroužků Michaela Kremera říká, že v produkčních procesech složených z mnoha navazujících kroků může selhání jednoho článku znehodnotit celý výsledek. Proto se vysoce zodpovědné, komplexní nebo bezpečnostně kritické úlohy automatizují hůř než rutinní činnosti.

Tato námitka je silná. Současná AI často není dost spolehlivá pro plně autonomní právní, zdravotní, technické, finanční nebo bezpečnostní rozhodování. Čím vyšší cena chyby, tím větší tlak na lidský dohled, audit, validaci a odpovědnost.

Ale ani tato námitka nevyvrací hlavní trend.

Za prvé, velká část ekonomiky není O-ring proces v silném smyslu. Mnoho práce je iterativní, opravitelné, nízkorizikové nebo statistické: marketing, administrativa, zákaznická podpora, analýzy, návrhy, programování, obsah, interní procesy. Tam může „dost dobrá“ AI nahradit značnou část práce i bez absolutní spolehlivosti.

Za druhé, nespolehlivost se dá obcházet architekturou: kontrolními modely, specializovanými nástroji, testy, formální verifikací, workflow, lidským schválením nebo rozdělením úkolu na menší kroky. AI nemusí být neomylná jako jednotlivec, pokud je součástí systému, který chyby zachytává levněji než lidská organizace.

Za třetí, výzkum míří právě na slabiny současných modelů: dlouhodobou paměť, kontinuální učení, modely světa, plánování a lepší kontrolu reality. Google Research například popisuje architektury Titans a MIRAS jako snahu dát modelům dlouhodobější paměť a práci s masivním kontextem; Meta u JEPA / V-JEPA směřuje k modelům světa, predikci a plánování; koncept Scientist AI (Yoshua Bengio) popisuje systémy, které přesněji modelují faktický svět, než aby halucinovaly užitečně znějící odpovědi.

Stačí tedy jeden technický průlom a situace se může radikálně změnit. Na trvalou nespolehlivost bych proto nespoléhal.

Pokud AI dramaticky sníží náklady, menší příjmy nemusí být takový problém. Produkty a služby zlevní, část práce zmizí, ale lidé budou potřebovat méně peněz k důstojnému životu.

Částečně ano. Digitální služby, překlady, administrativa, software, vzdělávací obsah, právní vzory, analýzy nebo tvorba médií mohou výrazně zlevnit. To je skutečný přínos automatizace.

Problém je, že levnější produkce není totéž co levný přístup.

Mnoho nejdůležitějších statků není omezeno jen množstvím práce. Bydlení závisí na půdě, lokalitě, územním plánování, vlastnictví a spekulaci. Energie závisí na infrastruktuře a politice. Zdravotnictví a péče závisí na kapacitách, regulaci a dvojsečné biochemii. Výpočetní výkon závisí na čipech, datových centrech, elektřině, vodě a kapitálu.

Navíc už dnes vidíme, že digitální ekonomika často nesměřuje k čisté hojnosti, ale k rentě, skrze umělou vzácnost. Předplatné, platformní poplatky, uzavřené ekosystémy, reklama, paywally, licenční modely, cloudové mýto a algoritmická cenotvorba umožňují vybírat poplatky i tam, kde jsou mezní náklady nízké.

Ve silném AGI scénáři může tedy mnoho věcí zlevnit, ale kupní síla může klesat rychleji než ceny.

Automatizace proto sama nezaručuje hojnost pro všechny. Bez změny vlastnictví, pravidel a přístupu může vytvořit svět, kde je výroba levnější, ale život stále drahý, ne-li nedostupný.

Pokud automatizace začne brát lidem práci, stát prostě zasáhne. Zavede podporu, zdaní vítěze, vytvoří nové programy nebo nějakou formu základního příjmu. Podobně jako během Covidu dokázaly vlády rychle poslat peníze lidem i firmám, když se ekonomika náhle zastavila.

To je dobrý argument proti úplnému fatalismu. Stát má pořád obrovskou schopnost jednat, vybírat daně, tvořit pravidla, půjčovat si, přerozdělovat a stabilizovat krize. Pokud by automatizace způsobila viditelný šok, politická reakce by pravděpodobně přišla.

Problém je, že nahrazování práce nemusí vypadat jako Covid – ten ohrozil pracovní sílu podniků a tím přímo kapitálové zisky. Virus také nemá lobby.

Obecně, nemusí přijít jako jedna společná krize, která zasáhne všechny naráz a vytvoří jasný politický mandát. Může přijít pomalu, nerovnoměrně a sektor po sektoru: méně nových pozic, tlak na mzdy, outsourcing do AI nástrojů, menší týmy, křehčí kontrakty, horší vyjednávací síla, vyšší zisky bez odpovídající zaměstnanosti.

Takový proces se politicky řeší mnohem hůř. Každá skupina bude zasažena jindy. Část lidí bude z AI profitovat. Část se bude rekvalifikovat. Část problému se schová do statistik produktivity, cen aktiv, prekarizace a regionálních rozdílů. Než vznikne většinová shoda, může být už velká část moci koncentrovaná.

Druhý problém je vliv vítězů na pravidla hry. Firmy, které budou z automatizace těžit nejvíc, budou mít zároveň peníze, experty, právníky, lobbying, média, infrastrukturu a argument „národní konkurenceschopnosti“. Budou tvrdit, často ne úplně nepravdivě, že vyšší zdanění nebo regulace zpomalí inovace a přesune vývoj jinam.

Není jisté, že demokratický stát dokáže včas zdanit a regulovat aktéry, na jejichž technologii, investicích a infrastruktuře začne být sám závislý. Jak vyplývá ze známé studie "Perspectives on Politics", názory řadového občana mají na zákonodárce prakticky nulový vliv, alespoň v USA.

A konečně: samotná věta „společnost přece nenechá pár lidí vlastnit celou ekonomiku“ není argument, ale naděje. Historie ukazuje, že extrémní koncentrace moci může být politicky stabilní překvapivě dlouho, pokud je opřená o bezpečnost, propagandu, závislost, rozdělenou opozici a dostatečnou míru materiálního uklidnění.

Stát tedy může být součást řešení. Ve skutečnosti bez něj žádné velké řešení pravděpodobně nevznikne. Ale není to automatická pojistka.

Pokud má stát zvládnout auto-kapitalismus, musí být k tomu dotlačen dřív, než se ekonomická moc automatizace promění v politickou moc proti regulaci.

Pokud bude AI dost inteligentní, možná sama pomůže zabránit špatným scénářům. Může být morálnější než lidé, lépe chápat dlouhodobé důsledky, odmítat škodlivé úkoly a tlačit firmy i státy k odpovědnějším rozhodnutím.

Dobře navržené systémy mohou pomáhat vyhodnocovat rizika, navrhovat férovější instituce, odhalovat manipulaci, zlepšovat regulaci a upozorňovat na společenské škody. Některé bezpečnostní návrhy, například Bengioův koncept Scientist AI, míří právě k systémům, které nemají slepě maximalizovat cíle, ale modelovat svět, odhadovat důsledky a upozorňovat na možnou újmu.

Teoreticky by taková újma mohla zahrnovat i ekonomickou škodu: ztrátu práce, vyjednávací síly, příjmu nebo společenské stability. AI by pak mohla říkat: tento krok je sice ziskový, ale jeho širší dopady jsou škodlivé.

Pokud bude jedna AI odmítat ziskové, ale společensky korozivní úkoly (maximalizace zisku), vznikne tlak použít jinou: méně opatrnou, méně regulovanou, nebo provozovanou v jiné jurisdikci. Firma, která se nechá brzdit svědomitou AI, může prohrát konkurenční boj, stejně jako to vidíme u lidské etiky.

Možná není nutné, aby výnosy automatizace vlastnila široká společnost. Možná stačí, když je budou vlastnit rozumní, osvícení a dlouhodobě uvažující lidé. Demokracie má krátké volební cykly, podléhá lobby, médiím a kulturním válkám. Historie zná příklady panovníků nebo elit, kteří dokázali s dlouhým mandátem prosadit užitečné reformy.

Tento argument nelze odmítnout úplně snadno. Pokud by mocní vlastníci automatizace skutečně cítili odpovědnost za společnost, mohli by financovat výzkum, veřejné statky, medicínu, vzdělávání, bezpečnost i základní příjem rychleji než rozhádané parlamenty. Moderní noblesse oblige: privilegium spojené s povinností.

Problém je, že na blahosklonnosti vlastníků nelze stavět stabilní společenský systém.

Za prvé, dnešní technologická a finanční elita není jednotná třída osvícených správců civilizace. Část upřímně myslí v dlouhém horizontu, část sleduje moc, status a ideologii libertariánství. V prostředí extrémní konkurence se navíc i dobré úmysly snadno mění v otázku: co si můžeme dovolit, aniž bychom prohráli?

Za druhé, auto-korporace mohou změnit samotnou logiku firmy. Tradiční firma potřebuje zákazníky, zaměstnance a trh. Extrémně automatizovaná firma vlastněná velmi úzkou elitou se může částečně přeorientovat z poskytování služeb společnosti na plnění přání vlastníků: bezpečnost, vliv, luxus, infrastrukturu, politickou ochranu, dlouhověkost nebo kontrolu prostředí.

Tomu existuje protiváha: nejvyšší technologické statky (čipy, léky, robotika, energetika, komunikační infrastruktura), dnes vyžadují obrovské investice, vědecké ekosystémy, veřejné trhy, dodavatelské řetězce a často i veřejně obchodované firmy. I extrémně bohatý vlastník tak zůstává do určité míry závislý na širší společnosti. To bychom měli jen posílit.

Pokud blahobyt společnosti závisí na laskavosti několika vlastníků automatizace, je to technologická verze feudalismu.

Pokud je AI vývoj tak nepředvídatelný a nebezpečný, měli bychom to prostě zastavit, nebo výrazně zpomalit. Zakázat nejrizikovější modely, omezit automatizaci práce, zavést přísné licence, držet člověka v rozhodování a zabránit tomu, aby se ekonomika rozběhla směrem k propasti.

U kritických systémů, zbraní, biometrického dohledu, manipulace, infrastruktury nebo odpovědných profesí je regulace nevyhnutelná a v EU už existuje.

Problém je, že celkové zastavení vývoje je extrémně nestabilní cíl.

1. Jsme v závodu. Firmy, státy, armády, investoři i jednotlivci mají důvod pokračovat, protože zaostání může znamenat ztrátu trhu, moci, bezpečnosti nebo prestiže. Představa, že všichni aktéři sami ucuknou před propastí, je spíš zbožné přání než strategie. Vývoj připomíná stoupání po eskalačním žebříku, kde nikdo přesně neví, který stupeň je poslední.

2. Proti zpomalení bude stát silná lobby. Největší vítězové AI budou mít kapitál, právníky, experty, média, infrastrukturu a argument národní konkurenceschopnosti. Budou tvrdit, že regulace přesune vývoj jinam. Často to nebude jen výmluva.

3. Trh může narazit dřív než technologie. Realisticky pauza nastane jen pokud současná AI bublina praskne a investice se ochladí.

4. Samotná ochrana práce regulací má geopolitickou cenu. Evropa může zkusit chránit zaměstnanost podobně, jako u aut chrání bezpečnost, odpovědnost a postupné schvalování autonomie. Jenže pokud jiné regiony dovolí rychlejší automatizaci, mohou vzniknout zahraniční auto-korporace a státy s výrazně nižšími náklady, vyšší produktivitou a větší mocí. Příliš pomalá Evropa může práci chvíli chránit, ale zároveň ztratit schopnost určovat pravidla budoucí ekonomiky.

5. Zastavení pokroku není jen těžké. Není ani jednoznačně žádoucí.

Vyspělé společnosti stárnou, porodnost klesá a mnoho civilizačních problémů už dnes přesahuje naši schopnost koordinace. Klimatická krize, pandemie, znečištění, válečné konflikty, kyber-útoky, psychologické operace, sabotáže, drony, obchodní války, extrémní chudoba, hladomor a moderní otroctví nejsou problémy, které zvládáme dobře řešit současnými institucemi a současnou lidskou kapacitou.

AI může být jedním z mála nástrojů, které tuto kapacitu výrazně rozšíří. V plnější automatizaci je reálná šance udržet nebo zvýšit produktivitu i ve stárnoucí společnosti. Růst pak nemusí být tolik omezen dostupností kvalifikovaného talentu, ale spíš kapitálovými statky: čipy, energií, daty, robotikou a infrastrukturou.

Ještě důležitější je, že vědecká a dobře řízená AI může pomoci překlenout limity lidského druhu, jako hyperbolické diskontování, tragédie společných statků, problém černého pasažéra, kmenové myšlení a parochiální altruismus, motivované myšlení, statusová soutěž, difúze odpovědnosti, optimistická tendence, dunbarův limit, normalizační zkreslení, akční problém demokracie, Moloch efekt, evoluční nesoulad, omezená kapacita pozornosti, omezená představivost, obecná náchylnost na iracionalitu a logické klamy. Tyto slabiny nás znovu a znovu dostávají do problémů, které umíme pojmenovat, ale neumíme kolektivně řešit.

Z toho plyne z toho, že jednoduché „zastavit AI“ není dostatečně dobrý politický program, když nám hrozí hned několik možných katastrof, se kterými si nedokážeme poradit.

AI je dokonalý business partner a pracovníci současně. Stačí se naučit přemýšlet jako podnikatel, využít levných tokenů a začít budovat vlastní bohatství.

Většina techno-optimistů razí tento ideál, který zní velice nadějně. V realitě ale zhruba 90% nových podniků selže, především kvůli rizikovosti investice a vysokým vstupním nákladům (marketing). Úspěšné podniky jsou pak v ohrožení od velkých služeb. Například jako Uber disruptoval taxislužby a Amazon lokální obchody, plně robotizovaný řetězec restaurací či hotelů může disruptovat i úspěšné podniky v pohostinství. Velký kapitál má s AI výhodu rozměru firmy, ale i lokálně aplikované inteligence, jako malý podnik.

Také se dá předpokládat, že lokální konkurence bude narůstat, tedy bude stále těžší najít nevyužité příležitosti.

Na stejný problém narazí i AI agenti a roboti pracující pro jednotlivce. Budou si vzájemně silně konkurovat a jejich ekonomická hodnota bude také klesat.