Inteligenční závod

Kam kráčíme a proč?

Ve všech vážných kompetitivních situacích panuje dynamika evolučního závodu o přežití. Určité vlastnosti systému určují jeho zdatnost. V geopolitice je to například technologická převaha, bezpečnost a moc. V ekonomice pak konkurenceschopnost: vyšší produktivita, nižší náklady a rychlejší škálování.

Civilizačně významné technologie mění pravidla hry a tato dynamika závodu tvoří velmi silný motivátor k adopci. Kdo technologii využije, získá výhodu. Kdo by chtěl zastavit, riskuje zánik.

Vědy, technologie, demokracie, kapitalismus, ale i morálka a obchod, jsou především takovéto evolučně úspěšné nástroje. Prosadily se, protože fungovaly nejen lokálně, ale také zvýšily schopnost celých států přežít a soutěžit. Průmysl potřeboval pracovníky. Firmy spotřebitele. Stát vojáky, vzdělané občany a daňové poplatníky. Široká populace byla strategickým aktivem a její blahobyt koreloval se systémovou zdatností. Úspěch této kultury růstu je těžké popřít – od dob průmyslové revoluce globální populace rychle rostla a blahobyt narůstal. Tento překryv zájmu napříč úrovněmi společnosti ale není přírodním zákonem, spíše šťastnou okolností. Historicky se určité technologie prosadily i navzdory zhoršení blahobytu většiny. ^[1]

Pokud nová technologie zvyšuje význam velikosti populace pro konkurenceschopnost systému, stát má motivaci k obecnému blahobytu: vzdělání, zdravotnictví, veřejným službám, sociálnímu systému, politickým právům a apod. Pokud naopak technologie umožní konkurenceschopnost státu (či firmy) bez široké populace, může se blahobyt lidí stát zbytečným nákladem.

Tady vzniká tzv. vězňovo dilema. Jednotlivý aktér může chápat, že určitý směr vývoje je společensky nebezpečný. Firma může tušit, že automatizace oslabí kupní sílu společnosti. Stát může tušit, že závod ve zbrojení (nebo AI) povede k nestabilitě. Jednotlivec může tušit, že nástroj, který používá, nakonec zhorší jeho vyjednávací pozici. Přesto má každý z nich důvod pokračovat, pokud očekává, že ostatní pokračovat budou. Toto je past závodu (Moloch), ve kterém nikdo nemusí chtít výsledný svět, ale každý má důvod udělat krok, který k němu vede. Tento veskrze racionální motivátor je důležitější, než dobré nebo špatné úmysly jednotlivých aktérů.

Zde dnes leží kámen úrazu. Hlavní motor moderní ekonomiky byl vždy člověk a náš ekonomický systém je na tom postavený. Stroje sice v průběhu staletí nahradily svaly, pak software nahradil rutinu, ale člověk byl nenahraditelný: chápe zadání, používá nástroje, reaguje na změny, komunikuje s ostatními a ručí za výsledek práce. Dnes ale máme novou, velice škálovatelnou konkurenci.

Umělá inteligence

Inteligence, nejsilnější kompetitivní přednost člověka, je forma optimalizace prostředí, skrze informační kompresi (učení) a predikci (inference) – dvě strany stejné mince. Inteligencí tvoříme nástroje (technologie), čímž zvyšujeme produkci statků a snižujeme náklady, až do dnešního fascinujícího extrému, kdy jsme strojově osamostatnili inteligenci samotnou.

Agentizace

V posledních letech se z prvotního nástroje pomalu stává stále samostatnější agent, prakticky digitální organismus.

Autonomní AI tedy není normální technologie, nebo "chatbot", a především už není pouhý nástroj. AGI agent bude mít člověku ekvivalentní schopnost přijímat a vykonávat libovolné nové úkoly. Za dnešními největšími investicemi do infrastruktury v historii lidstva, je víra v možnost celkové automatizace pracovníka a trénink humanoidních robotů. Kapitál se snaží zbavit svého největšího nákladu a limitace růstu: lidské práce.

Je to stále nejistá sázka (může přijít další AI zima), ale z dlouhodobého hlediska je trend jasný. Jak historicky dopadají soutěže mezi člověkem a strojem, už máme dobrou intuici.

V tržní ekonomice není rozhodující, zda je technologie dokonalá. Rozhodující je, zda dokáže vykonat úkol levněji než alternativa. Jakmile se AI stane levnější než člověk pro významnou část kognitivní práce, vznikne silný ekonomický tlak na její nasazení bez ohledu na to, zda je ve všech ohledech lepší.

Pokud bude současný trend pokračovat, lze očekávat rostoucí tlak na cenu lidské práce napříč většinou profesí. Probíhá nová průmyslová revoluce, kde je pracovník tím, čím byl dříve kůň.

Závod nelze ukončit, tak jako nejde ukončit evoluce. Inteligence bude dále optimalizovat užitek, až do stavu plně robotické ekonomiky. Otázkou je v čí prospěch. Jsem přesvědčení že na inteligenčním závodu se dá svézt jen pokud jste osobně ve vlastnické pozici, nebo pokud se jako celá společnost zaměříme na vlastnictví tohoto výjimečného zdroje na kolektivní, podobně jako u elektřiny a vody. Tím se sníží tlak na soutěž a dynamika celé hry změní na kooperativní.

“Digitální technologie přivedou svět do éry většího bohatství, hojnosti a menší dřiny. Není však žádná záruka, že se na tomto bohatství bude podílet každý. Výsledek – sdílená prosperita nebo rostoucí nerovnost – nebude určen technologiemi, ale rozhodnutími, která učiníme jako jednotlivci, organizace a společnosti.” – Erik Brynjolfsson - The Great Decoupling