Úvod
Prokletí inteligence
Brzy budeme žít ve věku inteligence. Jak s touto informací naložíte, určí vaše místo v dějinách.
Blížící se příchod AGI přiměl mnohé, aby se co nejrychleji pokusili uchopit páky moci a vrhli se do projektů, které by — pokud uspějí — kompletně zautomatizovaly veškerou práci. Probíhají „závody ve zbrojení“ za biliony dolarů o to, kdo takovou schopnost získá jako první, přičemž ve hře jsou další biliony zisku.
Ano, znamená to, že přijdete o práci. Ale jde o víc: zmizí potřeba obyčejných lidí v naší ekonomice. Mocní aktéři — jako státy a firmy — už nebudou mít důvod se o obyčejné lidi zajímat. Tento jev nazýváme prokletí inteligence.
Pokud neuděláme nic, prokletí inteligence bude fungovat takto:
Výkonná AI bude protlačovat automatizaci napříč existujícími organizacemi — počínaje nejnižšími patry a postupně směrem k vrcholu.
AI učiní zbytečnými i nejlepší experty. Sociální mobilita se zastaví a s ní skončí i společenská dynamika a pokrok, které z ní pramení.
Ne-lidské výrobní faktory — jako kapitál, zdroje a kontrola nad AI — získají drtivě větší význam než lidé.
To vytvoří u mocných aktérů po celém světě motivace, které rozbijí moderní společenskou smlouvu.
Výsledkem může být postupné — nebo náhlé — zbavení převážné většiny lidstva veškeré moci.
Tato věštba se však ještě nenaplnila; odmítáme názor, že je tato cesta nevyhnutelná. Na obzoru vidíme jinou budoucnost. Její dosažení však bude vyžadovat cílevědomé a sladěné úsilí.
Naším cílem je změnit motivace, které prokletí inteligence pohánějí, zachovat ekonomickou relevanci člověka a posílit naše demokratické instituce tak, aby ustály to, co bude pravděpodobně největším společenským otřesem v dějinách.
Abychom prokletí inteligence zlomili, měli bychom vykročit jinou cestou technologického stromu a budovat technologie, které nám umožní:
Odvracet AI katastrofy tím, že proti nim svět obrníme — jednak proto, že je to dobré samo o sobě, jednak proto, že to odstraní bezpečnostní hrozby živící volání po centralizaci.
Rozprostřít AI tak, aby se dostala do rukou obyčejných lidí. V krátkodobém horizontu budovat AI, která rozšiřuje lidské schopnosti. V dlouhodobém horizontu sladit AI přímo s jednotlivými uživateli a dát každému kontrolu v AI ekonomice.
Demokratizovat instituce a více je ukotvit v potřebách lidí i ve chvíli, kdy jimi zmítá proměnlivé pole pobídek a překotný sled událostí přechodu k AGI.
V této sérii esejů zkoumáme nadcházející krizi lidské nepotřebnosti a nabízíme mapu k budoucnosti, v níž lidé zůstanou pány svého osudu.