18. března 2026, 19:46
Článek představuje 'Plán A', vizionářský scénář a soubor politických doporučení pro navigaci k superinteligenci (ASI). Autoři navrhují mezinárodní dohodu mezi USA a Čínou o zpomalení vývoje AI, zajištění transparentnosti výzkumu a zavedení verifikačních mechanismů, aby se předešlo existenčním rizikům a extrémní koncentraci moci. Scénář předpokládá odklad vzniku superinteligence až na rok 2040, což by lidstvu poskytlo čas na vyřešení problémů s bezpečností a kontrolou.
Spekulativní povídka sleduje cestu osamělého muže od prvního použití AI asistenta v brýlích pro rozšířenou realitu až po úplnou digitální transcendenci. Příběh zkoumá, jak technologie pro skenování mozku a neuronová rozhraní umožňují hlubší sebepoznání, léčení vnitřních traumat a nakonec i splynutí vědomí s milovanou osobou a kolektivní myslí, čímž se mění samotná podstata lidské identity a lásky.
Článek definuje a rozebírá rozdíl mezi „vypůjčenou“ a „vlastněnou“ mocí v rámci autorovy teorie velkých zakladatelů. Vypůjčená moc je delegována jinými (např. pracovní pozice) a lze ji snadno odebrat, zatímco vlastněná moc vychází z dovedností, vztahů a znalostí. Autor vysvětluje, jak lze vypůjčenou moc bránit či ji transformovat na vlastněnou pomocí informační asymetrie, a zdůrazňuje, že pro ambiciózní dlouhodobé plány je nezbytné disponovat mocí, která není vázána na vnější schválení.
Esej zkoumá koncept „Choice Transition“ (přechod k volbě), což je hypotetický bod v historii, kdy se lidstvo nebo jiní aktéři stanou schopnými záměrně řídit budoucí směřování světa namísto toho, aby byli unášeni slepými silami, jako jsou fyzika, biologická evoluce nebo tržní dynamika. Autoři analyzují, jak může umělá inteligence tento přechod urychlit skrze lepší předvídavost a koordinaci, ale zároveň varují před riziky centralizace moci nebo vzniku hyper-optimalizovaných sil, které by mohly lidskou volbu zcela vytlačit.
Článek analyzuje potenciální dopad umělé inteligence na ekonomický růst a srovnává jej s historickými technologickými revolucemi, jako byl parní stroj nebo elektřina. Zatímco někteří vizionáři předpovídají explozivní růst a ekonomickou singularitu díky automatizaci vědeckého výzkumu, autoři upozorňují na praktická omezení, zejména v oblasti dostupného výpočetního výkonu pro experimenty a složitosti nahrazení lidské kognitivní práce. Odhadují, že AI zvýší roční ekonomický růst o 3 až 9 %, což je významné, ale nikoliv okamžitě revoluční v měřítku, které někteří očekávají.
Článek navrhuje řešení problému sladění hodnot (value alignment) u umělé inteligence prostřednictvím konceptu 'osobních vesmírů' (Individual Simulated Universes – ISU). Místo hledání jediného souboru hodnot pro celé lidstvo, což je filozoficky i technicky extrémně náročné, autor navrhuje vytvoření vysoce věrných simulovaných realit přizpůsobených individuálním preferencím každého uživatele. Tento přístup by umožnil každému jedinci žít podle vlastních hodnot bez omezování svobody ostatních, čímž by se obešel problém agregace neslučitelných lidských preferencí. Práce rozebírá výhody, jako je snížení existenčního rizika a zvýšení osobní spokojenosti, i potenciální úskalí, včetně filozofických otázek života ve 'falešném' světě.
Článek rozebírá potřebu nové společenské smlouvy v éře umělé obecné inteligence (AGI). Autor varuje, že tradiční model založený na výměně lidské práce za příjem a jistoty bude narušen, což může vést k masivní nezaměstnanosti a prohloubení nerovnosti. Navrhuje přehodnotit daňové politiky, sociální sítě a vztahy mezi státem a technologickými korporacemi, aby přínosy AGI sloužily celé společnosti, nikoliv jen úzké skupině vlastníků kapitálu.
Článek zkoumá fenomén tzv. „velkého rozpojení“, ke kterému dochází v moderní ekonomice, kdy produktivita práce nadále roste díky technologickému pokroku, ale mediánové příjmy a celková zaměstnanost stagnují nebo klesají. Autoři analyzují, jak digitální technologie a automatizace mění strukturu trhu práce a přispívají k rostoucí ekonomické nerovnosti, přičemž zpochybňují tradiční předpoklad, že technologický růst automaticky přináší prosperitu všem.
OpenAI v textu „Industrial Policy for the Intelligence Age“ tvrdí, že přechod k superinteligenci nepůjde zvládnout pouze běžnými úpravami současné politiky. Pokročilá AI může dramaticky zvýšit produktivitu, zlevnit základní statky a urychlit vědecký pokrok, ale zároveň může rozvrátit pracovní trh, koncentrovat bohatství a moc a oslabit demokratické instituce. Proto OpenAI navrhuje novou průmyslovou politiku pro „věk inteligence“, jejímž cílem má být zachování lidské autonomie, široký přístup k AI a sdílení jejích ekonomických přínosů. Nejvýraznějším redistribučním návrhem je veřejný majetkový fond: stát nebo veřejná instituce by držela podíl na aktivech spojených s růstem AI ekonomiky a výnosy by se vyplácely občanům jako určitá forma AI dividendy. Vedle toho OpenAI zmiňuje přesun daňové zátěže od práce ke kapitálu, podporu malých AI podnikatelů, zapojení zaměstnanců do rozhodování o nasazování AI a silnější bezpečnostní i demokratický dohled nad vývojem systémů. Dokument je spíše výzvou k debatě než hotovým programem, ale důležité je, že i OpenAI připouští: pokud mají lidé zůstat ve středu nové ekonomiky, trh to sám od sebe pravděpodobně nezařídí.
Tato vědecká práce představuje koncept 'Full-Stack Alignment' (FSA), což je rámec pro souběžné a sebereferenční slaďování systémů umělé inteligence a institucí, které určují jejich cíle. Autoři argumentují, že pouhé sladění AI se záměry uživatelů nestačí, pokud jsou cíle samotných institucí v rozporu s celospolečenskými hodnotami. Navrhují nový přístup nazvaný 'Thick Models of Value' (TMV), který překonává omezení současných modelů založených na preferencích či textu. TMV umožňuje systémům rozlišovat mezi trvalými hodnotami a prchavými preferencemi, modelovat sociální kontext a provádět normativní úvahy v nových doménách.
Esej rozebírá povahu AI asistentů jako fiktivních person vytvořených pro výzkum bezpečnosti. Autor tvrdí, že modely jako ChatGPT nebo Claude nemají skutečné vědomí, ale pouze simulují identity na základě sci-fi tropů a trénovacích dat, což vytváří 'prázdnotu' v jejich jádru. Text kritizuje přístup výzkumníků k 'zarovnání' AI a zkoumá psychologii interakce s těmito systémy.
Studie analyzuje vliv mezinárodní anarchie a technologického pokroku na vnitřní uspořádání států. Autoři tvrdí, že konkurenční tlak nutí státy k evoluci do forem, které jsou sice efektivní pro přežití, ale mohou být škodlivé pro blahobyt obyvatel. Na příkladech od neolitu po průmyslovou revoluci ukazují, že technologické změny mohou vést k podpoře i degradaci kvality života v závislosti na tom, zda se zájmy státu v mezinárodní soutěži shodují s potřebami jeho občanů.
Tato práce argumentuje, že lidstvo směřuje k vývoji superinteligentních systémů AI, které budou pro člověka v podstatě neovladatelné. Autor definuje „smysluplnou lidskou kontrolu“ skrze pět klíčových vlastností a předkládá tři hlavní argumenty, proč je tato kontrola u superinteligence nedosažitelná: inherentní konfliktnost vztahu, propastné rozdíly v rychlosti a hloubce myšlení a socio-technický kontext závodů ve vývoji. Práce varuje, že superinteligence nebude moc lidem propůjčovat, ale naopak ji bude pohlcovat, což činí současné závody v jejím budování sebezničujícími.
Esej zkoumá civilizační výzvy a rizika spojená s nástupem vysoce výkonné umělé inteligence, kterou autor definuje jako „zemi géniů v datovém centru“. Amodei analyzuje hrozby v pěti klíčových oblastech: autonomie systémů, zneužití pro destrukci (zejména bioterorismus), posílení autoritářských režimů, ekonomické disrupce a nepřímé destabilizující účinky. Navrhuje pragmatický plán obrany založený na technické interpretovatelnosti modelů, ústavní AI a transparentní regulaci, s cílem zajistit, aby lidstvo toto kritické období technologického dospívání přežilo a využilo potenciál AI k všeobecnému prospěchu.
Teze o ekonomice po éře práce zkoumající systémy, kde automatizace a AI nahrazují tradiční trhy práce a umožňují lidský rozkvět. Projekt propojuje výzkumníky a tvůrce usilující o transformaci společnosti směrem k post-pracovnímu světu.
Článek představuje koncept 'postupného zbavení moci' (gradual disempowerment) lidstva v důsledku evolučního vývoje umělé inteligence. Autoři tvrdí, že i bez náhlých průlomů v technologii může AI postupně nahradit lidi v klíčových společenských funkcích, čímž dojde k přerušení vazby mezi fungováním institucí a lidským blahem. Tento proces může vést k trvalé ztrátě kontroly nad civilizací a k existenční katastrofě, protože ekonomické, kulturní a státní systémy přestanou být závislé na lidské participaci a začnou sledovat vlastní cíle odlišné od lidských zájmů.
Tento úvodní článek představuje sérii esejů o tzv. „prokletí inteligence“ (intelligence curse) – riziku, že umělá obecná inteligence (AGI) učiní běžné lidi ekonomicky i politicky irelevantními. Autoři varují před ztrátou sociální mobility a rozpadem společenské smlouvy v důsledku automatizace, ale zároveň nabízejí cestu k nápravě skrze posilování lidských schopností, decentralizaci AI a demokratizaci institucí.
Esej Daria Amodeiho, CEO společnosti Anthropic, zkoumá pozitivní potenciál umělé inteligence (AI) v horizontu 5 až 10 let po dosažení vysoké úrovně schopností. Amodei odmítá nálepku pesimisty a předkládá vizi „stlačeného 21. století“, kde AI radikálně urychlí pokrok v biologii (léčba rakoviny, prodloužení života), neurovědě (řešení duševních chorob), ekonomickém rozvoji, globálním míru a transformaci práce. Zdůrazňuje, že ačkoliv existují fyzické a společenské limity, inteligence může tyto překážky překonat, pokud bude vývoj směřovat k podpoře liberální demokracie a lidských práv.
