článek

AI 2040: Plan A · Thomas Larsen, Romeo Dean, Brendan Ha...

Článek představuje 'Plán A', vizionářský scénář a soubor politických doporučení pro navigaci k superinteligenci (ASI). Autoři navrhují mezinárodní dohodu mezi USA a Čínou o zpomalení vývoje AI, zajištění transparentnosti výzkumu a zavedení verifikačních mechanismů, aby se předešlo existenčním rizikům a extrémní koncentraci moci. Scénář předpokládá odklad vzniku superinteligence až na rok 2040, což by lidstvu poskytlo čas na vyřešení problémů s bezpečností a kontrolou.

33
článek

The Gentle Romance · Richard Ngo

Spekulativní povídka sleduje cestu osamělého muže od prvního použití AI asistenta v brýlích pro rozšířenou realitu až po úplnou digitální transcendenci. Příběh zkoumá, jak technologie pro skenování mozku a neuronová rozhraní umožňují hlubší sebepoznání, léčení vnitřních traumat a nakonec i splynutí vědomí s milovanou osobou a kolektivní myslí, čímž se mění samotná podstata lidské identity a lásky.

22
článek

Borrowed versus Owned Power · Samo Burja

Článek definuje a rozebírá rozdíl mezi „vypůjčenou“ a „vlastněnou“ mocí v rámci autorovy teorie velkých zakladatelů. Vypůjčená moc je delegována jinými (např. pracovní pozice) a lze ji snadno odebrat, zatímco vlastněná moc vychází z dovedností, vztahů a znalostí. Autor vysvětluje, jak lze vypůjčenou moc bránit či ji transformovat na vlastněnou pomocí informační asymetrie, a zdůrazňuje, že pro ambiciózní dlouhodobé plány je nezbytné disponovat mocí, která není vázána na vnější schválení.

32 1
článek

The Choice Transition · Owen Cotton-Barratt and Raymond Douglas

Esej zkoumá koncept „Choice Transition“ (přechod k volbě), což je hypotetický bod v historii, kdy se lidstvo nebo jiní aktéři stanou schopnými záměrně řídit budoucí směřování světa namísto toho, aby byli unášeni slepými silami, jako jsou fyzika, biologická evoluce nebo tržní dynamika. Autoři analyzují, jak může umělá inteligence tento přechod urychlit skrze lepší předvídavost a koordinaci, ale zároveň varují před riziky centralizace moci nebo vzniku hyper-optimalizovaných sil, které by mohly lidskou volbu zcela vytlačit.

30
kniha

Foragers, farmers, and fossil fuels · Ian Morris, Margaret Atwood, Christin...

Kniha Iana Morrise zkoumá fascinující vztah mezi zdroji energie a vývojem lidských hodnot v průběhu deseti tisíc let historie. Autor rozlišuje tři hlavní éry – sběračství, zemědělství a využívání fosilních paliv – a ukazuje, jak každá z nich formuje odlišné postoje k násilí, hierarchii a sociální rovnosti. Současné demokratické ideály tak nejsou náhodným triumfem morálky, ale přímým důsledkem naší energetické hojnosti, která se s budoucími technologickými změnami může opět zásadně proměnit. Celý text doplňují podnětné reakce významných osobností, jako jsou Margaret Atwoodová nebo Christine Korsgaardová.

28
článek

How much economic growth from AI should we expe... · Jack Wiseman and Duncan McClements

Článek analyzuje potenciální dopad umělé inteligence na ekonomický růst a srovnává jej s historickými technologickými revolucemi, jako byl parní stroj nebo elektřina. Zatímco někteří vizionáři předpovídají explozivní růst a ekonomickou singularitu díky automatizaci vědeckého výzkumu, autoři upozorňují na praktická omezení, zejména v oblasti dostupného výpočetního výkonu pro experimenty a složitosti nahrazení lidské kognitivní práce. Odhadují, že AI zvýší roční ekonomický růst o 3 až 9 %, což je významné, ale nikoliv okamžitě revoluční v měřítku, které někteří očekávají.

27
článek

Personal Universes: A Solution to the Multi-Age... · Roman V. Yampolskiy

Článek navrhuje řešení problému sladění hodnot (value alignment) u umělé inteligence prostřednictvím konceptu 'osobních vesmírů' (Individual Simulated Universes – ISU). Místo hledání jediného souboru hodnot pro celé lidstvo, což je filozoficky i technicky extrémně náročné, autor navrhuje vytvoření vysoce věrných simulovaných realit přizpůsobených individuálním preferencím každého uživatele. Tento přístup by umožnil každému jedinci žít podle vlastních hodnot bez omezování svobody ostatních, čímž by se obešel problém agregace neslučitelných lidských preferencí. Práce rozebírá výhody, jako je snížení existenčního rizika a zvýšení osobní spokojenosti, i potenciální úskalí, včetně filozofických otázek života ve 'falešném' světě.

56
článek

Forging a New AGI Social Contract · Deric Cheng

Článek rozebírá potřebu nové společenské smlouvy v éře umělé obecné inteligence (AGI). Autor varuje, že tradiční model založený na výměně lidské práce za příjem a jistoty bude narušen, což může vést k masivní nezaměstnanosti a prohloubení nerovnosti. Navrhuje přehodnotit daňové politiky, sociální sítě a vztahy mezi státem a technologickými korporacemi, aby přínosy AGI sloužily celé společnosti, nikoliv jen úzké skupině vlastníků kapitálu.

77
článek

The Great Decoupling · Erik Brynjolfsson and Andrew McAfee

Článek zkoumá fenomén tzv. „velkého rozpojení“, ke kterému dochází v moderní ekonomice, kdy produktivita práce nadále roste díky technologickému pokroku, ale mediánové příjmy a celková zaměstnanost stagnují nebo klesají. Autoři analyzují, jak digitální technologie a automatizace mění strukturu trhu práce a přispívají k rostoucí ekonomické nerovnosti, přičemž zpochybňují tradiční předpoklad, že technologický růst automaticky přináší prosperitu všem.

73
článek

Industrial Policy for the Intelligence Age · OpenAI

OpenAI v textu „Industrial Policy for the Intelligence Age“ tvrdí, že přechod k superinteligenci nepůjde zvládnout pouze běžnými úpravami současné politiky. Pokročilá AI může dramaticky zvýšit produktivitu, zlevnit základní statky a urychlit vědecký pokrok, ale zároveň může rozvrátit pracovní trh, koncentrovat bohatství a moc a oslabit demokratické instituce. Proto OpenAI navrhuje novou průmyslovou politiku pro „věk inteligence“, jejímž cílem má být zachování lidské autonomie, široký přístup k AI a sdílení jejích ekonomických přínosů. Nejvýraznějším redistribučním návrhem je veřejný majetkový fond: stát nebo veřejná instituce by držela podíl na aktivech spojených s růstem AI ekonomiky a výnosy by se vyplácely občanům jako určitá forma AI dividendy. Vedle toho OpenAI zmiňuje přesun daňové zátěže od práce ke kapitálu, podporu malých AI podnikatelů, zapojení zaměstnanců do rozhodování o nasazování AI a silnější bezpečnostní i demokratický dohled nad vývojem systémů. Dokument je spíše výzvou k debatě než hotovým programem, ale důležité je, že i OpenAI připouští: pokud mají lidé zůstat ve středu nové ekonomiky, trh to sám od sebe pravděpodobně nezařídí.

99