Dějiny jsou Vaše k napsání

Shrnutí: Máte plán, jak zlomit prokletí inteligence. Co s ním uděláte?

Vláda, ekonomové, vaši kolegové ani vaši sousedé nevěnují hromadné automatizaci a jejím potenciálním důsledkům pozornost. Nejlépe financované firmy světa pálí stovky miliard dolarů ve snaze vytvořit AGI. Pokud uspějí, mohly by odemknout bezprecedentní hojnost — což je dobře. Současný plán pro AGI ale zároveň každému bere jeho hlavní páku moci: schopnost vytvářet ve světě hodnotu.

Jak by si lidé v takovém světě vedli? Mohli byste důvěřovat politikům, ředitelům a AI samotné, kteří nakonec skončí u moci. Snad budou laskaví. Ale ani dějiny, ani motivace nehledí na stabilitu tohoto uspořádání vlídně. Nejlepší svět je ten, kde lidé nejsou poddaní, ale hráči.

Vládne zbožné přání, poháněné směsí popírání a pocitu vlastní důležitosti. Mnozí z těch, kdo to vidí přicházet, očekávají, že oni osobně budou v pořádku. Snad mají dobře placená místa v AI laboratořích, nebo si myslí, že mají onu jedinečně lidskou práci, kterou jim AI nemůže vzít.

Jiní ignorují schopnosti AI přímo před sebou a píší manifesty o tom, co AI nedokáže, krátce poté následované důkazem, že to dokáže. Místo aby změnili svá přesvědčení, ignorují důkazy.

Ale u třetí skupiny — těch, kdo tu vlnu vidí a vědí, že je pohltí — nahradil kritické myšlení bezbřehý optimismus.

V nedávném rozhovoru jsme nadnesli koncept prokletí inteligence. Ještě jsme jej neměli celý rozpracovaný, ale reakce dotyčného nás přesvědčila, že to musíme udělat. Tento člověk, dobře propojený v oboru AI, souhlasil, že technologické vytlačení je nejpravděpodobnějším výsledkem AGI, ale věřil, že to ve výchozím scénáři vyústí v utopii.

„Nebudeme potřebovat práci — budeme se moci svobodně seberealizovat. Budeme sledovat smysluplné cíle a psát poezii.“

K utopickému psaní poezie se nedostanete tím, že budete věřit, že to za vás vyřeší někdo jiný. Nemodlíte se k Bohu, modlíte se k lidem nevědomějším, než jste sami.

Místo abyste se s odpověďmi obraceli na druhé, jednejte sami:

• Pokud působíte ve vládě, měli byste prognózovat schopnosti AI a promýšlet řešení prokletí inteligence.

• Pokud jste v think-tanku, začněte psát studie navržené tak, aby nás připravily na svět po AGI.

• Pokud jste v AI laboratoři, kriticky prozkoumejte motivátory své organizace a pomozte vybudovat lepší vnitřní struktury vládnutí, které je překonají.

• Pokud jste mladí, buďte ambiciózní. Tradiční prestižní dráhy se stejně zavírají. Zakládejte firmy, které se snaží navrhovat technologie, jež udrží lidi ekonomicky relevantními a rozšíří hojnost.

• Pokud jste rizikový investor, financujte projekty a produkty, které udrží lidi u kormidla.

Směřování civilizace není dané. Dějiny jsou na vás, abyste je napsali. Dejte se do práce.

Neoficiální překlad. Vydáno se svolením autorů:
Rudolf: Substack, X · Luke: Substack, X
Originál: intelligence-curse.ai