Personal Universes: A Solution to the Multi-Agent Value Alignment Problem

Článek navrhuje řešení problému sladění hodnot (value alignment) u umělé inteligence prostřednictvím konceptu 'osobních vesmírů' (Individual Simulated Universes – ISU). Místo hledání jediného souboru hodnot pro celé lidstvo, což je filozoficky i technicky extrémně náročné, autor navrhuje vytvoření vysoce věrných simulovaných realit přizpůsobených individuálním preferencím každého uživatele. Tento přístup by umožnil každému jedinci žít podle vlastních hodnot bez omezování svobody ostatních, čímž by se obešel problém agregace neslučitelných lidských preferencí. Práce rozebírá výhody, jako je snížení existenčního rizika a zvýšení osobní spokojenosti, i potenciální úskalí, včetně filozofických otázek života ve 'falešném' světě.