AI apokalypsa: Čeká nás vážně vyhynutí lidstva?

Umělá inteligence může vést k zániku lidstva, varovali vedoucí představitelé technologického sektoru v prohlášení, které podepsaly desítky akademiků, expertů a podnikatelů. Prohlášení je nebývale minimalistické, celé jeho znění představuje jediná věta:

„Zmírnění rizika vyhynutí kvůli AI by mělo být globální prioritou vedle dalších celospolečenských rizik, jako jsou pandemie a jaderná válka.“ (https://www.safe.ai/…t-on-ai-risk)

Jeho komprimovaná forma má tu výhodu, že se díky ní snáze dosáhne konsenzu. I mě se to líbí a mám k tomu jen tři drobné výhrady:

1. Neuváděl bych příklady dalších celospolečenských rizik. Někdo se může ozvat, proč tam není klima, jiný může zmínku o jaderné válce chápat jako naskakování na ruskou propagandu. Pandemii bych nezmiňoval vůbec, to je nešťastná epizoda, kde jsme jako lidstvo moc neobstáli. Kdyby koronavirus uměl mluvit, rád bych se ho zeptal, jestli si vůbec všiml, že jsme s ním bojovali.
2. „Vyhynutí“ je zbytečně silné slovo. Vyhynutí čeho? Lidí? V žádném katastrofickém filmu lidé nevyhynou, vždycky někdo přežije. Být takto konkrétní je zbytečné, zůstal bych obecně u „rizik“
3. Je opravdu nutné tam zmiňovat AI? Nebude pak takové prohlášení vnímáno jako surfování na vlně kolem umělé inteligence? Neotevře to opět Pandořinu skříňku nekonečných debat, co to vlastně inteligence je a jak ji definovat? Dejme to pryč.

„Zmírnění rizika by mělo být globální prioritou vedle dalších celospolečenských rizik.“

Pod tohle se už můžu podepsat.