Star Citizen:Showdown: "Lepší zítřky"

Automatický přepis pro podání S&P a NFSC EP:66:12: "A Better Today" (Za lepší budoucnost)

Vítejte v pořadu Showdownu, diskuzním pořadu zaměřeném na nejpalčivější problémy Impéria. Moderuji já, Eria Quint, uprostřed. Později se v pořadu se dostaneme k nedávným násilným střetům mezi občany na Yele a Crusader Security a zeptáme se, zda korporátní policie zašla příliš daleko, nebo zda konečně přikročila k řešení problému, který byl příliš dlouho ignorován.

Nejdříve ale k jinému tématu. Tento rok se Laylani Addison stala Imperátorkou UEE a ne všichni její příznivci jsou s dosavadním pokrokem spokojeni. Navzdory svému předvolebnímu slibu, že zajistí navýšení finančních prostředků na výzkum umělé inteligence, až dosud nepodnikla žádné konkrétní kroky. Její nedávno navržený zákon Better Today Act ("Zákon za lepší budoucnost") oslabí mnohá platná omezení výzkumu umělé inteligence a otevře mu dveře k získání vládního financování. Někteří nový zákon oslavují, jiní si však nejsou jisti, zda je to dobrý – nebo bezpečný – nápad.

Jsem tu s Yunou Glidewell, inženýrkou a zastánkyní umělé inteligence, a Mahirem Lemondem, autorem knihy 2044: The Lemming Incident.

Yuna Glidewell: Zdravím Erio, děkuji za pozvání.

Mahir Lemond: Dobrý den.

Eria Quint: Co si myslíte o návrhu Addison. Začnu u vás, Yuno.

Yuna Glidewell: Nemusím říkat, že jsem nadšená. Je to už tak dlouho, co Addison nastoupila do úřadu, že jsme s kolegy začínali ztrácet naději. Mysleli jsme si, že už zapomněla, že vyhrála volby díky svému slibu o "světlejších zítřkách".

Eria Quint: "Světlejší zítřky"? Můžete to rozvinout?

Yuna Glidewell: Lidstvo příliš dlouho brzdilo svůj vlastní pokrok díky iracionálnímu strachu z umělé inteligence. Je to už několik století, co nám bylo umožněno dosáhnout nějakého významného pokroku ve výzkumu umělé inteligence, a ne náhodou jsme podle mého názoru v technickém pokroku nejméně sto let za Xi'any.

Eria Quint: Vyvinulo Impérium Xi'an skutečnou umělou inteligenci? Pokud ano, je to pro mě novinka.

Yuna Glidewell: [směje se] No, o ničem takovém nevíme. Ale právě proto je tak důležité, abychom se k tomu dostali jako první. Pokud vytvoříme něco, co zatím nemají ani Xi'ané, můžeme významně pokročit v odstraňování technologické propasti.

Eria Quint: A co vy, Mahire? Nechává vás zákon za lepší budoucnost klidným, nebo vám dělá starosti?

Mahir Lemond: Velmi mě znepokojuje. Už dávno jsme se rozhodli, že umělá inteligence nestojí za riziko, a to z velmi dobrých, rozsáhle zdokumentovaných a především smrtelně nebezpečných důvodů. To zdaleka nespočívá jen v tzv. tokijské Lemming Car katastrofě v roce 2044, která si vyžádala 12 456 mrtvých a nespočet zraněných. Pokaždé, když jsme umělou inteligenci vytvořili, dopadlo to vždy ještě hůře. Tragédie na Marsu v roce 2125, výbuch věže Cerita v roce 2298, incident v Horu v roce 2696: vše způsobily dobře míněné, ale nakonec nebezpečné experimenty s UI.

Yuna Glidewell: To všechno byly strašné tragédie, o tom se nebudu přít. Ale raná technologie má vždycky problémy, které se v následujících generacích vyřeší.

Mahir Lemond: Ztráta lidského života je trochu závažnější než "problém", paní Glidewell.

Yuna Glidewell: A jak jsem řekla, byly to tragédie. Takové, kterým se můžeme vyhnout, pokud se přestaneme bát pokroku. Dnes jsme schopni vybudovat ochranná opatření, která by si naši předkové nedokázali představit. Věřte mi, že nikdo nepřemýšlí o možných důsledcích špatně vytvořené a řízené umělé inteligence více než lidé, kteří ji zkoumají.

Mahir Lemond: Myslím si, že lidstvo dělá pokroky bez problému. Podívejte se, jaký dopad má technologie regenerace. Jak to, že to není pokrok?

Yuna Glidewell: Samozřejmě tím nemyslím, že se absolutně nikam neposouváme. Ale ačkoli existují boomy pokroku, celkový trend je takový, že zpomalujeme. Musíte uznat, že je zvláštní, že už stovky let létáme se stejnými modely kosmických lodí, zatímco v počátcích kosmických letů se nové modely lodí objevovaly závratným tempem. No tak, můj syn létá s lodí, která byla vyrobena v roce 2874.

Mahir Lemond: Ano, uznávám, že v některých oblastech je cítit útlum. Ale takový je pokrok. Když se podíváte na dějiny lidstva, byla období rychlých změn, období, kdy se vše dařilo, a období úpadku. Některé technologie se dají plně využít až dlouho po jejich objevení. Podívejte se na parní pohon: byl vytvořen starověkými lidmi v 1. století, ale kvůli nedostatku zdrojů nemohl být plně realizován až do roku 1700. Stejně tak se podívejte na vodní lodě, jejichž konstrukci nebylo třeba smysluplně aktualizovat od doby, kdy lidé ještě přistáli na Luně. Proč opravovat něco, co není rozbité?

Yuna Glidewell: Proč se spokojit s tím, co máte, když si můžete pořídit něco, co funguje lépe? Jak jste řekl, existují období, kdy se nic nemění, a pak období velkých změn, když se objeví nějaký nový zdroj. Umělá inteligence má potenciál být pro nás takovým zdrojem. Bez ohledu na to, jak velké kreativity a vhledu jsou lidé schopni, naše mysl je omezená. Umělá inteligence propojená s jinými UI bude mít nadlidské schopnosti. Představte si, jaká by mohla být budoucnost konstrukce vesmírných lodí, kdybychom zapojili byť jen několik UI do práce na konstrukci lepší lodi.

Mahir Lemond: Už dnes máme k dispozici složité algoritmy a výkonné technologie strojového učení, které dokážou přesně to, co popisujete. Nová generace bezpilotních letounů, které armáda vyvinula ve čtyřicátém sedmém, byla původně navržena počítačem, jemuž byla předána data o ptačích kostrách. K vytváření nových technologií zjevně nepotřebujeme umělou inteligenci. Historické důkazy jasně říkají…

Yuna Glidewell: Znovu opakuji, že netvrdím, že neexistuje riziko, ale říkám, že…

Mahir Lemond: Ještě jsem neskončil. Důkazy říkají, že když je zapojena umělá inteligence, lidé umírají.

Yuna Glidewell: Záměrně mě špatně interpretujete. Několikrát jsem řekla, že jsme vzali v úvahu hypotetické nebezpečí a že ochrana lidských životů bude naší prioritou.

Mahir Lemond: Nebezpečí není hypotetické a vy to víte. Jen je vám to jedno.

Eria Quint: Odstupme na chvíli od otázky lidských životů. Yuno, mohla byste mi říct víc o problémech, které podle vás může umělá inteligence pomoci vyřešit?

Yuna Glidewell: Děkuji, Erio. Až budeme mít umělou inteligenci, vojáci nebudou muset chodit do války. Úmrtí na operačních sálech se drasticky sníží. Dopravní nehody se stanou minulostí. Lodě budou moci skutečně létat samy. Mohl bych pokračovat, ale to je budoucnost, kterou si odpíráme. Je mimo dosah jen proto, že se bojíme podniknout další kroky. Zákon o lepších zítřkách je jemným impulsem, který potřebujeme, abychom se dostali ze startovní čáry.

Mahir Lemond: Dobře. Zapomeňme na minulost a představme si na chvíli, že neexistuje žádný možný způsob, jak by mohla vadná nebo zlotřilá umělá inteligence vraždit lidi. Právě jste popsala svět, v němž jsou oběti válek, předčasná úmrtí a chudoba vymýceny, nebo se jim co nejvíce blíží. Je to tak správně?

Yuna Glidewell: Ne tak docela. Ale věci mají rozhodně potenciál být mnohem, mnohem lepší.

Mahir Lemond: A nejlepší způsob, jak toho dosáhnout, je vytvořit myslící, cítící otroky, kteří za nás vyřeší naše problémy?

Yuna Glidewell: Prosím?

Eria Quint: Než si tuto otázku rozebereme, musíme si dát krátkou reklamní přestávku. Brzy se vrátíme a dokončíme fascinující diskusi Mahira Lemonda a Yuny Glidewell. Pak se podíváme na situaci na Yele. Může Crusader Security skutečně udržet pořádek na měsíci, kde žádný není? Nikam neodcházejte.