Star Citizen:News Update: To se nikdy neponaučíme?

NEW UNITED NewsOrg

To se nikdy neponaučíme? Parker Terrell

Ne všichni jsme historikové.

Možná je to jeden z důvodů, proč se zdá, že zapomínáme na hříchy našich otců a jejich otců, a to až do úsvitu civilizace. Nebo je to možná jen tím, že pro lidskou rasu jsou slova "můžu" a "měl bych" často považována za zaměnitelná.

Než zavřete comm kanály kvůli tomu, že jsem nějaký novodobý luddita, dovolte mi, abych upřesnil, že nejsem ani proti pokroku, ani proti technologiím. Inovace je to, co dělá lidstvo tak skvělým – a co nás vůbec dostalo do tohoto velkolepého vesmíru. Je samozřejmé, že pokrok obecně vyžaduje riziko.

Problém je v tom, že k technologiím často přistupujeme s klapkami na očích, pokud jde o to, co bylo dříve, ať už proto, že výsledek je důležitější než varovné příběhy, nebo proto, že jsme dostatečně pyšní na to, abychom si mysleli, že tentokrát to zvládneme lépe. Až na výjimky je každá generace vyspělejší než ta předchozí, a tak se domníváme, že nemůžeme chybovat stejně jako naši rodiče. A tak jsme zase tady. Zdá se, že nová inciativa společnosti ArcCorp v oblasti umělé inteligence, o níž se od jejího oznámení před dvěma týdny vedou bouřlivé diskuse, opět směřuje ke stejným nástrahám jako naši předkové.

Nemůžeme přece dělat stejné chyby.

Někdy ani není naší vinou, že zapomínáme. Trvalo téměř deset let mediálního vyšetřování, než se z vlády podařilo vymámit pravdu o tom, že možná, možná (myslím to sarkasticky) stála za katastrofou na Marsu v roce 2125 umělá inteligence v projektu teraformace. Do té doby o tom nikdo nechtěl slyšet.

Ani to ovšem nebyla první katastrofa s umělou inteligencí. Tuto čest drží takzvaná nehoda "Lemming Car" v Tokiu v roce 2044. O necelých 100 let později se však vláda rozhodla, že vyřešila problémy se systémy UI, a poslala jeden na Mars. Samozřejmě nám o tom neřekli, pro případ, že by se mýlili.

Ale spletli se.

A pak, jen něco málo přes 100 let po katastrofě na Marsu (vidíme tu nějaký trend, lidi?), přišel Artemis. Janus. I přes obrovskou podívanou, kterou start představoval, musel být někdo někde nervózní z toho, že stále kráčíme po nebezpečné cestě umělé inteligence. Tentokrát si však byli jisti, že se jim to povedlo.

Sice si nejsme jistí, že za zmizení pěti tisíc lidí může výhradně umělá inteligence, ale určitě musela hrát svou roli.

Při tak veřejném selhání se džin na chvíli vrátil do láhve. Ale ještě jsme neskončili. UEEN se vrátila k utajování, když spustila svůj poslední neúspěšný projekt UI. Nedávno odtajněné dokumenty ukazují, jak blízko jsme byli válce během projektu, který se stal známým jako Horus Incident. Námořnictvo ve spolupráci s Aegisem nasadilo podél xi'anské fronty prototyp bombardovacího křídla Overlord pilotovaného umělou inteligencí. Měli srdce na správném místě: šlo o pokus přivést domů piloty, kteří byli po celou svou kariéru nasazeni podél Perryho linie. Ale když se miliardové děti Aegisu rozhodly, že jejich komunikace je kompromitována, a vypnuly je - právě včas, aby nestihly příkaz k odvolání - museli jsme pronásledovat a zničit vlastní chybu, což byl pro Aegis smrtelný úder v loďařském průmyslu. Opět si nejsme jisti, že by nás uvrhly do totální války se Xi'any tím, že by se bez dozoru potulovaly v neutrální zóně, ale důležité je, co by mohly udělat.

Imperátor se samozřejmě snažil celou trapnou situaci zamlčet. Přesto se alespoň zdálo, že jsme se konečně naučili dostatečně zdravě bát, abychom umělou inteligenci v lodích ještě někdy použili.

Teď je řada na korporátním sektoru, aby věřil, že nebude opakovat chyby předchozích generací.

Společnost ArcCorp nám tvrdí, že její UI se bude umět učit, což jí umožní uspět tam, kde ostatní selhali. (Kde jsme to už slyšeli?) Ale je tu jedna věc: lidé to dělají také. Musí mít dlouholeté zkušenosti, specifický výcvik a patřičné licence, aby se vůbec mohli vydat do vesmíru. Ale ArcCorp chce opět vyslat umělou obdobu dětí v masivních vesmírných lodích, aby se pohybovaly v rozlehlých prostorách naší mezihvězdné říše.

To je pokrok. Chrání to lidské životy. Musí se to stát.

Proč se to nemůžeme naučit?

KONEC