Riziká digitálnych technológií

S vývojom informačných a komunikačných technológií a s ním spojeným rozmachom AI (Artificial Intelligence – umelej inteligencie) sa otvárajú nové možnosti, ako môže veda pomáhať človeku. Na druhej strane ale vzniká otázka, či by sme mali použiť technológie, ktoré môžeme vyvíjať, alebo aké hranice si stanoviť.

Použitie AI miesto ľudskej práce

Umelá inteligencia v mnohých prípadoch môže nahradiť ľudskú prácu. To môže viesť k stavu, kedy vznikne trieda ľudí, ktorí nemajú potrebné zručnosti a nie sú schopní konkurovať AI. Budú proste sedieť doma a brať podporu? 

Čo sa stane s ekonomikou, keď pominie nedostatok, z ktorého vyrástli zákony ekonomiky? A ako bude vyzerať cesta k zdanlivej utópii? Ak ľudia ani nebudú musieť pracovať, ako sa zmení celá spoločnosť? A kto bude vytvárať bohatstvo, z ktorého by mali byť živení ľudia bez práce?

Autonómne vozy a zbrane

Umelá inteligencia sa úspešne používa k vývoji autonómnych vozidiel. Spoločnosti Google a Tesla už vyvinuli funkčné modely. No vznikajú nové etické otázky. Ak má AI rozhodnúť, či nabúra auto, alebo zrazí na chodníku dieťa, ako sa má rozhodnúť? A kto je zodpovedný za správanie autonómneho vozu?

Ešte výraznejšie tento problém vynikne v otázke autonómnych zbraní. AI môže pomôcť reagovať na ohrozenie napr. raketami z rôznych smerov rýchlejšie, než by to dokázal človek. Na druhej strane je ale možné AI oklamať a namieriť zbrane do vlastných radov. A čo keď sa takéto zbrane dostanú do rúk teroristom?

Na tieto otázky nie je ľahké odpovedať. Poistkou proti zlým rozhodnutím zo strany AI ostáva to, že v riadiacej slučke figuruje rozhodovanie človeka. Napr. autonómne vozidlo musí sledovať človek, aby mohol prevziať riadenie vozu v prípade núdze. A že právnu zodpovednosť by mal vždy niesť človek ukazujú prípady kolízií autonómnych vozov s chodcami.

Sledovanie ľudí

Iným príkladom etickej dilemy je používanie kamerových systémov k udržiavaní verejného poriadku. Polícia napríklad používa kamery k zaistení dôkazov o porušení dopravných predpisov. V rozvinutých totalitných režimoch, ako je Čína dochádza k zneužívaniu AI k tomu, aby obmedzovali osobné slobody svojich občanov a vynucovali ich správanie v súlade s režimom. Viac o tom video o systéme sociálneho kreditu v ČLR:

Čínsky kreditný systém pripomína dystopické romány. George Orwell napísal román 1984, odkiaľ pochádza známy pojem Big Brother. V tejto knihe totálna kontrola spoločnosti zaručuje štátostrane možnosť kruto potrestať kohokoľvek, kto by mohol ohroziť jej vládu či čo i len zapochybovať o režime. Samotná ľudská individualita je trestaná ako myšlienkový zločin.

Dataizmus

Tzv. veľké dáta, ktoré získavajú veľké korporácie ako Google, Amazon, Microsoft, sa dajú tiež používať k sledovaní správania ľudí na internete. Používajú sa napr. na smerovanie reklám a služieb na konkrétnych používateľov. 

Radikálne futuristické hlasy vyzývajú, aby sa ľudské rozhodnutia prispôsobili optimálnemu toku dát. Chcú odstrániť všetky prekážky, ako je súkromie a autorské práva. Dataizmus zastáva názor, že vesmír sa skladá z tokov údajov a hodnota každého javu alebo entity je určená jeho príspevkom k spracovaniu celku. prostredníctvom internetu je možné ovládať digitálne zariadenia vo fyzickom svete, napr. domáce spotrebiče. Vyžaduje to však ochotu o sebe zdieľať viac osobných údajov, ako je naša poloha apod. Je otázkou, do akej miery je to prospešné. Viac o tom krátke video:

Ak umelá inteligencia prekonáva človeka takmer vo všetkých oblastiach, nebolo by lepšie riadiť sa jej úsudkom, a nie vlastným? To je dôležitá etická otázka. Román Aldousa Huxleyho Koniec civilizácie alebo Odvážny nový svet opisuje štát, kde elita nepotrebuje žiadne násilie na ovládanie más. Ľudia dobrovoľne vzdali svojich práv výmenou za záruku osobného komfortu. Na to, aby sa podriadili totalitnej moci, stačí, keď sa pohrozí obmedzením prístupu k zdroji ich šťastia.

Transhumanizmus

V súčasnosti po svete chodí približne tristo ľudí s "vylepšenými telami". Pre mnohých z nich to nie je vedecký experiment, ale skôr plne integrovaná protéza, ktorá s telom aj komunikuje. Ďalej je možné používať nanobotov pri operáciach v ľudskom tele. Využitie technológií sa ponúka v genetike pri manipulácii s genetickým materiálom. Futuristi snívajú o tom, že ľudia budú nesmrtelní. Ak bude treba, proste si vymenia opotrebovanú časť tela. Pomocou AI navyše získajú zatiaľ nevídané schopnosti. Tieto úvahy sa všeobecne nazývajú transhumanizmus. Je však otázkou, či sa technológie nezneužijú k zásahom do ľudského tela bez nášho vedomia. Práve to bolo podstatou hoaxov, ktoré šírili odporcovia očkovania proti Koronavírusu.