Vývoj AI v súčasnosti

Dataizmus

Radikálne futuristické hlasy vyzývajú, aby sa ľudské rozhodnutia prispôsobili optimálnemu toku dát. Chcú odstrániť všetky prekážky, ako je súkromie a autorské práva. Dataizmus zastáva názor, že vesmír sa skladá z tokov údajov a hodnota každého javu alebo entity je určená jeho príspevkom k spracovaniu celku.

Tri hrozby AI podľa Yuvala Harari

1. Človek ako jednotlivec stratí význam.
2. Ľudia budú kolektívne ovládaní vonkajšími algoritmami.
3. Niektorí ľudia dosiahnu novú úroveň nadčloveka a stanú sa elitou ovládajúcou celý systém.

Tri zákony robotiky podľa Izáka Asimova

1. Robot nesmie zraniť človeka alebo svojou nečinnosťou dopustiť, aby sa človek zranil.
   
2. Robot musí poslúchať príkazy, ktoré mu dáva človek, okrem prípadov, keď by takéto príkazy boli v rozpore s prvým zákonom.
3. Robot musí chrániť svoju vlastnú existenciu, pokiaľ takáto ochrana nie je v rozpore s prvým alebo druhým zákonom.

Ružová totalita

Dystopický román Aldousa Huxleyho Koniec civilizácie alebo Odvážny nový svet opisuje štát, kde elita nepotrebuje žiadne násilie na ovládanie más. Ľudia dobrovoľne vzdali svojich práv výmenou za záruku osobného komfortu. Na to, aby sa podriadili totalitnej moci, stačí, keď sa pohrozí obmedzením prístupu k zdroji ich šťastia.

1. Ak umelá inteligencia prekonáva človeka takmer vo všetkých oblastiach, nebolo by lepšie riadiť sa jej úsudkom, a nie vlastným?
2. Ak sa podarí človeka neustále opravovať, stane sa nesmrteľným?
3. Vieš si predstaviť spoločnosť, kde takmer nikto nepracuje, a všetci sa venujú svojim záľubám?
4. Mala by optimalizácia toku dát dostať prednosť pred súkromím človeka?

Ďalšie zdroje

• Pohled do budoucnosti: Co bude s lidmi, až je nahradí stroje? (100+1)
  
• Oči, které nikdy nespí: Čínský státní dohled připomíná děsivé Orwellovy vize (100+1)
• Kyborgizace lidí: Na cestě k novému člověku (100+1)
  

Vývoj superinteligentnej AGI

Hranice vypočítateľnosti

• Alan Turing dokázal, že nie je možné zostrojiť algoritmus, ktorý by overil konečnosť všeobecného programu (tzv. problém zastavenia).

• Profesor Danny Crookes hovorí, že od vytvorenia inteligencie podobnej ľudskej sme ešte veľmi ďaleko. Sú dve základné otázky, ktoré je treba vyriešiť:
1. Ako prevedieme fyzickú situáciu do mentálnej reprezentácie, na ktorú potom aplikujeme všeobecné princípy myslenia?
2. Ako môže počítač vytvoriť a udržiavať vnútorný mentálny model reálneho sveta?
Crookes uzatvára: "Táto všeobecná schopnosť, ktorú majú všetci ľudia, je kľúčovou požiadavkou skutočnej inteligencie, ale v systémoch umelej inteligencie zásadne chýba."

• Turingov test
  Necháme človeka dávať otázky dvom respondentom, ktorých nevidí – jedným z nich je človek a druhým počítač. Ak pýtajúci sa nedokáže podľa ich odpovedí rozlíšiť, ktorý z respondentov je človek a ktorý stroj, potom tento stroj možno považovať za inteligentný.

• test Lady Lovelaceovej
  Počítač, ktorý bol navrhnutý ľudským architektom, vyprodukuje výstup, ktorý nie je výsledkom náhodnej hardvérovej chyby a je opakovateľný. Jeho programátor však nedokáže vysvetliť, ako počítač k tomuto výstupu dospel.

Otázky

1. Čo podľa teba môže platiť ako dôkaz inteligencie?
2. Aké oblasti ľudskej činnosti sú podľa názoru niektorých odborníkov nedosiahnuteľné pre AI, lebo ich nie je možné opísať algoritmicky?
3. Myslíš si, že sa podarí vytvoriť všeobecnú inteligenciu AGI?
   

Ďalšie zdroje

• Kdy přijde revoluce v robotice? Rozhovor s výzkumníky z pražské ČVUT (100+1)
  
• Je něco, co počítače nikdy nedokážou? (výťah z knihy The Non-Computable You na  blogu tomuveris)