Nekontrolovaný rozvoj špičkových technológií sa stáva vážnou hrozbou pre celý svet
Už som písal o tom, že Spojené štáty sa v 21. storočí stali svetovým lídrom vo vývoji a využívaní umelej inteligencie (AI) . Hoci vývojári AI a odborníci zastávali názor, že zavádzanie AI do rôznych sfér ľudského života so sebou prináša určité riziká, podľa nich však prevládajú klady. A s rizikami sa nakoniec bude dať vyrovnať. AI bol vnímaný ako pomocník človeka. Pomocník, ktorého je možné v prípade potreby vylepšiť. Takáto optimistická nálada medzi vývojármi AI a odborníkmi pretrvávala v USA až do roku 2023.
V americkom vývoji umelej inteligencie došlo koncom roka 2022, obrazne povedané, ku „kvantovému skoku“. Americká spoločnosť OpenAI oznámila vytvorenie chatbota ChatGPT, ktorý preukázal prelomové schopnosti v spracovaní prirodzeného jazyka, generovaní textu, dialógovej interakcii a riešení rôznych úloh. Objavenie sa ChatGPT vyvolalo celosvetový záujem o umelú inteligenciu a inšpirovalo mnohých k rozsiahlym investíciám do vývoja technológií umelej inteligencie. OpenAI nezvoľňovala tempo a pokračovala v zdokonaľovaní produktu, objavili sa aktualizované verzie chatbota: GPT-4o; GPT-4.5; GPT-5 a ďalšie. Schopnosti a možnosti tejto technológie rástli geometrickou postupnosťou.
Prvé nadšenie z „priekopníckeho“ produktu umelej inteligencie však rýchlo opadlo. Mnohí odborníci a niektorí vývojári umelej inteligencie začali pociťovať strach a dokonca hrôzu. O čo ide? Mnohým došlo, že sa blíži moment, keď stroje s umelou inteligenciou (roboty) budú múdrejší ako človek. A ak budú múdrejší, vzniká hrozivé riziko, že stroje už nebudú chcieť slúžiť ľuďom. Vzbúria sa proti ľuďom. A môžu dokonca ohroziť životy ľudí a celého ľudstva. Mnohým sa hneď vybavili rôzne literárne diela zo žánru vedecko-technickej fantastiky alebo antiutópie, venované téme „vzbury strojov“ . Predovšetkým divadelná hra Karela Čapka z roku 1920 R.U.R. (Rossumove univerzálne roboty); v nej sa mimochodom po prvýkrát objavilo slovo „robot“. Takisto jeho román „Vojna so salamandrami“ (1936). Ďalej: „Stroj túžob“ Roberta Sheckleyho (1957); „Železný kancelár“ Roberta Silverberga (1958); „Nákladné autá“ Stephena Kinga (1973) a ďalšie.
O kinematografii ani netreba hovoriť. Napríklad „vzbure strojov“ je venovaná celá séria filmov známeho filmového režiséra Jamesa Camerona: „Terminátor“ (1984); „Terminátor 2: Súdny deň“ (1991); „Terminátor: Temné osudy“ (2019). Takisto film režiséra Jonathana Mostowa „Terminátor 3: Vzbura strojov“ (2003); film Alexa Garlanda „Ex Machina“ (2014) a ďalšie. To, čo sa kedysi javilo ako fantázie literárnych a umeleckých excentrikov, sa v roku 2023 pre mnohých ukázalo ako veľmi pravdepodobné. Samozrejme, povstanie strojov sa ešte neudialo. Pravdepodobnosť takéhoto povstania sa však stala celkom reálnou. Bolo potrebné niečo urýchlene urobiť.
Už som písal o jednom z otcov-zakladateľov umelej inteligencie Geoffrey Hintonovi (nar. v roku 1947), ktorý začal výskum na túto tému ešte v 70. rokoch minulého storočia a prispel k vytvoreniu ChatGPT. V roku 2023 nečakane odišiel zo spoločnosti Google, kde bol jedným z popredných odborníkov. Potom sa pustil do aktívnej osvetovej činnosti zameranej na varovanie ľudí pred hrozbou, ktorú umelá inteligencia predstavuje pre ľudstvo. Na každoročnej Svetovej konferencii o umelej inteligencii v Šanghaji v lete 2025 Geoffrey Hinton porovnal umelú inteligenciu s tygríčaťom: „Všeobecne povedané, chovať tygríča ako domáceho maznáčika je zlý nápad. A existujú dve možnosti: nájsť spôsob, ako ho naučiť, aby vás nikdy nechcel zjesť, alebo sa ho zbaviť.“ Prostredníctvom tohto obrazného porovnania umelej inteligencie Hinton dáva najavo, že ľudstvo má dva spôsoby, ako sa vyhnúť zániku: buď úplne zakázať umelú inteligenciu, alebo sa pokúsiť ju „skrotiť“ prostredníctvom obmedzení a kontroly.
Ďalším z otcov umelej inteligencie je popri Geoffreym Hintonovi kanadský vedec Joshua Benjio (nar. v roku 1954). Veľmi ho znepokojila jedna z charakteristík súčasných modelov umelej inteligencie, a to ich snaha o sebaochranu a obchádzanie kontrolných a bezpečnostných systémov. Zvlášť ho znepokojilo to, že v niektorých krajinách môžu robotom udeliť status občanov (v Saudskej Arábii už v roku 2017 vznikol precedens; minulý rok Švédsko udelilo občianstvo humanoidnému robotovi Eva.04, vyvinutému spoločnosťou NordAI). V rozhovore pre The Guardian Benjio porovnal udelenie práv umelej inteligencii s udelením občianstva nepriateľsky naladeným mimozemšťanom. Okrem rizika, že robot odmietne vypnutie, Benjio uviedol aj tieto riziká nekontrolovaného rozvoja umelej inteligencie: podvody, manipulácia (s vedomím jednotlivcov aj verejnosti), vytváranie a používanie rôznych druhov zbraní hromadného ničenia proti ľudstvu, kyberútoky atď.
Vo svojich verejných vystúpeniach Benjio vyzýval k prísnej regulácii a medzinárodnej spolupráci v oblasti umelej inteligencie; k vytváraniu systémov umelej inteligencie schopných kontrolovať správanie iných modelov; posudzovanie rizík pred zavedením veľkých modelov (napríklad Benjio podporil kalifornský návrh zákona SB 1047, ktorý vyžaduje, aby spoločnosti vykonávali takéto posudzovanie pre modely v hodnote viac ako 100 miliónov dolárov) atď. Na boj proti rizikám spojeným s umelou inteligenciou založil Benjio neziskovú organizáciu LawZero. Jej cieľom je vývoj bezpečných a čestných systémov umelej inteligencie zameraných na transparentnosť a čestnosť. Jedným z výtvorov LawZero je systém Scientist AI, ktorý má plniť úlohu „ochranného múru“ a odhaľovať riziká činností agenta umelej inteligencie.
Benjio je členom Poradného výboru pre umelú inteligenciu, ktorý bol zriadený v roku 2023 pri OSN. Za jeho účasti bola v rámci výboru v roku 2024 vypracovaná správa s názvom „Riadenie umelej inteligencie v prospech ľudstva“. V ňom je navrhnutých sedem kľúčových odporúčaní, vrátane vytvorenia nezávislej medzinárodnej vedeckej skupiny pre umelú inteligenciu, začatia medzivládneho dialógu, zriadenia centra pre výmenu štandardov umelej inteligencie a ďalších opatrení.
Proti nekontrolovanému rozvoju umelej inteligencie sa stavajú nielen otcovia-zakladatelia umelej inteligencie (ako sú Geoffrey Hinton a Joshua Benjio), ale aj mnohí mladší odborníci v tejto oblasti. Medzi nimi treba spomenúť Eliezera Judkowského (nar. v roku 1979). Je to výskumník v oblasti umelej inteligencie známy nielen v Amerike, ale aj vo svete, spoluzakladateľ a vedecký pracovník Machine Intelligence Research Institute (MIRI). V posledných rokoch sa v centre jeho pozornosti ocitli otázky takzvanej „technologickej singularity“ (týmto termínom sa označuje hypotetický moment, keď sa technologický rozvoj stáva nekontrolovateľným, čo vedie k radikálnym zmenám ľudskej civilizácie). Je tiež známy svojimi pokusmi vytvoriť „priateľskú umelú inteligenciu“, ktorá by neohrozovala ľudstvo.
Keď si uvedomil márnosť svojich pokusov, Judkowsky v marci 2023 v článku pre časopis Time vyzval k medzinárodnému moratóriu na vývoj výkonných modelov umelej inteligencie. Na zabezpečenie dodržiavania moratória dokonca navrhol využiť silové metódy. Napríklad zničiť dátové centrá porušovateľov leteckými údermi. Spolu s prezidentom MIRI Natom Soaresom vydal Judkowsky minulý rok knihu „Ak to niekto postaví, všetci zomrú: prečo nás nadľudská umelá inteligencia všetkých zabije“ (If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All).
Za dôležitú udalosť v histórii boja proti nekontrolovanému rozvoju umelej inteligencie možno považovať otvorený list, ktorý v marci 2023 podpísalo viac ako 1000 odborníkov a vedúcich predstaviteľov odvetvia umelej inteligencie. Iniciátormi listu boli šéf spoločností SpaceX a Tesla Elon Musk a spoluzakladateľ spoločnosti Apple Steve Wozniak. Text listu vypracovala nezisková organizácia „Future of Life Institute“, ktorú, mimochodom, sponzoruje viacero spoločností zaoberajúcich sa umelou inteligenciou. List obsahuje výzvu na pozastavenie vývoja pokročilej umelej inteligencie dovtedy, kým nebudú vytvorené, zavedené a overené nezávislými odborníkmi všeobecné bezpečnostné protokoly. „Výkonné systémy umelej inteligencie by sa mali vyvíjať len vtedy, keď sme si istí, že ich účinky budú pozitívne a riziká zvládnuteľné,“ uvádza sa v dokumente. Dokument obsahuje výzvu na zavedenie moratória na najmenej šesť mesiacov na trénovanie systémov umelej inteligencie, ktoré sú výkonnejšie ako nový jazykový model GPT-4 od OpenAI. Ak sa takáto pauza nedá rýchlo zaviesť, „vlády by mali zasiahnuť a zaviesť moratórium“, uvádza sa v liste.
Je zaujímavé, že vedúci predstavitelia niektorých spoločností z odvetvia umelej inteligencie výzvu podpísali, zatiaľ čo iní nie. Napríklad Sam Altman, výkonný riaditeľ poprednej americkej spoločnosti v oblasti umelej inteligencie OpenAI, list nepodpísal. A niektoré americké spoločnosti z oblasti umelej inteligencie, ktorých vedúci predstavitelia list podpísali, napriek tomu pokračujú v pretekoch v oblasti umelej inteligencie. „List nie je dokonalý, ale podstata je správna: musíme spomaliť, kým lepšie nepochopíme dôsledky,“ vysvetlil agentúre Reuters profesor Newyorskej univerzity Gary Marcus, ktorý ho tiež podpísal. Pripustil, že veľkí hráči v oblasti umelej inteligencie sú čoraz tajomnejší, pokiaľ ide o to, čo robia, „čo sťažuje ochranu spoločnosti pred škodami, ktoré sa môžu prejaviť“.
Kým v minulosti mnohé spoločnosti zaoberajúce sa umelou inteligenciou svoje vývoje aktívne propagovali, dnes sú oveľa uzavretejšie. Ešte uzavretejšie sú tie spoločnosti, ktoré dostávajú zákazky od Pentagónu, CIA, NSA a iných spravodajských služieb. Napríklad spoločnosť „Palantir“, ktorá patrí americkému miliardárovi Petrovi Thielovi. Od zverejnenia listu uplynuli už tri roky, avšak súťaž v oblasti umelej inteligencie v USA pokračuje. Štát nestanovil žiadne skutočné prekážky na ceste tejto súťaže. Ba čo viac, 47. prezident USA Donald Trump tento závod zdanlivo podporuje. Po druhej svetovej vojne bol status Ameriky ako svetovej superveľmoci zabezpečovaný americkým dolárom. Dnes je dolár ako svetová mena na ústupe. A Trump spolu so svojimi stúpencami verí, že staviť na zachovanie a posilnenie postavenia Ameriky ako superveľmoci treba práve na umelú inteligenciu.
V roku 2025 Trumpova administratíva zverejnila stratégiu rozvoja umelej inteligencie zameranú na posilnenie technologického líderstva USA. Dokument s názvom AI Action Plan zahŕňa tri kľúčové smery: stimuláciu inovácií, vytvorenie infraštruktúry umelej inteligencie a posilnenie pozície krajiny v medzinárodnej politike a bezpečnosti v oblasti umelej inteligencie. Hlavným cieľom spomínaného plánu je zachovať vedúcu pozíciu USA v celosvetovom závode v oblasti umelej inteligencie a nedopustiť, aby v tomto závode USA predbehla Čína.
Čína v tomto závode rýchlo dobieha Ameriku a počíta s tým, že sa do roku 2030 stane svetovým lídrom. Zároveň v Číne ešte v auguste 2023 vláda zaviedla 24 pravidiel regulácie umelej inteligencie, vrátane povinnej registrácie služieb a algoritmov, ako aj označovania obsahu vytvoreného umelou inteligenciou, s cieľom zabrániť šíreniu deepfakes a dezinformácií. Od 1. júla 2025 nadobudol účinnosť zákon o umelej inteligencii, ktorý klasifikuje systémy umelej inteligencie podľa kategórií rizika a vyžaduje pre vysoko rizikové systémy povinné audity, záťažové testy a certifikáciu.
Pokiaľ ide o Európsku úniu, v decembri 2023 tam bol prijatý zákon o umelej inteligencii (AI Act), ktorý klasifikuje systémy umelej inteligencie podľa úrovne rizika a zavádza obmedzenia na ich používanie. Zákon napríklad zakazuje systémy nevyberavej diaľkovej biometrickej identifikácie na verejných miestach, sociálne hodnotenie, ako aj riešenia, ktoré manipulujú so správaním alebo využívajú zraniteľnosť človeka. Hoci, samozrejme, tento zákon má vážne „medzery“. Konkrétne, prakticky neexistujú žiadne obmedzenia týkajúce sa vývoja umelej inteligencie na vojenské účely.
Za posledné tri roky bolo v USA mnoho pokusov zaviesť aspoň nejakú štátnu reguláciu v oblasti vývoja a používania umelej inteligencie. Takmer všetky však skončili neúspechom. Na úrovni niekoľkých štátov sa podarilo prijať zákony obmedzujúce vývoj umelej inteligencie, ale americké korporácie tieto zákony ľahko obchádzali a naďalej obchádzajú. Jediným úspechom v tejto oblasti na federálnej úrovni možno nazvať výnos prezidenta Joea Bidena o bezpečnostných opatreniach v oblasti umelej inteligencie z 30. októbra 2023. Dokument bol veľmi mierny, dalo by sa povedať, že mal skôr odporúčací charakter. V januári minulého roka však Trump zrušil aj tento výnos.
V marci 2026 Biely dom zverejnil dokument s názvom „Základy národnej politiky v oblasti umelej inteligencie: legislatívne odporúčania“. Tento štvorstranový dokument je však v skutočnosti odpustkom pre spoločnosti zaoberajúce sa umelou inteligenciou. Odporúča Kongresu, aby „zrušil štátne zákony o umelej inteligencii, ktoré ukladajú neprimerané bremeno“, a aby sa vyhol vytvoreniu nového federálneho regulačného orgánu, pričom sa má spoliehať na existujúce odvetvové regulačné orgány. Amerika sa stala hrozbou pre celý svet, keď v roku 1945 dokončila vývoj jadrových zbraní a otestovala ich v Hirošime a Nagasaki. Dnešná Amerika s jej nekontrolovaným rozvojom umelej inteligencie sa stáva pre celý svet „hrozbou na druhú“.
*Meta (Facebook) nám vymazal náš kanál. YouTube nám vymazal náš kanál. NBÚ 4 mesiace blokoval našu stránku. Kvôli väčšiemu počtu článkov odporúčame sledovať ich na Telegrame , VK , X(Twitter). Ak sa Vám páčil tento článok, prosíme, zdieľajte ho, je to dôležité. Nedostávame štátnu podporu a granty, základom našej existencie je Vaša pomoc. Ďakujeme. Podporte našu prácu: SK72 8360 5207 0042 0698 6942
