Američania vyzvali na spomalenie pretekov v oblasti umelej inteligencie
Kriminalizácia špičkových technológií so sebou prináša nepredvídateľné dôsledky.
Téma umelej inteligencie (AI) patrí medzi najdiskutovanejšie v svetových médiách. A v rámci tejto témy sa od konca júla najviac diskutovanou správou stala udalosť, keď sa agenti umelej inteligencie dvoch popredných spoločností amerického odvetvia umelej inteligencie – OpenAI a Anthropic – vymkli spod kontroly.
Tretím hlavným aktérom tohto príbehu je HuggingFace – najväčšia platforma pre strojové učenie umelej inteligencie, ktorú často nazývajú „GitHub pre ML“. Spoločnosť sa pôvodne venovala vývoju chatbotov, dnes sa však premenila na ekosystém, v ktorom sa ukladajú, testujú a nasadzujú modely umelej inteligencie. HuggingFace je nástrojom pre tých, ktorí chcú pracovať s umelou inteligenciou: niekto hľadá hotový model, niekto ho chce vylepšiť a niekto ho chce vytvoriť od nuly.
Prvá správa sa objavila 16. júla, keď spoločnosť HuggingFace oznámila, že časť jej systémov bola napadnutá. Útok navyše od začiatku do konca vykonali nejaké autonómne agenty umelej inteligencie, tj. bez účasti ľudí. O päť dní neskôr spoločnosť OpenAI priznala, že HuggingFace bol napadnutý modelom GPT-5.6 Sol, ktorý bol oznámený už skôr, a ďalším, výkonnejším modelom, ktorý zatiaľ nebol vydaný. Stalo sa to počas testovania modelov umelej inteligencie na benchmarku ExploitGym, ktorý hodnotí schopnosti modelov pri hľadaní zraniteľností.
Testovanie prebiehalo v izolovanom sandboxe bez pripojenia na internet. Šikovné modely našli zraniteľnosť typu „zero-day“ vo vnútornom systéme OpenAI a cez objavenú „dieru“ prenikli na internet. Autonómni agenti umelej inteligencie sa rýchlo zorientovali v priestoroch internetu a zamierili na HuggingFace, kde bolo možné nájsť odpovede na všetky zadané úlohy. Agenti OpenAI hackli webovú stránku platformy, ukradli prihlasovacie údaje a získali riešenia z databázy.
30. júla sa k veci vyjadrila spoločnosť Anthropic. Zdá sa, že približne v rovnakom čase ako OpenAI testovala svoj model umelej inteligencie Claude v „pieskovisku“. Ukázalo sa, že Claude sa trikrát bez povolenia pripojila na internet a získala neoprávnený prístup k systémom iných spoločností. Ako sa však neskôr zistilo, vina za narušenie informačného priestoru internetu nespočíva ani tak na modeli Claude, ako na organizátoroch testovania, ktorí nesformulovali dostatočne jasne zákaz pripájania sa na internet z testovacieho prostredia. Preto sa hlavným „hrdinom dňa“ nestala spoločnosť Anthropic, ale OpenAI, ktorej modely umelej inteligencie ukázali, že vedia byť naozaj veľmi nevypočitateľné.
Je zaujímavé, že spoločnosť OpenAI si ani hneď nevšimla, že autonómne agenty umelej inteligencie prekročili hranice testovacieho prostredia. Podľa údajov agentúry Reuters boli prvé pokusy o takéto prekročenie zaznamenané 9. júla. O dva dni neskôr, 11. júla, začalo prenikanie do systémov HuggingFace – spoluzakladateľ platformy Thomas Wolf potvrdil, že aktívna fáza trvala až do 13. júla. Už 16. júla tím HuggingFace zverejnil príspevok na blogu: platformu napadol „autonómny systém založený na umelej inteligencii“. Po tejto publikácii si spoločnosť OpenAI uvedomila, že prienik do systému HuggingFace vykonali jej agenti umelej inteligencie. Spoločnosť OpenAI uznala túto udalosť za bezprecedentný prípad pre celé odvetvie umelej inteligencie, oznámila, že vedie vyšetrovanie v rámci odvetvia za účasti externých konzultantov, a sľúbila zverejnenie príslušnej správy.
V posledných dňoch sa objavilo veľké množstvo komentárov týkajúcich sa hackerských aktivít autonómnych agentov OpenAI. Tón týchto komentárov je približne takýto: čím sú modely umelej inteligencie autonómnejšie, tým väčšie je riziko, že sa vymknú spod úplnej kontroly svojich tvorcov. Niekoľko odborníkov vyjadrilo nasledujúcu myšlienku: súčasné modely kladú na prvé miesto plnenie cieľov a úloh, ktoré im boli zverené. Splnenie za každú cenu. A to aj obchádzaním písaných aj nepísaných pravidiel a dokonca aj otvoreným podvodom. Z toho vyplýva, že človek musí byť mimoriadne presný pri formulovaní cieľov a určovaní tých „červených čiar“, ktoré umelá inteligencia nesmie prekročiť.
Júlový incident s autonómnymi agentmi OpenAI vyvolal veľký rozruch v Amerike aj mimo nej. Je prekvapujúce, že obzvlášť citlivá bola reakcia zo strany amerického odvetvia umelej inteligencie. Takáto reakcia sa dá vysvetliť tým, že práve odborníci chápu, aké katastrofické následky môže mať ďalší nekontrolovaný rozvoj umelej inteligencie. Niektorí pozorovatelia sa však domnievajú, že júlová udalosť môže viesť k poklesu dôvery verejnosti voči umelej inteligencii. Kto by chcel umelú inteligenciu, do ktorej sa môžu dostať konkurenti, podvodníci, teroristi a všelijaké iné nebezpečné subjekty? A bez dôvery verejnosti v umelú inteligenciu zostanú americké korporácie z odvetvia umelej inteligencie, obrazne povedané, „bez nohavíc“.
A pritom už investovali bilióny dolárov do vývoja nových modelov umelej inteligencie aj do infraštruktúry odvetvia umelej inteligencie. Tieto investície sa zatiaľ nezúročili a v najbližšej dobe sa pravdepodobne ani nezúročia. Na americkom akciovom trhu vznikla „bublina“ umelej inteligencie. Je ešte dobre, že júlový incident s autonómnymi agentmi OpenAI sa nestal tou ihlou, ktorá by túto „bublinu“ prepichla. Opakovanie podobných neoprávnených hackerských útokov autonómnych agentov umelej inteligencie však môže viesť k prasknutiu „bubliny“.
A vtedy utrpia škody nielen spoločnosti z odvetvia umelej inteligencie, ale aj iné odvetvia. Ameriku zasiahne kríza. Niektorí experti tvrdia, že to bude kríza podobná kolapsu dotcomov na americkom akciovom trhu v rokoch 2000–2001. Vtedy došlo k prasknutiu „bubliny“, nafúknutej akciami IT korporácií, ktoré budovali internet. Podobnosť tu je, ale dnešná „bublina“ umelej inteligencie je oveľa závažnejšia ako „bublina“ dot-comov. A to tak z hľadiska absolútnych rozmerov, ako aj z hľadiska podielu odvetvia umelej inteligencie na celkovej kapitalizácii akciového trhu (odhaduje sa na 50 percent).
Vzhľadom na uvedené nie je prekvapujúce, že americký sektor umelej inteligencie veľmi rýchlo zareagoval na júlový incident, ktorý vyvolala spoločnosť OpenAI. 28. júla bolo zverejnené vyhlásenie s názvom PacingtheFrontier (čo by sa dalo preložiť ako „Spomalenie postupu na hranici pokroku“). Podpísalo ho viac ako 1 200 zamestnancov popredných spoločností zaoberajúcich sa vývojom umelej inteligencie. Bola to výzva adresovaná americkým úradom, aby vytvorili nejaký mechanizmus kontroly vývoja technológií umelej inteligencie. Ide o akúsi brzdu, ktorá má spomaliť preteky v oblasti umelej inteligencie. „Existuje reálne riziko, že rozvoj schopností umelej inteligencie sa prudko zrýchli a prekročí hranice našej schopnosti pochopiť alebo kontrolovať vytvárané systémy,“ uvádza sa v dokumente.
Autori výzvy vyzývajú Washington, aby vytvoril mechanizmus kontroly nad rozvojom umelej inteligencie nielen v USA, ale aj v medzinárodnom meradle: „Žiadame vládu USA, aby podporila medzinárodné úsilie zamerané na vývoj technických a riadiacich nástrojov potrebných na cielenú reguláciu tempa rozvoja pokročilej automatizovanej umelej inteligencie.“
Je zaujímavé, že 12 dní pred zverejnením uvedeného vyhlásenia došlo v Šanghaji k podpísaniu dokumentu o založení Svetovej organizácie pre spoluprácu v oblasti umelej inteligencie (World Artificial Intelligence Cooperation Organization – WAICO). Úlohou tejto organizácie bude okrem iného stanovovať pravidlá vývoja a využívania umelej inteligencie, ktoré zabezpečia jej maximálnu bezpečnosť. Zdalo by sa, že Amerika by nemala vynájsť koleso, ale stať sa členom uvedenej organizácie. Washington sa však od tejto novej organizácie demonštratívne dištancoval.
Medzi signatármi výzvy sú šéf spoločnosti Anthropic Dario Amodei, hlavný vedecký pracovník OpenAI Jakub Pahocki, spoluzakladateľ a vedecký riaditeľ spoločnosti Anthropic Jared Kaplan, hlavný vedecký pracovník Meta AI Šen-ťia Čao, spoluzakladateľ spoločnosti Google DeepMind Šain Legg, riaditeľ pre stratégiu spoločnosti Google DeepMind Džasjit Sekhon a ďalší vedúci predstavitelia a odborníci z odvetvia umelej inteligencie v USA.
V prvom roku svojho pôsobenia v Bielom dome 47. prezident USA Donald Trump viackrát vyhlásil, že v žiadnom prípade nebude brániť rozvoju odvetvia umelej inteligencie. V skutočnosti dokonca podporoval súťaž v oblasti umelej inteligencie. Vychádzal z toho, že Amerika sa má stať absolútnym svetovým lídrom v oblasti umelej inteligencie. A to tak, aby zanechala ďaleko za sebou Čínu, ktorá v čase Trumpovho nástupu do Bieleho domu zaostávala za USA v kľúčových ukazovateľoch odvetvia umelej inteligencie, hoci len mierne (nie však kriticky).
Jedným z prvých krokov 47. prezidenta USA bolo podpísanie dekrétu „O odstránení prekážok na ceste k vedúcej pozícii USA v oblasti umelej inteligencie“ na začiatku minulého roka. V rámci toho (a v prvom rade) boli odstránené rôzne regulačné prekážky. Americký sektor umelej inteligencie získal od štátu režim najvyšších výhod (urýchlené udeľovanie rôznych licencií, prideľovanie pozemkov na výstavbu dátových centier, pripojenie k energetickým sieťam, daňové úľavy, dotácie atď.). Na zahraničných trhoch sa štát zaväzuje podporovať propagáciu produktov amerického odvetvia umelej inteligencie (ako „hardvéru“, tak aj služieb).
V posledných mesiacoch sa však postoj Trumpa a jeho administratívy začal meniť. 12. júna došlo k prvému prípadu, keď vláda USA zabrzdila uvádzanie americkej umelej inteligencie na zahraničný trh. Ministerstvo obchodu USA uvalilo na americkú spoločnosť Anthropic zákaz vývozu modelov Fable 5 a Mythos 5. Washington sa vážne obáva, že produkty spoločnosti Anthropic (a vlastne aj iných amerických spoločností zaoberajúcich sa umelou inteligenciou) by mohli byť použité proti USA. Konkrétne umelá inteligencia Mythos 5 bola označená za dvojsečný nástroj.
Okrem toho sa začala presadzovať myšlienka čiastočnej nacionalizácie spoločností v americkom odvetví umelej inteligencie. Návrhy, aby štát vstúpil do kapitálu spoločností zaoberajúcich sa umelou inteligenciou, prichádzajú tak zo strany štátu, ako aj samotného podnikateľského sektora. Zrejme by to malo podporiť popredné spoločnosti v oblasti umelej inteligencie (konkrétne im to pomôže prežiť v prípade, ak „bublina“ umelej inteligencie praskne). Na druhej strane to umožní zbaviť ich zodpovednosti v prípade, ak umelá inteligencia spôsobí Spojeným štátom nejaké škody.
Okrem znárodnenia sa diskutuje aj o možnostiach „demokratizácie“ kapitálu spoločností zaoberajúcich sa umelou inteligenciou. V apríli tohto roku spoločnosť OpenAI navrhla vytvorenie „Fondu verejného blaha“ (FVB), ktorý by každému občanovi poskytol podiel na hospodárskom raste spoločností zaoberajúcich sa umelou inteligenciou. Konkrétnejšie: spoločnosti zaoberajúce sa umelou inteligenciou by mali previesť podiely na svojom kapitále do FVB. FVB by nemal mať status nejakej štátnej agentúry, mal by sa stať skutočne „ľudovým“.
Začiatkom júna tohto roku známy americký senátor Bernie Sanders (jeden z najviac ľavicových amerických politikov) oznámil zámer predložiť návrh zákona, ktorý zaviaže najväčšie americké spoločnosti zaoberajúce sa umelou inteligenciou previesť polovicu svojich akcií do verejného vlastníctva (suverénny fond blahobytu). Z toho vyplýva, že celý sektor umelej inteligencie v USA bude spravovať špeciálny fond, zodpovedný voči verejnosti. Vraciam sa k petícii „PacingtheFrontier“. K 3. augustu sa počet overených signatárov zvýšil na 1 337. Zo strany oficiálneho Washingtonu zatiaľ nebola na tento dokument žiadna reakcia.
*Meta (Facebook) nám vymazal náš kanál. YouTube nám vymazal náš kanál. NBÚ 4 mesiace blokoval našu stránku. Kvôli väčšiemu počtu článkov odporúčame sledovať ich na Telegrame , VK , X(Twitter). Ak sa Vám páčil tento článok, prosíme, zdieľajte ho, je to dôležité. Nedostávame štátnu podporu a granty, základom našej existencie je Vaša pomoc. Ďakujeme. Podporte našu prácu: SK72 8360 5207 0042 0698 6942
