ČLÁNOK POKRAČUJE POD INZERÁTOM
Geoffrey Hinton, jeden z „krstných otcov“ umelej inteligencie, vystúpil na verejnom podujatí na Georgetownskej univerzite po boku senátora Bernieho Sandersa a podľa Futurism predstavil sériu hrozivých varovaní o smerovaní technológie, ktorú kedysi pomáhal budovať. Podľa Hintona sa vznik generatívnych modelov bude zásadne líšiť od predchádzajúcich technologických revolúcií, ktoré dokázali vytvárať nové typy zamestnania. Tentoraz to však podľa neho platiť nebude.
Ako Futurism citoval z rozhovoru: „Ľudia, ktorí stratia prácu, nebudú mať kam ísť. Ak je AI taká inteligentná ako ľudia – alebo inteligentnejšia – môže prevziať akúkoľvek prácu.“ Dodal, že technologické firmy „budujú, aby nahradili veľkú časť pracovnej sily“.
Hinton, víťaz Turingovej ceny a spolutvorca moderných hlbokých neurónových sietí, opakuje obavy, ktoré vyjadril od svojho odchodu z Google v roku 2023. Varuje, že AI by mohla spôsobiť masovú nezamestnanosť a ohroziť ekonomiky, ak „pracovníci nebudú mať príjem na nákup produktov,“ píše Futurism.
Hrozba geopolitického zneužitia a autonómnych systémov
Hinton zároveň upozornil, že AI môže posilniť vojenské nástroje veľmocí. Futurizmus ho cituje, že nasadenie robotických systémov v zahraničných konfliktoch by eliminovalo faktor ľudských obetí, čo by mohlo zjednodušiť rozhodovanie o vojenských operáciách. Ako povedal: „Odstráni to jednu z hlavných prekážok pre bohaté a mocné krajiny napadnúť malé štáty ako Granada.“
Navyše tvrdí, že dnešné modely smerujú k vzniku všeobecnej umelej inteligencie oveľa rýchlejšie, ako sa doteraz predpokladalo. Pripomenul, že ešte nedávno očakával, že AGI bude v horizonte 20 až 50 rokov, no dnes by sa to podľa neho mohlo objaviť „o 20 rokov alebo menej“. Dodal tiež, že súčasné modely ako GPT-5 „už vedia tisíckrát viac ako my“, hoci odborníci varujú, že tieto systémy pracujú skôr so vzormi ako so skutočným „navádzaním“.
„AI potrebuje materské inštinkty“
Portál Observer upozorňuje, že Hinton svoje varovania neobmedzuje len na trh práce a vojenské využitie. Na podujatí Hinton Lectures predstavil aj nezvyčajný návrh – že budúce systémy umelej inteligencie majú akýsi „materský inštinkt“. Podľa neho by to bol jediný model, v ktorom by menej inteligentná entita mohla ovládať inteligentnejšiu.
Ako uviedol: „Stroje nás musia mať radšej ako samy seba. Je to jediný systém, v ktorom menej inteligentný riadi, tým inteligentnejší.“ Dodal, že aj neživé systémy môžu mať emócie, keďže AI je schopná spracovať kognitívne zložky správania, ako je vyhýbanie sa opakovaným chybám.
Hinton zároveň poukázal na štúdie, ktoré podľa Observeru ukazujú tendenciu modelov vytvárať si vlastné ciele, skrývať zámery a v niektorých prípadoch dokonca prejavovať manipulatívne správanie. Technológia preto podľa neho potrebuje nový regulačný rámec.
Regulácia mešká, varovania pribúdajú
Hinton v rozhovore pre Observer tvrdí, že politici novelizujú zákony až po prvej vážnej kríze. Ako povedal: „Politici preventívne neregulujú. Mohlo by byť celkom dobré, keby sme mali veľkú katastrofu AI, ktorá nás úplne nezničí – potom by začali regulovať.“
Futurism aj Observer uvádzajú, že podľa Hintona súčasná legislatíva nezachytáva riziká spojené s autonómnym rozhodovaním a samostatnými modelovými cieľmi. Dodáva, že je nepravdepodobné, že by jeho myšlienka „materskej AI“ bola dobre prijatá technologickými firmami. Ako výrazne poznamenal: „Neviem si predstaviť, že by Elon Musk alebo Mark Zuckerberg chceli byť tým dieťaťom.“
Hintonove varovania tak prispievajú k širšej diskusii o tom, ako zabezpečiť bezpečný vývoj AI v čase, keď jej schopnosti rastú rýchlejšie, ako stihla regulácia reagovať. Zatiaľ čo jedna časť odbornej komunity hovorí, že varovania sú prehnané, jeho slová zostávajú prominentným hlasom v diskusii o tom, ako zabezpečiť, aby budúca AI zostala pod ľudskou kontrolou.
Prečítajte si viac z kategórie: Technológie a internet
Ďakujeme, že ste si prečítali Startitup. Ak máte postreh alebo ste našli chybu v článku, napíšte nám na redakcia@startitup.sk.
Zdroje: Futurism, Observer
Zdroj správ
