Ale nie je to sci-fi, hovorí Hinton. „Stane sa to. Už sú oveľa informovanejší ako my. Už sú veľmi dobrí v uvažovaní v obmedzených oblastiach, ako je matematika. Takmer všetci experti veria, že je nevyhnutné, že… budú múdrejší ako my.“
Napríklad stroje AI sa už naučili vytvárať „čiastkové ciele“ – veci, ktoré musia urobiť, aby dosiahli ciele, ktoré im ľudia stanovili. Jedným z nich je zostať v existencii. „Videli sme AI, ktoré chcú zachovať svoju existenciu a skutočne sa pokúsia oklamať ľudí, ktorí sa ich snažia vypnúť.“
AI budú tiež hľadať väčšiu kontrolu ako človek. „O mnohých politikoch som presvedčený, že začínajú tým, že chcú dosiahnuť dobré veci pre ľudí,“ hovorí Hinton, „čoskoro si uvedomia, že na to potrebujú väčšiu kontrolu, a potom sa zamerajú na získanie stále väčšej kontroly. Umelá inteligencia urobí to isté.“
Hoci Hinton prišiel do Kanady v 80. rokoch, hovorí s tichým, pokojným britským prízvukom, ktorý tlmí údery znepokojujúcich vecí, ktoré vám hovorí. Je tiež nadaný na jednoduché formulovanie zložitých záležitostí, napríklad ako málo vieme o tom, čím sa AI stane.
„Je to trochu, ako keď jazdíte v hmle,“ hovorí. „Vidíte jasne na 100 yardov a na 200 yardov nevidíte nič. No, vidíme jasne rok alebo dva, ale o 10 rokov nemáme tušenie, čo sa stane.“
Načítava sa
Jedna vec, o ktorej sa hovorí, že sa stane, je strata zamestnania. Deň po tom, čo som počul Hintonovu reč, najbohatší muž sveta Elon Musk vystúpil na americko-saudskom investičnom fóre vo Washingtone a optimisticky predpovedal, že o 10 až 20 rokov – čo nazval „dlhodobým“ – bude práca dobrovoľná.
„Bude to ako hrať šport alebo videohru,“ povedal Musk. Robíte to, pretože chcete. Peniaze podľa neho „v určitom bode v budúcnosti prestanú byť relevantné“.
Hinton tiež verí, že AI pravdepodobne povedie k masovej nezamestnanosti. Hovorí, že na vývoj tejto technológie sa vynakladajú bilióny dolárov a jedným z hlavných spôsobov, ako by veľké technologické spoločnosti mohli získať späť tieto investície, je predaj AI firmám, ktoré budú robiť prácu zamestnancov za menej peňazí. „Títo chlapci skutočne vsádzajú na to, že AI nahradí veľa pracovníkov,“ hovorí.
Páči sa mi, že Hinton nie je doomsayer. Nie je na ospravedlňovacej ceste, ľutuje, že vypustil Frankensteinovo monštrum. Zručne vysvetľuje mnoho pozitívnych použití AI – ako výrazne zlepší zdravotnú starostlivosť a vzdelávanie, prevratne zmení vedu o predpovediach a zmení produktivitu. V tom sa líši od jadrových zbraní, ktoré sú „dobré len na ničenie vecí“, hovorí.
Načítava sa
V Georgetowne sa ho jeden nadšený študent spýtal, prečo by sme nemali investovať všetky naše peniaze a energiu do vývoja AI, ktoré by mohli vyriešiť naše problémy a zbaviť nás potreby pracovať. Hinton povedal, že presne to by sme mali urobiť – ak sa dá dôverovať našim politickým systémom, že to využijú v prospech más.
Vtedy sa ozval Hintonov partner, demokratický socialistický senátor Bernie Sanders.
„Myslíte si, že to majú pán Musk a pán (Jeff) Bezos na mysli?“ spýtal sa mladého pýtajúceho sa. „Myslíte si, že to je dôvod, prečo míňajú stovky miliárd dolárov, aby povedali: nie je to skvelé, mohli by sme skrátiť pracovný týždeň, môžeme všetkým zaručiť kvalitnú zdravotnú starostlivosť, môžeme predĺžiť dĺžku života, môžeme vyriešiť globálne otepľovanie… myslíte si, že toto majú títo chlapci na mysli?
Mladý muž sucho odpovedal: „Pravdepodobne nie.“
Je to dobrá pripomienka tejto technologickej pravdy: problémom nikdy nie je nástroj, ale používateľ.
Získajte poznámku priamo od našich zahraničných korešpondentov o tom, čo robí titulky po celom svete. Prihláste sa na odber nášho týždenného bulletinu Čo je vo svete.
