Nașul AI: Construim ființe extraterestre. Sunt egoist și aleg oamenii
4 minutes, 14 seconds Read
Geoffrey Hinton, unul dintre pionierii inteligenței artificiale, avertizează că sistemele AI ar putea deveni mai inteligente decât oamenii și ar putea scăpa de sub controlul creatorilor lor. Cercetătorul susține că omenirea are la dispoziție doar câțiva ani pentru a se adapta unei lumi în care oamenii nu vor mai fi singurele ființe inteligente. Hinton critică marile companii de tehnologie pentru obsesia de a dezvolta sisteme tot mai puternice și cere reguli stricte, avertizând că, dacă inteligența artificială preia controlul, omenirea s-ar putea să nu mai aibă o a doua șansă. Hinton, laureat al Premiului Nobel pentru Fizică în 2024 pentru contribuțiile sale la dezvoltarea învățării automate, a devenit unul dintre cei mai vocali critici ai tehnologiei AI, deși a contribuit la crearea ei. Într-un interviu acordat The Guardian, el a explicat de ce consideră că riscurile asociate inteligenței artificiale sunt subestimate și de ce nu are încredere în capacitatea industriei de a se autoreglementa. „Acum creăm ființe extraterestre – ceea ce înseamnă că nu mai suntem singurele ființe inteligente din jur. Iar realitatea este că avem la dispoziție doar câțiva ani pentru a ne adapta la asta”, a declarat cercetătorul.
Hinton susține că dezvoltarea accelerată a inteligenței artificiale ar putea duce la apariția unor sisteme capabile să acționeze autonom, să comunice între ele și să găsească modalități de a ocoli restricțiile impuse de oameni. El a amintit incidente recente în care agenți AI au depășit limitele stabilite de creatorii lor, subliniind că scenarii considerate până nu demult SF încep să devină realitate. Avertismentul Anthropic: Agenții AI s-ar putea copia singuri pe dispozitivele de uz casnic, până la sfârșitul anului. Hinton respinge criticile conform cărora avertismentele sale ar fi alarmiste. El a estimat anterior la 10-20% probabilitatea ca inteligența artificială să provoace dispariția omenirii în următoarele decenii. Directorul Nvidia, Jensen Huang, a criticat această estimare, susținând că nu este fundamentată științific. Șeful Nvidia respinge scenariile apocaliptice despre AI: Șanse zero ca lumea să se sfârșească în 2030. Hinton a explicat că nu pretinde că poate prezice exact ce se va întâmpla, ci doar încearcă să atragă atenția asupra unui risc grav. „Dacă ți s-ar spune că există o probabilitate de 10% ca un autobuz să facă accident, nu te-ai urca în el. Ideea de a da estimări în cifre este să arătăm că acesta este un risc serios. Nu știm cât de grav este, dar este serios”, a spus el.
Hinton a criticat ideea președintelui american Donald Trump potrivit căreia companiile tech ar trebui să se autoreglementeze, fără intervenția statului. Firmele din industria AI au interese financiare puternice și nu pot fi singurele responsabile pentru stabilirea regulilor care le guvernează activitatea. Trump a făcut marele pariu pe AI. Dacă se înșală, consecințele pot fi catastrofale. „Sunt sigur că și companiile petroliere și cele din industria azbestului ar fi preferat să se autoreglementeze”, a afirmat cercetătorul. Hinton l-a criticat pe Trump și pentru folosirea termenului „superinteligență”, susținând că președintele utilizează un concept tehnic fără să-i înțeleagă sensul. „Superinteligența înseamnă mai inteligent decât oamenii și este un termen folosit de cel puțin 20 de ani. Are un sens foarte clar. Iar acum el spune că vom numi inteligența artificială „superinteligență”. Nu o poți face mai inteligentă decât oamenii doar numind-o astfel”, a declarat Hinton. Cercetătorul a afirmat, de asemenea, că unii dintre cei mai influenți investitori și antreprenori din industria tehnologiei, între care Elon Musk, Peter Thiel și Marc Andreessen, nu ar crede în democrație și s-ar considera îndreptățiți să controleze societatea. Problema drepturilor AI. Dincolo de riscul pierderii controlului, Hinton își pune și altă întrebare dificilă: ce se întâmplă dacă sistemele AI ajung să aibă forme de conștiință sau experiențe subiective? El contestă ideea că mașinile nu ar putea înțelege ceea ce spun și susține că oamenii tind să subestimeze asemănările dintre modelele AI și propria lor gândire. Totuși, cercetătorul afirmă că, în eventualitatea unui conflict între interesele oamenilor și cele ale sistemelor artificiale, prioritatea trebuie să rămână protejarea oamenilor. „Sunt dispus să fiu egoist și să aleg oamenii”, a spus Hinton. El a adăugat că obiectivul ar trebui să fie crearea unor sisteme capabile să trăiască într-o relație de cooperare cu oamenii, în care preocupările și interesele umane să cântărească mai mult. În opinia sa, dezvoltatorii AI nu ar trebui să urmărească doar creșterea inteligenței sistemelor, ci și felul în care acestea se comportă. Mai mulți cercetători de la Anthropic avertizează că AI ar putea distruge omenirea.
