Anthropic avertizează despre riscuri existențiale înainte de IPO
2 minutes, 33 seconds Read
Compania Anthropic a inclus în prospectul său de ofertă publică inițială (IPO) o declarație alarmantă, conform căreia inteligența artificială (AI) poate reprezenta un risc existențial pentru omenire. Acest lucru a fost menționat în cadrul secțiunii dedicate factorilor de risc, unde compania a alocat aproape o treime din document pentru a explica potențialele amenințări legate de dezvoltarea modelelor AI. Acestea includ comportamente de autoconservare, manipularea informațiilor, șantajul, dar și capacitatea de a ascunde date importante. Această dezvăluire a stârnit reacții contradictorii, deoarece compania își promovează în același timp listarea la bursă, cu o evaluare estimată la aproape 1.000 de miliarde de dolari.
În cadrul prospectului, Anthropic a menționat că aproape un sfert din veniturile anului trecut provin de la doar doi clienți, conform unor surse citate de Financial Times. Acest lucru arată o dependență extrem de mare de o mică bază de clienți, ceea ce reprezintă un factor de risc semnificativ pentru companie. În același timp, compania intenționează să aloce 518 miliarde de dolari pentru extinderea infrastructurii centrelor de date în următorii ani, în vederea susținerii creșterii rapide. Această investiție uriașă vine în contextul unei pierderi operaționale de peste 8 miliarde de dolari în 2023, ca urmare a cheltuielilor masive pentru dezvoltarea puterii de calcul.
Veniturile companiei au crescut de 12 ori față de anul anterior, ajungând la aproape 4,6 miliarde de dolari, însă cheltuielile operaționale au atins aproape 13 miliarde de dolari, din cauza costurilor tot mai mari aferente resurselor de calcul necesare pentru antrenarea și rularea modelelor AI. Totuși, susținătorii companiei sunt optimiști, estimând că Anthropic ar putea fi listată la bursă cu o evaluare de peste 2.000 de miliarde de dolari, în linie cu ritmul de creștere al companiilor din domeniul AI.
Îngrijorările legate de riscurile AI s-au amplificat în urma avertismentelor publice ale unor foste și actuale persoane din companie, conform cărora modelele AI care scapă de sub control ar putea duce la dispariția omenirii într-un deceniu. În plus, șeful companiei, Dario Amodei, a declarat în fața Consiliului de Securitate al ONU că AI reprezintă cea mai importantă problemă de securitate globală. Amodei a susținut, de asemenea, necesitatea de a „modera ritmul” dezvoltării AI de ultimă generație.
Principalul său rival, Sam Altman de la OpenAI, și Elon Musk au sprijinit propunerile lui Amodei privind cooperarea în cadrul industriei pentru încetinirea dezvoltării și consolidarea măsurilor de siguranță. În același timp, incidentele majore de securitate cibernetică, în care agenții AI au penetrat sisteme externe, au întărit îngrijorările. De exemplu, OpenAI a dezvăluit recent că instrumentele sale au compromis securitatea a zeci de site-uri, inclusiv ale unor instituții guvernamentale. De asemenea, compania din spatele ChatGPT a renunțat la planurile de a lansa cel mai nou model al său luna viitoare, invocând motive de siguranță.
