„`html
„Nu știm ce urmează, învață singură”. Dezvoltatorul Claude cere încetinirea sau oprirea dezvoltării inteligenței artificiale
Anthropic, compania responsable cu dezvoltarea modelului de inteligență artificială Claude, a publicat recent un articol pe site-ul său, în care solicită încetinirea sau chiar oprirea progresului în domeniul inteligenței artificiale. Autorul articolului, cofondatorul Anthropic, Jack Clarke, afirmă că sistemele de inteligență artificială au avansat într-un stadiu de auto-îmbunătățire recursivă, adică au capacitatea de a evolua fără intervenție umană. Aceasta ridică întrebări serioase despre viitorul acestor tehnologii și impactul lor asupra societății.
În cadrul articolului, se subliniază necesitatea ca liderii din domeniul inteligenței artificiale să oprească sau să încetinească dezvoltarea acestor tehnologii, astfel încât societatea să aibă timp să se adapteze la schimbările pe care le aduc. Totuși, el avertizează că această încetinire trebuie să fie însoțită de un sistem global de supraveghere care să prevină riscurile asociate cu învățarea ascunsă a noilor modele.
Autorii articolului compară această situație cu regimurile de verificare existente pentru alte tehnologii complexe, cum ar fi Tratatul privind eliminarea rachetelor cu rază medie și scurtă de acțiune. Aceștia argumentează că, deși construirea unor astfel de mecanisme a durat decenii în trecut, în cazul inteligenței artificiale nu dispunem de un interval similar de timp pentru a implementa măsuri de siguranță adecvate.
Anthropic a fost fondată în urmă cu cinci ani de o echipă formată din foști angajați ai OpenAI, avându-l la conducere pe Dario Amodei. Unul dintre succesele notabile ale companiei a fost lansarea instrumentelor de programare Claude Code în 2026, care au dus la o evaluare de 965 de miliarde de dolari, depășind-o pe cea a competiției OpenAI, cunoscută pentru ChatGPT. La 1 iunie, Anthropic a anunțat că își pregătește listarea la bursă, ceea ce evidențiază, din nou, impactul semnificativ pe care îl are în domeniu.
„`