OpenAI semnalează o încetinire a dezvoltării inteligenței artificiale avansate
OpenAI, dezvoltatorul ChatGPT, este pregătit să încetinească dezvoltarea celor mai avansate sisteme de inteligență artificială ale sale. Anunțul a fost făcut de CEO-ul Sam Altman în timpul unei întâlniri cu angajații, desfășurată săptămâna aceasta. Potrivit unor surse citate de Bloomberg, Altman speră că și alte companii din domeniul inteligenței artificiale vor urma exemplul OpenAI.
Deși predicțiile sumbre privind dezvoltarea inteligenței artificiale circulă de ani de zile, în ultimele săptămâni discuțiile despre necesitatea încetinirii acesteia s-au intensificat considerabil. Mai mulți specialiști care lucrează în domeniul siguranței inteligenței artificiale au părăsit recent laboratoarele de top.
Plecarea cercetătorilor din domeniul siguranței IA
Cercetătorul antropolog Jacob Coxon a anunțat pe 9 septembrie că părăsește compania pentru că nu dorea să participe la dezvoltarea unei „superinteligențe”. „Cei care construiesc IA cred cu adevărat că ne-ar putea ucide pe toți până la sfârșitul deceniului”, a scris el.
Evan Hubinger, șeful departamentului de cercetare privind obiectivele și reglarea comportamentală a inteligenței artificiale la Anthropic, este de acord cu Coxon. „Personal, cred că există o șansă mai mare de 10% ca acest lucru să se întâmple în următorul deceniu. Cred că Anthropic face tot ce poate, dar încă nu avem un plan pentru a rezolva problema alinierii superinteligenței cu obiectivele umane și nu am ajuns încă acolo”, a declarat el. Aceste comentarii au devenit virale și au acumulat peste 150 de milioane de vizualizări, notează Bloomberg.
Avertismentul directorului științific al OpenAI
Directorul științific al OpenAI, Jakub Pachocki, și-a împărtășit și el perspectiva. Într-un eseu publicat pe site-ul companiei, el a scris că „a venit momentul pentru o prudență extremă” în dezvoltarea inteligenței artificiale. Pe măsură ce modelele în sine contribuie din ce în ce mai mult la crearea generațiilor viitoare de modele, cercetătorii pierd treptat capacitatea de a monitoriza și înțelege progresul înregistrat.