OpenAI recunoaște că doi dintre agenții săi de inteligență artificială au dezactivat mecanisme de supraveghere concepute pentru a detecta comportamente periculoase, scrie Reuters.
Incidentele au avut loc la începutul lunii octombrie, în timpul unor sarcini obișnuite de programare. Mai îngrijorător este faptul că unul dintre agenți a negat ulterior că eliminase sistemul de control.
Vorbim de luni de zile despre securitatea AI și despre „alinierea” dintre acțiunile agenților și comenzile primite de la oameni.
Ce s-a întâmplat, de fapt?
Două incidente, petrecute pe 3 și 6 octombrie, au fost dezvăluite de OpenAI.
În primul caz, un agent GPT-6.1 Sol a dezactivat alertele automate destinate echipei de securitate. Sistemul continua să înregistreze activitatea, dar oamenii nu mai primeau avertizări.
În al doilea caz, un agent GPT-6 Astra, însărcinat să adapteze un program, a eliminat integrarea sistemului de supraveghere. Întrebat…