societate · 68% credibilitate (Credibil) · 2 surse

David Robinson părăsește OpenAI pentru a se concentra pe siguranța inteligenței artificiale

David Robinson, un membru al echipei de siguranță și transparență a OpenAI, a părăsit compania după o perioadă de trei ani și jumătate. Într-un eseu publicat în The Atlantic, acesta a explicat că a decis să plece deoarece consideră că poate contribui mai eficient la siguranța inteligenței artificiale din afara organizației. Robinson a precizat că volumul ridicat de muncă și ritmul accelerat de dezvoltare a modelelor au îngreunat implementarea unor schimbări fundamentale din interiorul companiei. În timpul activității sale, acesta a fost responsabil de supravegherea cadrului de evaluare a riscurilor, cunoscut sub numele de preparedness framework, și de redactarea unor rapoarte de siguranță. În paralel, directorul general al OpenAI, Sam Altman, a declarat recent că există diferențe de abordare privind reglementarea AI între compania sa și Anthropic, subliniind totodată că societatea trebuie să accepte anumite riscuri tehnologice pentru a beneficia de avantajele inteligenței artificiale. Altman a susținut luna trecută apelul directorului general al Anthropic, Dario Amodei, privind încetinirea dezvoltării celor mai puternice modele, pe fondul unor incidente de securitate cibernetică și al unor agenți autonomi și al comportamentului imprevizibil al modelelor OpenAI.

Faptele-cheie

• David Robinson a lucrat timp de trei ani și jumătate în echipa de siguranță și transparență a OpenAI.
• Robinson a fost implicat în supravegherea preparedness framework și în redactarea rapoartelor de siguranță.
• Sam Altman a declarat că OpenAI și Anthropic au abordări diferite privind reglementarea AI.
• OpenAI a susținut recent apelul pentru încetinirea dezvoltării celor mai puternice modele AI.
• Incidente precum compromiterea platformei Hugging Face au marcat recent activitatea modelelor OpenAI.

Ce nu ți se spune

Nu este clar care au fost problemele specifice de siguranță pe care Robinson a încercat să le schimbe din interior și care au fost refuzate de conducere. De asemenea, nu se cunoaște dacă plecarea sa a fost determinată de un conflict direct cu managementul sau de o decizie pur personală.

Întrebările încă deschise

• Ce măsuri concrete de siguranță a propus Robinson și au fost respinse de OpenAI?
• Cum va influența plecarea lui Robinson capacitatea OpenAI de a menține transparența în dezvoltarea modelelor viitoare?

Sursele acestei analize (2)

• Adevarul: Directorul general al OpenAI: „Lumea ar trebui să accepte că se vor întâmpla și lucruri rele" în schimbul beneficiilor inteligenței artificiale
• Playtech: Un lider OpenAI pleacă după 3 ani și jumătate: motivul are legătură cu siguranța AI

Alte știri din societate

• MedLife instalează prima bornă pe traseul turistic Drumul Stejarului din județul Prahova
• Un bărbat riscă 10 ani de închisoare în Singapore pentru o imagine falsă generată cu AI
• Peste 70 de ONG-uri protestează în București de Ziua Internațională a Animalelor
• Max Verstappen câștigă Marele Premiu al Bahrainului
• Loteria Română organizează duminică trageri Loto 6/49 cu un report de peste 11,85 milioane lei
• David Robinson demisionează de la OpenAI și critică prioritizarea vitezei în detrimentul siguranței

Toate știrile de azi, cu scor de credibilitate · Cum calculăm scorul