societate · 87% credibilitate (Foarte credibil) · 1 surse

David Robinson demisionează de la OpenAI și critică prioritizarea vitezei în detrimentul siguranței

David Robinson, un responsabil cu siguranța în cadrul OpenAI, a demisionat din companie, criticând cultura organizațională pe care o consideră defectuoasă și orientată excesiv către viteza de lansare a produselor în detrimentul siguranței. Într-un eseu publicat sâmbătă în revista The Atlantic, intitulat „Am demisionat de la OpenAI pentru că cultura sa organizațională este defectuoasă”, Robinson susține că OpenAI preferă o abordare bazată pe implementarea iterativă, prin care sistemele sunt lansate rapid, iar erorile sunt corectate ulterior. Fostul angajat, care a lucrat timp de aproximativ trei ani și jumătate în cadrul companiei și a coordonat rapoartele de siguranță pentru 12 lansări de modele avansate, avertizează că această metodă devine periculoasă pe măsură ce sistemele de inteligență artificială capătă autonomie. Robinson a declarat că perioada de încercări și erori s-a încheiat și a făcut apel la o schimbare de mentalitate în industria AI, sugerând adoptarea unor măsuri de protecție similare celor din aviație sau industria nucleară. Acesta s-a alăturat unui grup de foști colegi din industrie care consideră direcția actuală a dezvoltatorilor de AI drept inacceptabilă, subliniind că firmele nu sunt suficient de prudente în fața riscurilor tehnologice.

Faptele-cheie

• David Robinson a lucrat la OpenAI timp de aproximativ trei ani și jumătate.
• Robinson a coordonat rapoartele de siguranță pentru 12 lansări de modele avansate.
• Eseul critic a fost publicat în revista The Atlantic sub titlul „Am demisionat de la OpenAI pentru că cultura sa organizațională este defectuoasă”.
• Robinson a contribuit la elaborarea cadrului de pregătire pentru riscurile AI în cadrul OpenAI.

Ce nu ți se spune

Nu se cunoaște reacția oficială a conducerii OpenAI față de acuzațiile specifice aduse de David Robinson în eseul său. De asemenea, nu este clar dacă demisia acestuia a fost precedată de conflicte interne directe legate de un anumit proiect sau lansare recentă.

Întrebările încă deschise

• Vor implementa companiile de AI măsuri de siguranță mai stricte în urma acestui avertisment?
• Cine va prelua responsabilitățile lui David Robinson în cadrul departamentului de siguranță al OpenAI?

Sursele acestei analize (1)

• HotNews: Plecare bruscă de la OpenAI. Critici dure pentru companie. „Direcția actuală este inacceptabilă”
• Biziday: Responsabilul pentru siguranța chatboților de la OpenAI demisionează și avertizează că domeniul inteligenței artificiale are nevoie urgentă de măsuri de protecție precum cele din aviație și industria nucleară. Într-un mesaj în care critică “cultura organizațională defectuoasă a companiei”, el arată că aceasta preferă să grăbească lansarea noilor sisteme și să repare erorile abia după lansare, nu înainte.
• Go4IT: OpenAI: Un responsabil cu siguranța a demisionat
• Ziarul Financiar: Un responsabil cu siguranţa de la OpenAI a demisionat. Ce avertisment a lansat
• Mediafax: Un responsabil cu siguranța de la OpenAI a demisionat. Ce avertisment a lansat

Alte știri din societate

• Loteria Română organizează duminică trageri Loto 6/49 cu un report de peste 11,85 milioane lei
• Antena 1 a afișat un mesaj obscen la adresa postului Pro TV în timpul unui eveniment
• Antena Group a afișat un mesaj vulgar la adresa postului PRO TV în timpul unei petreceri
• Eurostat: România are 1,1 mamografe la 100.000 de locuitori, printre cele mai puține în UE
• Campania de sănătate „Prevenția începe în relație” a fost lansată la București
• Ionuț Cristache prezintă retrospectiva săptămânii la emisiunea Best Of Ai aflat pe 2 octombrie

Toate știrile de azi, cu scor de credibilitate · Cum calculăm scorul