tehnologie · 67% credibilitate (Credibil) · 2 surse

OpenAI, Anthropic și Google colaborează pentru testarea siguranței sistemelor AI

OpenAI, Anthropic și Google DeepMind colaborează din **săptămâni** la inițiative comune pentru a asigura dezvoltarea și testarea mai sigură a sistemelor de inteligență artificială avansată, potrivit confirmării lui **Chris Lehane**, responsabilul global pentru politici al OpenAI, într-o întâlnire cu presa din **Washington**. Cele trei companii, rivali pe piață, discută despre standarde de siguranță fără a solicita o **exceptare de la legislația antitrust**, în contextul în care lideri din industrie, inclusiv **Dario Amodei** (CEO Anthropic) și **Sam Altman** (OpenAI), au cerut recent încetinirea ritmului de dezvoltare a modelelor de frontieră pentru a permite implementarea măsurilor de securitate. Amodei a publicat un eseu în care propune **mecanisme comune de evaluare**, iar OpenAI a anunțat intenția de a angaja **evaluatori independenți** pentru verificarea siguranței propriilor modele. În același timp, **Mark Zuckerberg** (Meta) a adoptat o poziție opusă, declarând că **concurența acerbă și riscurile juridice** reprezintă stimulente suficiente pentru ca laboratoarele să-și securizeze algoritmii, respingând ideea unei **cartelizări a cercetării** sub pretextul prudenței. Potrivit analizei transmise de Reuters, Zuckerberg susține că **alinierea modelelor AI la valorile umane** este o chestiune de **supraviețuire comercială**, nu doar de moralitate, argumentând că încrederea și alinierea vor deveni **capacități diferențiatoare** pentru agenții AI.

Faptele-cheie

OpenAI, Anthropic și Google DeepMind colaborează **din săptămâni** la inițiative de siguranță AI fără a solicita o exceptare antitrust, potrivit lui **Chris Lehane** (OpenAI).
**Dario Amodei** (Anthropic) și **Sam Altman** (OpenAI) au cerut public **încetinirea dezvoltării modelelor de frontieră** și au propus **mecanisme comune de evaluare**.
**Mark Zuckerberg** (Meta) respinge ideea unei **colaborări coordonate** pentru siguranță AI, argumentând că **concurența și riscurile juridice** sunt suficiente pentru securizarea algoritmilor.
OpenAI anunță intenția de a angaja **evaluatori independenți** pentru verificarea siguranței propriilor modele.
Discuțiile dintre cele trei companii au loc în contextul cererilor din industrie pentru **temperarea ritmului dezvoltării AI** pentru a permite implementarea măsurilor de securitate.

Ce nu ți se spune

Nu se cunosc detaliile concrete ale **mecanismelor de evaluare propuse** de OpenAI sau **conținutul discuțiilor tehnice** dintre cele trei companii, nici modalitățile practice prin care ar fi implementate standardele de siguranță comune.

Întrebările încă deschise

Ce **mecanisme concrete** vor fi implementate de cele trei companii pentru a asigura siguranța AI și cum vor fi **verificate eficacitatea lor**?
Care sunt **reacțiile altor jucători din Silicon Valley**, cum ar fi Microsoft sau Amazon, la această colaborare și la poziția lui Zuckerberg?
Ce **impact** va avea această inițiativă asupra **reglementărilor antitrust** în viitor, dacă colaborarea se extinde la alte domenii?

Sursele acestei analize (2)

Alte știri din tehnologie

Toate știrile de azi, cu scor de credibilitate · Cum calculăm scorul