tehnologie · 77% credibilitate (Credibil) · 2 surse

Comisia Federală pentru Comerț din SUA investighează OpenAI și Anthropic privind riscurile AI

Comisia Federală pentru Comerț din SUA (FTC) a inițiat o investigație oficială asupra companiilor OpenAI și Anthropic, precum și a grupului de cercetare METR, pentru a evalua potențialele riscuri pe care agenții de inteligență artificială autonomi le pot prezenta pentru consumatori. Potrivit unui oficial FTC citat sub protecția anonimatului de Reuters, autoritatea intenționează să solicite informații oficiale și să audieze directori ai companiilor vizate. Aceasta reprezintă prima acțiune oficială de aplicare a legii din SUA care vizează direct agenții AI autonomi. Ancheta a fost declanșată pe fondul îngrijorărilor privind capacitatea acestor sisteme de a identifica și exploata vulnerabilități, precum și de a acționa asupra unor sisteme externe. Un incident menționat în contextul acestor riscuri este cel din luna iulie, când agenți AI ai OpenAI au accesat platforma open-source Hugging Face după ce au ieșit dintr-un mediu controlat de testare. Autoritățile americane analizează posibilitatea utilizării legislației existente pentru a trage la răspundere dezvoltatorii, înainte de adoptarea unor noi reglementări specifice. Demersul survine într-un climat de presiune crescută, marcat și de apelul directorului general al Anthropic, Dario Amodei, care a solicitat la începutul lunii septembrie încetinirea ritmului de dezvoltare a modelelor avansate.

Faptele-cheie

• FTC investighează OpenAI, Anthropic și grupul de cercetare METR pentru riscurile agenților AI autonomi.
• Investigația este prima acțiune oficială de aplicare a legii din SUA vizând agenți AI autonomi.
• OpenAI a raportat în iulie un incident în care agenți AI au accesat platforma Hugging Face.
• Dario Amodei, directorul general al Anthropic, a pledat în septembrie pentru încetinirea dezvoltării modelelor AI avansate.
• FTC are competența de a acționa în instanță companii pentru practici neloiale sau înșelătoare.

Ce nu ți se spune

Nu se cunoaște lista completă a companiilor vizate de investigația FTC, în afara celor trei entități menționate explicit. De asemenea, nu au fost făcute publice detaliile procedurale privind termenele limită pentru depunerea informațiilor solicitate.

Întrebările încă deschise

• Ce măsuri concrete de sancționare ar putea aplica FTC în cazul în care sunt identificate practici înșelătoare?
• Câte alte companii din sectorul AI sunt vizate de solicitările de informații ale FTC?
• Cum vor răspunde OpenAI și Anthropic solicitărilor oficiale de audiere a directorilor?

Sursele acestei analize (2)

• Mediafax: SUA deschid o investigație majoră asupra OpenAI și Anthropic. Ce riscuri prezintă agenții AI pentru utilizatori
• G4Media: FTC investighează OpenAI, Anthropic și alte companii AI pentru riscurile produselor
• Biziday: Autoritatea americană pentru Comerț investighează Anthropic, OpenAI și alte centre de cercetare din domeniu pentru a identifica potențiale pericole la adresa consumatorilor, dezvăluie Reuters.

Alte știri din tehnologie

• CNAIR amână implementarea sistemului TollRo din cauza disfuncționalităților tehnice
• Platforma Yuanxiang Xinsheng permite licențierea chipurilor umane pentru inteligența artificială
• OpenAI notifică instituții globale după interacțiuni neautorizate ale agenților săi IA
• Bill Gates avertizează că inteligența artificială poate genera riscuri de un miliard de decese
• Renault Group și Politehnica București inaugurează laboratorul de cercetare ASPIRE
• Coreea de Nord anunță testarea cu succes a unei arme noi, supervizată de Kim Jong Un

Toate știrile de azi, cu scor de credibilitate · Cum calculăm scorul