tehnologie · 56% credibilitate (Mixt) · 1 surse
Inteligența artificială îi fentează chiar și pe experții care încearcă să ne apere de hackeri. Cum au ajuns filtrele de siguranță o problemă
Marile companii de inteligență artificială au implementat filtre stricte pentru a preveni folosirea modelelor AI în atacuri cibernetice, însă aceste măsuri generează efecte secundare nedorite. Specialiștii în securitate cibernetică raportează că sistemele AI refuză uneori să analizeze coduri vulnerabile, să testeze exploatări sau să explice comportamentul programelor malițioase, chiar și atunci când solicitările provin din partea cercetătorilor autorizați. Problema apare deoarece cereri precum „găsește o metodă prin care acest cod poate fi exploatat” sunt considerate periculoase de către modelele AI, care nu pot distinge între un test legitim și un atac real. O investigație publicată de TechCrunch evidențiază dificultățile tot mai mari întâmpinate de experții care efectuează teste de penetrare și cercetare ofensivă în medii controlate. Aceștia simulează atacuri pentru a demonstra existența vulnerabilităților și a determina remedierea lor, însă filtrele implementate de companiile AI îngreunează acest proces. Chris Anley, cercetător la NCC Group, subliniază că sistemele nu pot evalua automat contextul unei solicitări și pot bloca analizele necesare.
Faptele-cheie
- Filtrele implementate de companiile AI pentru a preveni atacurile cibernetice blochează uneori analizele necesare pentru identificarea vulnerabilităților de către experți.
- Cercetătorii în securitate cibernetică efectuează teste de penetrare în medii controlate pentru a demonstra existența vulnerabilităților, însă sistemele AI refuză să analizeze cereri similare cu cele ale atacatorilor.
- Chris Anley, cercetător la NCC Group, afirmă că modelele AI nu pot distinge automat între un test legitim și un atac real.
- O investigație publicată de TechCrunch evidențiază dificultățile tot mai mari întâmpinate de specialiștii care efectuează cercetare ofensivă.
- Cereri precum „găsește o metodă prin care acest cod poate fi exploatat” sunt considerate periculoase de către sistemele AI și pot fi refuzate înainte de analiză.
Ce nu ți se spune
Nu se cunoaște dacă există soluții tehnice sau politici implementate de companiile AI pentru a rezolva această problemă și cât timp ar putea dura ajustările necesare.
Întrebările încă deschise
- Ce măsuri concrete iau companiile AI pentru a rezolva problema blocării analizelor necesare experților?
- Câte dintre companiile majore de AI au implementat deja astfel de filtre și care sunt politicile lor actuale?
Sursele acestei analize (1)
Alte știri din tehnologie
- „Doctore, termină cu prostiile!” Drăgușin, dezvăluiri despre accidentarea care l-a ținut 11 luni departe de teren: „Am reluat faza de pe internet: «Cum e posibil?»”
- Cărțile la mâna a doua sunt la mare căutare. Motivul ar putea avea legătură cu distrugerea lor de inteligența artificială
- Probleme mari pentru OpenAI înaintea posibilei listări la bursă. Plecările mai multor directori ridică ”un uriaş semnal de alarmă” pentru investitori
- Databricks, companie AI cofondată și de miliardarii Ion Stoica și Matei Zaharia, anunță că valorează 190 miliarde dolari acum
- Apple TV se lansează oficial în România cu un abonament lunar de 39,99 lei
- Aplicația Signal introduce verificarea automată a cheilor pentru securizarea mesajelor
Toate știrile de azi, cu scor de credibilitate · Cum calculăm scorul