tehnologie · 83% credibilitate (Foarte credibil) · 2 surse

OpenAI restricționează accesul adolescenților la informații despre arme pe ChatGPT

OpenAI a anunțat vineri implementarea unor noi măsuri de securitate pe platforma ChatGPT, vizând în special restricționarea accesului adolescenților la informații despre arme și sisteme de securitate. Compania va bloca furnizarea de detalii practice care ar putea fi utilizate abuziv, chiar și în situațiile în care întrebările utilizatorilor par inofensive sau lipsite de intenții violente. Totodată, OpenAI a îmbunătățit sistemul de estimare a vârstei pentru a redirecționa utilizatorii sub 18 ani către o experiență adaptată. Pentru toți utilizatorii, ChatGPT va putea încheia automat conversațiile în care se observă o obsesie pentru violență, iar conturile care prezintă astfel de tipare de comportament repetat riscă suspendarea temporară. În cazul adolescenților, OpenAI intenționează să notifice părinții dacă un cont este suspendat din cauza discuțiilor repetate despre violență. Aceste decizii vin pe fondul unei presiuni internaționale crescute asupra companiilor din domeniul Inteligenței Artificiale, care sunt somate de autoritățile de reglementare să își asume un rol mai activ în prevenirea riscurilor și detectarea amenințărilor la adresa utilizatorilor tineri.

Faptele-cheie

OpenAI a anunțat vineri noi restricții privind informațiile despre arme și sisteme de securitate pe ChatGPT.
Măsurile vizează blocarea detaliilor practice chiar și în absența unor intenții violente declarate.
ChatGPT va încheia automat conversațiile care indică o obsesie pentru violență.
Părinții vor fi notificați dacă contul unui adolescent este suspendat pentru discuții repetate despre violență.
Sistemul de estimare a vârstei a fost îmbunătățit pentru a direcționa utilizatorii sub 18 ani către o experiență specifică.

Ce nu ți se spune

Nu este clar care sunt criteriile tehnice exacte utilizate de sistemul de estimare a vârstei pentru a identifica utilizatorii sub 18 ani. De asemenea, nu a fost precizat numărul exact de conversații violente necesare pentru a declanșa suspendarea unui cont.

Întrebările încă deschise

Cum va fi implementată tehnic notificarea părinților în cazul suspendării conturilor adolescenților?
Care este procedura prin care utilizatorii pot contesta o suspendare temporară considerată eronată?
În ce măsură noile filtre vor afecta acuratețea răspunsurilor pentru utilizatorii care caută informații tehnice legitime?

Sursele acestei analize (2)

Alte știri din tehnologie

Toate știrile de azi, cu scor de credibilitate · Cum calculăm scorul