Subiect: #moderare conținut
Meta și YouTube revin pe decizie: vor difuza reclamele pentru documentarul „Musk” al lui Alex Gibney
Meta și YouTube au anulat interzicerea de a rula reclame pentru documentarul „Musk” al lui Alex Gibney, după ce inițial le-au respins invocând politici anti-publicitate-politică. Cazul evidențiază riscurile moderării automate și puterea platformelor de a controla discursul public.
Cum au devenit secțiunile de comentarii NPR noul „parc de joacă” digital al elevilor de gimnaziu
Elevii de gimnaziu, blocați de părinți de pe rețelele sociale principale, au transformat secțiunile de comentarii ale podcast-urilor NPR de pe Spotify în spații secrete de socializare. Fenomenul, descoperit de echipa „Wild Card” și relatat de Ira Glass la „This American Life”, evidențiază inutilitatea controalelor tehnice pe platforme mari și creativitatea generației Alpha în a repurposa orice câmp de text liber. O lecție pentru platforme, părinți și media: spațiile digitale neapărute vor fi întotdeauna colonizate de cei mai tineri.
X va anunța utilizatorii când guvernele îi obligă să limiteze postările
X (fostul Twitter) a anunțat că va informa utilizatorii când postările lor sunt limitate din cauza cererilor guvernamentale, extinzând instrumentul de transparență „Under the Hood”. Utilizatorii vor putea descărca un fișier JSON care arată ce postări au fost reținute și în ce țară, oferind o mai mare vizibilitate asupra moderării impuse de autorități.
Mistral AI lansează Shieldstral 1.0 3B: un clasificator de siguranță multimodal, adaptabil la politici, care rivalizează cu modele de 7 ori mai mari
Mistral AI a lansat Shieldstral 1.0 3B, un clasificator de siguranță multimodal, open-weights, care folosește o abordare policy-adaptive bazată pe întrebări da/nu. Cu performanțe comparabile cu modele de 7 ori mai mari, acesta oferă flexibilitate și eficiență, fiind disponibil sub licență Apache 2.0.
TikTok concediază 250 de angajați și închide biroul din Nashville: semnalul de alarmă al moderării automate
TikTok concediază 250 de angajați și închide biroul din Nashville, semnalând o trecere masivă la moderarea automată prin AI. Decizia, anunțată pe fondul eficientizării operațiunilor, ridică întrebări despre siguranța utilizatorilor și viitorul locurilor de muncă în tehnologie.
Reddit folosește modele lingvistice mari pentru a rezolva o problemă pe care tot ele au creat-o
Reddit folosește modele lingvistice mari (LLM-uri) pentru a combate spamul generat tot de LLM-uri. Platforma blochează 23 de milioane de vizualizări de spam pe zi și a redus expunerea utilizatorilor cu 20% într-un trimestru. O soluție ironică, dar necesară în era AI.
De ce modelele AI se luptă să detecteze discursul de ură online?
Modelele AI au dificultăți în detectarea discursului de ură online din cauza inconsecvențelor între sisteme, a dificultății de a recunoaște ură implicită și a tendinței de a eticheta greșit limbajul recuperat. Un studiu recent arată variații mari între platforme, ceea ce subminează încrederea în moderarea automată.
Consiliul de Supraveghere al Meta critică lipsa de transparență și proceduri corecte în dezactivarea conturilor
Consiliul de Supraveghere al Meta a constatat că dezactivările de conturi lipsesc de transparență și proces echitabil, iar utilizatorii nu primesc asistență reală nici măcar prin abonamentul plătit Meta Verified. Cazuri de acuzații false de exploatare sexuală a copiilor sau fraudă au dus la interdicții permanente fără dovezi, afectând grav afaceri și persoane nevinovate.
Substack lansează „Reguli de Răspuns”: creatorii pot controla modul în care reacționează publicul
Substack introduce funcția „Reply Rules” care permite creatorilor să stabilească reguli personalizate pentru comentarii, filtrând automat conținutul nedorit. Platforma își menține abordarea descentralizată de moderare, dar se confruntă cu critici legate de conținutul extremist.
Fastino Labs lansează GLiGuard: un model open-source de moderare a siguranței cu 300M parametri, care egalează sau depășește acuratețea modelelor de 23–90 de ori mai mari
Fastino Labs a lansat GLiGuard, un model open-source de moderare a siguranței cu 300M parametri, care egalează sau depășește acuratețea modelelor de 23–90 de ori mai mari, oferind o viteză de inferență de până la 16 ori mai mare și o latență de 16,6 ori mai mică. Disponibil sub licența Apache 2.0, modelul evaluează patru sarcini de siguranță într-o singură trecere, fiind ideal pentru aplicații în timp real.