Pangram nu este singurul jucător pe această piață, dar abordarea sa este una distinctă. Fondată acum aproximativ doi ani de Max Spero și Bradley Emi, ambii absolvenți ai programelor de inteligență artificială și machine learning de la Stanford, startup-ul a apărut exact în momentul în care ChatGPT a deschis porțile unui val de conținut generat automat. „Cred că este incredibil de valoros să știi dacă ceea ce vezi este generat de AI sau nu”, a declarat Spero pentru TechCrunch. „Mai ales textul pe care îl citești, pentru că schimbă modul în care abordezi informația. Este ceva la care trebuie să fii atent la halucinații și să abordezi cu scepticism, sau este ceva în care ai încredere că a fost bine documentat de un jurnalist real?”
Sistemul de detectare al Pangram se bazează pe un model mare de machine learning, antrenat pe zeci de milioane de documente umane cunoscute. Pentru fiecare document, startup-ul a creat o „oglindă sintetică” – o versiune care reproduce subiectul, lungimea și tonul, dar scrisă de un model de limbaj avansat (LLM). „Modelul nostru învață diferențele stilistice și alegerile pe care AI le face în mod constant și le folosește pentru a determina cu mare încredere ce este generat de AI”, explică Spero. El subliniază că detectorul nu se bazează pe metadate de tip copy-paste sau pe watermark-uri ascunse.
Un aspect important este că Pangram nu se limitează la a detecta dacă un text este scris integral de AI. El poate distinge și între niveluri de asistență AI – de exemplu, cazul în care o persoană scrie ceva, dar apoi cere AI-ului să editeze sau să corecteze. Spero consideră că asistența AI poate fi acceptabilă, atâta timp cât autorul dezvăluie utilizarea acesteia. „Transparența este cheia”, spune el.
Lansarea Pangram vine într-un moment în care utilizarea AI devine din ce în ce mai comună, dar și mai controversată. De la politicianul canadian care a citit un prompt AI în fața colegilor parlamentari, până la avocați care au folosit citări false create de ChatGPT în instanță, consecințele pot fi de la ridicol la sancțiuni și amenzi. Arhiva open-access arXiv a introdus anul acesta o nouă politică de aplicare: lucrările care conțin dovezi că autorii nu au revizuit output-ul LLM-urilor (cum ar fi referințe halucinate sau comentarii meta precum „Doriți să fac modificări?”) pot duce la o interdicție de un an de la trimiterea de noi lucrări.
Concurența pe piața detectării AI este acerbă. Jucători precum Winston AI, Originality.ai, Copyleaks și GPTZero își construiesc proprii detectoare. Pangram se diferențiază prin acuratețea declarată de peste 99% pentru textul asistat de AI și conținutul mixt uman-AI, precum și prin capacitatea de a detecta programele de „umanizare” AI – acele unelte care încearcă să facă textul generat să sune mai natural.
Utilizatorii pot accesa Pangram printr-un abonament de 20 de dolari pe lună pe web sau prin extensia Chrome, care etichetează automat postările în timp real pe X, LinkedIn, Substack, Reddit și Medium. Extensia oferă și un „scor de sănătate al feed-ului”, cu o defalcare procentuală a conținutului uman versus AI pe ecran. De asemenea, Pangram oferă tehnologia sa prin API. Notabil, Substack a integrat recent tehnologia Pangram pentru a le arăta cititorilor care dintre autorii lor preferați își scriu newsletterele cu ajutorul AI.
Dar cât de fiabilă este această detectare? Spero recunoaște că niciun sistem nu este perfect. „Nu există un detector AI care să fie 100% infailibil”, spune el. „Dar noi ne străduim să fim cât mai aproape de acest ideal.” Provocarea principală este că modelele AI evoluează constant, iar cei care generează conținut AI încearcă să evite detectarea. Pangram investește continuu în actualizarea modelelor sale pentru a ține pasul.
Impactul pe termen lung al unor astfel de unelte este imens. Într-o lume în care conținutul generat de AI devine din ce în ce mai greu de distins de cel uman, încrederea în informația online este subminată. De la știri false la recenzii false, de la lucrări academice la documente legale, capacitatea de a verifica autenticitatea textului devine o necesitate. Pangram și competitorii săi nu doar că oferă o soluție tehnică, ci și o formă de rezistență împotriva valului de „slop” AI – termenul colocvial pentru conținutul de calitate scăzută generat în masă.
Pe lângă detectarea textului, Pangram Image, aflat încă în stadiul de previzualizare de cercetare, promite să identifice imaginile generate de AI. Aceasta este o altă frontieră importantă, având în vedere proliferarea deepfake-urilor și a imaginilor sintetice care pot fi folosite pentru dezinformare.
De ce este important:
Într-o eră în care conținutul generat de inteligența artificială inundă internetul, instrumente precum Pangram devin esențiale pentru menținerea încrederii în informația online. Fie că este vorba de jurnalism, educație, justiție sau simple interacțiuni sociale, capacitatea de a distinge între ceea ce este scris de un om și ceea ce este generat de un algoritm nu mai este un lux, ci o necesitate. Pangram nu doar că oferă o soluție tehnică avansată, dar contribuie la un dialog mai larg despre transparență și responsabilitate în utilizarea AI. Pe măsură ce granița dintre uman și artificial devine tot mai subțire, astfel de inițiative ne ajută să navigăm cu mai multă siguranță în peisajul digital.
