Brown urmărește originea Forum AI, fondată acum 17 luni în New York, până la un moment specific. „Eram la Meta când ChatGPT a fost lansat public pentru prima dată”, și-a amintit ea. „Și îmi amintesc că imediat după aceea am realizat că aceasta va fi pâlnia prin care va curge toată informația. Și nu este foarte bună.” Implicațiile pentru propriii ei copii au făcut ca momentul să pară aproape existențial. „Copiii mei vor fi foarte proști dacă nu ne dăm seama cum să reparăm asta”, și-a amintit ea că s-a gândit. Ceea ce o frustra cel mai mult era că acuratețea nu părea să fie prioritatea nimănui. Companiile de modele de fundație, a spus ea, „sunt extrem de concentrate pe codare și matematică”, în timp ce știrile și informațiile sunt mai dificile. Dar mai dificil, a argumentat ea, nu înseamnă opțional.
Într-adevăr, când Forum AI a început să evalueze modelele principale, constatările nu au fost deloc încurajatoare. Ea a citat cazul Gemini, care extragea informații de pe site-urile Partidului Comunist Chinez „pentru povești care nu au nimic de-a face cu China” și a remarcat o părtinire politică de stânga în aproape toate modelele. Există și eșecuri mai subtile, a spus ea, inclusiv lipsa contextului, lipsa perspectivelor, prezentarea de argumente de tip „om de paie” fără recunoaștere. „Mai este mult de lucru”, a spus ea. „Dar cred, de asemenea, că există câteva soluții foarte simple care ar îmbunătăți considerabil rezultatele.”
Brown a petrecut ani de zile la Facebook urmărind ce se întâmplă atunci când o platformă optimizează pentru lucrul greșit. „Am eșuat în multe dintre lucrurile pe care le-am încercat”, i-a spus ea lui Fernholz. Programul de fact-checking pe care l-a construit nu mai există. Lecția, chiar dacă rețelele sociale au închis ochii la ea, este că optimizarea pentru implicare (engagement) a fost dezastruoasă pentru societate și a lăsat mulți oameni mai puțin informați. Speranța ei este că AI poate rupe acest cerc vicios. „Acum ar putea merge în orice direcție”, a spus ea; companiile ar putea oferi utilizatorilor ceea ce vor, sau ar putea „da oamenilor ceea ce este real, ceea ce este onest și ceea ce este adevărat”. Ea a recunoscut că versiunea idealistă – AI care optimizează pentru adevăr – poate părea naivă. Dar crede că mediul de afaceri ar putea fi un aliat neașteptat. Companiile care folosesc AI pentru decizii de creditare, împrumuturi, asigurări și angajare sunt preocupate de răspundere și „vor dori să optimizezi pentru a face lucrurile corect”.
Această cerere din partea întreprinderilor este și miza pe care Forum AI își bazează afacerea, deși transformarea interesului pentru conformitate într-un venit constant rămâne o provocare, mai ales că o mare parte din piața actuală este încă mulțumită cu audituri superficiale și repere standardizate pe care Brown le consideră inadecvate. Peisajul conformității, a spus ea, este „o glumă”. Când New York City a adoptat prima lege privind părtinirea în angajare care impunea audituri AI, controlorul de stat a constatat că mai mult de jumătate aveau încălcări care au rămas nedetectate. O evaluare reală, a spus ea, necesită expertiză în domeniu pentru a lucra nu doar cu scenarii cunoscute, ci și cu cazuri limită care „te pot băga în bucluc la care oamenii nu se gândesc”. Și această muncă necesită timp. „Generalistii inteligenți nu sunt de ajuns.”
Brown – a cărei companie a strâns anul trecut 3 milioane de dolari conduși de Lerer Hippeau – este într-o poziție unică pentru a descrie decalajul dintre imaginea de sine a industriei AI și realitatea pentru majoritatea utilizatorilor. „Auzi de la liderii marilor companii tech: «Această tehnologie va schimba lumea», «vă va lăsa fără loc de muncă», «va vindeca cancerul»”, a spus ea. „Dar apoi, pentru o persoană obișnuită care folosește un chatbot pentru a pune întrebări de bază, primește în continuare o mulțime de gunoi și răspunsuri greșite.” Încrederea în AI se află la niveluri extrem de scăzute, iar ea crede că acest scepticism este, în multe cazuri, justificat. „Conversația are loc într-un fel în Silicon Valley, iar o conversație complet diferită are loc printre consumatori.”
De ce este important:
Articolul evidențiază o problemă crucială a erei noastre: cine controlează acuratețea informațiilor furnizate de inteligența artificială? Campbell Brown, cu experiența sa vastă în jurnalism și tehnologie, atrage atenția asupra faptului că marile companii de AI prioritizează abilitățile tehnice (codare, matematică) în detrimentul acurateței informaționale și al nuanțelor necesare în subiecte sensibile. Inițiativa Forum AI de a implica experți de top pentru a crea repere de evaluare și de a antrena judecători AI să se alinieze cu aceștia reprezintă o încercare de a introduce un standard de calitate într-un domeniu dominat de părtiniri și erori. Pentru publicul larg, aceasta înseamnă că încrederea în chatbot-uri și asistenți AI trebuie să fie tratată cu prudență, iar pentru companii, devine clar că simpla conformitate formală nu este suficientă – este nevoie de expertiză reală pentru a evita riscurile legale și reputaționale. Pe măsură ce AI devine principala sursă de informare, deciziile luate acum vor modela modul în care societatea înțelege lumea.
