Totul a început când OpenAI, una dintre companiile de frunte în domeniul AI, a anunțat că a rezolvat o problemă matematică celebră, folosind modelele sale de tip Codex, într-un weekend intens de calcul. Anunțul a fost primit cu entuziasm de comunitatea tech, dar matematicienii au ridicat imediat semne de întrebare. Cum a fost obținută demonstrația? A fost verificată? Și, mai important, cine merită creditul pentru această realizare?
În centrul controversei se află Tristan Buckmaster, profesor la NYU, care a acuzat public OpenAI de comportament neloial. Potrivit lui Buckmaster, compania l-ar fi presat să nu îi acorde credit unui colaborator care lucrează la Anthropic, un rival direct, pentru rezolvarea unei probleme matematice importante. Mai mult, Buckmaster a sugerat că OpenAI ar fi folosit munca lor comună cu Codex pentru a produce propria demonstrație revoluționară, fără a recunoaște contribuțiile anterioare. Aceste acuzații au stârnit un val de indignare în comunitatea matematică, dar și în rândul cercetătorilor din alte domenii.
Reacția nu a întârziat să apară. Joi, OpenAI a fost nevoită să își retragă sponsorizarea unui eveniment matematic de la CalTech, după ce cercetătorii universității au criticat public compania. Această mișcare a fost interpretată ca o recunoaștere tacită a tensiunilor, dar și ca o încercare de a limita daunele de imagine. Însă rănile sunt adânci, iar scrisoarea deschisă semnată de laureații Medaliei Fields arată că problema este sistemică, nu doar un incident izolat.
În scrisoarea lor, matematicienii subliniază că, deși capacitatea modelelor AI de a rezolva provocări matematice remarcabile ar putea fi un beneficiu imens pentru umanitate, acest lucru se va întâmpla doar dacă soluțiile pot fi înțelese și comunicate de comunitatea matematică, și, în cele din urmă, de întreaga lume. „Adesea aceste soluții sunt anunțate în grabă, fără a lăsa timp pentru o documentație adecvată, pentru izolarea noilor metode și idei și pentru citarea lucrărilor anterioare relevante ale altora”, scriu ei. Iar demonstrația OpenAI rămâne, deocamdată, neverificată.
„Ca în toate profesiile creative, acest lucru ridică probleme grave de atribuire și plagiat. Mai mult, fără matematicienii dispuși să se ocupe de dezvoltarea și integrarea lor în canonul matematic, ideile concepute de AI nu ar deveni niciodată pe deplin vii, iar lanțul crucial de transmitere umană între matematicieni s-ar pierde”, avertizează semnatarii.
Pe măsură ce alți matematicieni devin tot mai paranoici, întrebându-se dacă utilizarea lor personală a Codex a fost, la rândul ei, folosită pentru a antrena noile modele OpenAI, există o teamă reală că cultura cercetării deschise va fi grav afectată. În prezent, dacă laboratoarele de frontieră văd o cale utilă către o descoperire, pot cheltui zeci de milioane de dolari folosind modele de limbaj pentru a-i întrece pe cercetătorii originali în obținerea unei demonstrații – o dinamică ce va încuraja secretul și va descuraja colaborarea.
Această scrisoare vine după Declarația de la Leiden, publicată în iunie de un grup de lucru al matematicienilor. Acel document abordează, de asemenea, modul în care demonstrațiile realizate cu ajutorul modelelor de limbaj vor schimba munca lor și oferă o serie de recomandări pentru matematicieni, instituții și factori de decizie politică. La fel ca în ingineria software și în alte domenii în care instrumentele AI transformă fluxurile de lucru, matematicienii găsesc o justificare în munca din jurul muncii: valoarea matematicii nu constă doar în demonstrații și în cine primește creditul, ci în superstructura intelectuală care hrănește studenții, descoperă noi întrebări și idei și le integrează în civilizația umană mai largă.
Dacă nu vă interesează în mod deosebit lumea competitivă a demonstrațiilor matematice de mare miză, nu uitați: domeniul dumneavoastră de interes este următorul. „Problemele cu care se confruntă acum comunitatea matematică sunt similare cu cele cu care se confruntă alte profesii științifice și creative și indică probleme cu care s-ar putea confrunta întreaga umanitate: cum să ne asigurăm că, pe măsură ce AI schimbă modul în care se face munca, nu pierdem din vedere scopul pentru care acea muncă a fost menită să fie realizată”, scriu ei.
De ce este important:
Acest conflict nu este doar o dispută academică între matematicieni și o companie de tehnologie. El ridică întrebări fundamentale despre viitorul muncii intelectuale, despre drepturile de autor și atribuirea meritelor într-o eră în care mașinile pot genera idei, despre transparența cercetării și despre echilibrul de putere dintre marile corporații tech și comunitățile științifice. Dacă laboratoarele de AI pot „rezolva” probleme matematice fără a respecta normele academice, același tipar se poate extinde la orice domeniu creativ sau științific – de la fizică la literatură, de la medicină la drept. Modul în care gestionăm aceste tensiuni acum va defini dacă AI va fi un instrument de progres sau o forță care subminează integritatea cunoașterii umane. Este o problemă care ne privește pe toți, nu doar pe matematicieni.
