ByteDance și Tsinghua deschid codul pentru raționament complex

Peste 50% acuratețe pe AIME 2024?

În mai 2025, cercetătorii de la ByteDance Seed și laboratorul Tsinghua AIR au lansat DAPO, un sistem open-source pentru învățare prin reinvățare.

Proiectul, disponibil pe GitHub, vine cu instrumente complete de antrenament și evaluare, având ca scop susținerea cercetării în domeniul modelelor de limbaj mari capabile de raționament complex.

Lansarea a fost marcată și de actualizări semnificative privind performanța pe benchmark-uri dificile.

DAPO integrează tehnici avansate de optimizare a politicilor și oferă cadre de lucru flexibile, permițând experimentarea cu diverse strategii de învățare.

Arhitectura a fost gândită pentru o integrare ușoară în pipeline-uri existente, cu suport pentru distribuție pe mai multe GPU și înregistrare automată a experimentelor prin Weights & Biases.

DAPO vs. alte sisteme deschise?

Dezvoltatorii subliniază accentul pus pe reproducibilitate și accesibilitate, oferind posibilitatea ca cercetătorii să replice rezultatele publicate fără a necesita infrastructură costisitoare.

În martie 2025, echipa a publicat punctajele de antrenament și checkpoint-urile care au dus modelul DAPO la o acuratețe de peste 50% pe AIME 2024. Acest benchmark de olimpiadă matematică este cunoscut pentru dificultatea sa ridicată. Rezultatul reprezintă un pas înainte față de modelele anterioare din domeniu și validează eficacitatea abordării. Pentru a facilita verificarea, au fost furnizate instrucțiuni detaliate pentru rularea evaluării pe acest set de date.

Comparația cu alte framework-uri open-source pentru învățare prin reinvățare evidențiază diferențele DAPO. Sistemul se distinge prin integrarea profundă cu Weights & Biases pentru monitorizare și prin focusul pe sarcinile de raționament simbolic.

În timp ce multe sisteme se concentrează pe jocuri sau simulări simple, DAPO țintește probleme matematice de nivel olimpic, un aspect care îl face unic în peisajul actual.

Întrebări frecvente?

Echipa menționează că lucrează la scalarea sistemului pentru modele mai mari și la adăugarea suportului pentru alte tipuri de sarcini de raționament.

Ce este DAPO și cine l-a creat? DAPO este un sistem open-source de învățare prin reinvățare dezvoltat de cercetătorii de la ByteDance Seed și laboratorul Tsinghua AIR, lansat în mai 2025.

Care este semnificația rezultatului de peste 50% pe AIME 2024?

Acest punctaj indică faptul că modelul poate rezolva peste jumătate din problemele de olimpiadă matematică din AIME 2024, un nivel de performanță considerat avansat în domeniu.

Este necesar să plătesc pentru a folosi DAPO? Nu, DAPO este complet open-source și gratuit de folosit, modificat și distribuit conform licenței de pe GitHub.