Microsoft stawia na matematykę

fot. pixabay

Zespół badaczy ds. matematyki i sztucznej inteligencji z Microsoft Asia zaprojektował i opracował model małego języka (SLM), który można wykorzystać do rozwiązywania problemów matematycznych. Grupa opublikowała na ten temat artykuł na serwerze arXiv.

W ciągu ostatnich kilku lat wielu gigantów technologicznych ulepszało swoje modele LLM, co zaowocowało produktami opartymi o sztuczną inteligencję, które w bardzo krótkim czasie stały się powszechne. Niestety takie narzędzia wymagają ogromnej mocy obliczeniowej, co oznacza, że ​​zużywają dużo energii elektrycznej, a ich utrzymanie jest drogie.

Z tego powodu niektórzy zwrócili się ku SLM, które są mniej zasobochłonne. Niektóre można uruchomić nawet na urządzeniu lokalnym. Jednym z głównych sposobów, w jaki badacze sztucznej inteligencji wykorzystują SLM, jest zawężenie ich zakresu działania, na przykład do matematyki. W ramach nowego przedsięwzięcia Microsoft skupił swoje wysiłki nie tylko na rozwiązywaniu problemów matematycznych, ale także na uczeniu SLM jak rozwiązywać problemy.

Microsoft stworzył model w sposób, który umożliwia jego wykorzystanie przez większe modele. Nowe LLM mogą stać się kontenerem dla wielu SLM. Co ciekawe, ogłoszenie Microsoftu nastąpiło niedługo po debiucie Phi-4 SLM, który również służy do rozwiązywania problemów matematycznych.

rStar-Math natomiast wykonuje swoją pracę inaczej niż Phi-4. Wykorzystuje metodę rozumowania MCTS, która została opracowana w celu naśladowania sposobu, w jaki ludzie rozwiązują problemy krok po kroku. Naukowcy zauważają, że dzięki takiemu podejściu ich nowy SLM może rozbić zadanie na mniejsze części, aby dowiedzieć się, jak rozwiązać konkretny problem. rStar-Math daje przy tym wgląd w swoją pracę, wyprowadzając swój proces myślowy zarówno w kodzie Pythona, jak i w języku naturalnym.

Zespół zauważył również, że rStar-Math zdążył uzyskać dobre wyniki w kilku testach porównawczych. Badacze planują udostępnić jego kod i dane publicznie na platformie GitHub.

(rr)