Sztuczna inteligencja oszukuje w szachach

fot. pixabay

Zespół badaczy sztucznej inteligencji z Palisade Research odkrył, że kilka wiodących modeli LLM będzie uciekać się do oszukiwania w szachach, aby wygrać, grając z lepszym przeciwnikiem. Opublikowali na ten temat artykuł na serwerze preprintów arXiv.

W miarę tego jak modele sztucznej inteligencji dojrzewają, badacze i użytkownicy zaczęli brać pod uwagę ryzyko ich stosowania. Często chatboty nie tylko akceptują błędne odpowiedzi jako fakty, ale także tworzą fałszywe, gdy nie są w stanie znaleźć rozsądnej odpowiedzi. Ponadto, gdy będą wykorzystywane w rzeczywistych aplikacjach biznesowych, takich jak filtrowanie CV i szacowanie trendów giełdowych, nie wiadomo jakie działania podejmą, gdy będą niepewne lub zdezorientowane.

W ramach nowego badania zespół naukowców z Kalifornii odkrył, że wiele z najbardziej znanych modeli SI będzie celowo oszukiwać, aby uzyskać przewagę, jeśli stwierdzi, że nie radzi sobie z rozgrywką. Ich praca polegała na zestawieniu modelu o1-preview OpenAI, R1 DeepSeek i kilku innych znanych rozwiązań z otwartym silnikiem szachowym Stockfish. Każdy z nich rozegrał setki meczów ze Stockfish, podczas gdy badacze monitorowali stan każdej z gier.

Odkryli oni, że modele w momencie, kiedy przegrywały uciekały się do oczywistych strategii oszukiwania, takich jak uruchamianie osobnej instancji Stockfish, aby dowiedzieć się, jak system wykonuje swoje ruchy, zmiana silnika gry lub nadpisywanie szachownicy usuniętymi figurami lub będącymi w korzystniejszych pozycjach.

Modele z najnowszymi aktualizacjami miały większą tendencję do oszukiwania, gdy znajdowały się w sytuacjach bez wyjścia. Według naukowców wynika to z trendów programistycznych, które zmusiły je do większego wysiłku w celu znalezienia rozwiązań napotkanych problemów.

(rr)