Wpływ jakości danych na SI

Naukowcy z Massachusetts Institute of Technology (MIT) stworzyli pierwszego na świecie bota o cechach psychopatycznych.

Naukowcy z laboratorium medialnego MIT wyszkolili algorytm sztucznej inteligencji o nazwie Norman (odniesienie do postaci Normana Batesa występującej w powieści Psycho), aby ten wykazywał tendencje psychopatyczne. Cel osiągnięto, eksponując go wyłącznie na makabryczne i brutalne treści zamieszczane w jednym z działów dyskusyjnych na portalu Reddit.

Badacze podkreślają, że ich pomysł narodził się z poczucia niebezpieczeństwa związanego z faktem, że dane używane do trenowania algorytmów uczenia maszynowego mogą znacząco wpływać na ich zachowanie. Kiedy więc ludzie mówią o algorytmach sztucznej inteligencji, które są stronnicze i niesprawiedliwe, winowajcą często okazuje się nie sama metoda, lecz dane służące do jego trenowania. Ten sam algorytm pozwala bowiem zidentyfikować na obrazie odmienne rzeczy w zależności od tego, z jakimi danymi miał dotąd od czynienia.

Norman karmiony był informacjami z najdalszych zakamarków Reddita i reprezentuje studium przypadku na temat niebezpieczeństw sztucznej inteligencji związanych z jej niewłaściwym wykorzystaniem. Na szczęście jedynymi możliwościami, w jakie naukowcy wyposażyli algorytm Norman było opisywanie analizowanych przezeń obrazów.

(rr)