Sztuczna inteligencja okazała się bezradna wobec grupy naukowców z japońskiego Uniwersytetu w Kiusiu. Badacze udowodnili, że wystarczy zmienić pojedyncze piksele na obrazie, aby móc z powodzeniem oszukać jej algorytmy i spowodować błędne zaklasyfikowanie analizowanego obiektu.
Pierwszym z celów Japończyków było opracowanie przewidywalnego i powtarzalnego sposobu na oszukanie głębokiej sieci neuronowej. W drugiej kolejności Jiawei Su, Danilo Vasconcellos Vargas i Sakurai Kouichi skupili się na automatyzacji swojego ataku.
Naukowcy zastanawiali się, w jaki sposób zmusić algorytmy sztucznej inteligencji zoptymalizowane na rozpoznawanie obrazów, aby te uznały ukazany na zdjęciu samochód za psa. Dzięki zastosowaniu techniki ewolucji różnicowej sztuka ta udała się nawet, gdy manipulowano pojedynczym pikselem.
Podczas zmiany trzech pikseli w 1024-pikselowym obrazie sztuczna inteligencja nie radziła sobie z 82% przypadków. Zmiana pięciu pikseli owocowała 12,7-procentową skutecznością algorytmów, natomiast jednego z nich – 26,2-procentową.
(rr)
Kategoria wiadomości:
Nowinki techniczne
- Źródło:
- kopalniawiedzy
Komentarze (2)
Czytaj także
-
Kluczowa rola wycinarek laserowych w obróbce metali
Wycinarki laserowe zrewolucjonizowały przemysł obróbki metali, oferując niezwykłą precyzję i efektywność. Dowiedz się, dlaczego są one...
-
Jak zautomatyzować każdy proces przemysłowy?
Automatyzacja procesów jest kluczem do obniżania kosztów produkcji. Nie zawsze jest to proste, bo na proces przemysłowy składa się wiele...
-
-
-
-
MAXTER AUTOMATYKA
Celem badania na pewno było znalezienie słabej strony algorytmów. Teraz je udoskonalą i wkrótce oszukać się nie da.
Wredniak
Oj straszne. W 1024 pikseli czyli 32x32 nie poradziła sobie. Nie wiem, czy też prawidłowo bym rozpoznał takie ikonki i to bez zmian pikseli.