Testowanie sztucznej inteligencji pod kontrolą

fot. pixabay

Cyberbezpieczeństwo jest jednym z najważniejszych wyzwań, jakie stawia przed sobą Microsoft. Dzieje się tak głównie ze względu na zwiększającą się ilość cyberataków ze strony wyrafinowanych i złośliwych hakerów. Firma stale aktualizuje swoją infrastrukturę bezpieczeństwa, aby chronić się przed tego typu zagrożeniami.

Jednym z często pomijanych aspektów organizacji jest bezpieczeństwo ich systemów sztucznej inteligencji. Microsoft planuje rozwiązać ten problem, udostępniając nowe narzędzie o nazwie Counterfit.

To open-source'owe oprogramowanie stworzone w celu zautomatyzowania testów bezpieczeństwa systemów sztucznej inteligencji. Ostatecznym celem Microsoftu jest zapewnienie przedsiębiorstwom dużej pewności, że ich systemy sztucznej inteligencji są bezpieczne i niezawodne. Microsoft zauważa, że spośród 28 ankietowanych przez firmę organizacji 25 uznało, że nie posiada odpowiednich mechanizmów ochrony systemów sztucznej inteligencji, a ich specjaliści do spraw bezpieczeństwa nie są dobrze przygotowani do radzenia sobie ze związanymi z tym zagrożeniami.

Początkowo Counterfit powstał jako zestaw skryptów, które można było wykorzystać do ataku na modele SI. Microsoft użył go najpierw we własnych wewnętrznych testach, ale teraz oprogramowanie ewoluowało w taki sposób, aby móc działać jako zautomatyzowane narzędzie, które atakuje wiele modeli sztucznej inteligencji na dużą skalę.

Korzyści z używania Counterfit polegają na tym, że program jest niezależny od środowiska, modelu i danych. Oznacza to, że można go używać lokalnie, na brzegu sieci lub w chmurze do testowania dowolnego układu SI, który zależy od danych wejściowych dostarczonych w praktycznie dowolnej formie.

Microsoft wskazał na fakt, iż Counterfit jest łatwy w użyciu dla zespołów ds. bezpieczeństwa, które używają obecnie Metasploit lub PowerShell Empyre. Może być używany do testów penetracyjnych i skanowania podatności. Rejestruje także ataki na modele sztucznej inteligencji, dzięki czemu naukowcy zajmujący się danymi mogą wykorzystać jego możliwości telemetryczne do dalszego zwiększania bezpieczeństwa swoich systemów.

(rr)