Etyczne roboty na polu walki

Etyczne roboty na polu walki

Ron Arkin, inżynier robotyk z Georgia Institute of Technology pracuje nad koncepcją programowania maszyn tak, by na polu walki zachowywały się ‘etycznie’ i postępowały zgodnie z zasadami.

Arkin opracował ‘etycznego gubernatora’, którego zadaniem jest dopilnować, by robot zachowywał się w walce ‘etycznie’. System demonstruje swoje działanie w symulacjach opartych na ostatnich kampaniach wojsk amerykańskich na Bliskim Wschodzie.

W jednym ze scenariuszy, odzwierciadlającym obecność wojsk amerykańskich w Afganistanie w 2006 roku, truteń identyfikuje oddział Talibów wewnątrz zdefiniowanej ‘strefy śmierci’. Jednakże nie otwiera ognia, gdyż według map oddział znajduje się na terenie cmentarza.

W innym scenariuszu, truteń identyfikuje wrogi konwój pojazdów w pobliżu szpitala. W takiej sytuacji etyczny gubernator zezwala jedynie na taki ogień, który nie zagrozi pacjentom szpitala. Dodatkowo, Arkin opracował system ‘wina’, który w przypadku popełnienia przez robota poważnego błędu sprawia, że ten zachowuje się jeszcze ostrożniej.

Podczas opracowywania oprogramowania, Arkin oparł się na studiach nad etyką wojskową oraz konsultacjach z personelem wojskowym. Celem jest zredukowanie ofiar wśród cywilów. Jeden z wietnamskich weteranów przyznał, że w niektórych sytuacjach żołnierze strzelali po prostu do wszystkiego co się rusza. „Z łatwością mogę dziś skonstruować takiego robota, jednakże powinniśmy raczej myśleć, by zachowywał się lepiej.” – stwierdził Arkin.

Symulacje są potężnym narzędziem służącym do zobrazowania tego jak w przyszłości wyglądać będzie walka, stwierdził Illah Nourbakhsh, robotyk z Carnegie Mellon University. Pomijają one jednak wiele subtelnych kwestii, z którymi roboty musiałyby sobie na polu bitwy radzić, podejmując właściwe decyzje. Coś takiego będzie możliwe dopiero za klika dekad, powiedział Nourbakhsh.

Arkin podkreśla, że choć jego badania są finansowane przez Armię Amerykańską, ich celem nie jest stworzenie prototypu. „Najważniejszym wynikiem moich badań nie jest architektura, ale dyskusja, która one wywołują.” – stwierdził Arkin.

Przyznał jednak, że skonstruowanie maszyn, które same będą decydowały, kiedy użyć siły jest nieuchronne, a kluczowym jest skonstruowanie ich w taki sposób, by można im było ufać.

Noel Sharkey, robotyk z Sheffield University zabiega o szerszą debatę publiczną na temat wykorzystania automatyki w walce. „Zgadzam się z Ronem, że skonstruowanie samodzielnych robotów bojowych wydaje się być w niedalekiej przyszłości nieuchronne.” – stwierdził Sharkey .

Według niego, praca Arkina pokazuje nieadekwatność istniejących technologii do złożonego moralnie środowiska pola bitwy. „Roboty nie złoszczą się i nie szukają zemsty, nie odczuwają jednak również ani sympatii, ani empatii.” – powiedział Sharkey. „Sztywne zasady wymagają absolutystycznego postrzegania etyki, a nie ludzkiego rozumienia różnych okoliczności i ich konsekwencji.” – dodał.

(lk)