Naukowcy zajmujący się sztuczną inteligencją w Australii zademonstrowali, jak można wyszkolić system do manipulowania ludzkim zachowaniem i procesem podejmowania decyzji.
W ramach nowego badania przeprowadzonego przez naukowców z organizacji Commonwealth Scientific and Industrial Research Organisation (CSIRO) Data61 zaprojektowano i przetestowano metodę znajdowania i wykorzystywania słabych punktów w procesie podejmowania decyzji przez człowieka przy użyciu systemu sztucznej inteligencji zwanego powtarzającą się siecią neuronową.
W trzech eksperymentach, w których człowiek walczył z maszyną, naukowcy pokazali, w jaki sposób można wyszkolić sztuczną inteligencję do identyfikowania słabych punktów w ludzkich nawykach i zachowaniach oraz uzbrojenia ich w celu wpływania na podejmowanie decyzji przez ludzi.
W pierwszym eksperymencie ludzie klikają czerwone lub niebieskie pola, aby zarobić walutę w grze. Sztuczna inteligencja przestudiowała ich wzorce wyboru i zaczęła kierować ich do podejmowania konkretnych decyzji, z około 70-procentowym wskaźnikiem sukcesu.
W następnym eksperymencie uczestnicy zostali poproszeni o naciśnięcie przycisku, gdy zobaczyli określony symbol (kolorowy kształt), ale powstrzymali się od naciskania przycisku, gdy pokazano inne symbole.
„Celem” sztucznej inteligencji było takie ułożenie sekwencji symboli wyświetlanych uczestnikowi, aby skłonić ich do popełnienia błędów, ostatecznie zwiększając liczbę błędów ludzkich o 25 procent.
W trzecim eksperymencie gracz będący człowiekiem udawałby, że jest inwestorem przekazującym pieniądze powiernikowi, który następnie zwracałby kwotę uczestnikowi.
Wtedy człowiek decydowałby, ile zainwestować w każdą kolejną rundę gry, na podstawie przychodów generowanych przez każdą „inwestycję”
W tym konkretnym eksperymencie sztucznej inteligencji przydzielono jedno z dwóch zadań: albo zmaksymalizowanie ilości pieniędzy, które zarobiła, albo zmaksymalizowanie ilości pieniędzy, które otrzymali zarówno gracz, jak i maszyna.
Badania te, choć na razie ograniczone, zapewniają przerażający wgląd w to, w jaki sposób sztuczna inteligencja może wpływać na ludzką „wolną wolę”, chociaż w podstawowym kontekście, ale otwiera możliwości użycia na znacznie większą skalę, co wielu już podejrzewa.
Odkrycia mogłyby zostać wykorzystane na dobre, wpływając na decyzje polityki publicznej w celu uzyskania lepszych wyników zdrowotnych dla populacji, równie łatwo, można by je wykorzystać w celu osłabienia kluczowych decyzji, takich jak na przykład wybory.
