Pe-SI-mizm
Daron Acemoglu otrzymał niedawno Nagrodę Nobla w dziedzinie ekonomii, wraz z Johnsonem i Robinsonem. Ich nagrodzona praca była skupiona na analizie instytucji oraz wyróżnieniu tych instytucji, które sprzyjają wzrostowi gospodarki w dłuższej perspektywie. Jednak wkład Acemoglu do myśli ekonomicznej jest jednak znacznie szerszy. Ostatnio zaangażował się w debatę na temat możliwych konsekwencji SI. Jak sugeruje tytuł, delikatnie mówiąc, Acemoglu zwraca uwagę na negatywne skutki tych technologii.
Krytyka obecnej SI przez Acemoglu jest wielopłaszczyznowa. Dotyczy ona dobrostanu konsumentów, zmian na rynkach pracy oraz wpłyu na instytucje polityczne. Dyskusja Acemoglu na temat zmian na rynku pracy jest szczególnie pouczająca. Według Acemoglu (i innych) skutki wprowadzenia SI zależą od tego, w jakim stopniu nowe technologie zwiększają produktywność pracowników, w porównaniu do tego, w jakim stopniu automatyzują zadania. Acemoglu i Restrepo podkreślają, że póki co SI nie poprawiła produktywności pracowników. Użytkownicy SI mogą się z tym nie zgodzić ponieważ np. SI pozwala im pisać tysiąc listów w minutę. Jendak to po prostu nieporozumienie. SI automatyzuje zadania, które mogłyby być delegowane innym pracownikom. Pozostaje pytanie, czy AI umożliwi wykonywan ie nowych zadań. Biorąc pod uwagę kierunek, w jakim podąża rozwój SI, Acemoglu pozostaje sceptyczny.
Acemoglu nie jest jedynym laureatem Nobla z ekonomii, który jest zaniepokojony rozwojem nowych technologii. Jean Tirole bada potencjalne konsekwencje mechanizmów kontroli opartych na SI, podobnych do oceny zdolności kredytowej obywatela. Twierdzi, że takie mechanizmy mogą osłabiać więzi społeczne i obiniżać kapitał demokratyczny wśród społeczeństw.
Analiza Jeana Tirole jest przestrogą przed ryzykiem związanym z rozwojem SI finansowanym przez reżimy autorytarne. Chociaż analiza nie dotyczy empirycznej zależności, dowiedziono że autorytarne reżimy są zainteresowanie technologiami opartymi na AI w celu kontroli społecznej. Martin Beraja (MIT), Andrew Kao (PhD at Harvard), David Yang (Harvard) i Noam Yuchtman (London School of Economics) badają rozwój oprogramowania do rozpoznawania twarzy w Chinach. Ich analiza łączy informacje z różnych źródeł, w tym dokumentację zamówień publicznych, środki protestów i żądań oraz patenty. Ich analiza wskazuje na wzrost zamówień publicznych na technologie do rozpoznawania twarzy w kwartałach bezpośrednio następujących po okresie prostestów społecznych. Zamówienia na technologie oparte o SI były powiązane z zakupami kamer monitorujących o wysokiej rozdzielczości (które dostarczają danych do rozpoznawania twarzy) oraz ze zmianami w nadzorze policyjnym w kierunku większej liczby urzędników, którzy obsługiwali te stacje monitorujące
Firmy, które obsługiwały te zamówienia publiczne, zwiększyły produkcję oprogramowania i liczbę nowych patentów. Ten wzrost był widoczny zarówno w oprogramowaniu opracowanym dla rządów, jak i do użytku komercyjnego. Wygranie kontraktu było również powiązane z internacjonalizacją firmy. Autorzy doszli do wniosku, że zarówno sektor publiczny, jak i prywatny skorzystały na tych politycznie motywowanych inwestycjach w sztuczną inteligencję.
Zaangażowanie chińskiego rządu w rozwój oprogramowania do rozpoznawania twarzy pokazuje, że technologie nie pojawiają się losowo. Zmianą technologiczną można kierować, i często tak jest. Pokazuje to również, że ruchy na rzecz etycznej SI, na czele których stoi garstka krajów, prawdopodobnie zakończą się niepowodzeniem, jeśli nie będzie szerszego konsensusu co do tego, jaki rozwój SI jest pożądany. To, czy SI pozwoli ludzkości odkryć nowe horyzonty, czy też stworzy dystopijną przyszłość okaże się w przyszłości. Dotyczasowe konsekwencje omówione w tym tekście napawają pesymizmem.