Stoimy u progu czwartej rewolucji przemysłowej, kiedy granica pomiędzy człowiekiem a maszyną – jak to określił Klaus Schwab, założyciel Światowego Forum Ekonomicznego (WEF) – będzie się stopniowo zacierać. Jednym z pierwszych symptomów tej rewolucji jest to, że dane i algorytmy de facto definiują naszą rzeczywistość. Dziś to dane tworzą nas bardziej, niż my tworzymy dane. Od profilów w mediach społecznościowych, kont bankowych, danych demograficznych, statystyk, danych medycznych i zawodowych: Big Data coraz częściej decyduje o tym, jaką dostaniemy pracę, czy otrzymamy kredyt mieszkaniowy i jakie hasła usłyszymy w kolejnej kampanii wyborczej.
Książka Cathy O’Neil, której tytuł można przetłumaczyć „Broń matematycznego rażenia”, obrazowo opisuje przypadki, gdy modele matematyczne tworzone na podstawie dużych zbiorów danych (Big Data) wyrządziły głębokie szkody społeczne w Stanach Zjednoczonych. Pierwszym spektakularnym momentem, gdy świat zwrócił uwagę na potencjalną szkodliwość algorytmów, był kryzys ekonomiczny w USA zapoczątkowany w 2008 r., kiedy to manipulacje z wykorzystaniem danych współtworzyły bańkę kredytów nieruchomościowych. O’Neil oglądała to wtedy wszystko z bliska jako analityczka na Wall Street. Tuż po studiach na Harvardzie i doktoracie z matematyki w Massachusetts Institute of Technology zajmowała się algorytmami i danymi, komercyjnie pracując w funduszu hedgingowym. Po kryzysie dołączyła do ruchu Occupy Wall Street. Dziś głos Cathy O’Neil w sprawie konieczności nałożenia regulacji i ograniczeń na funkcjonowanie algorytmów (podaje przykłady takich rozwiązań w książce) jest jednym z głośniejszych w USA. Przykłady masowej szkodliwości algorytmów, o jakich możemy przeczytać, obejmują szeroki zakres ludzkiej aktywności: nieuzasadnione zwolnienia nauczycieli oparte na źle skonstruowanym sposobie analizy wyników uczniów, dyskryminacja mniejszości w systemie ubezpieczeń i w systemie penitencjarnym, krzywdzący dla nieuprzywilejowanych studentów proces aplikowania na studia, funkcjonowanie rynku reklam w Internecie i wiele, wiele innych. Co podkreśla O’Neil, algorytmy w tych sytuacjach funkcjonują jako niewidzialny sprawca. Wykorzystują powszechnie dostępne dane, a te są często obarczone niedoskonałościami, przekłamaniami, uprzedzeniami rasowymi, co w efekcie wpływa na „uczciwość” samych algorytmów i wyników analiz danych, które znowu decydują o losie tysięcy ludzi. Gdy jednak powstaje szkoda społeczna, nikogo nie można złapać za rękę. Wystarczy wytłumaczyć, że algorytmy „tak działają” i są „bardzo skomplikowane” – pisze O’Neil. Finalny argument autorki jest następujący: jeśli modele matematyczne rzeczywiście wpływają masowo w tak szkodliwy sposób na tworzenie się nierówności społecznych, są one zagrożeniem dla demokracji.
Książka O’Neil jest przystępnie napisanym podręcznikiem na temat społecznie szkodliwego funkcjonowania danych oraz modeli matematycznych. Nie jest to książka o matematyce, ale o tym, jak matematyka współtworzy rzeczywistość. To jedna z takich książek, o których opinię wyrabiamy sobie jeszcze przed przeczytaniem, a decyduje o tym nasz światopogląd. Jeśli sympatyzujemy z ruchem Occupy Wall Street, Weapons of Math Destruction jest świetnym przykładem analizy szkodliwości tzw. systemu 1%, w którym bogatsi zyskują, a biedni tracą. Jeśli jesteśmy wobec OWS sceptyczni, być może uznamy ją za jeden ze skrajnie krytycznych głosów w sprawie funkcjonowania danych i modeli matematycznych, które w znacznej większości prowadzą przecież do poprawy naszego życia.
Ostatnio w Internecie głośno było na temat przemówienia CEO firmy Apple Tima Cooka, które wygłosił w MIT. Stwierdził on, że „technologia nie zawsze jest rozwiązaniem, a przeciwnie, często leży u źródeł problemu”. W świecie technologii, być może za sprawą wkraczającej w rzeczywistość sztucznej inteligencji, coraz częściej da się słyszeć podobne słowa rozwagi w dyskusji na temat zbawiennego wpływu technologii na nasze życie. Książka O’Neil – czy ją lubimy, czy nie – jest ważnym głosem w tej debacie.
Czytaj również:
