Wiecie skąd się wziął problem Janusa w systemach zmiany tekstu na obraz? Stąd, że wizerunków górnych części ciała (twarzy osób ludzkich i nieludzkich) jest tak wiele, bo dane treningowe zawierają stosunkowo więcej twarzy niż innych fragmentów. Skutkuje to tym, że postaci nierzadko mają więcej niż jedną twarz.
Skoro SI ma trudności z rozróżnieniem muffina od Chihuahua w procesie rozpoznawania obrazu, a naukowcy nie są w stanie precyzyjnie wyjaśnić cyklu dochodzenia do rozwiązania systemów głębokiego uczenia maszynowego, to dlaczego tak szczodrze ufamy cyfrom, operacjom na kodzie, danym wejściowym i wyjściowym? Sztuczna inteligencja jest narażona na wiele błędów, wypaczeń, uprzedzeń, to broń matematycznej zagłady, jak nazywa je Cathy O’Neil. Takie pomyłki zdarzają się w systemach generatywnych Adobe, widzimy je wtedy wyraźnie, bo nasze oko automatycznie wykrywa niepoprawny obraz kota. Dla SI to tylko zestaw pikseli, które w długim procesie uczenia na wielkich bazach danych, nie jest nadal w stanie zweryfikować ich poprawnego układu i sąsiedztwa.
A zaczęło się od selfie. Mówiono, że to ludzka przywara, kompleks narcyza. Udostępniamy go, bo chcemy być podziwiani. Ja jednak chciałam wiedzieć więcej. To nowy wizualny alfabet, którego używamy do porozumiewania się - czytałam. Działa jak kod, szyfr używany w momencie, gdy słowa są niewystarczające bądź gdy chcemy skłamać. A każdą sytuację, myśl, widok traktujemy jako potencjalny post. Ciągle było mi mimo wszystko mało. Miałam wrażenie, że to nadal nic nie wyjaśnia. Później dowiedziałam się, że wizualność sama w sobie nie jest przemocą. Truizm, prawda? Jej szkodliwość pojawia się (zaskoczę Was!) nie w momencie jej mnogości tylko w posiadaniu. Ale co to znaczy? Nie ilość nam zagraża, ale to, kto sprawuje kontrolę nad spojrzeniem. W pas kłania się Michel Foucault i metafora ukrytej władzy wewnątrz Panoptykonu. Jednak kto zatem jest tym kontrolerem, kto nadzorcą, a kto obserwowanym?
Przez długi czas odpowiedź na to pytanie nie dawała mi spokoju. Znowu wróciłam do Foucaulta. Episteme – pomyślałam. No dobra, ale jakie, kto, komu? Każe się nam być pięknym, młodym, zdolnym, bogatym, stroić piórka, manipulować, udawać. Social media to nasza scena. Jasne. Gramy swój teatrzyk. Performujemy narcyzm! Czy sami to sobie robimy? Czy sami siebie chcemy krzywdzić i żyć w społeczeństwie ciągłego zmęczenia? Jeden patrzy na drugiego i ocenia, porównuje, wyściguje się, bierze udział w maratonie bez mety, gromadzi, wyrzuca, zastępuje, niechlujnie wykorzystuje. W ciągłym lęku i zadyszce. Też tak macie?
Jednak nadal czułam, że pełny obraz tego pejzażu ciągle mi się nie ukazał.
Mamy tego, który komunikuje. Mamy to, co komunikuje. Mamy też odbiorcę. Chociaż czy przypadkiem nie skupiamy się ciągle na jednej i tej samej osobie? A co z medium, przekaźnikiem służącym tej komunikacji i prowokującym powstanie tych zjawisk? Co z systemem, który stoi za pomysłem takiej zmiany technologicznej? Kto posiada social media? Dlaczego są zaprojektowane dokładnie w ten sposób? A w końcu po co news feed, przycisk lubię to!, grupy? Dlaczego podczas gdy platformy były darmowe to ich właściciele są miliarderami? Dlaczego tak lubimy Marka, Elona, Jeffa, Larry’ego, Sergey’a, Sundara, Steva, Jacka, Susan? Są naszymi wzorami do naśladowania, prawda? Kto by nie chciał być jak oni, żyć jak oni!
Dopiero, gdy zajrzałam za zasłonę cyfrowej architektury, zaczęła się dla mnie prawdziwa przygoda. Gdzie nie spojrzę tam nowa zagadka. Każdy dzień to nowe odkrycie, nowy wynalazek, nowa metoda nadzoru, wykorzystania, skolonizowania, potrzeba unowocześnienia tego, co już dawno jest przecież ponowoczesne. Nawet prawo nie nadąża, no bo jak regulować coś, co zmienia się z dnia na dzień? Jeszcze nie okrzepło, a już przyszło nowe.
Dwa lata temu, gdy rozpoczęłam tę przygodę badawczą w ramach mojego doktoratu, ogromną wartość posiadały algorytmy, systemy uczenia maszynowego, sieci neuronowe, które zyskiwały coraz więcej warstw, były coraz bardziej wydajne, bo i moc obliczeniowa komputerów była coraz większa, a IBM jest już na końcówce procesu wprowadzenia nowego modelu komputera kwantowego. W dodatku największa rywalizacja trwa obecnie głównie w technologii mikrochipów (Chips for America to program, który ma zapewnić USA prym w konflikcie o półprzewodniki. Dotacje na produkcję czipów otrzymają pierwsze amerykańskie firmy - głosi lead “Obserwatora gospodarczego” w dniu 10 stycznia 2024 roku). Dowiedziałam się o algorytmach targetowania, wyszukiwania i rekomendacji, ekonomii uwagi, Alexie, Watsonie, the facebook files, Cambridge Analytica, dark patterns, datafikacji, socjometrze, kapitalizmie podwyższonego ryzyka, dopaminie, króliczej norze, fake newsach, deep fake’ach, nadwyżce behawioralnej, kapitalizmie inwigilacji, bańkach filtrujących, ekonomii predykcji, systemach rozpoznawania twarzy, Foundation of Human Technology, uprzedzeniach algorytmicznych i wielu innych, coraz bardziej niezrozumiałych technicznych i informatycznych pojęciach.
A po tym znowu przyszło nowe: DeepMind, Open AI, chat GPT-4, który jest już podpięty bezpośrednio do niektórych przeglądarek internetowych, zmiany algorytmu Youtuba w tym możliwość wyłączenia historii przeglądania i samodzielnego ustawienia algorytmu rekomendacji, subskrypcja Facebooka i Instagrama, przejęcie Twittera (X), Stanford Behavior Design Lab, user-generated content, DallE, machine vision, DeepFace, Adobe Firefly (aktualizowany średnio co dwa tygodnie), DreamFusion, DSLR, regulacje Unii Europejskiej (AI Act), the Janus problem (cóż za fantastyczna sprawa!), ReconFusion, NeRF... Też macie zadyszkę, prawda?
Wracając jednak – to nie sztuczna inteligencja sama w sobie jest przemocowa. Nie ma czegoś takiego jak terminator Frankensteina, którym sami siebie straszymy – SI nie wyszła poza poziom inteligencji nicienia, jak w 2018 roku pisała Hanna Fry. Ona nie stworzyła się sama, nie działa samodzielnie, została zaprojektowana przez konkretnych ludzi, w konkretnym miejscu i czasie. Jest zarządzana i posiadana przez określone osoby (big five, big seven, a w chwili obecnej big nine). I to tych osób zarządzających realnymi instytucjami powinniśmy się bać. Systemy algorytmiczne oparte na sieciach neuronowych co prawda coraz częściej zaskakują swoich twórców, którzy tracą kontrolę nad wyjaśnialnością pewnych procesów prowadzących do rozwiązania zadania, którymi posłużyła się SI. Ale za to te same systemy przetwarzania wielkich zbiorów danych stają się praktycznie darmowe i ogólnodostępne.
I teraz dochodzimy do odpowiedzi na pytanie: kto jest nadzorcą w panoptykonie. I w ogóle co ma z tym wspólnego selfie i wizualność?
Wszystko to są dane. My dajemy, aby oni mogli je posiąść. Im ktoś ma ich więcej tym skuteczniej wytrenuje sztuczne sieci neuronowe, tym będzie miał większą władzę nad predykcją, większe pieniądze i co tam jeszcze może mieć większego (tak, ta aluzja jest zamierzona!). Dajemy, mając w tyle głowy w pełni ludzką potrzebę przynależenia do grupy, bycia w kontakcie, posiadania przyjaciół, bycia lubianym. I nie ma w tym nic złego. To nie znaczy, że zżera nas narcyzm. Owo “dawanie”, czyli upublicznianie naszych zdjęć, selfie, wrażeń z wizyty w restauracji, która była lepsza niż zakładaliśmy, czy filmu, który jednak temu reżyserowi tym razem nie wyszedł, to wycyzelowana w każdym szczególe taśma produkcyjna, której nie jesteśmy właścicielami chociaż odgrywamy w niej główną rolę. Nasza historia przeglądania stron nie jest naszą własnością, nasze polubione posty i komentarze nie są nasze, nawet znajomi naszych znajomych nie są nasi. Owym episteme, tym systemem myślenia, którym operujemy, jest ciągła potrzeba coraz większej akumulacji, “wzrościzmu”. Innymi słowami wszystkie formy kapitalizmu (kapitalizm kogitywny, kapitalizm sieci, kapitalizm inwigilacji, itd). Rządzą ci, którzy posiadają wielkie wolumeny danych – big data, serwery, na których mogą być magazynowane i przetwarzane, czipy, które są podstawą wszelkiej technologii, właściciele kabli internetowych umieszczonych w setkach kilometrów na dnach oceanów. To są rzeczy materialne i niematerialne związane z najnowszą technologią, które wszyscy chcą mieć na własność. Jednak bez danych cała reszta to tylko marność.
I tym samym znowu wróciliśmy do selfie, tylko z całkiem innej strony.