W cieniu AI. Jak sztuczna inteligencja ingeruje w nasze życie? - Madhumita Murgia

Przy­pisy

Wpro­wa­dze­nie

Nieco po­nad de­kadę temu, gdy do­piero za­czy­na­łam przy­godę z dzien­ni­kar­stwem, za­cie­ka­wiły mnie cy­frowe obiekty okre­ślane nie­win­nie brzmią­cym mia­nem co­okies, czyli cia­steczka.

Wy­da­wało mi się, że wiem, czym one są: umiesz­czo­nymi na moim urzą­dze­niu frag­men­tami kodu, za po­mocą któ­rych firmy in­ter­ne­towe iden­ty­fi­kują mnie i zbie­rają in­for­ma­cje o mo­ich za­cho­wa­niach w sieci. Po­ja­wiały się one za każ­dym ra­zem, gdy wy­świe­tla­łam na te­le­fo­nie lub kom­pu­te­rze ja­kąś stronę in­ter­ne­tową, i do­ma­gały się zgody na po­zo­sta­wie­nie za sobą śladu w po­staci cy­fro­wych okrusz­ków. Po­sta­no­wi­łam spraw­dzić, do­kąd on pro­wa­dzi.

Pod­czas pracy nad ar­ty­ku­łem na ten te­mat dla ma­ga­zynu "Wi­red"[1] wkro­czy­łam do osza­ła­mia­ją­cego cy­fro­wego la­bi­ryntu, z któ­rego wciąż jesz­cze nie wy­do­sta­łam się w pełni. Tra­fi­łam do szem­ra­nego świata "bro­ke­rów da­nych" - ta­jem­ni­czych firm gro­ma­dzą­cych in­for­ma­cje na te­mat na­szego cy­fro­wego ży­cia i bu­du­ją­cych na ich pod­sta­wie na­da­jące się do sprze­daży pro­file, z któ­rych można się do­wie­dzieć, kim je­ste­śmy dzi­siaj i kim sta­niemy się w przy­szło­ści. Osta­tecz­nie do­szłam znacz­nie da­lej, zgłę­bia­jąc mo­dele biz­ne­sowe naj­wy­żej wy­ce­nia­nych firm tech­no­lo­gicz­nych na świe­cie, za­li­cza­nych do po­jem­nej ka­te­go­rii Big Tech. Czer­pią one zy­ski z tego sa­mego ro­dzaju dzia­łal­no­ści: prze­kształ­ca­nia na­szego cy­fro­wego ży­cia w skłę­bione chmury da­nych na sprze­daż.

Za­nim jed­nak po­szłam tym tro­pem, nie by­łam do końca prze­ko­nana, czy chcę po­świę­cić kilka mie­sięcy na pi­sa­nie o zbio­rach da­nych sta­ty­stycz­nych. Chcia­łam, żeby ta hi­sto­ria była dla mnie bar­dziej na­ma­calna - by ob­raz wy­ła­nia­jący się z da­nych miał kon­kretne kształty. Dla­tego po­sta­no­wi­łam zba­dać pro­fil osoby, którą do­brze znam: mój wła­sny.

W tym celu na­wią­za­łam kon­takt z nie­wiel­kim start-upem z sek­tora za­awan­so­wa­nych tech­no­lo­gii, firmą Ey­eota, która po­ka­zała mi krok po kroku, jak wy­do­być z prze­glą­darki in­ter­ne­to­wej in­for­ma­cje na mój te­mat, gro­ma­dzone przez pod­mioty ze­wnętrzne, a na­stęp­nie je dla mnie roz­szy­fro­wała.

Do­brze pa­mię­tam tamto po­po­łu­dnie, gdy w mo­jej skrzynce ma­ilo­wej wy­lą­do­wał spo­rzą­dzony przez Ey­eotę mój kom­pletny za­no­ni­mi­zo­wany pro­fil, za­wie­ra­jący mię­dzy in­nymi po­nad­dwu­na­sto­stro­ni­cowy ra­port na mój te­mat, spo­rzą­dzony przez firmę ra­tin­gową Expe­rian, naj­wy­raź­niej pro­wa­dzącą rów­nież dzia­łal­ność w dzie­dzi­nie ob­rotu da­nymi.

Ana­li­tycy z Expe­riana za­li­czyli mnie do ka­te­go­rii "bły­sko­tliwa młoda osoba" - jed­nej z 64, któ­rymi po­słu­gi­wała się wów­czas ta firma - ozna­cza­ją­cej mło­dych przed­sta­wi­cieli wol­nych za­wo­dów, zaj­mu­ją­cych miesz­ka­nia w du­żych mia­stach.

Pro­fil do­ty­czył 26-let­niej Bry­tyjki azja­tyc­kiego po­cho­dze­nia, za­trud­nio­nej w branży me­dial­nej i za­miesz­ka­łej w pół­nocno-wschod­nim Lon­dy­nie. Opi­sy­wał jej na­wyki zwią­zane z oglą­da­niem te­le­wi­zji (ra­czej tre­ści do­stępne na żą­da­nie niż zwy­kła ka­blówka), pre­fe­ren­cje ży­wie­niowe (kuch­nia taj­ska i mek­sy­kań­ska), a także ulu­bione za­ję­cia wie­czorne i week­en­dowe. Za­wie­rał rów­nież szcze­gó­łową ana­lizę wy­dat­ków tej osoby, prze­zna­czo­nych głów­nie na po­siłki w re­stau­ra­cjach i po­dróże, a nie na me­ble i sa­mo­chody.

Pro­fil spo­rzą­dzony przez Ey­eotę wy­szcze­gól­niał także wszyst­kie wy­jazdy urlo­powe tej ko­biety w po­przed­nim roku oraz za­wie­rał in­for­ma­cje o za­pla­no­wa­nej na naj­bliż­szą przy­szłość po­dróży sa­mo­lo­tem. Sfor­mu­ło­wano w nim su­ge­stię, że ta osoba nie ma dzieci ani kre­dytu hi­po­tecz­nego i zwy­kle robi za­kupy spo­żyw­cze w skle­pie sieci Sa­ins­bury's (ale tylko dla­tego, że mija go w dro­dze z pracy do domu). Au­tor przy­pusz­czał rów­nież, że ko­rzy­sta ona z po­mocy sprzą­taczki, która wcho­dzi do miesz­ka­nia pod jej nie­obec­ność.

Oprócz opisu co­dzien­nych za­jęć ra­port za­wie­rał krótki frag­ment do­ty­czący "li­be­ral­nych po­glą­dów" tej ko­biety, w tym jej aspi­ra­cji za­wo­do­wych, sym­pa­tii po­li­tycz­nych oraz cech oso­bo­wo­ści (opty­mi­styczna, am­bitna, nie­zbyt skłonna zmie­niać zda­nie pod wpły­wem in­nych osób).

Pa­mię­tam, że przez po­nad go­dzinę wczy­ty­wa­łam się zszo­ko­wana w tę cha­rak­te­ry­stykę osoby łu­dząco po­dob­nej do mnie. Oczy­wi­ście dane nie od­zwier­cie­dlały rze­czy­wi­sto­ści w stu pro­cen­tach - bra­ko­wało wielu szcze­gó­łów, które spra­wiają, że ja to ja - ale było ja­sne, że na pod­sta­wie da­nych wy­eks­tra­ho­wa­nych z mo­jej prze­glą­darki za po­mocą cia­ste­czek udało się stwo­rzyć mój roz­po­zna­walny cy­frowy cień.

Tekst, który opu­bli­ko­wa­łam w "Wi­red" w 2014 roku, uka­zy­wał ku­lisy funk­cjo­no­wa­nia branży ge­ne­ru­ją­cej mi­liardy do­la­rów przy­chodu z dzia­łal­no­ści po­le­ga­ją­cej na zbie­ra­niu, łą­cze­niu w pa­kiety i sprze­da­wa­niu szcze­gó­ło­wych pro­fili opar­tych na na­szych za­cho­wa­niach w sieci i poza nią - ta­kich jak ten, który otrzy­ma­łam. Jak się oka­zało, tra­fi­łam na trop lu­kra­tyw­nego biz­nesu czer­pią­cego zy­ski ze wszyst­kiego, co ro­bimy w in­ter­ne­cie.

Za­czę­łam więc roz­bie­rać na czyn­niki pierw­sze struk­turę tej kwit­ną­cej branży. Szybko się prze­ko­na­łam, że za każ­dym ra­zem, gdy mam do czy­nie­nia z ja­kimś pro­duk­tem in­ter­ne­to­wym - usłu­gami ta­kimi jak Mapy Go­ogle, Uber, In­sta­gram czy płat­ność bez­sty­kową kartą kre­dy­tową - moje kroki są re­je­stro­wane przez "cia­steczka". Je­śli po­łą­czy się te po­zor­nie nie­winne strzępki in­for­ma­cji z pu­blicz­nie do­stęp­nymi da­nymi, na przy­kład z ewi­den­cji dzia­łal­no­ści go­spo­dar­czej czy re­je­strów są­do­wych, a także in­for­ma­cjami na te­mat mo­ich za­ku­pów in­ter­ne­to­wych czy bie­żą­cej lo­ka­li­za­cji, można stwo­rzyć dość szcze­gó­łowy ob­raz mnie, za­czy­na­jąc od płci i wieku, a koń­cząc na niu­an­sach mo­jej oso­bo­wo­ści i tego, w jaki spo­sób po­dej­muję de­cy­zje.

Ży­cie każ­dego czło­wieka - w tym moje i twoje - jest nie­ustan­nie prze­twa­rzane w ta­kie pa­kiety da­nych na sprze­daż. Sta­li­śmy się pro­duk­tami.

Kiedy dzie­sięć lat temu zaj­rza­łam prze­lot­nie za ku­lisy ro­dzą­cej się do­piero od­miany ka­pi­ta­li­zmu, opar­tej na dys­kret­nej i wni­kli­wej ob­ser­wa­cji wszyst­kich oby­wa­teli, po­czu­łam fa­scy­na­cję ilo­ścią da­nych, które ge­ne­ru­jemy po­przez sam fakt ży­cia w no­wo­cze­snym świe­cie, i tym, jak są one wy­ko­rzy­sty­wane.

Od tam­tego mo­mentu zaj­muję się za­wo­dowo opi­sy­wa­niem róż­nych, nie tylko fi­nan­so­wych, aspek­tów dzia­łal­no­ści przed­się­biorstw zbu­do­wa­nych na fun­da­men­cie tych zbio­rów da­nych: gi­gan­tów ta­kich jak Go­ogle, Meta i Ama­zon, zaj­mu­ją­cych się ra­fi­na­cją da­nych po­zo­sta­wia­nych na ich plat­for­mach przez mi­liardy lu­dzi z ca­łego świata. Firmy te na­uczyły się eks­plo­ro­wać oce­any da­nych i za­ra­biać na wy­ko­rzy­sty­wa­niu ich w celu two­rze­nia sper­so­na­li­zo­wa­nych re­ko­men­da­cji, tre­ści, re­klam i pro­duk­tów - prze­zna­czo­nych dla kon­kret­nych grup od­bior­ców.

Na tym pod­łożu wy­ro­sła nowa tech­no­lo­gia, o któ­rej ist­nie­niu do­wie­dzia­łam się w 2014 roku: sztuczna in­te­li­gen­cja. W ciągu ostat­nich kilku lat de­fi­ni­cja tego po­ję­cia ewo­lu­owała i wie­lo­krot­nie się zmie­niała, ale w isto­cie ozna­cza ono zło­żone opro­gra­mo­wa­nie sta­ty­styczne słu­żące do wy­szu­ki­wa­nia sche­ma­tów w ob­szer­nych zbio­rach da­nych do­ty­czą­cych re­al­nego świata.

Gwał­towny roz­kwit tej tech­no­lo­gii w ostat­nich la­tach był uwa­run­ko­wany trzema czyn­ni­kami: la­wi­no­wym wzro­stem ilo­ści do­stęp­nych da­nych na te­mat ludz­kich za­cho­wań i ludz­kiej kre­atyw­no­ści, do­stęp­no­ścią co­raz po­tęż­niej­szych ukła­dów sca­lo­nych po­trzeb­nych do ich prze­twa­rza­nia oraz kon­so­li­da­cją sił kilku naj­więk­szych firm tech­no­lo­gicz­nych, które były skłonne prze­zna­czyć znaczne za­soby na przy­spie­sze­nie jej roz­woju.

Gi­ganci tech­no­lo­giczni, tacy jak Go­ogle i Meta, za­częli sto­so­wać al­go­rytmy ma­szy­no­wego ucze­nia się w celu jak naj­bar­dziej pre­cy­zyj­nego kie­ro­wa­nia re­klam, dzięki czemu war­tość każ­dej z tych firm osią­gnęła po­ziom bi­liona do­la­rów. Ame­ry­kań­ska psy­cho­lożka spo­łeczna i fi­lo­zofka Sho­shana Zu­boff na­zwała ten lu­kra­tywny mo­del biz­ne­sowy - po­le­ga­jący na mo­ne­ty­za­cji da­nych oso­bo­wych - "ka­pi­ta­li­zmem in­wi­gi­la­cyj­nym".

Bry­tyj­ski ar­ty­sta Ja­mes Bri­dle na­pi­sał z ko­lei w jed­nym ze swo­ich ese­jów: "Firmy te za­ra­biają pie­nią­dze na in­ge­ro­wa­niu we wszyst­kie aspekty na­szego co­dzien­nego ży­cia, także w jego naj­bar­dziej in­tymne i twór­cze sfery: na­sze se­kretne pa­sje, na­sze pry­watne roz­mowy, na­sze wi­ze­runki i na­sze ma­rze­nia"[2].

Ży­jemy dziś w cie­niu au­to­ma­tycz­nych sys­te­mów zbu­do­wa­nych na fun­da­men­cie na­szych da­nych, a ich we­wnętrzne me­cha­ni­zmy wpły­wają na kształt na­szych oso­bi­stych więzi, dy­na­mikę wła­dzy w miej­scu pracy i na­sze re­la­cje z pań­stwem. Opie­ramy się na tech­no­lo­gii al­go­ryt­micz­nej, tak jak kie­dyś opie­ra­li­śmy się na so­bie na­wza­jem, a styl ży­cia lu­dzi na ca­łym świe­cie po­woli się do niej do­sto­so­wuje.

Kiedy otwie­rasz Mapy Go­ogle, aby wy­zna­czyć trasę po­ran­nego biegu w miej­scu, w któ­rym spę­dzasz wa­ka­cje, kiedy wy­wo­łu­jesz Alexę, re­zer­wu­jesz Ubera lub sa­mo­jezdną tak­sówkę Waymo, za każ­dym ra­zem masz do czy­nie­nia z ja­kąś formą sztucz­nej in­te­li­gen­cji. Tre­ści w ka­na­łach spo­łecz­no­ścio­wych i re­klamy do­ty­czące wa­ka­cyj­nych wy­jaz­dów gol­fo­wych lub odzieży dzie­cię­cej są ad­re­so­wane do cie­bie z jej wy­ko­rzy­sta­niem. Kiedy sta­rasz się o po­życzkę w banku, to ona spraw­dza twoją zdol­ność kre­dy­tową. O tym, jaką cenę za­pła­cisz za ubez­pie­cze­nie domu lub sa­mo­chodu, de­cy­duje sztuczna in­te­li­gen­cja. To ona co­raz czę­ściej ana­li­zuje wy­raz two­jej twa­rzy i wy­po­wie­dzi pod­czas roz­mowy kwa­li­fi­ka­cyj­nej. Moż­liwe zresztą, że sam jej uży­łeś do na­pi­sa­nia po­da­nia o pracę. A je­śli kie­dy­kol­wiek wej­dziesz w stycz­ność z wy­mia­rem spra­wie­dli­wo­ści, to sztuczna in­te­li­gen­cja może zde­cy­do­wać o tym, czy wyj­dziesz z aresztu za kau­cją, czy tra­fisz do wię­zie­nia.

Opro­gra­mo­wa­nie oparte na sztucz­nej in­te­li­gen­cji po­maga spe­cja­li­stom w po­dej­mo­wa­niu de­cy­zji do­ty­czą­cych mię­dzy in­nymi dia­gnoz me­dycz­nych, opieki spo­łecz­nej, udzie­la­nia kre­dy­tów hi­po­tecz­nych i po­ży­czek, a także za­trud­nia­nia i zwal­nia­nia pra­cow­ni­ków. Na­ukowcy zaj­mu­jący się che­mią, bio­lo­gią, ge­ne­tyką i in­nymi dzie­dzi­nami nauk ści­słych ko­rzy­stają z niego w celu przy­spie­sze­nia ba­dań na­uko­wych[3].

W ciągu ostat­niego roku by­li­śmy świad­kami na­ro­dzin no­wej od­miany AI: ge­ne­ra­tyw­nej sztucz­nej in­te­li­gen­cji, czyli opro­gra­mo­wa­nia zdol­nego do two­rze­nia tek­stów, ob­ra­zów oraz ma­te­ria­łów dźwię­ko­wych i fil­mo­wych, które czę­sto trudno od­róż­nić od re­zul­ta­tów pracy czło­wieka. Ge­ne­ra­tywna sztuczna in­te­li­gen­cja jest zbu­do­wana na fun­da­men­cie ludz­kiej kre­atyw­no­ści, szko­lona na zdi­gi­ta­li­zo­wa­nych książ­kach, ga­ze­tach, blo­gach, fo­to­gra­fiach, dzie­łach sztuki, mu­zyce, fil­mach z YouTube'a, po­stach z Red­dita, ob­ra­zach z ser­wisu Flickr i prze­ogrom­nych za­so­bach an­glo­ję­zycz­nego in­ter­netu. Po­chła­nia tę wie­dzę i jest w sta­nie ge­ne­ro­wać wła­sne, wy­pa­czone wer­sje ludz­kich dzieł, za­chwy­ca­jąc nas swoją zdol­no­ścią do re­mik­so­wa­nia i prze­ra­bia­nia tego, co sami stwo­rzy­li­śmy.

Wielu z nas ko­ja­rzy dziś sztuczną in­te­li­gen­cję z usługą o na­zwie ChatGPT - stroną in­ter­ne­tową, która po­trafi udzie­lać szcze­gó­ło­wych od­po­wie­dzi na za­py­ta­nia sfor­mu­ło­wane w ję­zyku na­tu­ral­nym. To na­sze pierw­sze bez­po­śred­nie ze­tknię­cie z tą tech­no­lo­gią, o tyle bar­dziej spek­ta­ku­larne, że AI może te­raz "roz­ma­wiać" z nami, uży­wa­jąc na­szego wła­snego spo­sobu ko­mu­ni­ka­cji: mowy ludz­kiej.

To do­nio­sła zmiana w na­szych re­la­cjach z ma­szy­nami. Skoro nowa od­miana sztucz­nej in­te­li­gen­cji może wy­ra­żać się za po­mocą słów oraz ob­ra­zów, a do tego jest szko­lona na pod­sta­wie na­szych do­ko­nań na­uko­wych i twór­czych, może z ła­two­ścią ma­ni­pu­lo­wać na­szymi na­stro­jami i emo­cjami, a także zde­cy­do­wa­nie bar­dziej prze­ko­nu­jąco niż do tej pory pod­po­wia­dać nam, co mamy my­śleć i jak się za­cho­wy­wać.

W ciągu ostat­niej de­kady nie­raz już wi­dzia­łam, jak sztuczna in­te­li­gen­cja pod­stęp­nie wkra­cza w na­sze ży­cie. Przy­stę­pu­jąc do pi­sa­nia tej książki, chcia­łam zna­leźć przy­kłady rze­czy­wi­stych in­te­rak­cji czło­wieka z tą tech­no­lo­gią, które do­bit­nie po­ka­zy­wa­łyby kon­se­kwen­cje na­szego uza­leż­nie­nia od au­to­ma­tycz­nych sys­te­mów. Szybki roz­wój ge­ne­ra­tyw­nej sztucz­nej in­te­li­gen­cji spra­wił, że po­trzeba ta stała się oczy­wi­sta i pilna. Od kil­ku­na­stu mie­sięcy ob­ser­wu­jemy ro­snący wpływ tech­no­lo­gii ta­kich jak ChatGPT na lu­dzi: na na­szą pracę, edu­ka­cję dzieci i twór­czość. Nie­mniej sztuczna in­te­li­gen­cja wpływa także na inne ważne aspekty funk­cjo­no­wa­nia spo­łe­czeństw: opiekę zdro­wotną, ochronę bez­pie­czeń­stwa pu­blicz­nego, sys­temy za­bez­pie­cze­nia spo­łecz­nego i dzia­ła­nia wo­jenne. To wy­wo­łuje da­le­ko­siężne skutki i trwałe zmiany spo­łeczne. Wpływa na kształt do­świad­cze­nia by­cia czło­wie­kiem. O tym wła­śnie jest ta książka.

Pod­czas pracy w ma­ga­zy­nie "Wi­red" sta­łam się za­go­rzałą en­tu­zjastką no­wo­cze­snych tech­no­lo­gii. Gdy co­dzien­nie pi­sze się o mo­dy­fi­ko­wa­niu DNA, la­ta­ją­cych sa­mo­cho­dach, dru­ko­wa­niu baz księ­ży­co­wych na dru­kar­kach 3D oraz moż­li­wo­ści po­łą­cze­nia mó­zgu z ma­szyną, nie spo­sób nie ulec fa­scy­na­cji ludzką po­my­sło­wo­ścią i stop­niem za­awan­so­wa­nia na­szych wy­na­laz­ków. Za­uro­czyli mnie rów­nież sami in­no­wa­to­rzy: sza­leni wy­na­lazcy, zu­chwali przed­się­biorcy i ir­ra­cjo­nalni ma­rzy­ciele.

Kiedy za­tem przy­stę­po­wa­łam do gro­ma­dze­nia ma­te­ria­łów do tej książki, spo­dzie­wa­łam się zna­leźć hi­sto­rie o tym, jak sztuczna in­te­li­gen­cja roz­wią­zuje przy­tła­cza­jące nas pro­blemy, po­dej­muje onie­śmie­la­jące wy­zwa­nia i w spek­ta­ku­larny spo­sób po­lep­sza ludzki los. W końcu wiele lat temu na­uczy­łam się wie­rzyć, że wszyst­kie no­wo­cze­sne tech­no­lo­gie niosą ze sobą taką obiet­nicę.

Wy­brani przeze mnie bo­ha­te­ro­wie tej opo­wie­ści po­zor­nie nie mają ze sobą nic wspól­nego: le­karka z in­dyj­skiej pro­win­cji, ku­rier do­wo­żący po­siłki w Pit­ts­bur­ghu, afro­ame­ry­kań­ski in­ży­nier, miesz­ka­jąca w So­fii uchodź­czyni z Iraku, bry­tyj­ska po­etka, ar­gen­tyń­ska urzęd­niczka, sa­motna matka z Am­ster­damu, chiń­ska ak­ty­wistka na wy­gna­niu oraz ksiądz z Rzymu. Kiedy jed­nak za­czę­łam łą­czyć te in­dy­wi­du­alne wątki, do­strze­głam, że spla­tają się w spójny wzór. W jego cen­trum może się zna­leźć każdy z nas.

Każda z tych hi­sto­rii może do­ty­czyć cie­bie albo mnie. Sys­temy oparte na sztucz­nej in­te­li­gen­cji będą w co­raz więk­szym stop­niu wpły­wały - o ile jesz­cze tego nie ro­bią - na na­sze zdro­wie, pracę i fi­nanse, na ży­cie na­szych dzieci i ro­dzi­ców, spo­sób ko­rzy­sta­nia z usług pu­blicz­nych, a także za­kres na­szych swo­bód oby­wa­tel­skich.

Chcia­łam za­da­wać pro­ste py­ta­nia od­no­szące się do ludz­kich od­czuć. Jak to jest, kiedy się "roz­ma­wia" z kom­pu­te­rem? Czy mamy wy­bór mię­dzy kon­tak­tem z czło­wie­kiem a in­te­rak­cją z ma­szyną? Ja­kie uczu­cia to­wa­rzy­szą wpro­wa­dza­niu w czyn do­nio­słej ży­cio­wej de­cy­zji pod­ję­tej za po­mocą apli­ka­cji? Co trzeba wie­dzieć, żeby za­ufać sztucz­nej in­te­li­gen­cji? Skąd wia­domo, kiedy jej nie ufać?

W po­szu­ki­wa­niu od­po­wie­dzi tra­fi­łam do od­le­głej wio­ski w In­diach i na przed­mie­ścia Fi­la­del­fii, od­wie­dzi­łam pół­nocną Ar­gen­tynę i za­wi­ta­łam do Na­irobi. W każ­dym z tych miejsc mia­łam oka­zję za­ob­ser­wo­wać, w jaki spo­sób wszech­obecne au­to­ma­tyczne sys­temy kształ­tują ży­cie róż­nych spo­łecz­no­ści. Wszyst­kie opi­sane osoby do­świad­czają nie­za­mie­rzo­nych kon­se­kwen­cji od­dzia­ły­wa­nia sztucz­nej in­te­li­gen­cji na ludz­kie po­czu­cie wła­snej war­to­ści, kształt re­la­cji ro­dzin­nych, funk­cjo­no­wa­nie spo­łecz­no­ści oraz roz­wój kul­tury. Mam na­dzieję, że na ba­zie ich do­świad­czeń zdo­łamy sfor­mu­ło­wać od­po­wiedź na pod­sta­wowe py­ta­nie: jak sztuczna in­te­li­gen­cja wpływa na samą istotę by­cia czło­wie­kiem.

Mo­zaika hi­sto­rii, które uło­żyły się w dość mroczny wzór, wy­sta­wiła jed­nak na próbę mój opty­mizm w kwe­stii no­wo­cze­snych tech­no­lo­gii.

Z roz­my­słem sku­pi­łam się na lu­dziach spoza Do­liny Krze­mo­wej - ży­ją­cych w du­żym od­da­le­niu od tego ośrodka tech­no­lo­gicz­nej wła­dzy, a mimo to od­czu­wa­ją­cych skutki wdra­ża­nia roz­wią­zań opar­tych na sztucz­nej in­te­li­gen­cji. Od­kry­wa­jąc jedna po dru­giej ich hi­sto­rie, nie mo­głam jed­nak igno­ro­wać faktu, który co­raz bar­dziej rzu­cał się w oczy: że wła­dza jest sku­piona w rę­kach kilku firm, trzy­ma­ją­cych wszyst­kie karty[4].

Gdy za­czę­łam drą­żyć kwe­stię tej dys­pro­por­cji, tra­fi­łam na książkę Nicka Co­ul­dry'ego i Uli­sesa A. Me­jiasa The Co­sts of Con­nec­tion (Koszty po­łą­cze­nia) oraz za­pro­po­no­wane przez nich po­ję­cie ko­lo­nia­li­zmu da­nych. Przed­mio­tem opi­sy­wa­nego przez nich ko­lo­nial­nego za­boru jest dziś ludz­kie ży­cie, kon­wer­to­wane na nie­prze­rwane stru­mie­nie in­for­ma­cji. W tym nie­koń­czą­cym się prze­pły­wie da­nych au­to­rzy do­strze­gają hi­sto­ryczne ana­lo­gie do daw­nego ko­lo­nia­li­zmu. Nie­rów­no­ści bę­dące po­zo­sta­ło­ścią daw­nych pod­bo­jów wciąż bo­wiem ro­sną, a eks­trak­cja da­nych ze spo­łe­czeń­stwa jest ni­czym in­nym jak nową formą gra­bieży i uci­sku.

Co­ul­dry zwraca uwagę na los "pra­cow­ni­ków apli­ka­cji" - lu­dzi do­ryw­czo świad­czą­cych usługi za po­śred­nic­twem ta­kich na­rzę­dzi jak Uber, De­li­ve­roo czy Do­or­Dash[1*] - któ­rych źró­dło utrzy­ma­nia i po­ziom ży­cia za­leżą od po­dej­mo­wa­nych przez al­go­rytmy de­cy­zji do­ty­czą­cych mię­dzy in­nymi roz­dzie­la­nia zle­ceń, wy­so­ko­ści wy­na­gro­dzeń i kon­ty­nu­owa­nia współ­pracy z po­szcze­gól­nymi oso­bami. "To praw­dziwa ty­ra­nia" - po­wie­dział pod­czas roz­mowy ze mną. "Są tu do roz­strzy­gnię­cia kwe­stie mo­ralne od­no­szące się do gra­nic, które mu­simy utrzy­mać, żeby wciąż mieć coś z ży­cia. Pra­cow­nicy w Bra­zy­lii, In­diach, Chi­nach cały czas się z tym zma­gają. Ten pro­blem na­brzmiewa na­wet w Sta­nach Zjed­no­czo­nych, choć z per­spek­tywy San Fran­ci­sco może jesz­cze tego nie wi­dać".

Ta­kie uję­cie te­matu było dla mnie ob­ja­wie­niem. Po­woli za­czę­łam do­strze­gać, co łą­czy opi­sy­wane przeze mnie osoby - jak na ob­ra­zie z po­la­ro­ida, po­woli wy­ła­nia­ją­cym się z mgli­stych za­ry­sów i na­bie­ra­ją­cym barw oraz ostro­ści. Moim oczom uka­zał się sche­mat obej­mu­jący uwi­kła­nych w al­go­rytmy, po­zor­nie nie­ma­ją­cych ze sobą nic wspól­nego lu­dzi z róż­nych miejsc i stref cza­so­wych - sche­mat w grun­cie rze­czy prze­wi­dy­walny i opi­sy­wany przez nie­wielką, lecz stale ro­snącą grupę na­ukow­ców z róż­nych stron świata. Na­zwi­ska nie­któ­rych osób zaj­mu­ją­cych się tą te­ma­tyką od sa­mego po­czątku były mi znane: Tim­nit Ge­bru, Joy Bu­olam­wini, Kate Craw­ford, Me­re­dith Whit­ta­ker, Vir­gi­nia Eu­banks[5] i Sa­fiya Umoja No­ble[6]. Wszyst­kie były ko­bie­tami i spe­cja­li­zo­wały się w ba­da­niu ogrom­nych szkód, ja­kie sztuczna in­te­li­gen­cja wy­rzą­dza mar­gi­na­li­zo­wa­nym gru­pom spo­łecz­nym.

Czy­ta­jąc ich prace i się­ga­jąc po cy­to­wane źró­dła, od­kry­łam grupę au­to­rek mniej zna­nych ogó­łowi od­bior­ców. Były to głów­nie ko­lo­rowe ko­biety spoza po­słu­gu­ją­cego się an­gielsz­czy­zną świata za­chod­niego: Pa­ola Ri­caurte[7] z Mek­syku, pro­wa­dząca ba­da­nia w Etio­pii Abeba Bir­hane, Urva­shi Aneja z In­dii oraz la­ty­no­ame­ry­kań­skie na­ukow­czy­nie Mi­la­gros Mi­celi i Paz Pe?a. Wszyst­kie one wi­działy na wła­sne oczy, jak dys­kry­mi­na­cja i nie­rów­no­ści spo­łeczne wpły­wają de­struk­cyj­nie na ich spo­łecz­no­ści, a wiele z nich żyje na co dzień w miej­scach opi­sa­nych w tej książce.

W swo­ich pra­cach nie­raz do­cho­dziły do ta­kich sa­mych wnio­sków jak pi­szący o ko­lo­nia­li­zmie da­nych Co­ul­dry i Me­jias. Sys­temy, któ­rych skalę można bez prze­szkód zwięk­szać w nie­skoń­czo­ność, są bu­do­wane z my­ślą o ko­rzy­ściach dla ogółu i za­zwy­czaj fak­tycz­nie dzia­łają dla do­bra więk­szo­ści lu­dzi, lecz kosz­tem pew­nych grup - zwy­kle osób i spo­łecz­no­ści już wy­klu­czo­nych, by­tu­ją­cych na mgli­stych obrze­żach spo­łe­czeń­stwa i wal­czą­cych o to, by je do­strze­żono i usły­szano. Na przy­kła­dzie lo­sów lu­dzi opi­sa­nych w tej książce mo­głam się prze­ko­nać, jak bar­dzo szko­dliwy wpływ wy­wie­rają sys­temy oparte na sztucz­nej in­te­li­gen­cji na ko­biety, osoby ciem­no­skóre, mi­gran­tów i uchodź­ców, mniej­szo­ści re­li­gijne, bied­nych i wy­klu­czo­nych, a to nie jest kom­pletna li­sta po­szko­do­wa­nych.

Istoty ludz­kie i nie­koń­czące się łań­cu­chy kodu kom­pu­te­ro­wego są po­łą­czone re­la­cją współ­za­leż­no­ści. Brak wie­dzy o za­sa­dach funk­cjo­no­wa­nia sys­te­mów sztucz­nej in­te­li­gen­cji unie­moż­li­wia nam zo­rien­to­wa­nie się, gdzie coś działa nie­wła­ści­wie i wy­rzą­dza szkody lu­dziom, zwłasz­cza naj­bar­dziej bez­bron­nym. Z dru­giej strony sys­temy po­zba­wione wie­dzy o ludz­kiej na­tu­rze, pre­fe­ren­cjach etycz­nych, hi­sto­rii i isto­cie czło­wie­czeń­stwa nie będą w sta­nie wła­ści­wie nas wspie­rać.

Siła mo­deli ma­szy­no­wego ucze­nia się wy­nika z moż­li­wo­ści wy­kry­wa­nia re­la­cji sta­ty­stycz­nych, które czę­sto są nie­do­strze­galne dla czło­wieka. One same - a nie two­rzący je lu­dzie - okre­ślają swoje me­tody po­stę­po­wa­nia i spo­soby po­dej­mo­wa­nia de­cy­zji. Dla­tego mo­dele te czę­sto na­zywa się czar­nymi skrzyn­kami. Ta ce­cha spra­wia, że są rze­komo bar­dziej obiek­tywne niż lu­dzie, ale ich ro­zu­mo­wa­nie jest czę­sto nie­przej­rzy­ste i sprzeczne z ludzką in­tu­icją, na­wet w oce­nie ich twór­ców.

Na przy­kład au­to­rzy al­go­ryt­mów do dia­gno­zo­wa­nia za­ka­żeń co­vi­dem użyli jako grupy kon­tro­l­nej ob­szer­nej bazy zdjęć rent­ge­now­skich przed­sta­wia­ją­cych zwy­kłe za­pa­le­nie płuc - jak się oka­zało, po­cho­dzą­cych od dzieci w wieku od jed­nego do pię­ciu lat. W re­zul­ta­cie stwo­rzone mo­dele na­uczyły się od­róż­niać płuca dzieci od płuc do­ro­słych, a nie płuca do­tknięte co­vi­dem od płuc za­ję­tych zwy­kłym za­pa­le­niem[8]. Sys­temy tego typu są ta­jem­ni­czymi by­tami o nie­zna­nych ścież­kach ro­zu­mo­wa­nia.

Nie dość, że au­to­ma­tyczne sys­temy są nie­prze­nik­nione od strony tech­nicz­nej, to jesz­cze lu­dzie, na któ­rych ży­cie mają one naj­więk­szy wpływ, rzadko zdają so­bie sprawę z tej ta­jem­ni­czo­ści. Spo­sób, w jaki wpro­wa­dzono al­go­rytmy do na­szego spo­łe­czeń­stwa, spo­wo­do­wał ero­zję in­dy­wi­du­al­nej au­to­no­mii czło­wieka, ale także zmniej­szył siłę i de­cy­zyj­ność in­sty­tu­cji re­pre­zen­tu­ją­cych na­sze in­te­resy, a za­tem do­pro­wa­dził do trans­fi­gu­ra­cji ca­łego spo­łe­czeń­stwa.

Oso­bom świa­do­mym tego, że ja­kieś al­go­rytmy po­dej­mują de­cy­zje wpły­wa­jące na ich ży­cie, zwy­kle od­ma­wia się wie­dzy o we­wnętrz­nym dzia­ła­niu sys­te­mów (z punktu wi­dze­nia pry­wat­nych firm - sta­no­wią­cym ich wła­sność in­te­lek­tu­alną), a ślepa wiara in­sty­tu­cji pu­blicz­nych w sku­tecz­ność opro­gra­mo­wa­nia lub zwy­kła nie­wie­dza urzęd­ni­ków utrud­niają tym lu­dziom do­cho­dze­nie spra­wie­dli­wo­ści. Gdy kom­pu­ter cze­goś nam od­ma­wia, wpa­damy w błędne koło.

Utrata po­czu­cia au­to­no­mii i kon­troli spra­wia, że trud­niej wziąć od­po­wie­dzial­ność za wła­sne po­stę­po­wa­nie. Trudno też przy­pi­sać winę i wy­mie­rzyć karę oso­bom lub kor­po­ra­cjom, które prze­rzu­cają od­po­wie­dzial­ność na opro­gra­mo­wa­nie ko­rzy­sta­jące ze sztucz­nej in­te­li­gen­cji. W końcu ma­szyny nie da się po­sta­wić przed są­dem.

W la­tach 80. XX wieku stan­fordzki psy­cho­log Al­bert Ban­dura uznał po­czu­cie wła­snej sku­tecz­no­ści - prze­ko­na­nie o tym, że mamy kon­trolę nad wła­snymi dzia­ła­niami i ich kon­se­kwen­cjami - za wro­dzoną ce­chę ludz­kiej na­tury i nie­od­łączny czyn­nik ewo­lu­cji na­szego ga­tunku. Jak mó­wił, czło­wiek kształ­tuje swoje oko­licz­no­ści ży­ciowe i oto­cze­nie spo­łeczne, a nie jest wy­łącz­nie ich wy­two­rem[9].

Ban­dura do­wo­dził, że lu­dzie wy­wie­rają wpływ na oto­cze­nie na trzy spo­soby: oso­bi­ście, przez przed­sta­wi­cieli oraz jako ko­lek­tyw. W ogól­nym sen­sie przed­sta­wi­cie­lami są osoby po­sia­da­jące spe­cja­li­styczną wie­dzę lub za­soby - jak le­ka­rze, funk­cjo­na­riu­sze apa­ratu przy­musu lub człon­ko­wie wy­bie­ral­nych władz - wska­zane przez nas, by wy­po­wia­dać się w na­szym imie­niu, na­to­miast ko­lek­tyw dys­po­nuje wspólną pulą wie­dzy i środ­ków na­ci­sku, by kształ­to­wać lep­szą przy­szłość dla wszyst­kich swo­ich człon­ków.

Fi­lo­zo­fo­wie uwa­żają, że w osta­tecz­nym roz­ra­chunku wol­ność czło­wieka za­leży od siły po­czu­cia wła­snej sku­tecz­no­ści - od zdol­no­ści po­strze­ga­nia po­dej­mo­wa­nych dzia­łań i od­czu­wa­nych pra­gnień jako wła­snych, a także prze­ko­na­nia o po­sia­da­nej swo­bo­dzie kre­owa­nia zmian. Sys­temy sztucz­nej in­te­li­gen­cji w mniej­szym lub więk­szym stop­niu na wiele róż­nych spo­so­bów na­ru­szają to po­czu­cie, wy­wo­łu­jąc w nas wra­że­nie osła­bie­nia wła­snej spraw­czo­ści, a w skraj­nych przy­pad­kach - na­wet utraty wol­nej woli.

Jako spo­łe­czeń­stwo zna­leź­li­śmy się więc w kło­po­tli­wym po­ło­że­niu. Spo­sób za­rzą­dza­nia sztuczną in­te­li­gen­cją i in­nymi al­go­ryt­mami sta­ty­stycz­nymi w nad­cho­dzą­cych la­tach bę­dzie miał ogromny wpływ na nas wszyst­kich. Bra­kuje nam jed­nak na­rzę­dzi do kon­tro­lo­wa­nia nad­cho­dzą­cych zmian. Nie do końca na­wet ro­zu­miemy, na czym ten wpływ bę­dzie po­le­gał. Nie po­tra­fimy zde­cy­do­wać, ja­kie war­to­ści mo­ralne chcemy za­ko­do­wać w tych sys­te­mach. Nie mo­żemy dojść do po­ro­zu­mie­nia w kwe­stii tego, ja­kie me­cha­ni­zmy kon­tro­lne chcemy na­rzu­cić sys­te­mom AI. Ko­lek­tyw­nie zrze­kamy się wła­snego au­to­ry­tetu mo­ral­nego na rzecz ma­szyn.

Pa­ra­dok­sal­nie sys­temy sztucz­nej in­te­li­gen­cji do­pro­wa­dziły jed­nak nie­ocze­ki­wa­nie do wzmoc­nie­nia ko­lek­tyw­nego po­czu­cia spraw­stwa. Kiedy bo­wiem lu­dzie po­czuli się ogra­bieni z in­dy­wi­du­al­nej zdol­no­ści do kie­ro­wa­nia wła­snym po­stę­po­wa­niem i wła­sną uwagą, zdali so­bie sprawę z nie­od­łącz­nych cech zauto­ma­ty­zo­wa­nych sys­te­mów (ta­kich jak nie­przej­rzy­stość, brak ela­stycz­no­ści, nie­ustanna zmien­ność i brak ure­gu­lo­wa­nia) i za­częli łą­czyć się w grupy, by wal­czyć z ma­szy­nami o od­zy­ska­nie po­czu­cia czło­wie­czeń­stwa.

Re­flek­sja nad trium­fal­nym po­cho­dem sztucz­nej in­te­li­gen­cji umoż­li­wia do­strze­że­nie dys­pro­por­cji sił i ruch w stronę przy­wró­ce­nia rów­no­wagi. Mam na­dzieję, że do­świad­cze­nia lu­dzi opi­sa­nych w tej książce wy­rwą nas z ob­jęć lęku i skło­nią do od­zy­ska­nia po­czu­cia wła­snej sku­tecz­no­ści i sza­cunku do sa­mych sie­bie. W końcu czy bez tego wciąż jesz­cze bę­dziemy ludźmi?