🌐 Read this essay in English: They Won’t Take Control From Us — We Hand It Over Ourselves
No rīta atveru telefonu, un ziņas jau ir sakārtotas. Platforma ir izvēlējusies, ko man parādīt vispirms, meklētājs piedāvā atbildi vēl pirms esmu atvēris kādu avotu, un mākslīgais intelekts palīdz uzrakstīt vēstuli, sakārtot domas vai pieņemt nelielu ikdienas lēmumu. Lielākoties tas ir ārkārtīgi ērti. Es arī pats šos rīkus izmantoju ik dienu — tie ietaupa laiku un ļauj paveikt lietas, kas citādi prasītu nesamērīgi daudz piepūles. Tomēr arvien biežāk pieķeru sevi pie jautājuma: kurā brīdī palīdzība pārvēršas par paļaušanos, un kurā brīdī paļaušanās kļūst par klusu atteikšanos pašam spriest?
Mani nesatrauc zinātniskās fantastikas scenārijs, kurā kāda nākotnes sistēma pēkšņi un ar varu pārņem varu. Mani satrauc daudz parastāka, klusāka realitāte: mēs kontroli pakāpeniski atdodam paši. Ne vienā vēsturiskā lēmumā vai referendumā, bet tūkstoš mazās ikdienas izvēlēs, no kurām katra atsevišķi šķiet pilnīgi racionāla, ērta un saprātīga.
Rīks vai atkarība
Cilvēki vienmēr ir radījuši rīkus, lai netērētu spēkus tur, kur tas nav nepieciešams, un arī mākslīgā intelekta izmantošana pati par sevi nav atteikšanās domāt. Ja sistēma palīdz ātrāk atrast informāciju vai piedāvā pirmo melnrakstu, mēs varam savu uzmanību veltīt svarīgākajam. Taču šim darījumam ir viens izšķirošs nosacījums: mums pašiem vēl jāspēj pateikt, kas ir svarīgākais. Mums jāspēj rezultātu pārbaudīt, tam nepiekrist un izvēlēties citādi.
Robeža starp rīku un atkarību gandrīz nekad nav skaidri redzama. Sākumā mēs lūdzam tikai ieteikumu. Pēc kāda laika pamanām, ka tas lielākoties ir noderīgs. Vēlāk pārbaudām to arvien retāk, līdz pienāk brīdis, kad vairs nejautājam, vai ieteikums ir labs — jautājam tikai, cik ātri to var palaist tālāk. Tas nav stāsts par slinkumu vai sliktu gribu. Tas ir stāsts par vidi, kurā gludākais ceļš neizbēgami kļūst par ierasto ceļu, bet savus ieradumus mēs pārskatām nesalīdzināmi retāk nekā apzinātus lēmumus.
Neredzamie koridori
Tērzēšanas roboti mūsu pieredzē ir salīdzinoši nesens solis, taču algoritmi, kas atlasa un kārto informāciju, mūsu telpu veido jau gadiem. Tie nosaka, kuras ziņas izpeld plūsmā, kurus video noskatāmies, kuras preces atrodam un kādus viedokļus pieņemam par sabiedrības vairākumu. Tas nenozīmē, ka algoritms viens pats ieprogrammē mūsu uzskatus — mēs paši klikšķinām, meklējam, dalāmies un strīdamies. Taču mēs to darām telpā, kurā kāds cits ir uzbūvējis neredzamus koridorus un sakārtojis iespējamās izvēles. Ja cilvēks katru dienu kaut ko brīvi izvēlas, bet visas iespējamās alternatīvas viņam nepārtraukti atlasa un filtrē sistēma, cik apzināti viņš vēl veido savu priekšstatu par pasauli? Agrāk pastāvēja avīžu redaktori un televīzijas kanāli, taču atšķirība slēpjas ātrumā, mērogā un faktā, ka šī neredzamā atlase šodien tiek matemātiski pielāgota katra cilvēka personīgajām ievainojamībām.
Kad sistēma lemj par cilvēku
Ikdienas ieteikumi un komforts ir tikai viena šī stāsta puse. Otra sākas tur, kur algoritmisku sistēmu sāk izmantot, lai pieņemtu lēmumus par cilvēku. Darba devējs atlasa kandidātus, aizdevējs vērtē pieteikumu, platforma lemj par satura redzamību, un valsts iestāde mēģina optimizēt tūkstošiem lietu vienlaikus. Katrā atsevišķā gadījumā iemesls ir saprotams — efektivitāte un ātrums. Bet cilvēkam, par kuru tiek lemts, sistēmas iekšējā loģika paliek pilnīgi necaurredzama. Te nevienlīdzība vairs nav par to, kurš prot labāk uzrakstīt vaicājumu. Tā ir aiza starp organizāciju, kurai ir jauda ar mašīnas palīdzību izsvērt tūkstošus, un indivīdu, kuram jāmēģina saprast vienu vienīgu, viņa dzīvi ietekmējošu lēmumu. Kurš atbild, ja dati ir kļūdaini? Kurš spēj izskaidrot iemeslu? Un vai cilvēkam pastāv reāla iespēja iebilst, nevis tikai saņemt vēl vienu automātiski noģenerētu standarta e-pastu? Šeit jautājums par kontroli pārstāj būt filozofiska abstrakcija — tā ir elementāra nepieciešamība zināt, kāpēc ar mani tā rīkojās, un tiesības pieprasīt, lai kļūdu pārbauda dzīvs cilvēks.
Vai galīgo lēmumu tiešām pieņem cilvēks?
Par mākslīgo intelektu bieži mēdz mierinoši teikt: «Bet galīgo lēmumu taču vienmēr pieņem cilvēks.» Taču ar šo frāzi vien vairs nepietiek. Vai šim cilvēkam sistēmas beigās ir reāls laiks pārbaudīt piedāvājumu? Vai viņš saprot, uz kādiem pieņēmumiem tas balstīts? Vai darba kultūra vispār pieļauj iespēju nepakļauties mašīnas aprēķinam, un vai viņš vēl prot izlemt pats, ja sistēma pēkšņi atslēdzas? Ja atbilde uz šiem jautājumiem ir «nē», tad cilvēks vairs nav nekāds lēmējs — viņš ir kļuvis par formālu parakstītāju un ērtu zibensnovedēju, kurš tikai noņem atbildību no algoritma. Ikdienā kļūdas cena var būt neprecīzs teksts vai neveiksmīgs pirkums, taču citās jomās likmes ir pavisam citas. Militārajā aizsardzībā informācijas plūsmas ātrums rada bīstamu spiedienu izslēgt lēno cilvēka domāšanu, savukārt bioloģijā un medicīnā modeļu radītās iespējas attīstās daudz straujāk nekā mūsu spēja tās kritiski izvērtēt. Jo smagākas ir iespējamās sekas, jo mazāk mēs drīkstam samierināties ar atrunu par cilvēka klātbūtni procesā, nepajautājot, ko tieši viņš tur patiesībā vēl spēj ietekmēt.
Mazo izvēļu summa
Visgrūtāk pamanāma šajā procesā ir tieši mazo izvēļu summa. Es ietaupu pusstundu, uzņēmums optimizē procesus, iestāde ātrāk apstrādā iesniegumus, un valsts nevēlas atpalikt no globālajiem konkurentiem. Neviens atsevišķi nesaka: «Atdosim kontroli pār savu nākotni mašīnām.» Taču, ja arvien vairāk izšķirošu lēmumu tiek pieņemti vidē, kuru cilvēki vairs nespēj pilnībā izsekot vai apstrīdēt, kāds ir kopējais rezultāts? Šeit parādās arī nežēlīga starptautiskā dinamika: ja kāds ievieš rīku ātrāk un iegūst pārsvaru, pārējiem rodas neizbēgams spiediens sekot, kur piesardzība un rūpīga izvērtēšana sāk izskatīties pēc bīstamas atpalicības. Bet, ja visi tikai steidzas līdzi plūsmai, kuram vispār paliek laiks apstāties un pajautāt, vai šo soli vispār vajadzēja spert?
Es neesmu pret mākslīgo intelektu un neaicinu uz tehnoloģisko askēzi. Es pats šos rīkus lietoju, arī liekot kopā šīs rindas — tie palīdz ieraudzīt sakarības, noformulēt jautājumus un ātrāk nonākt pie domas kodola. Tieši tāpēc man šis jautājums šķiet tik personisks. Es ļoti labi zinu, cik vilinoši ir paņemt gludu, gatavu teikumu un vienkārši doties tālāk. Reizēm tas ir patiess atspaids, taču reizēm ir nepieciešams aprauties pusceļā un pajautāt sev: vai es tam patiešām piekrītu, un vai tā vispār vēl ir mana doma?
Skola, uzņēmums un valsts
Šis pats jautājums dažādos mērogos jāuzdod skolai, uzņēmumam un valstij. Ne katrs lēmums ir jāpieņem bez tehnoloģiju palīdzības, taču kādam vienmēr ir jāspēj skaidri noformulēt, ko tieši mēs deleģējam, kāpēc mēs to darām un kurš uzņemsies atbildību, kad sistēma kļūdīsies. Kontroli mums neatņems ar varu, un mēs to nezaudējam brīdī, kad mākslīgais intelekts pirmo reizi kaut ko izdara mūsu vietā. Mēs to sākam zaudēt brīdī, kad pārstājam pamanīt, ka tā bija mūsu pašu izvēle — atļaut tam lemt.
