Demokrasia na uwezo wa binadamu kujiamulia baada ya AI ya kimapinduzi

Mamlaka rasmi inaweza kuendelea baada ya udhibiti wa kivitendo kupotea

Bunge linaweza kubaki lililochaguliwa huku likitegemea mifumo ambayo wabunge hawawezi kutathmini. Waziri anaweza kubaki na wajibu wa kisheria huku akipokea mapendekezo ambayo hakuna mtumishi wa umma anayeweza kuyazalisha upya. Mwananchi anaweza kuhifadhi haki rasmi ya kukata rufaa huku akikabiliwa na uamuzi wa kiotomatiki ambao data yake, mfano wake, mkataba wa mtoa huduma, na hoja yake haviwezi kufikiwa. Hakuna kitu katika picha hiyo kinachohitaji mapinduzi ya kijeshi au mtawala wa mashine mwenye fahamu. Mamlaka inakuwa ya kisherehe kwa sababu uwezo wa kivitendo wa kuchagua tofauti umedhoofika.

Hii ni hatari ya utawala kabla ya kuwa hatari ya AGI. Serikali tayari zinatumia algoriti katika manufaa, ukusanyaji wa kodi, ulinzi wa jamii, uhamiaji, elimu, huduma za afya, na utawala wa umma. Mifumo yenye uwezo zaidi inaweza kuboresha uthabiti, kutafsiri huduma, kubaini udanganyifu, kufupisha ushahidi, na kufanya utaalamu ufikike kwa mashirika madogo. Pia inaweza kuongeza utegemezi na kufanya maamuzi ya umma kuwa magumu zaidi kupinga.

Vyombo vilivyopo vya kimataifa vinatoa msamiati wa kuanzia, lakini nguvu yao ya kisheria inatofautiana. Mkataba wa Mfumo wa Baraza la Ulaya kuhusu Akili Bandia umeundwa kama mkataba unaofunga kisheria kwa nchi wanachama na unazingatia haki za binadamu, demokrasia, na utawala wa sheria. Ukurasa wake rasmi wa hali haukuorodhesha tarehe ya kuanza kutumika hadi Septemba 11, 2026, hivyo saini haipaswi kuelezwa kama jimbo tayari limefungwa kisheria (hali ya CETS Na. 225). Pendekezo la UNESCO kuhusu Maadili ya Akili Bandia ni pendekezo lisilofunga linaloshughulikia usimamizi, uwazi, uwajibikaji, na athari za kimazingira na kijamii. Hakuna chombo kinachotatua utawala wa baada ya AGI. Vyote viwili vinaonyesha kwamba uwezo na ufanisi si maadili pekee ya umma yaliyo hatarini.

Uwakala unamaanisha kuwa na uwezo wa kubadilisha matokeo

“Usimamizi wa binadamu” mara nyingi unatibiwa kama mchoro wa uajiri: weka mtu mahali fulani baada ya mfano na uamuzi unakuwa wa kibinadamu. Usimamizi halisi ni seti ya uwezo.

Mkaguzi anahitaji muda na taarifa za kutosha kuelewa kesi. Anahitaji mafunzo ya kutambua mipaka ya mfano. Anahitaji mamlaka ya kisheria na ya kitaasisi ya kukataa pendekezo. Chaguo tofauti lisisababishe adhabu kwa sababu tu linatofautiana na alama ya kiotomatiki. Taasisi lazima ihifadhi kumbukumbu zinazounga mkono ukaguzi na rufaa.

Wakati masharti hayo hayapo, kubofya kwa binadamu ni sherehe tu. Uotomatiki wa hali ya juu unaweza hata kufanya ukaguzi kuwa mbaya zaidi: watu wanapoona kesi chache zisizo za kawaida na kufanya mazoezi ya uamuzi huru mdogo, utaalamu wao unadhoofika. Mfumo unaposhindwa hatimaye nje ya usambazaji wake wa kawaida, msimamizi rasmi anaweza kuwa hana maandalizi zaidi ya kuingilia kati.

Jaribio la kivitendo ni la kubadilishana: je, mtu mwenye sifa anaweza kufikia uamuzi tofauti, kueleza kwa nini, na kuwa na uamuzi huo ukisimama?

Utegemezi nne unaoweza kuondoa mfumo wa ndani wa serikali

Utegemezi kwa mtoa huduma

Shirika la umma linaweza kukosa wafanyakazi, ukokotoaji, haki za data, au masharti ya mkataba kufanya kazi bila mtoa huduma mmoja. Kubadilisha kunaonekana kuwezekana katika hati za ununuzi lakini kungehitaji kufunza upya mifumo, kuhamisha data, kuandika upya mtiririko wa kazi, na kukubali usumbufu mrefu wa huduma. Hilo linampa mtoa huduma binafsi ushawishi hata bila mamlaka ya wazi ya kisiasa.

Mikataba inapaswa kwa hiyo kushughulikia uwezo wa kuhamishika, ufikiaji wa ukaguzi, ufichuzi wa matukio, wakandarasi wadogo, uhifadhi wa data, usalama, uendelevu wa huduma, na msaada wa kutoka kabla mfumo haujawa wa lazima. Zabuni ya bei nafuu zaidi ya awali inaweza kuwa ghali ikiwa inanunua utegemezi wa kudumu.

Utegemezi wa kielimu

Taasisi inaweza kupoteza uwezo wa kujua kama matokeo ni mazuri. Ikiwa AI inafanya uchambuzi mwingi, uandishi, uigaji, na uthibitishaji, shirika la binadamu linaweza kuhifadhi mamlaka ya mwisho ya saini huku likipoteza mifano huru ya dunia.

Uzalishaji wa ziada ni muhimu. Mashirika yanahitaji utaalamu wa ndani, uchambuzi shindani kwa maswali yenye matokeo makubwa, kumbukumbu za kutokuwa na uhakika, na njia zilizolindwa za kupinga. Baadhi ya majukumu yanapaswa kufanywa mara kwa mara bila mfumo mkuu, si kwa sababu kazi ya mikono daima ni bora zaidi bali kwa sababu njia mbadala isiyojaribiwa si njia mbadala.

Utegemezi wa miundombinu

Huduma za hali ya juu zinategemea umeme, mitandao, mifumo ya utambulisho, miundombinu ya wingu, na mifano ya juu. Kukatika au mzozo wa kibiashara unaweza kuenea kupitia kazi nyingi za umma mara moja. Kukolezwa kwa mashirika kadhaa kwenye mfano mmoja au wingu moja kunaweza kuunda kushindwa kunakohusiana kulikofichwa nyuma ya mikataba tofauti.

Ramani za utegemezi zinapaswa kubaini watoa huduma walioshirikiwa na sehemu moja za kushindwa katika serikali nzima, si ndani ya idara moja tu. Mazoezi ya urejeshaji yanapaswa kujaribu uendeshaji uliopunguzwa, urejeshaji wa data, uwekaji vipaumbele wa mikono, na mawasiliano ya umma.

Utegemezi wa uhalali

Watu wanakubali maamuzi magumu kwa sehemu kwa sababu wanaelewa ni nani mwenye mamlaka, kanuni zipi zinatumika, na jinsi ya kupinga makosa. Mfumo sahihi kitakwimu lakini usioeleweka bado unaweza kudhoofisha uhalali ikiwa wananchi wanaupata kama wa kiholela.

Maelezo peke yake hayatoshi. Maelezo yaliyozalishwa yanaweza kusikika ya kuaminika bila kufichua msingi halisi wa matokeo. Uwezo wa kweli wa kupinga unahitaji ushahidi husika, kanuni inayotumika, taasisi yenye wajibu, na suluhisho linalopatikana. Pia unahitaji ofisi ya binadamu yenye uwezo wa kubadilisha uamuzi badala ya kuelezea tu kwa nini mfumo ulizalisha matokeo.

Demokrasia inahitaji uwezo wa kiufundi wa umma

Mabunge, mahakama, wasimamizi, wakaguzi, vyama vya wafanyakazi, na asasi za kiraia zinahitaji utaalamu wa tathmini, usalama, ununuzi, usimamizi wa data, na ushahidi wa mfano. Wafanyakazi wa kitaalamu, maabara huru, wakaguzi wakuu, mashirika ya viwango, na taratibu za kipinzani zinaweza kutoa kina hicho.

Mfumo wa Usimamizi wa Hatari za AI wa NIST unatoa muundo wa hiari wa kuongoza, kuchora ramani, kupima, na kusimamia hatari za AI. Thamani yake ni ya kiutaratibu: mashirika lazima yabaini muktadha na watu walioathirika badala ya kutibu usahihi wa vipimo kama tathmini nzima ya hatari. Taasisi ya baada ya AGI ingehitaji matoleo imara zaidi, yanayoweza kutekelezwa, ya tabia hizo, yakiunganishwa na idhini ya kidemokrasia.

Uchaguzi ni wa lazima lakini si wa kutosha

AI ya kimapinduzi inaweza kuathiri demokrasia kupitia ushawishi, vyombo vya habari vya bandia, ufuatiliaji, uchambuzi wa sera, operesheni za kampeni, na udhibiti wa miundombinu ya taarifa. Kuzingatia tu picha za bandia kunapoteza suala pana zaidi: ni nani anayechagua malengo ya mifumo inayopatanisha umakini wa kisiasa, na data zipi zinatumika kuboresha ushawishi?

Ufichuzi unaweza kusaidia, lakini kuweka lebo “iliyozalishwa na AI” kwenye maudhui hakuthibitishi kama ni kweli au ya kudanganya. Chanzo kinaweza kuonyesha sehemu za historia ya faili bila kuthibitisha madai yake. Uthabiti wa kisiasa pia unahitaji ulinzi wa faragha, uandishi wa habari huru, uwazi wa kampeni, uwajibikaji wa jukwaa, usimamizi salama wa uchaguzi, na wananchi wenye uwezo wa kuthibitisha taarifa muhimu kupitia njia za kuaminika.

Matumizi ya serikali yanastahili kujizuia hasa. Jimbo lenye mifumo yenye nguvu ya utabiri na ushawishi linaweza kubinafsisha mawasiliano ya umma kwa manufaa—au kufanya upinzani kuwa rahisi kubainika na tabia kuwa rahisi kuundwa. Makatazo ya kisheria, hati za mahakama, upunguzaji, kumbukumbu za ukaguzi, na usimamizi huru vina umuhimu zaidi uwezo wa uchambuzi unavyoongezeka, si mdogo.

Hifadhi vyanzo vingi vya nguvu

Hakuna kampuni moja inayopaswa kuwa chanzo pekee cha uchambuzi wa umma, utambulisho, mawasiliano, na miundombinu ya kiutawala. Hakuna serikali kuu inayopaswa kuwa taasisi pekee yenye uwezo wa kutumia uwezo wa hali ya juu. Hakuna mfumo wa alama wa ulimwengu wote unaopaswa kuamua ufikiaji wa ajira, mikopo, manufaa, usemi, na uhamaji.

Wingi wa taasisi unaunda msuguano, na msuguano wakati mwingine ni wa kinga. Mifumo ya shirikisho, serikali za mitaa, mahakama, wasimamizi huru, vyuo vikuu, vyama vya wafanyakazi, mashirika ya kitaalamu, jamii za kiufundi za wazi, na asasi za kiraia zinaweza kufichua kushindwa ambako mfumo mmoja mkuu ungezuia au kukosa. Taasisi shindani pia zinawapa watu mahali pa kukata rufaa na kupanga.

Wingi si sawa na kuenea bila udhibiti. Uwezo wenye hatari kubwa unaweza kuhitaji vizuizi vya ufikiaji wakati ufanyaji maamuzi unabaki wa kitaasisi wenye wingi. Tatizo la muundo ni kuepuka wote ukiritimba wa kibinafsi na ukolezi kamili wa kiserikali.

Maamuzi yanayopaswa kubaki yenye ubishani wa kisiasa

AI inaweza kuarifu maamuzi ya umma bila kufafanua lengo la umma. Maswali kama vile jinsi ya kugawa kipato, hatari zipi zinakubalika, haki za nani zinapewa kipaumbele, kama nguvu itumike, watoto wanapaswa kujifunza nini, na ni kiasi gani cha ufuatiliaji kinakubalika si matatizo ya uboreshaji yenye kazi lengwa isiyo na upande. Ni chaguzi za kisiasa kati ya maadili na watu.

Kukabidhi utekelezaji pia kunaweza kubadilisha lengo. Mfumo wa manufaa ulioboreshwa kupunguza muda wa uchakataji unaweza kuwazuia waombaji wenye kesi ngumu. Mfumo wa upolisi ulioboreshwa kwa matukio yaliyotabiriwa unaweza kuongeza mifumo katika utekelezaji wa kihistoria. Mfumo wa afya ulioboreshwa kwa gharama iliyopimwa unaweza kudharau matokeo magumu kurekodiwa. Udhibiti wa kidemokrasia unahitaji kupitia kile mfumo unachozawadia kihalisia, si tu kuidhinisha kusudi lake lililotajwa.

Pendekezo la kanuni: hakikisho la chini la uwakala

Kwa matumizi ya umma yenye matokeo makubwa, watu wanapaswa kuweza kubaini:

1. kwamba mfumo wa AI uliathiri kwa kiasi kikubwa uamuzi;
2. taasisi na afisa mwenye wajibu wa kisheria;
3. kanuni inayoongoza na ushahidi uliotumika;
4. mipaka muhimu, kutokuwa na uhakika, na chanzo cha data;
5. rufaa ya binadamu ya wakati muafaka yenye nguvu ya kubadilisha matokeo;
6. njia inayofikika kwa mahakama, msimamizi, ombudsman, au chombo kilichochaguliwa;
7. njia isiyo ya kidijitali kwa watu wasioweza kutumia mfumo kwa usalama.

Hakikisho hizi hazitaondoa makosa au mabishano ya kisiasa. Zinahifadhi tofauti kati ya utawala na udhalimu: mtu aliyeathiriwa anabaki mshiriki katika mfumo wa sababu na suluhisho, si tu kitu kinachoainishwa.

Swali la kikatiba la baada ya AGI

Suala la kina zaidi si kama AI inapokea cheo rasmi cha kiserikali. Ni kama binadamu na taasisi zao wanahifadhi umahiri, uhuru, na ushawishi wa kubadilisha mifumo yenye matokeo makubwa. Ikiwa kuondoa mfano mmoja kungesimamisha afya, fedha, mawasiliano, na serikali mara moja, ukuu wa kisheria unatoa faraja ndogo ya kivitendo.

Kuendelea kwa demokrasia baada ya AI ya kimapinduzi kwa hiyo kunategemea uwezo uliojengwa kabla utegemezi kuwa kamili: utaalamu wa umma, miundombinu inayoshirikiana, haki zinazotekelezwa, taasisi za wingi, ushahidi huru, rufaa za maana, na njia zilizojaribiwa za kufanya kazi wakati mapendekezo ya kiotomatiki hayapatikani au yanakataliwa. Hizo si hatua za kupinga teknolojia. Ni mashine inayoruhusu jamii kutumia teknolojia yenye nguvu bila kuachilia uwezo wa kuchagua malengo yake yenyewe.