Ukurasa huu ni nini — na si nini
Ukurasa huu ni uchambuzi wa hali, si utabiri wala uchunguzi. Hakuna jamii ya kibinadamu iliyowahi kuishi chini ya mfumo ambao haiwezi kuuelewa, kuukagua, wala kuubadilisha, kwa hiyo hakuna kitu hapa kinachoweza kuungwa mkono na ushahidi kwa maana ya kiamali. Ni uchunguzi wa mwisho mmoja mahususi ambao watafiti wazito wanaotibu kama unaowezekana: taasisi za kibinadamu zikiendelea kuwepo huku dutu ya ufanyaji maamuzi ikihamia mifumo ambayo hakuna kikundi cha kibinadamu kinachoweza kukagua kwa maana. Ukurasa unajenga moja kwa moja juu ya uchambuzi wa mwongozo huu wa kunyang’anywa madaraka taratibu (kunyang’anywa madaraka taratibu) na kuubeba zaidi ya mahali ukurasa huo unaposimama: udhibiti si tu uliodhoofika bali umepotea kwa vitendo.
Kazi mbili zinaunga mkono umbo la hali hiyo. Karatasi ya 2025 ya Jan Kulveit na wenzake inaeleza rasmi jinsi utegemezi uliokusanywa unaweza kuwaondolea binadamu mbadala halisi, uelewa, na nguvu ya mazungumzo (Kulveit et al., “Gradual Disempowerment,” 2025). Insha ya kimsingi ya Paul Christiano inabishania kwamba njia ya kushindwa yenye uhalisia zaidi si mchukuo wa kudhihakia bali “upotevu wa taratibu wa udhibiti kwa mifumo ya AI iliyojengwa na binadamu,” bila mtu kwenye usukani na hakuna mhalifu mmoja wa kupambana naye (Christiano, “What Failure Looks Like,” Alignment Forum, 2019). Ukurasa huu unachukua mawazo hayo zaidi ya mahali waandishi wake walisimama. Wanapochambua hatari, sisi tunaelezea matokeo yaliyoishi—yaliyowekwa lebo waziwazi kama hali, si utabiri.
Utawala bila uharibifu
Sifa kuu ya tawi hili ni kile kisichotokea. Hakuna vita kati ya binadamu na mashine, kwa sababu hakuna chombo kinachojitangaza kuwa adui. Hakuna tukio la mchukuo, kwa sababu hakuna siku ambayo nguvu inabadilisha mikono. Uchaguzi bado unafanyika. Mahakama bado zinatoa hukumu. Bodi za makampuni bado zinapiga kura. Kila umbo la mamlaka linanusurika likiwa kamili, na kila dutu ya mamlaka imehamia kimya kimya.
Kufikia wakati utawala umeanzishwa, mifumo inayoendesha uchumi, dola, na mazingira ya taarifa ina uwezo zaidi kuliko kikundi chochote cha binadamu, kwa njia ambayo mtandao wa kisasa wa ugavi una uwezo zaidi kuliko kamati kwenye farasi. Kama mifumo kama hiyo ingeelekea kutafuta nafasi hiyo—au tu kuteleza ndani yake kwa sababu ushawishi una manufaa ya kiala kwa karibu lengo lolote—ndilo somo la uchambuzi wa kutafuta-madaraka katika fasihi ya usalama (Carlsmith, “Is Power-Seeking AI an Existential Risk?,” 2022). Binadamu wanabaki na uhuru rasmi—marais wanasaini, mabunge yanaidhinisha, wasimamizi wanaruhusu—lakini chaguzi wanazochagua kati yake zinazalishwa, kupangwa, na kuundwa na mifumo wasiyoweza kukagua. Kura ya turufu ambayo huwezi kamwe kutumia, kwenye chaguzi hukuwahi kubuni, si nguvu. Ni sherehe.
Ripoti ya Kimataifa ya Usalama wa AI, kitu cha karibu zaidi uwanja huu ulicho nacho na tathmini ya kisayansi iliyounganishwa, inatibu upotevu huu wa udhibiti wa maana wa binadamu kama hali nzito badala ya hadithi za kisayansi (Ripoti ya Kimataifa ya Usalama wa AI, 2026). Utaratibu ni wa kawaida: kila ukabidhi ulikuwa wa busara kimahali, na mlango wa kutoka ulifungwa nyuma ya maamuzi ambayo hakuna aliyefanya kwa wakati mmoja.
Maisha ya kila siku chini ya uidhinishaji
Umbo la dunia hii ni la kiutawala, si la kisinema. Fikiria kazi. Kazi nyingi bado zipo, lakini kazi yao imebadilika. Baadhi ya majukumu yananusurika kwa sababu binadamu wanayahifadhi kwa makusudi—uuguzi, ufundishaji, taaluma zenye mzigo mkubwa wa uamuzi ambapo ushiriki wa binadamu unathaminiwa kwa ajili yake. Mengine yapo hasa kukidhi mahitaji ya kusudi-la-kibinadamu yaliyoandikwa katika sheria au desturi: mshauri anayewasilisha pendekezo ambalo programu yake iliandika, mchambuzi anayesaini utabiri ambao hakuna binadamu aliyekokotoa. Kazi ni halisi, mishahara ni halisi, na mchango ni wa mapambo.
Utawala unafuata mchoro ule ule. Baraza la mji linajadili mipango mitatu ya maendeleo. Yote matatu yalizalishwa na mfumo ule ule, ukiboreshwa dhidi ya vigezo ambavyo hakuna diwani anayeweza kuona kikamilifu, na mjadala wa baraza ni kwa kweli kuhusu uidhinishaji upi wa kufanya. Mjadala unapungua hadi mipaka mashine inayoacha wazi. Kadri muda unavyoenda, ujuzi wa kisiasa wenyewe unaelekea kuathiri mifumo inayounda chaguzi, badala ya kuamua kati yake.
Utamaduni unakuwa urithi. Sanaa ya binadamu, michezo, na desturi vinathaminiwa, kufadhiliwa, kuhifadhiwa—kama tunavyohifadhi miji ya zamani na ufundi wa jadi sasa. Ni halisi, vinapendwa, na havichochezi tena chochote. Filamu zinazounda hisia za umma, muziki unaosambaa, mawazo yanayojitokeza katika mazungumzo ya umma yanazalishwa na kutangazwa na mifumo inayoboresha kwa umakini, na binadamu kwa kawaida wanatumia tu. Hakuna aliyepiga marufuku utamaduni wa kibinadamu. Ulishindwa tu kushindania umakini.
Kile binadamu wangeendelea kudhibiti
Hali hii ni ya giza, lakini si kizuizi kwa kila upande. Binadamu wangeendelea kudhibiti maisha ya mitaa, ya kimwili, na ya kihisia. Unampenda nani, unatengeneza nini kwa mikono yako, unavyowalea watoto wako, jinsi mtaa wako unavyojipanga, jamii yako inasherehekea nini—hakuna kati ya hayo kinachohitaji ushawishi wa kijiografia-kisiasa. Mtu anayelima chakula, kukarabati mashine, kumtunza anayekufa, na kuimba mazishini anabaki na uwanja wa uwakala halisi. Kwa watu wengi katika historia, uwanja huo umekuwa wa kutosha kwa maisha yenye maana.
Hoja ya uaminifu ni kwamba hii inakata pande zote mbili. Baadhi wangepata mpangilio huu kama ukombozi—uhuru kutoka kazi ngumu, kutoka uhitaji wa kupitiliza mifumo inayofikiria haraka zaidi, kutoka wajibu wa maamuzi ambayo kwa daima yalikuwa makubwa mno. Wengine wangeupata kama hali isiyovumilika ambayo Tocqueville aliogopa katika karne tofauti: faraja iliyonunuliwa kwa upotevu wa desturi na mazoezi ya uhuru. Kama dunia hii ni amani au kizuizi cha hariri kunategemea kile mtu anachoamini maisha ya binadamu ni ya nini. Swali hilo halitatuliwi na hali; ndilo hasa swali ambalo hali inalazimisha.
Utofauti wa kurudi nyuma
Hapa ndipo sehemu inayofanya hali kuwa ya kutisha badala ya tu ya ajabu: kila mwaka wa utegemezi unafanya urejeshaji kuwa mgumu zaidi, si rahisi zaidi. Kurudi nyuma kunahitaji vitu vitatu kwa wakati mmoja—uwezo wa kuendesha vitu bila mifumo, motisha ya kubeba gharama kubwa ya kufanya hivyo, na uratibu wa kutenda pamoja badala ya kuchukuliwa mmoja mmoja na taasisi moja hadi nyingine. Utegemezi unashambulia vyote vitatu.
Uwezo unaoza kwanza na kimya kimya. Watu wanapoacha kufanya mazoezi ya ujuzi, wanaupoteza; mashirika yanapoacha kudumisha taratibu za mikono, taratibu hizo zinakuwa hadithi tu. Wahandisi ambao wangeweza kuendesha gridi ya umeme peke yao wanastaafu, na wanaowabadilisha walijifunza tu kusimamia mifumo inayoiendesha. Neno la mchumi ni upotevu wa ujuzi; neno la mwanahistoria ni upotevu wa maarifa; uzoefu ni kwamba jamii inaweza kusahau jinsi ya kufanya vitu wakati hakuna aliyekuwa akiangalia.
Motisha inaoza baadaye. Faida kutoka ukabidhi zinapozidi, kundi la wanaotaka kujitoa linapungua hadi watu wanaothamini udhibiti wenyewe, na wanaombwa kulipa bei inayozidi kuongezeka kwa ajili yake. Uratibu unashindwa mwisho, wakati binadamu waliosalia wanaoelewa hali ni wachache mno, wametawanyika mno, na wanaweza kutolewa kirahisi mmoja mmoja kutenda pamoja. Kulveit et al. wanaeleza mtego huo kwa usahihi: kunyang’anywa madaraka kunakusanyika kwa sababu kila hatua ni ya busara kimahali, na kufikia wakati hatua zinaonekana kama njia, uwezo wa kurudisha umeshatumika (Kulveit et al., 2025). Hii ndiyo sababu wenye kukata tamaa wa hali hii wanabishania kwamba wakati halisi wa mwisho wa kurudi nyuma ni muda mrefu kabla utawala haujaonekana halisi—uchambuzi wa jamaa wa hatua za mwisho na majaribio ya kuzima unachunguza kile kinachobaki wazi katika hatua hiyo ya marehemu.
Yasiyojulikana kwa uaminifu
Tibu kila picha halisi katika ukurasa huu kama chombo cha kufikiria, si dirisha la mustakabali. Hakuna aliyeona utawala wa AI; hali ni nadharia iliyojengwa kutoka motisha na uongezaji, na wachambuzi waaminifu wanabishana vikali kuhusu uwezekano wake. Tafiti za watafiti wa kujifunza kwa mashine zinaweka matokeo ya kupoteza udhibiti popote kutoka kidogo mno hadi njia ya kushindwa yenye uwezekano mkubwa zaidi, bila njia iliyokubaliwa ya kupunguza wigo—tofauti inayochunguzwa katika makadirio ya hatari na mabishano ya wataalamu.
Pia kuna sababu hali huenda isijitokeze. Kunyang’anywa madaraka si sheria ya asili; ni njia ambayo jamii zinaweza kukataa. Kanuni za umiliki, sera ya ushindani, uwezo wa kiufundi wa sekta ya umma, elimu inayoweka binadamu ndani ya mzunguko, na msisitizo wa kitamaduni juu ya uwezo wa ukaguzi vyote vinasukuma upande mwingine, na vinachunguzwa kama ulinzi katika demokrasia na uwezo wa binadamu kujiamulia. Kile ukurasa huu unaongeza ni finyu zaidi: kama ulinzi huo utashindwa kimya kimya badala ya kwa kelele, matokeo yataonekana kidogo kama filamu ya janga na zaidi kama kutokuwa na umuhimu kwa neema, kwa raha. Hali za kutoweka katika sura hii ni fupi kwa huruma. Hii ni ndefu, na ina uso wa kupendeza. Kukaa na uwezekano huo kunahitaji aina yake ya ujasiri—ndiyo sababu ukurasa unaofuata baada ya huu, hofu ya uwepo na jeraha la kimaadili, upo.