09 Baada ya maafa
Jinsi matokeo mabaya zaidi yangeonekana kihalisia
Sura za 04 hadi 08 zinadhania kuwa kuzuia kunaweza kufaulu na uendelevu unaweza kudumu. Sura hii inachukua tawi lingine kwa uaminifu: matukio ya kiwango cha kutoweka, kuanguka kwa ustaarabu, na maisha chini ya utawala wa AI — yaliyoelezwa katika kiwango cha matokeo, si hadithi za maafa.
Kwa nini sura hii ipo
Mwongozo wa maandalizi unaoeleza tu jinsi kuzuia kunavyofaulu unafanya dhana kimya kimya ambayo haujawahi kuitetea. Sura ya 07 ilirekodi mifumo ambayo AI ya hali ya juu inaweza kusababisha madhara ya kiwango kikubwa cha vifo au uharibifu wa kiwango cha ustaarabu. Sura hii inauliza nini kingefuata iwapo mmoja wao utafaulu — nini maana ya tukio lisiloweza kurejeshwa, jinsi lingetofautiana na maafa yanayoweza kuokoka, kinachohusika kihalisia katika kuanguka na kurejea, na chaguzi zinazobaki kwa watu wanaoishi baada ya hayo. Lengo si tamasha. Ni kwamba “hatari ya kutoweka” na “kuanguka” mara nyingi hutumika kama kauli mbiu, na kauli mbiu haziwezi kupangiwa.
Tamko la hatari nyuma ya sehemu kubwa ya mada ya sura hii ni fupi na limetiwa saini na zaidi ya watafiti na wakuu 350, wakiwemo watu walioshirikiana na maabara kadhaa kubwa:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
safe.ai, Signed statement
Geoffrey Hinton ametoa nambari yake binafsi kuhusu hatari hiyo. Ni hukumu ya kitaalamu chini ya kutokuwa na uhakika, si kipimo cha mara kwa mara — na tofauti kubwa ya maoni miongoni mwa wataalamu inachunguzwa yenyewe katika sura hii:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
BBC Radio 4, reported by The Guardian, Secondary coverage
Matawi matatu ya kushindwa
Kurasa katika sura hii zinapanga hali mbaya zaidi katika matokeo matatu yenye muundo tofauti, kwa sababu yanahitaji majibu tofauti. Kutoweka na karibu-kutoweka inashughulikia kile kinachotenganisha tukio lisiloweza kurejeshwa na lile lililo la maafa tu, na jinsi matukio hayo yangejitokeza kwa uwezekano. Kuanguka na kurejea inashughulikia eneo la kati ambalo watu wengi wanaliwaza kwa uwazi mdogo zaidi: ustaarabu uliorudishwa nyuma miongo au karne, na kinachoamua iwapo unarejea. Maisha chini ya kupoteza udhibiti inashughulikia hali ambapo binadamu wanaokoka lakini hawana tena mamlaka yenye maana — matokeo lisilo na wakati wa kudra na hivyo halina onyo la kudra.
Sura hii haifanyi nini
Kurasa hizi zinaeleza matokeo katika kiwango ambacho msomaji anahitaji ili kuyafikiria. Hakuna inayotoa maelekezo ya uendeshaji ya kusababisha madhara — maelezo ya usanisi, hatua za unyonyaji, na mahususi ya mashambulizi yanabaki nje ya wigo wa mwongozo huu, sawasawa na katika sura ya 07. Mtazamo wa hali hapa umekusudiwa kuwa wa moja kwa moja: kanuni ya nyumbani dhidi ya mtazamo unaoelekea maafa iliondolewa kwa sababu kupunguza uzito hakumsaidii msomaji yeyote. Kiwango cha vyanzo hakijabadilika — kila dai lenye matokeo makubwa bado linabeba chanzo chake, na sera ya marekebisho bado inatumika.