07 Mifumo
Sura ya 02 inashughulikia mfumo wa jumla wa kupoteza udhibiti. Sura hii ni orodha ya njia mahususi, zilizotajwa kwa jina ambazo watafiti wanazisoma kihalisia — kwa sababu hatua inayozuia moja haizuii lazima nyingine.
“AI inaweza kuua kila mtu” inabana njia kadhaa za kushindwa zenye muundo tofauti katika picha moja. Ubanaji huo ni wa manufaa kwa kichwa cha habari na hauna manufaa kwa kuzuia, kwa sababu hatua za kiufundi na za sera zinazoshughulikia mfumo mmoja huenda zisisaidie sana kwa mwingine — udhibiti wa mzunguko mkubwa wa mafunzo, kwa mfano, haukingi wenyewe matumizi mabaya ya mfano ulioshatolewa. Zaidi ya watafiti na wakuu 350, wakiwemo watu walioshirikiana na maabara kadhaa kubwa, walitia saini tamko la sentensi moja mwaka 2023 wakiwahimiza watunga sera kuchukulia hatari ya kutoweka kama kipaumbele cha kimataifa. Linarekodi msimamo unaoshikiliwa na watiaji saini mashuhuri; halipimi uwezekano wa madhara:
Signatories to the Statement on AI Risk hold that mitigating the risk of extinction from AI should be a global priority alongside pandemics and nuclear war.
Ripoti ya Kimataifa ya Usalama wa AI ya 2026 inatumia makundi matatu mapana. Matumizi mabaya ni binadamu anayeelekeza kwa makusudi uwezo wa AI kuelekea madhara makubwa — magonjwa ya milipuko yaliyobuniwa, mashambulizi ya miundombinu, au silaha zinazojiendesha. Hitilafu zinajumuisha kushindwa kwa uaminifu na hali zinazowezekana za kupoteza udhibiti ambapo mifumo inafanya kazi nje ya udhibiti wa yeyote. Hatari za kimfumo zinatokana na matumizi mapana na mwingiliano wa kitaasisi, ikiwemo ujumuishaji wa mamlaka, msukosuko wa ajira, na kupoteza uwezo wa binadamu kujiamulia taratibu. Makundi yanaweza kuingiliana, na uzito wa ushahidi hutofautiana katika mifumo mbalimbali. Mwenyekiti wa ripoti hiyo amesisitiza hadharani kupoteza udhibiti:
Yoshua Bengio warned that future systems exhibiting self-preservation behavior could create a loss-of-control risk.
Geoffrey Hinton pia ametoa makadirio yake binafsi ya uwezekano. Ni hukumu ya kitaalamu chini ya kutokuwa na uhakika, si kipimo cha mara kwa mara:
Geoffrey Hinton said in a December 2024 BBC interview that he put the chance of AI causing human extinction within thirty years at 10–20%.
Kila ukurasa unatofautisha ushahidi ulioandikwa kutoka kwa utabiri na nadharia huku ukitaja hatua za kupunguza madhara ambazo watafiti wanapendekeza. Hakuna hata mmoja unaoeleza maelezo ya usanisi, unyonyaji, au shambulio mahususi — taarifa hiyo haitamfanya msomaji kuwa salama zaidi, na kuichapisha si kile ambacho maandalizi yenye ufahamu yanahitaji. Angalia kiwango cha vyanzo kwa jinsi madai yenye matokeo makubwa yanavyoainishwa na kuhakikiwa.