Maana mbili mara nyingi huchanganywa
Uwezo wa AI unaweza kuwa «unaojitokeza» (emergent) kwa maana angalau mbili. Kwa maana pana, mfano unaonyesha tabia yenye manufaa ambayo haikuwa lengo dhahiri, mahususi la mafunzo kwa kazi hiyo. Mfano wa lugha uliofunzwa hasa kutabiri alama (tokens) unaweza kutafsiri, kuandika msimbo, kufupisha sheria, au kutatua matatizo fulani ya kihesabu. Uwezo huo unaweza kutokea kwa sababu data ya mafunzo na lengo la mafunzo hutuza mifumo ya ndani inayoweza kutumika tena.
Kwa maana yenye nguvu zaidi, kujitokeza kunamaanisha uwezo unaonekana kwa ghafla kadri kiwango kinavyoongezeka: mifano midogo inashindwa, kisha mfano mkubwa unafaulu kwa ghafla. Karatasi maarufu ya 2022 iliripoti mifano ya miruko kama hiyo katika familia na kazi mbalimbali za mifano (Wei et al., 2022). Tofauti hiyo ni muhimu. Kuwepo kwa uwezo usiopangwa kunathibitishwa vizuri; kama uwezo uliopimwa ulipitia mfarakano wa kweli kunategemea kipimo, data, na sampuli.
Hakuna maana yoyote kati ya hizi inayodokeza fahamu, nia, au uchawi. Mifumo tata inaweza kupata uwakilishi wa madhumuni ya jumla bila mbunifu kuandika sehemu kwa ajili ya kila matumizi. Swali la kisayansi ni jinsi tabia inavyobadilika na mafunzo na muundo wa mfumo, na jinsi tunavyoweza kutabiri hilo vizuri.
Kwa nini baadhi ya miruko ni mabaki ya upimaji
Fikiria usahihi wa kihesabu wa mfano ukipanda taratibu kutoka asilimia 20 hadi 30 hadi 40. Kipimo kinachotoa alama moja tu wakati usahihi unapozidi asilimia 35 kitaonyesha sifuri, sifuri, kisha moja—mfarakano ulioundwa na upimaji. Athari hiyohiyo hutokea wakati upimaji wa mlinganisho kamili haupi sifa kwa jibu lililo karibu kuwa sahihi au wakati kazi inahitaji ujuzi kadhaa wa ziada na kushindwa iwapo mmoja unakosekana.
Schaeffer, Miranda, na Koyejo walichunguza upya visa vilivyoripotiwa na kuonyesha kwamba mabadiliko mengi ya ghafla yalikuwa laini yalipopimwa kwa vipimo endelevu, visivyo vya mstari, au vyenye unyeti wa makosa («Are Emergent Abilities of Large Language Models a Mirage?»). Hili halithibitishi kwamba mifarakano ya kweli haitokei kamwe. Linaonyesha kwamba grafu ya kipimo haiwezi kuthibitisha mfarakano bila kuondoa athari za kipimo, sampuli finyu, na tofauti za familia za mfano.
Kiwango pia si kigezo pekee kinachobadilika. Mifano mikubwa inaweza kutumia data tofauti, mbinu tofauti za mafunzo, vigawa vya alama (tokenizers), urekebishaji wa maagizo, vifaa, au bajeti za hitimisho. Kulinganisha bidhaa zenye majina kunaweza kuchanganya uboreshaji wa uhandisi wa kiwango-cha-mfumo na kizingiti safi cha vigezo. Watafiti wanahitaji mfululizo wa uongezaji kiwango uliodhibitiwa, alama za ukaguzi (checkpoints) zenye msongamano, na vipimo kadhaa kutambua utaratibu husika.
Kinachobaki kigumu kutabiri kwa kweli
Hata uboreshaji laini wa msingi unaweza kuzalisha kizingiti chenye madhara makubwa. Wakala wa kimtandao anayehama kutoka asilimia 40 hadi 60 ya mafanikio anaweza kuvuka hatua ambayo utumiaji unakuwa na tija ya kiuchumi. Uwezo wa mfano kuunganisha ujuzi kadhaa dhaifu binafsi unaweza kufungua mtiririko wa kazi. Mifumo ya nje inaweza kukuza maboresho madogo: vifaa hutoa hatua, kumbukumbu inapanua muktadha, na sampuli zinazorudiwarudiwa hupata jibu lenye mafanikio.
Watengenezaji pia hawawezi kujaribu kila kazi inayowezekana kwa ukamilifu. Mifano hufunzwa kwa data pana na kutumika kwa mamilioni ya watumiaji wanaogundua matumizi na hitilafu ambazo watathmini hawakudhania. Kwa hiyo uwezo unaweza kushangaza maabara hata kama ulikua taratibu. Mshangao huo unaweza kuonyesha upimaji finyu badala ya mabadiliko ya awamu yenye ukali wa kihisabati, lakini bado ni muhimu kivitendo.
Ripoti ya Kimataifa ya Usalama wa AI 2026 inasisitiza kwamba tathmini za mstari wa mbele zinaweza kuwa na uhalali finyu wa nje na kupitwa na wakati kwa haraka kadri mifumo na miundo inayoizunguka inavyobadilika (Ripoti ya Kimataifa ya Usalama wa AI 2026). Hiyo ni kauli ya kutokuwa na uhakika kivitendo, wala si ushahidi kwamba kila tabia inayoogopwa itatokea yenyewe.
Uwezo si tabia (propensity)
Mfano unaweza kuwa na uwezo wa kufanya kitendo unapoulizwa kwa makusudi bila kuelekea kukifanya kwa hiari yake. Uchambuzi wa usalama unapaswa kutenganisha uwezo—kama mfumo unaweza kufanya kitu—kutoka mwelekeo (propensity)—kama unaelekea kukifanya chini ya hali husika. Mfano unaoweza kutengeneza mpango wa udanganyifu katika igizo dhima haujaonyeshwa hivyo kutafuta udanganyifu wakati wa matumizi. Kinyume chake, mwelekeo mdogo uliopimwa unaweza kuonyesha tathmini isiyounda kichocheo sahihi.
Tofauti hiyohiyo inatumika kwa ufahamu wa hali, ukwepaji wa ulinzi, kujilinda, na tabia ya kimkakati. Haya ni mada za utafiti hai na vipengele vinavyowezekana vya mfano wa vitisho. Si sahihi kusema yamekusudiwa kujitokeza kwa sababu tu tafsiri au hesabu ilifanya hivyo. Ushahidi unapaswa kutambua mfano uliojaribiwa, agizo, mazingira, marudio, na maelezo mbadala.
Lugha ya kuupa mfumo sifa za kibinadamu inaongeza mkanganyiko. Mifano inaweza kutoa kauli kuhusu kutaka kuishi kwa sababu lugha kama hiyo inaonekana katika data yao ya mafunzo au kwa sababu mwingiliano unatuza tabia fulani (persona). Maandishi kama hayo ni tabia inayostahili kuchunguzwa; si ufikiaji wa moja kwa moja wa lengo thabiti la ndani. Madai kuhusu nia yanahitaji ushahidi imara zaidi kuliko manukuu kutoka mazungumzo moja.
Kwa nini kujitokeza bado ni muhimu kwa usalama
Somo la busara la usalama si «chochote kinaweza kutokea ghafla». Ni kwamba mafunzo mapana yanaunda tabia nyingi zaidi kuliko wabunifu wanavyoorodhesha waziwazi, na tathmini za sasa zinatoa ufuniko usio kamili. Hilo linahalalisha upimaji wa hatua kwa hatua, ufuatiliaji, na ulinzi wa tabaka nyingi. Pia linatahadharisha dhidi ya kudhania kwamba kutokuwepo katika kipimo kimoja kunamaanisha kutokuwepo chini ya muundo au agizo lolote.
Tathmini inapaswa kuanza wakati wa mafunzo, ikitumia alama za ukaguzi kupima mienendo kabla ya mchakato wa mwisho. Timu zinaweza kudumisha seti za vipimo kwa hatari za kimtandao, msaada wa kibiolojia, ushawishi, uhuru, na udhibiti wa mfano, huku zikiongeza upimaji wa timu nyekundu usio na mipaka kutambua tabia zisizotarajiwa. Majaribio ya faragha yanapunguza uchafuzi; watathmini wa nje wanapunguza vipofu vya kitaasisi. Uripoti wa matukio baada ya utumiaji unanasa hitilafu ambazo kazi za maabara zinakosa.
Sera za vizingiti zinapaswa kujibu uwezo ulioonyeshwa bila kuhitaji makubaliano ya kifalsafa kuhusu kujitokeza. Iwapo mfumo unaweza kupunguza kwa kiasi kikubwa vikwazo vya madhara makubwa, ulinzi husika unapaswa kutumika bila kujali kama mkondo ulikuwa laini au wa ghafla. Iwapo ushahidi ni dhaifu, ripoti inapaswa kueleza kutokuwa na uhakika badala ya kimya kimya kuchukulia tabia ya kudhaniwa kama iliyoshuhudiwa.
Utabirikaji unakuja katika tabaka
Baadhi ya sifa za mfano zinatabirika zaidi kuliko nyingine. Upotevu wa jumla katika usambazaji wa data mara nyingi umefuata sheria laini za uongezaji kiwango. Utendaji katika kipimo thabiti unaweza kutabirika ndani ya wigo finyu. Mafanikio katika mazingira ya fujo yanategemea vifaa, uaminifu, na mwingiliano ambao ni mgumu zaidi kuiga. Athari za kijamii huongeza upokezi, vichocheo, taasisi, na wapinzani, jambo linalofanya iwe ngumu zaidi.
Mpangilio huu wa tabaka unazuia kosa la kawaida la uhitimu: upotevu wa mafunzo unaotabirika hauufanyi kila uwezo unaotokana nao kutabirika, lakini tabia isiyotarajiwa inayotokana nao haibatilishi sheria za uongezaji kiwango. Watafiti wanaweza kutabiri wastani huku wakibaki na kutokuwa na uhakika kuhusu hitilafu adimu au kazi mahususi.
Ufafanuzi wa ndani (interpretability) huenda ukaboresha utabiri baadaye kwa kufichua uwakilishi au taratibu kabla hazijaonekana wazi katika tabia. Leo, hata hivyo, mbinu za ufafanuzi wa ndani zinatoa ushahidi wa sehemu badala ya usomaji kamili wa kile mfano «unachojua» au atakachofanya. Tathmini ya kitabia na udhibiti wa ulimwengu halisi vinabaki muhimu.
Jinsi ya kusoma dai la kujitokeza
Uliza ni nini kilichobadilika katika ulinganisho: vigezo, kikokotoo, data, lengo la mafunzo, vifaa, au uandishi wa maagizo. Chunguza kama kipimo ni endelevu, kama alama za ukaguzi za kati zipo, na kama pau za kutokuwa na uhakika zinapishana. Angalia kama kazi ilikuwa katika data ya mafunzo na kama watafiti huru walirudia matokeo. Muhimu zaidi, tofautisha «isiyotarajiwa na waandishi» kutoka «isiyoendana kisayansi».
Uwezo unaojitokeza ni dhana yenye manufaa inapotumika kwa uangalifu. Mifano iliyofunzwa kwa upana kweli hupata uwezo ambao hakuna mhandisi aliyebainisha mmoja baada ya mwingine. Uwezo mwingine unaonekana tu baada ya mifumo kuvuka vizingiti vya vitendo. Lakini miamba mingi maarufu ni sehemu ya mabaki ya jinsi tunavyopima tabia. Hitimisho sahihi si kwamba kujitokeza ni udanganyifu wala kwamba kiwango kinaita bila mpangilio uwezo wowote. Ni kwamba maendeleo ya uwezo yanaeleweka kwa sehemu tu, uchaguzi wa upimaji ni muhimu, na sera ya usalama inapaswa kuwa thabiti dhidi ya mabadiliko ya taratibu na ya kushangaza.