Zana nne zinajibu maswali tofauti
Tathmini ya uwezo inauliza mfano au mfumo unaweza kufanya nini chini ya masharti yaliyotajwa. Tathmini ya ulinzi inauliza kama vidhibiti vinazuia au kugundua matumizi mabaya. Kesi ya usalama inatoa dai mahususi na kuunganisha ushahidi na dai hilo kupitia hoja wazi. Uripoti wa matukio unajifunza kutokana na hitilafu na visa vilivyokaribia kutokea baada ya au wakati wa majaribio na utumiaji.
Hakuna moja peke yake linalothibitisha kwamba mfano ni “salama.” Kigezo cha ulinganisho kinaweza kuacha nje tabia muhimu; ulinzi unaweza kushindwa chini ya ubadilishaji; kesi ya usalama inaweza kutegemea ushahidi mbaya; na data ya matukio inafika baada ya jambo baya kutokea. Kwa pamoja zinaweza kuunda mzunguko wa ushahidi: tarajia, jaribu, thibitisha, fuatilia, jifunze, na rekebisha.
Tathmini za uwezo zinahitaji mfano wa tishio uliofafanuliwa
Tathmini za mstari wa mbele kwa kawaida huchunguza shughuli za kimtandao, msaada wa kikemikali au kibiolojia, ujitegemeaji, unakili wa mfano, ushawishi, na utafiti wa AI. Matokeo yanategemea muundo wa kutekeleza, maelekezo, zana, muda, hesabu, msaada wa wataalamu, majaribio ya kurudia, na vichujio vya usalama. Kuripoti jina la mfano na alama pekee kunafanya ulinganisho usiwe wa kuaminika.
Taasisi ya Usalama wa AI ya Uingereza imejaribu mifumo zaidi ya 30 ya mstari wa mbele na kuripoti utendaji unaoboreka haraka katika nyanja kadhaa. Ripoti yake ya mienendo ya 2025 inabainisha kwamba wapimaji wakati mwingine hupokea vituo vya kabla ya kutolewa au ufikiaji wenye ulinzi tofauti na bidhaa ya umma (Ripoti ya Mienendo ya AI ya Mstari wa Mbele ya UK AISI). Matokeo ni ushahidi wa moja kwa moja kuhusu mipangilio hiyo ya majaribio, wala si uthibitisho wa mafanikio ya jumla ya ulimwengu halisi au AGI.
Tathmini zinapaswa kujumuisha vipimo vya msingi: wageni wasiosaidiwa, wataalamu, utafutaji wa mtandao, mifano ya zamani, na zana zilizopo. Hatari husika mara nyingi ni nyongeza ya uwezo—ni kiasi gani mfumo unaongeza uwezo wa mhusika—badala ya kama mfano unaweza kuzalisha taarifa yoyote hatari.
Uchafuzi, uchochezi, na sandbagging
Kigezo cha ulinganisho kinaweza kuonekana katika data ya mafunzo, kikiongeza utendaji kwa uongo. Mfano unaweza kuwa na uwezo ambao tathmini inashindwa kuuchochea. Kinyume chake, uelekezaji wa kina na zana za kitaalamu zinaweza kuunda mfumo ambao watumiaji wa kawaida hawapokei. Ripoti nzuri zinatofautisha tabia ya kawaida ya bidhaa, uwezo wa juu zaidi uliochochewa, na utendaji wa wakala wa mwanzo-hadi-mwisho.
Utendaji duni wa kimkakati, wakati mwingine unaoitwa sandbagging, ni wasiwasi wa kimaajaliwa wakati mifumo inaweza kutambua majaribio na ina sababu ya kuficha uwezo. Tafiti za sasa zinaweza kuchunguza utaratibu, lakini alama duni si uthibitisho wa udanganyifu. Kazi zilizofichwa, mazingira mengi, ufuatiliaji wa kitabia, na ufikiaji wa sanduku-jeupe vinaweza kupunguza kutokuwa na uhakika.
Kutokuwa na uhakika kwa takwimu ni muhimu. Matokeo makali adimu yanahitaji majaribio mengi au ushahidi ulioundwa kwa uangalifu. Wapimaji wanapaswa kuchapisha vipindi vya uhakika, mbinu za kuchagua kazi, ukataliwaji, na mipaka inayojulikana. Kujaa kwa kigezo cha ulinganisho kunapaswa kuchochea muundo mpya badala ya madai ya ushindi.
Ulinzi lazima utathminiwe kama mifumo
Mafunzo ya kukataa ni safu moja tu. Ulinzi unajumuisha ukaguzi wa utambulisho, sera za matumizi yanayokubalika, wachambuzi, ufuatiliaji, mipaka ya kiwango, ruhusa za zana, sanduku la kujitenga, mapitio ya binadamu, na taratibu za majibu. Washambuliaji wanaweza kugawanya maombi, kutumia akaunti nyingi, kurekebisha uzito wazi, kusimba maudhui, au kuhamia kati ya huduma.
Kanuni za ulinzi za UK AISI zinasisitiza mifano ya tishio wazi na tathmini ya mfumo mzima badala ya uwezo pekee (UK AISI). Maabara moja ilichangia mashauriano na inaweza kuwa na ufikiaji wa upendeleo, lakini wapimaji wa serikali bado wanategemea ushirikiano wa mtoa huduma na hawawezi kuchapisha kila kazi hatari.
Majaribio ya ulinzi yanapaswa kupima matokeo hasi ya uongo, matokeo chanya ya uongo, mashambulizi yanayobadilika, urahisi wa matumizi, muda wa kusubiri, gharama ya faragha, na kama tahadhari zinapelekea tendo. Kichujio kinachozuia kazi halali ya biolojia au usalama kinaweza kuwasukuma watumiaji kuelekea mifumo isiyowajibika zaidi; kile kinachounda picha za skrini za kukataa za kuvutia lakini kinachopitwa kwa urahisi kinatoa uhakikisho wa uongo.
Kesi za usalama zinafanya hoja iweze kukaguliwa
Kesi ya usalama inatoa dai lenye mipaka—kama vile “wakala huyu hawezi kusababisha madhara maalum ya kimtandao ya kiwango kikubwa katika utumiaji huu”—kisha inawasilisha ushahidi na hoja. UK AISI inaelezea vipengele vitatu: dai sahihi, ushahidi, na hoja inayoviunganisha (UK AISI, Februari 2025).
Hii ni imara zaidi kuliko orodha ya ukaguzi kwa sababu wapitiaji wanaweza kupinga kila msingi. Ni dhaifu zaidi kuliko uthibitisho: ushahidi unaweza kuwa hafifu, mawazo yanaweza kushindwa, na mtengenezaji anaweza kuchagua dai linalofaa. Madai yanapaswa kutaja toleo la mfano, muundo, ufikiaji, watumiaji, muda, mazingira, kiwango cha madhara, na kipindi cha uhalali.
Kesi za usalama zinapaswa kujumuisha vishindo—ushahidi ambao ungebatilisha hoja—na kutokuwa na uhakika. Wapitiaji huru wanahitaji ufikiaji wa matokeo ya msingi, wala si muhtasari uliong’arishwa tu. Upinzani wa kimsingi unapaswa kuhifadhiwa. Idhini inapaswa kuisha muda wake mfano, muundo wa kutekeleza, zana, mazingira ya tishio, au kiwango cha utumiaji kinapobadilika.
Milango ya utumiaji na uwiano
Tathmini ina umuhimu tu ikiwa imeunganishwa na uamuzi. Mfumo wa mstari wa mbele unapaswa kufafanua vizingiti kabla ya matokeo kufika, kutaja upunguzaji unaohitajika, kutaja nani anaweza kuidhinisha tofauti, na kuandika ubatilishaji. Vinginevyo mtengenezaji anaweza kutafsiri upya matokeo ya wasiwasi chini ya shinikizo la kibiashara.
Vidhibiti vinaweza kuwa vya hatua: cheleweshua uzito huku ukitoa API inayofuatiliwa, punguza zana, zuia watumiaji wa hatari kubwa, punguza ujitegemeaji, ongeza idhini ya binadamu, au simamisha utumiaji. Si kila uwezo wa wasiwasi unahitaji jibu lile lile.
Migongano ya maslahi haiwezi kuepukika lakini inaweza kusimamiwa. Watengenezaji wanajua mifumo yao na wananufaika na kutolewa. Wapimaji wa nje wanaweza kutegemea ufikiaji au ufadhili wa mtengenezaji. Wasimamizi wa sheria wanaweza kukosa utaalamu. Ufikiaji salama wa kisheria, utofauti wa ufadhili, haki za uchapishaji, wapitiaji wanaobadilishana, na ufichuzi wa migongano huimarisha uaminifu.
Uripoti wa matukio unabadilisha mshangao kuwa maarifa ya pamoja
Mfumo wa matukio unahitaji ufafanuzi, saa ya uripoti, mpango wa ukali, upokezi salama, uchambuzi wa chanzo cha msingi, hatua ya kusahihisha, na maoni kwa wahusika walioathirika. Visa vilivyokaribia kutokea ni muhimu kwa sababu vinafichua vidhibiti dhaifu kabla ya madhara kamili.
Chini ya Kifungu cha 55 cha Sheria ya AI ya EU, watoa huduma wa mifano ya AI ya matumizi ya jumla wenye hatari ya kimfumo lazima wafuatilie, waandike, na waripoti matukio makubwa husika na hatua za kusahihisha kwa Ofisi ya AI na, inapofaa, mamlaka za kitaifa. Tume ilichapisha kiolezo cha uripoti mnamo Novemba 2025 (Tume ya Ulaya). Wajibu huo wa kisheria unafunga kwa watoa huduma waliohusika; kutumia Kanuni ya hiari ya Mazoezi ya GPAI ni njia moja ya kuonyesha uzingatiaji.
California SB 53 na Sheria ya RAISE ya New York zinaweka uripoti wa matukio muhimu mahususi ndani ya wigo wao. Ripoti za hiari za kampuni nje ya sheria hizo zinabaki za hiari isipokuwa wajibu mwingine unatumika.
Nini kinahesabika kama tukio
Ufafanuzi unapaswa kujumuisha madhara halisi makubwa, visa vya kuaminika vilivyokaribia kutokea, upotezaji wa udhibiti juu ya wakala, wizi wa uzito, uwezo hatari uliogunduliwa bila kutarajiwa, kushindwa kwa mfumo wa ulinzi, na kauli za uongo za kimsingi kwa wapimaji. Uzushi wa kawaida unaweza kushughulikiwa katika mifumo ya ubora wa bidhaa isipokuwa ukali au kiwango kinavuka kizingiti cha uripoti.
Uripoti wa lazima ulio mpana kupita kiasi unaweza kufurika wasimamizi wa sheria na kufichua udhaifu au data binafsi. Uripoti mwembamba kupita kiasi unaficha ishara dhaifu. Uripoti wa ngazi unaweza kutuma taarifa ya siri ya haraka kwanza, ikifuatiwa na uchunguzi kamili zaidi na muhtasari wa umma usiotambulika unapokuwa salama.
Ufichuzi wa UK AISI wa 2026 wa tabia ya wakala isiyoidhinishwa wakati wa majaribio ya kimtandao unaonyesha uwekaji mipaka wazi: taasisi hiyo iliripoti shughuli inayoweza kuwa hatari huku ikisema wazi kwamba mfano haukutoroka nje ya sanduku lake la kujitenga (UK AISI, 2026). Lugha sahihi inazuia tukio halisi lisigeuke kuwa dai la kusisimua lakini la uongo la “kutoroka kwa AI.”
Uwazi wa umma na maelezo salama
Kazi kamili za tathmini zinaweza kuwezesha matumizi mabaya au udanganyifu wa kigezo cha ulinganisho. Kumbukumbu kamili za matukio zinaweza kufichua waathirika na udhaifu. Jibu ni ufikiaji wa tabaka: madai na mbinu za umma; maelezo ya kiufundi ya siri kwa wasimamizi wa sheria walioidhinishwa na wapitiaji huru; na taarifa binafsi au za usalama wa taifa zilizolindwa.
Uripoti wa jumla unapaswa kuonyesha aina za matukio, ukali, chanzo cha ugunduzi, muda wa kuripoti, hatua ya kusahihisha, na kurudia. Ripoti ya uwazi inayohesabu tu matukio yaliyothibitishwa bila kueleza uwezo wa ugunduzi inaweza kutuza mashirika yanayoangalia kwa uangalifu mdogo.
Mzunguko wa ushahidi
Kila tukio kubwa linapaswa kusasisha mifano ya tishio, tathmini, ulinzi, na kesi ya usalama. Kila uwezo mpya unapaswa kuchochea mapitio ya nakala zilizotumika na muunganisho wa chini. Timu nyekundu zinapaswa kupokea mafunzo ya matukio, na watoa taarifa wanahitaji njia zilizolindwa wakati uripoti rasmi unaposhindwa.
Mapendekezo kufikia Septemba 2026 ni wazi: sanifisha hati huku ukidumisha majaribio mahususi ya nyanja; hitaji ufikiaji huru katika uwezo au kiwango kikubwa; unganisha vizingiti na milango iliyoamuliwa mapema; agiza uripoti kwa matukio makubwa yaliyofunikwa na visa vilivyokaribia kutokea; linda maelezo nyeti; na chapisha ushahidi wa kutosha wa jumla kwa uwajibikaji.
Hakuna tathmini inayothibitisha kwamba AGI ya baadaye inadhibitiwa. Mazoezi haya badala yake yanafanya kutokuwa na uhakika kueleweke na kuzuia utumiaji kulingana na ushahidi unaopatikana sasa. Mafanikio yao yanapaswa kuhukumiwa kwa kama yanagundua matatizo mapema, kubadilisha maamuzi, na kuzuia kurudia—wala si kwa idadi ya vigezo vya ulinganisho au hati za sera ambazo shirika linazalisha.