Miundombinu ni ramani ya usimamizi, wala si orodha ya malengo
AI ya mstari wa mbele inategemea chip za hali ya juu, vifaa vya utengenezaji wa nusu-condukta, vituo vikubwa vya data, huduma za wingu, umeme, mtandao, na wafanyakazi waliofunzwa. Mkusanyiko huo unawapa serikali, waendeshaji, wateja, na watengenezaji njia halali za kuweka masharti ya usalama. Hauhalalishi uvamizi, hujuma, ukatili, au kuingilia umeme na mawasiliano. Mashambulizi ya kimwili yangehatarisha wafanyakazi na jamii, kuvuruga huduma zisizohusiana, kuharibu ushahidi, na huenda kupunguza uwezo wa jamii wa kudhibiti tukio.
Swali la manufaa ni la kitaasisi: ni mtenda gani aliyeidhinishwa anayeweza kuzuia shughuli hatari, chini ya kanuni gani, kwa ushahidi gani, na uamuzi unaweza kubadilishwa vipi kwa usalama? Jibu linabadilika katika mzunguko wa maisha wa AI.
Nyuso nne za udhibiti ambazo hazipaswi kuchanganywa
Vidhibiti vya mafunzo vinasimamia uundaji au uboreshaji mkubwa wa mfano. Mzunguko wa mafunzo wa mstari wa mbele unaweza kutumia kundi kubwa, linaloweza kutambulika kijiografia kwa wiki au miezi. Hatua husika ni pamoja na uangalifu wa mteja, viwango vya usalama, uhesabu wa kikokotoo, tathmini za kabla-ya-uwekaji, na masharti ya kimkataba au kikanuni juu ya mizunguko mikubwa isiyo ya kawaida. Vidhibiti vya mafunzo vinatenda kabla mfano haujawepo katika umbo lake la mwisho; kusimamisha mzunguko hakurejeshi uzito wa awali.
Vidhibiti vya uzito wa mfano vinalinda faili za vigezo vilivyojifunzwa. Uzito unaweza kunakiliwa, kuibiwa, kurekebishwa, na kuendeshwa mahali pengine. Usalama unaweza kujumuisha ufikivu unaotegemea vifaa, mgawanyo wa majukumu, usimbaji fiche, ufuatiliaji, taratibu za hatari za ndani, na mwitikio wa matukio. Mara uzito wenye uwezo unapotolewa kwa upana, ufutaji wa kati unaweza kuwa haiwezekani. Utoaji huria unaweza kusaidia utafiti na ushindani, hivyo vizuizi vinapaswa kuwa na msingi wa hatari iliyothibitishwa na kuunganishwa na ufikivu huru pale inawezekana.
Vidhibiti vya uwekaji vinasimamia mfano au programu iliyowekwa kwenye mtandao. Mwendeshaji anaweza kufuta hati za idhini, kuzima zana, kurejesha nyuma toleo la mfano, kuweka kikomo cha kasi au eneo, kuweka mtumiaji katika kiwango cha juu cha uhakika, na kufuatilia matumizi mabaya. Vidhibiti hivi ni sahihi na vinaweza kubadilishwa kiasi. Vinashindwa, hata hivyo, iwapo nakala za mkondo wa chini, matokeo yaliyohifadhiwa, au uzito ulioendeshwa kwa uhuru bado unapatikana.
Vidhibiti vya uendeshaji vinasimamia hesabu inayotumika wakati mfumo unazalisha matokeo au kuchukua hatua. Uendeshaji unaweza kutokea kwenye wingu la kati, mazingira ya biashara, simu, au kundi lililosambazwa. Mtoa huduma anaweza kuzuia uendeshaji wake mwenyewe uliowekwa lakini hawezi kusimamisha kiotomatiki nakala za kienyeji. Kikokotoo cha wakati wa uendeshaji, ruhusa za zana, ufikivu wa data, na kiasi cha hatua vinaweza kuwa na umuhimu zaidi kuliko gharama ya awali ya mafunzo kwa hatari iliyowekwa.
Kuita nyuso zote nne “kizuizi cha kikokotoo” kunaficha tofauti hizi. Uingiliaji halali unapaswa kutaja uso husika na athari inayotarajiwa.
Udhibiti wa uendeshaji ndani ya shirika
Mashirika yanahitaji zaidi ya “kitufe cha kuzima” cha kushangaza. Yanahitaji utaratibu wa hali salama uliozoeleka. Kusimamisha mfumo ghafla kunaweza kuharibu data, kukatiza michakato ya kliniki au ya viwandani, kuwaacha watumiaji wamesimama, au kuchochea mipangilio isiyo salama ya kawaida. Mwitikio sahihi unaweza kuwa ufutaji wa ruhusa, kupunguza trafiki, kutenganisha, kurejesha nyuma, au kuhamishia udhibiti wa mikono badala ya kuzima kila kitu.
Mpango wa uzalishaji unapaswa kujumuisha:
- Hesabu: bainisha kila mfano, toleo, zana, hati ya idhini, seti ya data, muuzaji, na utegemezi wa mkondo wa chini.
- Mamlaka: taja watu wanaoweza kuzuia huduma na bainisha wanapoweza kutenda bila kusubiri idhini ya kawaida.
- Ruhusa ndogo zaidi: mpe mfumo data na hatua zinazohitajika kwa kazi yake pekee; tumia hati za idhini zenye muda mfupi pale inawezekana.
- Ufuatiliaji: rekodi matoleo ya mfano, vidokezo au muhtasari salama wa matukio, wito wa zana, idhini, matokeo, na mabadiliko ya mipangilio huku ukiheshimu faragha.
- Uzuiaji: saidia utengano wa haraka kutoka mitandao, zana, uhamishaji wa fedha, uwekaji wa msimbo, au vidhibiti vya kimwili.
- Kurejesha nyuma: dumisha toleo linalojulikana kuwa zuri, umbizo la data linalofanana, na mchakato wa urejeshaji uliojaribiwa.
- Njia mbadala ya binadamu: dumisha wafanyakazi waliofunzwa, maelekezo, ufikivu, na uwezo wa kutoa huduma muhimu iliyodhoofishwa.
- Mazoezi: endesha mazoezi ya meza na ya kiufundi, rekodi kushindwa, na yasahihi.
Mfumo wa Usimamizi wa Hatari ya AI wa NIST unaitaka usimamizi wa mzunguko wa maisha, uwajibikaji, ufuatiliaji endelevu, taratibu za dharura kwa kushindwa kwa wahusika wa tatu, na kuvunja salama (Msingi wa AI RMF ya NIST). Ni mwongozo wa hiari, wala si uthibitisho kwamba shirika mahususi limetekeleza mazoea haya.
Ufutaji wa ruhusa mara nyingi ni breki ya haraka zaidi
Mfumo wa AI unakuwa na matokeo makubwa zaidi unapounganishwa na barua pepe, msimbo wa uzalishaji, akaunti za kifedha, zana za maabara, mifumo ya kitambulisho, au teknolojia ya uendeshaji. Kufuta ruhusa hizo kunaweza kupunguza madhara huku ukidumisha mfano kwa ajili ya uchunguzi. Ufikivu unapaswa kugawanywa ili uamuzi mmoja uweze kuzima uwezo hatari bila kuporomosha huduma zisizohusiana.
Hati za idhini hazipaswi kuwekwa kwa kudumu ndani ya vidokezo au faili za mfano. Waendeshaji wanapaswa kutumia utambulisho wa huduma uliowekewa mipaka, muda mfupi wa kuisha, malango ya idhini kwa hatua zenye athari kubwa, na vidhibiti huru ambavyo mfumo hauwezi kubadilisha. Ufikivu wa kuvunja-glasi unahitaji kumbukumbu na upitiaji wake mwenyewe. Mfumo haupaswi kuweza kujipa ruhusa pana zaidi.
Kwa muuzaji wa nje, mikataba inapaswa kuhakikisha usimamishaji kwa wakati, uhifadhi wa ushahidi, uhamishaji wa data, na msaada wa uhamishaji. Vinginevyo mteja anaweza kugundua wakati wa tukio kwamba hawezi kukagua kumbukumbu au kurejesha sasisho la kiotomatiki.
Njia mbadala ya binadamu ni miundombinu
Huduma muhimu zinahitaji hali ya kufanya kazi iliyodhoofishwa. Hilo halimaanishi kila mchakato unaweza kurejea papo hapo kwa karatasi. Linamaanisha waendeshaji wanaamua mapema kazi zipi lazima ziendelee, kwa uwezo gani wa chini, na wafanyakazi na mawasiliano gani. Umeme, maji, afya, fedha, usafiri, na manufaa ya umma vina vikwazo tofauti vya usalama.
Utaratibu wa mikono ambao hakuna mfanyakazi aliyeufanya mazoezi si njia mbadala. Mashirika yanapaswa kufunza wafanyakazi, kudumisha violesura muhimu visivyo vya AI, kujaribu urejeshaji kutoka nakala za akiba zisizo mtandaoni, na kupima muda gani hali iliyodhoofishwa inaweza kufanya kazi. Wauzaji na wakala wa umma wanapaswa kuratibu utegemezi: mpango wa hospitali unaweza kushindwa iwapo mtoa huduma wake wa utambulisho, huduma ya wingu, na mtandao wa maduka ya dawa vyote vinadhania vingine vinabaki mtandaoni.
Wakala wa Usalama wa Kimtandao na Miundombinu unapendekeza upangaji wa mwitikio wa matukio, uelewa wa mali, mgawanyo, na mazoezi ya urejeshaji kwa miundombinu muhimu (Malengo ya Utendaji wa Usalama wa Kimtandao wa CISA). Mwitikio mahususi wa AI unapaswa kuwa ndani, wala si nje, ya programu zilizoanzishwa za usalama na usalama wa kimtandao.
Ushawishi wa serikali na mteja
Serikali zinaweza kuambatanisha masharti kwa ununuzi, leseni, ruzuku, ufikivu wa rasilimali za umma, na huduma muhimu zilizosimamiwa. Watoa huduma wa wingu na vituo vya data wanaweza kufanya uangalifu unaoendana na sheria. Mashirika ya huduma na mamlaka za kienyeji zinaweza kutumia kanuni za kawaida za kutegemewa, mazingira, matumizi ya ardhi, na upangaji wa dharura bila kugeuza sera ya miundombinu kuwa marufuku ya kificho ya AI yote.
Wateja wana ushawishi kupitia mikataba. Kabla ya ununuzi, hitaji nyaraka za mfumo, matokeo ya tathmini husika kwa matumizi, taarifa ya usalama, udhibiti wa toleo, haki za ukaguzi, ushirikiano wa matukio, uhamishaji wa data, na mpango wa kutoka. Mteja anapaswa kujua kama muuzaji anaweza kubadilisha mfano mpya kimya kimya na kama huduma inabaki inapatikana wakati wa kurejesha nyuma.
Hatua hizi zinahitaji mchakato wa haki. Kizuizi kinapaswa kuwa na msingi wa kisheria uliobainishwa, kiwango cha ushahidi, mtoa maamuzi mwenye uwajibikaji, muda, na njia ya upitiaji. Mamlaka ya dharura inaweza kuwa muhimu, lakini udhibiti wa siri usio na mwisho unaalika unyanyasaji.
Mkusanyiko unaunda ushawishi na udhaifu
Mkondo wa ugavi wa chip na wingu uliokusanyika unaweza kufanya uangalizi kuwa wa vitendo, lakini pia unaunda vituo vimoja vya kushindwa, nguvu ya soko, na udhaifu wa kijiografia-kisiasa. Ugatuzi unaweza kuboresha uimara na ushindani huku ukifanya urejeshaji na ulinzi thabiti kuwa mgumu zaidi. Wala mkusanyiko wala uwazi si salama kwa asili.
Sera inapaswa kutofautisha uhaba unaoakisi uhandisi halisi kutoka uhaba ulioundwa na mikataba ya kipekee au kufungwa. Uwezo wa kufanya kazi pamoja, upangaji wa wingu-nyingi, umbizo la kawaida la matukio, na kumbukumbu zinazohamishika zinaweza kupunguza utegemezi bila kudhania kwamba kila mzigo wa kazi unaweza kuhamishwa papo hapo.
Hitimisho la vitendo
Jamii inadumisha ushawishi wenye maana juu ya AI kupitia sheria, ununuzi, mamlaka ya kikampuni, udhibiti wa ufikivu wa kiufundi, na muundo wa huduma unaostahimili. Hatua sahihi ni nadra kuwa kuzima kwa maonyesho. Ni uingiliaji mahususi, ulioidhinishwa katika mafunzo, uzito, uwekaji, au uendeshaji—pamoja na uzuiaji, uhifadhi wa ushahidi, kurejesha nyuma, na muendelezo.
Miundombinu inakuwa ya ulinzi wakati watu wanajua nani anaweza kutenda na wamefanya mazoezi ya kile kinachotokea baadaye. Udhibiti halali una nguvu zaidi unapokuwa sahihi vya kutosha kupunguza hatari bila kuunda dharura ya pili.