Anza na kazi, wala si lebo
Silaha ya kujitegemea kwa ujumla inaeleweka kama mfumo ambao, mara unapoanzishwa, unaweza kuchagua na kushambulia malengo bila binadamu kuidhinisha kila shambulio moja moja. Ufafanuzi unabaki wa mzozo kwa sababu ujitegemeaji si swichi moja. Binadamu wanaweza kuchagua eneo la misheni na aina ya lengo huku programu ikisafiri, kutambua kitu, kupendekeza tendo, au kuamua wakati hasa wa kurusha.
Wigo huu unajumuisha mifumo ya muda mrefu kama vinyakuzi vya ulinzi pamoja na milipuko mipya inayozunguka-zunguka, makundi ya ndege zisizo na rubani, zana za ulengaji zinazosaidiwa na AI, na roboti za ardhini zenye silaha — jukwaa la magurudumu, mnyororo, na miguu lililochunguzwa katika ukurasa wa mwongozo huu wa roboti za ardhini na binadamu-umbo za kijeshi. Hatari inategemea mazingira, lengo, shinikizo la muda, utabirikaji, mawasiliano, na matokeo ya kosa. Mfumo uliobanwa kwa ukali unaozuia milipuko inayokuja ni tofauti na ule unaotafuta mji kwa watu.
Msaada wa maamuzi unaosaidiwa na AI pia unastahili uchunguzi hata wakati binadamu anavuta kwa hakika kifyatuo. Ikiwa mwendeshaji anapokea mamia ya malengo yaliyozalishwa na mashine chini ya shinikizo kali la muda, idhini inaweza kuwa muhuri wa mpira tu. “Binadamu ndani ya mzunguko” haisemi mengi isipokuwa mtu ana taarifa, mamlaka, muda, na mafunzo ya kupinga mfumo.
Kilichoandikwa—na kinachobaki cha mzozo
Ripoti ya Jopo la Wataalamu la Umoja wa Mataifa ya 2021 kuhusu Libya ilielezea milipuko inayozunguka-zunguka ya Kargu-2 na mifumo mingine iliyotumika dhidi ya nguvu zinazorudi nyuma, ikibainisha kwamba mifumo hiyo iliprogramiwa kushambulia malengo bila kuhitaji muunganiko wa data kati ya mwendeshaji na kilipuzi (ripoti ya UN ya Libya, aya ya 63). Kifungu hicho mara nyingi kinaitwa shambulio la kwanza la ndege isiyo na rubani ya kujitegemea dhidi ya binadamu. Hata hivyo, ripoti ya umma haithibitishi kwa uhakika kwamba Kargu-2 ilichagua na kuua mtu kwa kujitegemea. Wataalamu wanabishana kuhusu hali ya uendeshaji na matokeo. Ni ushahidi wa utumiaji katika muktadha husika, wala si uthibitisho wa mauaji ya kujitegemea yaliyothibitishwa.
Mizozo ya hivi karibuni zaidi imekuwa na matumizi makubwa ya ndege zisizo na rubani, uoni wa kompyuta, uchakataji wa ujasusi wa kiotomatiki, na mapendekezo ya malengo yanayosaidiwa na AI. Uripoti wa umma mara nyingi unakosa ufikiaji wa kutosha wa kiufundi kubaini mfano upi ulifanya kazi ipi au kiasi gani cha udhibiti waendeshaji walihifadhi. Madai ya kijeshi, maelezo ya muuzaji, na akaunti za vyombo vya habari zinapaswa kuwekewa lebo badala ya kuunganishwa kuwa uhakika mmoja.
Mwelekeo wa maendeleo hata hivyo ni wazi: majeshi yanawekeza katika mifumo inayoweza kufanya kazi wakati mawasiliano yamezuiwa, kuchakata data ya vitambuzi haraka, na kuratibu mifumo mingi ya bei nafuu. Ujitegemeaji mkubwa unaweza kuvutia kimkakati kwa sababu kiungo cha udhibiti wa mbali wa kudumu ni dhaifu. Kama hilo linazalisha usahihi salama zaidi au vurugu ya haraka zaidi, isiyowajibika zaidi inategemea muundo na fundisho.
Njia tatu tofauti za kuongezeka
Kuongezeka kwa kasi kunatokea wakati onyo, ulengaji, au jibu la kiotomatiki linabana muda wa uamuzi. Katika mgogoro, viongozi wanaweza kuogopa kwamba kusubiri kunaruhusu mfumo wa mpinzani wa kasi ya mashine kupata faida. Hilo linaweza kuunda shinikizo la kuidhinisha mapema vitendo. Usomaji wa uongo wa vitambuzi, kosa la mfano, au ujanja usio wazi vinaweza kuenea kabla watu hawajaelewa.
Kuongezeka kwa kiwango kunatokea wakati ujitegemeaji unafanya kuwa nafuu zaidi kuratibu mifumo mingi au kuzalisha malengo. Shirika la binadamu ambalo lingeweza kupitia kwa uangalifu maamuzi kumi kadhaa huenda lisipitie kwa maana maelfu. Kiwango kikubwa zaidi kinaweza kuongeza mikutano ya bahati mbaya, madhara kwa raia, na madai ya kulipiza kisasi hata kama kila mfumo ni sahihi zaidi kibinafsi.
Kuongezeka kwa mtazamo kunatokea wakati mataifa yanasoma vibaya mfumo wa adui, fundisho, au kiwango cha udhibiti. Usiri unafanya iwe vigumu kujua kama silaha ni ya ulinzi, kama tendo lilikuwa la makusudi, au kama binadamu anaweza kuisimamisha. Pendekezo lililozalishwa na AI linaweza kuonekana la lengo kwa upande mmoja na la uchokozi kwa mwingine.
Hizi ni taratibu zinazowezekana, wala si ushahidi kwamba AI itaanzisha vita bila shaka. Otomatiki pia inaweza kuboresha onyo, kupunguza mzigo wa mwendeshaji, kuzuia vitisho, na kusaidia kupunguza mzozo. Matokeo yanategemea majaribio, mawasiliano, fundisho, na vizuizi vya pamoja.
Mifumo ya nyuklia inastahili kiwango cha juu zaidi
Kuunganisha AI na amri ya nyuklia, udhibiti, mawasiliano, au onyo la mapema kunaleta hatari za kipekee. Ujifunzaji wa mashine unaweza kusaidia kuchambua mikondo mikubwa ya vitambuzi, lakini makosa yasiyo wazi, udanganyifu wa kipinzani, na mabadiliko ya usambazaji ni hatari ambapo kujiamini kwa uongo kunaweza kuwa janga. Hatari si lazima iwe AI ikirusha “nyuklia” kwa kujitegemea. Inajumuisha viongozi kupokea ushauri uliobanwa, usiopimwa vizuri ndani ya dakika.
Kudumisha uwajibikaji wa binadamu juu ya maamuzi ya matumizi ya nyuklia hivyo ni zaidi ya ishara tu. Mifumo inapaswa kutoa kutokuwa na uhakika na asili, kuhifadhi njia huru, kupinga udanganyifu, na kuwapa viongozi muda wa kuthibitisha. Hakuna matokeo moja ya mfano yanayopaswa kuwa kiashiria cha maamuzi. Mazoezi yanapaswa kujumuisha kushindwa kwa AI na udanganyifu wa makusudi, wala si uharibifu wa vifaa pekee.
Uwajibikaji hauwezi kuishia kwenye kanuni
Sheria ya kimataifa ya kibinadamu inatumika bila kujali teknolojia inayotumika. Utofautishaji, uwiano, na tahadhari katika shambulio zinabaki wajibu wa binadamu na jimbo. Hata hivyo, ujitegemeaji unachanganya uchunguzi: matokeo ya madhara yanaweza kuhusisha data ya mafunzo, mipaka ya vitambuzi, vigezo vya kamanda, sasisho la programu, au matumizi mabaya ya mwendeshaji.
Utata huo si udhuru wa pengo la uwajibikaji. Mataifa yanaweza kuhitaji kumbukumbu zinazoweza kufuatiliwa, mapitio ya kisheria, majaribio yanayoweza kukaguliwa, uwajibikaji wazi wa amri, na mipaka ya mazingira ambapo mfumo unaweza kufanya kazi. Watengenezaji na makamanda wanapaswa kufafanua njia za kushindwa zinazoweza kutabiriwa na masharti ya kusimamisha. Mfumo usiotabirika mno kupitiwa haupaswi kutumika kwa sababu tu wajibu umesambazwa.
Upendeleo na muktadha pia ni muhimu. Mfumo wa uoni uliojaribiwa kwa picha safi unaweza kushindwa katika hali ya hewa, magofu, ufichaji, au watu wasiofahamika. Maadui wanaweza kudanganya vitambuzi kwa makusudi. Usahihi wa wastani katika seti ya majaribio hauwezi kujibu kama mfumo ni wa kuaminika kwa aina mahususi ya lengo na mazingira.
Mandhari ya sera ya kimataifa
Mataifa yamejadili silaha za kujitegemea zenye mauti ndani ya Mkataba wa Silaha Fulani za Kawaida kwa miaka bila kukubaliana juu ya chombo kinachofunga. Marekani ilizindua Azimio la Kisiasa lisilofunga kuhusu Matumizi ya Kijeshi Yenye Uwajibikaji ya Akili Bandia na Ujitegemeaji mwaka 2023, likiwaidhinisha wanaokubali kanuni zikiwemo usimamizi wa juu, majaribio makali, na uwezo wa kuzima mifumo inayotenda bila kutarajiwa (azimio la Idara ya Jimbo ya Marekani).
Azimio hilo linaweza kujenga kanuni na ushirikiano wa vitendo, lakini idhini si utekelezaji. Mapendekezo ya jamii ya kiraia na mataifa yanaanzia kukataza mifumo inayolenga watu bila udhibiti wa binadamu wenye maana hadi kudhibiti kazi mahususi na kuhitaji wajibu chanya. Tofauti za maoni zinaendelea kuhusu ufafanuzi, uthibitishaji, na faida ya kijeshi.
Hatua muhimu za muda mfupi hazihitaji kusubiri mkataba kamili. Mataifa yanaweza kubadilishana taarifa za matukio, kukataza maamuzi ya kurusha kwa nyuklia kwa kujitegemea, kuhitaji mapitio ya silaha, kuweka viwango vya majaribio, kulinda udhibiti wa binadamu juu ya ulengaji wa watu, na kuanzisha njia za mawasiliano kwa ajali zinazohusiana na AI.
Kile udhibiti wa binadamu wenye maana unahitaji
Kifungu hicho kinapaswa kuwa cha kiuendeshaji. Binadamu anahitaji lengo linaloeleweka na mpaka wa lengo; taarifa za kuaminika kuhusu kujiamini na mipaka ya mfumo; muda wa kutosha kuingilia; utaratibu wa kusimamisha unaotumika; na mamlaka ya kisheria ya kukataa. Violesura vinapaswa kupinga upendeleo wa kiotomatiki badala ya kuhamasisha uthibitisho wa haraka. Baada ya tendo, rekodi lazima ziunge mkono uchunguzi na urekebishaji. Ukurasa mwenzake wa mwongozo huu kuhusu roboti za ardhini, binadamu-umbo, na sheria za vita unachunguza jinsi mahitaji haya ya udhibiti wa binadamu yanavyotekelezwa kwa kweli — au la — katika roboti za ardhini za kijeshi zilizotumika leo.
Udhibiti pia unaanza kabla ya mapigano. Viongozi wa kisiasa wanaamua manunuzi na fundisho; makamanda wanaweka vigezo; wahandisi wanachagua data na majaribio. Kuzingatia tu kubonyeza kitufe cha mwisho kunapuuza chaguo hizi zenye matokeo.
Hitimisho lililopimwa
Ujitegemeaji katika silaha tayari ni ukweli wa sera na uwanja wa vita, lakini ushahidi wa umma kuhusu mapigano mahususi mara nyingi haujakamilika. Ripoti ya Kargu-2 haipaswi kuzidishwa kuwa mauaji ya kujitegemea yaliyothibitishwa, na ulengaji uliosimamiwa haupaswi kuwekewa lebo isiyo sahihi kama vita vya kujitegemea kabisa.
Wasiwasi wa janga unategemea njia za kuaminika: maamuzi ya haraka zaidi, uratibu wa wingi, mapitio dhaifu ya binadamu, na mwingiliano na mifumo ya onyo la kimkakati. Hakuna kinachofanya kuongezeka kusiepukike. Mamlaka thabiti ya binadamu, muundo unaoweza kukaguliwa, uwajibikaji wa kisheria, kanuni za pamoja, na mipaka wazi kuzunguka kazi za nyuklia na ulengaji wa watu vinaweza kupunguza hatari huku ushahidi ukiendelea kukua.