Asilimia ni hukumu, wala si kipimo
Mtafiti anaposema kuna nafasi ya asilimia 10 kwamba AI ya hali ya juu inasababisha kutoweka kwa binadamu, namba hiyo si mzunguko uliopimwa katika historia zilizorudiwa. Ni uwezekano wa kibinafsi unaomuhtasarisha imani kuhusu uwezo, utumiaji, taasisi, mzozo, na hatua nyingi zisizo na uhakika. Mtaalamu mwingine anaweza kutumia “hatari ya kuwepo” kujumuisha kunyang’anywa madaraka kwa kudumu, huku kichwa cha habari kikiripoti kutoweka pekee.
Makadirio kama hayo yanaweza kuarifu maamuzi, hasa wakati matokeo ni makubwa mno, lakini hayapaswi kuwasilishwa kama viwango vya kisayansi vilivyothibitishwa. Msemaji, tarehe, swali hasa, upeo wa muda, ufafanuzi wa matokeo, ushahidi, na kutokuwa na uhakika vyote ni muhimu. Makadirio ya kibinafsi ya mwanasayansi maarufu yanabaki makadirio ya kibinafsi.
Fafanua matokeo kabla ya kulinganisha namba
Angalau matokeo manne kwa kawaida yanachanganywa:
- madhara makubwa: vifo vingi, hasara ya kiuchumi, au ukiukaji wa haki;
- janga la kimataifa: madhara yanayoathiri sehemu kubwa ya ubinadamu au sehemu mahususi ya vifo;
- kutoweka kwa binadamu: hakuna idadi ya binadamu inayosalia;
- janga la kuwepo: kutoweka au uharibifu usioweza kurejeshwa wa uwezo wa muda mrefu wa ubinadamu, wakati mwingine ukijumuisha kunyang’anywa madaraka kwa kudumu.
Utabiri unaweza kuuliza kama AI inasababisha matokeo, ni mchangiaji wa lazima, au inaonekana tu mahali fulani katika mnyororo. Unaweza kushughulikia miaka kumi, mwaka 2100, au muda wote wa baadaye. Makadirio ya asilimia moja kwa miaka kumi hayawezi kulinganishwa moja kwa moja na makadirio ya asilimia tano kwa karne moja.
Ufafanuzi wa teknolojia pia unatofautiana: AI ya sasa ya matumizi ya jumla, “akili ya mashine ya kiwango cha juu,” AGI, akili kuu, au AI yoyote ya baadaye. Daima hifadhi maneno ya asili.
Kile utafiti mkubwa wa watafiti ulipata
Utafiti wa Wataalamu wa 2023 kuhusu Maendeleo katika AI uliwaalika waandishi kutoka mikutano inayoongoza ya AI na kupata majibu kutoka watafiti 2,778. Uchambuzi wake uliochapishwa ulipata tofauti kubwa za maoni kuhusu ratiba na athari. Washiriki wengi walitarajia matokeo mazuri kutoka AI ya juu-ya-kibinadamu kuwa yanayowezekana zaidi kuliko mabaya, lakini wengi walipa uwezekano wa maana kwa matokeo mabaya sana. Makala hiyo pia ilipata kwamba majibu yalibadilika na uundaji wa swali (Grace et al., “Thousands of AI Authors on the Future of AI”).
Hii haiungi mkono “wataalamu wa AI wanakubaliana kutoweka kunawezekana.” Inaunga mkono dai finyu zaidi: sehemu kubwa ya watafiti waliohojiwa walichukulia matokeo makali kuwa yanawezekana vya kutosha kupa uwezekano wa maana, pamoja na matumaini na mtawanyiko mpana. Kwa mtazamo wa karibu zaidi wa kwa nini majibu mahususi ya kutoweka katika utafiti huu na mingine yanatofautiana sana, angalia kwa nini makadirio ya wataalamu ya kutoweka yanatofautiana sana.
Mipaka ya utafiti inajumuisha kutojibu, utaalamu tofauti katika uchambuzi wa hatari, ufafanuzi usio thabiti, na ugumu wa kubadilisha wasiwasi wa kihisia kuwa uwezekano uliopimwa. Kuchapisha katika mkutano wa juu wa AI unathibitisha uzoefu wa kiufundi, wala si ujuzi wa utabiri kuhusu jiografia-siasa au mabadiliko ya kijamii ya kiwango cha karne. Majibu ya wastani pia yanaficha mgawanyiko na uhusiano kati ya waliohojiwa.
Mashindano ya utabiri yanafichua tofauti nyingine
Mashindano ya Ushawishi wa Hatari ya Kuwepo yaliunganisha wataalamu 80 wa mada mahususi na wapiga-utabiri-bora 89 wenye rekodi za utabiri wa muda mfupi. Washiriki walikadiria hatari za AI, nyuklia, kibiolojia, na nyingine chini ya ufafanuzi wa pamoja, kubadilishana hoja, na kusasisha (XPT ya Taasisi ya Utafiti wa Utabiri).
Uchambuzi uliopitiwa na wenzake uliopatikana ulipata tofauti kubwa kati ya wataalamu wa nyanja na wapiga-utabiri-bora, hasa kwa AI (Karger et al., International Journal of Forecasting). Huu ni ushahidi wa thamani dhidi ya maafikiano ya uongo. Hauthibitishi kundi la chini au la juu kuwa sahihi.
Wapiga-utabiri-bora wameonyesha urekebishaji katika maswali mengi yanayoweza kutatuliwa, ya muda mfupi zaidi. Maswali ya kutoweka ya kiwango cha karne hayawezi kupimwa ndani ya kazi za washiriki, na uwezekano adimu chini ya asilimia moja ni mgumu hasa kuthibitisha. Wataalamu wa nyanja huenda wanaelewa taratibu vizuri zaidi lakini wanaweza kuchaguliwa kwenye nyanja kwa sababu ya wasiwasi na huenda wanakosa urekebishaji wa utabiri. Makundi hayo yanaleta nguvu na upendeleo tofauti.
Kwa nini wataalamu wanatofautiana
Mawazo ya uwezo: Je, mbinu za sasa zitazalisha ujitegemeaji thabiti, ugunduzi wa kisayansi, na upangaji wa kimkakati, au kuaminika na umbo la kimwili vitabaki vigumu?
Mawazo ya ratiba: Hatari inakusanyika tofauti ikiwa uwezo unaobadilisha unafika ndani ya miaka mitano dhidi ya hamsini. Taasisi zina muda zaidi wa kubadilika chini ya maendeleo ya polepole, lakini wahusika zaidi wanaweza kupata ufikiaji.
Mawazo ya upatanishi: Watafiti hawakubaliani kama mifumo ya hali ya juu itaunda malengo ya kudumu, kama mafunzo ya sasa yataidhibiti, na ni kiasi gani cha ushahidi wa mtangulizi unaoonekana unapaswa kusogeza utabiri.
Mawazo ya nguvu na utumiaji: Mfano wenye uwezo bila zana au mamlaka unatofautiana na wakala uliotumika kwa upana unaodhibiti pesa, msimbo, maabara, au miundombinu.
Mawazo ya usimamizi: Ushindani, mzozo wa kijeshi, umiliki uliokusanyika, udhibiti, na uratibu wa kimataifa unaweza kutawala kutokuwa na uhakika wa kiufundi.
Ufafanuzi wa kimaadili: Upotezaji wa kudumu wa udhibiti wa binadamu unaweza kuhesabika kama madhara ya kuwepo kwa mpiga-utabiri mmoja na si mwingine.
Namba ya kichwa cha habari inabana mfano huu wote. Uripoti mzuri unaupanua tena.
Urekebishaji ni mgumu lakini si wa hiari
Mpiga-utabiri aliyerekebishwa anayepa asilimia 20 kwa matukio mengi anapaswa kuwa sahihi karibu robo moja ya wakati. Urekebishaji unaweza kupimwa tu katika seti ya maswali yanayoweza kulinganishwa, yaliyotatuliwa. Hatuwezi kurekebisha moja kwa moja utabiri mmoja wa kutoweka kufikia 2100 leo.
Wapiga-utabiri bado wanaweza kuboresha nidhamu kwa kugawanya njia hiyo katika maswali ya karibu zaidi, yanayoweza kuonekana: ujitegemeaji wa mfano, otomatiki ya utafiti, kushindwa kwa ulinzi, kiwango cha utumiaji, viwango vya matukio, na upitishaji wa usimamizi. Utabiri huo unaweza kutatuliwa mapema zaidi na kufichua mawazo yapi yalikuwa makosa.
Tumia viwango vya msingi kwa uangalifu. Ubinadamu hauna sampuli ya kihistoria ya mabadiliko ya AGI. Ulinganisho na silaha za nyuklia, milipuko ya magonjwa, usalama wa mtandao, ajali za viwandani, au upitishaji wa programu unatoa ushahidi wa sehemu, wala si kundi la rejeleo la moja kwa moja. Mifano ya kimtambo pia ina hatari ya kuongeza uwezekano wa kudhania katika hatua tegemezi.
Muhtasari wa kisayansi hautoi uwezekano mmoja
Ripoti ya Kimataifa ya Usalama wa AI ya 2026, iliyoandikwa kupitia mchakato wa wataalamu wa kimataifa, inatenganisha matumizi mabaya yaliyoandikwa na kushindwa kwa kuaminika kutoka hali za upotezaji wa udhibiti zilizodhaniwa. Inasema mifumo ya sasa haina uwezo unaohitajika kwa upotezaji wa udhibiti, kwamba uwezo husika unaboreka, na kwamba wataalamu wanatofautiana kwa kiasi kikubwa kuhusu uwezekano na ukali (Ripoti ya Kimataifa ya Usalama wa AI 2026).
Hilo si “uwezekano wa maafikiano.” Ni maafikiano kwamba ushahidi una hatari kubwa na kutokuwa na uhakika kubwa. Tathmini ya kisayansi inaweza kubaini taratibu, uchunguzi, mapengo, na ulinzi bila kudai kujua nafasi moja ya janga.
Jinsi ya kuwasilisha makadirio ya umma
Kiingilio chenye uwajibikaji kinapaswa kuonekana hivi:
Mnamo [tarehe], [mtu au kikundi] alipa [uwezekano au wigo] kwa [matokeo hasa] kufikia [muda], chini ya [ufafanuzi wa teknolojia], kulingana na [sababu kuu]. Hii ni [hukumu binafsi, jumla ya utafiti, au utabiri uliopangwa], wala si mzunguko ulioonekana.
Jumuisha usambazaji pale inapowezekana. Ripoti kiwango cha majibu na uteuzi wa sampuli kwa tafiti. Tofautisha wastani kutoka wa kati na uwezekano wenye masharti kutoka usio na masharti. Hifadhi marekebisho ili utabiri uweze kutathminiwa badala ya kuandikwa upya kimya kimya.
Usichanganye maswali yasiyolingana. Kuunganisha makadirio ya “kunyang’anywa madaraka kwa kudumu” ya utafiti na makadirio ya “idadi ya watu chini ya 1,000” ya mashindano kunaunda namba isiyo na maana thabiti.
Kufanya maamuzi chini ya tofauti za maoni
Sera haihitaji uhakika. Hatari za uwezekano wa chini, matokeo makubwa zinaweza kuhalalisha utafiti, ufuatiliaji, uthabiti, na ulinzi unaoweza kurejeshwa wakati hatua hizo zina manufaa katika hali mbalimbali. Gharama na athari za pembeni za kuingilia pia ni muhimu. Tahadhari inayoimarisha ukiritimba, kukandamiza sayansi halali, au kuongeza kutokuwa na uthabiti wa jiografia-siasa inaweza kuongeza hatari nyingine.
Hatua imara zinajumuisha tathmini huru, uripoti wa matukio, usalama wa mfano, jibu la dharura, ulinzi wa kibiolojia, usalama wa mtandao, udhibiti wa binadamu juu ya matumizi ya nyuklia, na uwajibikaji wazi. Zinabaki na manufaa katika wigo mpana wa uwezekano.
Uvumilivu tofauti wa hatari ni maswali halali ya kisiasa. Wataalamu wanaweza kuarifu ushahidi lakini hawawezi peke yao kuamua jinsi jamii inavyobadilishana uvumbuzi, uhuru, usambazaji, usalama, na madhara ya baadaye yasiyo na uhakika.
Kusasisha badala ya kutetea kabila
Utabiri unapaswa kubadilika wakati ushahidi unabadilika. Masasisho husika yanajumuisha ujitegemeaji endelevu wa kazi ndefu, maendeleo ya utafiti yaliyozalishwa na AI yaliyothibitishwa, kushindwa kwa ulinzi kwa ulimwengu halisi, usimamizi uliofaulu, sheria kubwa, au tambarare za uwezo za kudumu. Mpiga-utabiri anapaswa kutaja ni nini kingesogeza makadirio juu au chini.
Utofauti wa kiakili unaboresha tathmini. Jumuisha wakosoaji wa kiufundi, watafiti wa usalama, wanasayansi wa kijamii, wapiga-utabiri, wataalamu wa nyanja, jamii zilizoathirika, na watunga sera. Tofauti za maoni zinapaswa kupangwa kwa mawazo, wala si kupunguzwa kuwa “wenye matumaini” na “watabiri wa maangamizi.”
Hitimisho la vitendo
Makadirio ya wataalamu yanaonyesha kwamba hatari ya janga la AI inachukuliwa kwa uzito na watu wengi waliohitimu na kutiliwa shaka na wengine. Hayathibitishi uwezekano uliopimwa au mtazamo wa kisayansi wa umoja. Tafiti zinafichua imani; mashindano yanaweka nidhamu ya utabiri; nadharia inaelezea njia; tathmini zinajaribu vipengele; utumiaji unatoa ushahidi wa ulimwengu halisi.
Msimamo wa umma wa uaminifu zaidi ni kutokuwa na uhakika kulikopangwa: fafanua matokeo, onyesha wigo, fichua mawazo, fuatilia urekebishaji pale inapowezekana, na chagua ulinzi unaobaki na thamani chini ya siku zijazo kadhaa zinazowezekana.