Ukurasa huu ni nini, na si nini
Ukurasa huu unahusu ushahidi ulio nyuma ya nambari, si nambari zenyewe. Umeona vichwa vya habari: mtafiti mmoja mzito anasema uwezekano wa kutoweka kwa binadamu kunakosababishwa na AI ni karibu asilimia 20, mwingine anasema ni sifuri kwa vitendo, na wote wawili wananukuu utaalamu. Ukurasa huu unaelezea makadirio hayo yanatoka wapi, kwa nini yanaenea kwa mizani miwili ya ukubwa, na—muhimu zaidi—msomaji mwenye uangalifu anapaswa kufanya nini na kiasi ambacho hakuna anayeweza kupima.
Matokeo ya tafiti na mifano yaliyojadiliwa hapa ni machapisho yaliyoonekana. Tafsiri ya maana ya utofauti wao ni uchambuzi. Kwa hoja inayoendana kwamba nambari hizi zinaelezea aina tofauti kabisa ya matokeo, angalia kutoweka dhidi ya matukio ya vifo vingi; matibabu mapana zaidi ya mwongozo huu ya makadirio yapo katika makadirio ya hatari na mabishano ya wataalamu.
Tafiti zinasema nini kihalisia
Utafiti mkubwa zaidi husika uliuliza maelfu ya watafiti wa kujifunza kwa mashine—waandishi katika mikutano mikuu ya AI—kuhusu uwezekano wao juu ya athari ya muda mrefu ya AI ya hali ya juu. Wimbi la 2023 liligundua kadirio la wastani la takriban asilimia 5 kwa kutoweka kwa binadamu au unyang’anyaji madaraka unaofanana wa kudumu, mkali, ukiwa na wastani karibu asilimia 16 na wigo wa robo-ya-nne unaoanzia karibu 0% hadi 19% (Grace et al., 2024). Soma usambazaji huo, si wastani tu: wastani ulio mara nne ya kadirio la kati unamaanisha mkia mrefu wa kulia, na wachache muhimu wa wataalamu juu ya 20% na baadhi karibu na 50%, wakati wachache wengine muhimu wako karibu na sifuri kabisa.
Karatasi ile ile inaonyesha kwamba nambari inabadilika na maneno ya swali. Swali lilipobainisha kutoweka kunakosababishwa na kutokuwa na uwezo wa binadamu kudhibiti AI ya hali ya juu, kadirio la kati liliongezeka mara mbili hadi karibu asilimia 10. Wimbi la 2022 lilipouliza kuhusu kutoweka kutokana na AI kwa jumla, kadirio la kati lilikuwa asilimia 5; miduara ya awali ya utafiti wa AI Impacts inaonyesha unyeti ule ule kwa jinsi swali linavyoulizwa (Utafiti wa Kitaalamu wa 2022 kuhusu Maendeleo katika AI). Kiasi kinachobadilika kwa mara mbili wakati swali linarudiwa kwa maneno tofauti kinakuambia kitu kuhusu kutokuwa na uhakika kwa waliojibu—na, kwa uwazi, kuhusu ulegevu wa dhana inayopimwa. Hakuna kati ya haya kinachofanya tafiti kuwa bila thamani. Kunafanya kuwa malighafi, si hukumu za mwisho.
Makadirio yanayotegemea mfano dhidi ya hukumu za matumbo
Familia ya pili ya makadirio haiulizi hisia za mtu yeyote; inajenga hoja wazi na kutoa uwezekano kwa kila hatua. Mfano thabiti zaidi ni uchambuzi ulioundwa wa Joseph Carlsmith wa kama AI inayotafuta madaraka inaleta hatari ya kutoweka, unaogawanya dai katika sehemu sita zinazounganika—mifumo itakuwa na uwezo zaidi sana, itatafuta madaraka, binadamu hawataweza kurekebisha hilo, na kadhalika—na kutetea uwezekano kwa kila moja. Msimamo wake wa mwisho unashuka karibu asilimia 10 kwa janga linalosababishwa na AI katika karne hii, ukiwa na alama za makosa pana anazoonyesha kwa uangalifu (Carlsmith, 2022). Wanafalsafa wanaofanya kazi katika mila ile ile wanafikia nambari tofauti kwa kubishania sehemu binafsi: Toby Ord, katika The Precipice (2020), anabishania hatari jumla ya kuwepo kutokana na AI isiyolinganishwa ya karibu moja kati ya sita katika karne hii, ikiongozwa na usomaji wa kukata tamaa zaidi wa tatizo la kulinganisha.
Mifano hii inashiriki sifa ambayo tafiti hazina: kila hatua inaonekana na inaweza kupingwa. Zinashiriki maovu mawili. Kila hatua pia inaweza kupingwa, ndiyo sababu wasomaji wa busara wanabadilisha alama za sehemu binafsi; na uwezekano ulioambatanishwa na kila hatua bado ni, mwishowe, hukumu. Hukumu ya matumbo yenye mchoro bado ni hukumu ya matumbo. Mabishano kati ya mfano wa kimuundo wa 10% na intuition ya 0.1% si mgongano wa kipimo. Ni mgongano kuhusu darasa gani la marejeleo na njia gani za kushindwa zinastahili uzito.
Kwa nini madarasa ya marejeleo yanavuta pande tofauti
Chini ya kila kadirio kuna mfano wa kufanana, na mifano hiyo inagongana kwa kweli:
- Kutoweka kwa kibaiolojia. Spishi zinatoweka mara kwa mara; kiwango cha msingi ni karibu spishi moja hadi tano kwa mwaka katika miongo ya hivi karibuni. Lakini hizo ni spishi zenye idadi ndogo na wigo finyu. Mfano wa karibu zaidi wa kibinadamu, kizuizi cha mlipuko mkubwa wa Toba, kina mabishano na kinatangulia ustaarabu kabisa. Kiwango hiki cha msingi kinavuta kuelekea “kutoweka ni matokeo ya kawaida” huku kikisema kidogo sana kuhusu spishi ya kiteknolojia ya dunia nzima.
- Karibu-kukosa za nyuklia. Mgogoro wa Kombora la Cuba, tukio la Stanislav Petrov la 1983, na hofu ya roketi ya Norway ya 1995 zinaonyesha mifumo chini ya mkazo mkubwa ikizalisha karibu-kushindwa kisha kutoshindwa. Wenye matumaini wanasoma mfululizo mrefu wa matukio yaliyookolewa na bahati; wenye kukata tamaa wanasoma mfululizo ule ule kama uthibitisho kwamba bahati inaisha.
- Ajali za kiteknolojia. Ndege, mitambo, na vyombo vya angani vinashindwa kwa viwango vinavyoweza kupimwa kisha vinakuwa salama zaidi kupitia ubuni upya uliojifunza kwa ugumu. Wenye matumaini wanapanua ubuni upya huo; wenye kukata tamaa wanabainisha kwamba usafiri wa anga haukuhitaji kufanikiwa mara moja tu.
Kila mfano ni wa uaminifu. Kila mmoja unabeba dhana ya awali, si ukweli. Makadirio yanatofautiana kwa sababu dhana za awali zinatofautiana, na dhana za awali zinatofautiana kwa sababu hakuna ushahidi wa moja kwa moja—hakuna mzunguko kamili wa jaribio—kuadhibisha yoyote kati yao.
Mabishano yenyewe yanakuambia nini
Hapa ndipo hoja ya uchambuzi ambayo chanjo nyingi za vyombo vya habari inakosa: tofauti ni ugunduzi wenyewe. Kama uwezekano wa kutoweka ungekuwa rahisi kukadiria, maelfu ya wataalamu wenye taarifa wasingezalisha makadirio kutoka karibu sifuri hadi karibu na nusu-na-nusu. Wigo huo ni ushahidi kuhusu hali ya maarifa, kwa njia ile ile ambayo mifano ya hali ya hewa inayotofautiana sana ni ushahidi kwamba dhoruba haitabiriki kwa kweli, si kwamba utabiri wa wastani lazima uwe sahihi. Kuwastawisha wataalamu hadi nambari moja nadhifu ya katikati—tuseme, 5%—kunaunda hisia ya usahihi huku kikirithisha hakuna sehemu ya taarifa. Ripoti ya Kimataifa ya Usalama wa AI ya 2026, jaribio kamili zaidi la kuunganisha hadi sasa, iko wazi kwamba ushahidi wa hatari kali ni mwembamba, wenye mabishano, na uliokolezwa katika maabara chache (Ripoti ya Kimataifa ya Usalama wa AI 2026).
Ukweli mwingine ambao usambazaji unaonyesha: mabishano si ya nasibu. Katika tafiti, watafiti wanaotarajia maendeleo ya haraka zaidi ya uwezo wanatoa uwezekano wa juu zaidi wa hatari kali, na watafiti katika maabara za mstari wa mbele wanatoa wa chini zaidi kuliko wasomi huru. Baadhi ya hilo ni ushahidi kuhusu nani anayeona nini. Baadhi ni motisha. Wasomaji wanapaswa kushikilia maelezo yote mawili.
Jinsi ya kutumia kihalisia nambari hizi
Hitimisho la vitendo si kwamba nambari hazina thamani; ni kwamba lazima zitumike na zana sahihi. Uhasibu wa thamani inayotarajiwa—kuzidisha uwezekano halisi na matokeo na kupanga matokeo—hushindwa hapa, kwa sababu pembejeo ni hukumu yenye upana wa mizani miwili ya ukubwa na makosa madogo katika pembejeo yanashinda kwa siri matokeo. Kufanya maamuzi chini ya kutokuwa na uhakika mkubwa kunafanya kazi tofauti: unauliza vitendo vipi vinabaki na thamani katika wigo mzima unaowezekana, na unapendelea vitendo imara badala ya bora zaidi.
Ikitumika kwa hatari ya kutoweka kwa AI, mantiki hiyo ni yenye kufafanua. Kazi ya kuzuia—tathmini za uwezo, ulinzi wa utumizi, usimamizi wa ukokotoaji—inaonekana yenye thamani kwa 20%, kwa 5%, na kwa 1%, kwa sababu gharama ya kazi ni ndogo na matokeo inayolinda ni tofauti kabisa na chochote kilichowekwa bei katika sera ya kawaida. Kukataa kunaonekana kuwa na busara tu karibu na sifuri. Kwa hiyo tafiti, licha ya ulegevu wao, zinafanya kazi halisi: zinakuambia kwamba karibu-sifuri ni msimamo wenye mabishano, si makubaliano. Kwa jinsi matarajio ya muda uliopo yanavyoongoza mabishano, angalia utabiri wa muda. Hauhitaji kujua uwezekano wa moto ili kuhalalisha kununua kizima moto. Unahitaji kujua kwamba watu wazito, wakitazama ushahidi ule ule, wanaendelea kunusa moshi.