Situation report active Rev. 2026.9 119 reports 239 source records updated
Real Life After AGI Ripoti ya kuokoka kwa binadamu
SW

Baridi ya AGI na mapambazuko ya uongo

Hali kinyume: kwa nini AGI huenda isifike kwa ratiba, maana ya baridi ya AI kwa usalama na vipaji, na kwa nini kusimama si sawa na usalama.

Written by
Dwight Ringdahl
Status
Vyanzo vimekaguliwa
Revised
Sources
5 cited
Reading
6 min

Hali ambayo mwongozo huu unapaswa kuichukua kwa uzito

Kila ukurasa katika nguzo hii unahoji kuhusu uwanja unaosonga kwa kasi, na kurasa za utabiri na dashibodi zinachukulia maendeleo ya haraka yanayoendelea kama dhana ya kazi. Ukurasa huu ni uzani-kinzani: vipi iwapo AGI haifiki kwa ratiba? Mwongozo wa kweli unapanga kwa ajili ya usambazaji wa matokeo, wala si kichwa cha habari kilicho na uwezekano mkubwa zaidi, na usambazaji huo unajumuisha kusimama. Huu ni uchambuzi wa hali kuhusu jambo lililorekodiwa kihistoria, wala si dai kwamba maendeleo yamesimama.

Jinsi baridi mbili za mwisho zilivyokuwa hasa

Uwanja huu tayari umepitia hili, mara mbili.

Baridi ya kwanza (takriban 1974–1980) ilifuata pigo la moja kwa moja la kitaasisi. Ripoti ya 1973 ya Sir James Lighthill, Artificial Intelligence: A General Survey, iliyoagizwa na Baraza la Utafiti wa Kisayansi la Uingereza, ilihitimisha kwamba ahadi kubwa za utafiti wa AI—tafsiri ya mashine, robotiki, utatuzi wa matatizo wa jumla—zilikuwa zimeshindwa kutimizwa hata kwa kiwango kilicho karibu na kile kilichotarajiwa, na ikapendekeza kuelekeza ufadhili kwenye kazi finyu zaidi. Ndani ya miaka michache, wafadhili wakuu wa serikali walirudi nyuma pande zote mbili za Atlantiki, na mipango ya shahada za uzamili ilipungua kwa kasi.

Baridi ya pili (takriban 1987–1993) iliua mwathirika tofauti: mifumo ya kitaalamu (expert systems). Bidhaa hizi za kibiashara zenye msingi wa kanuni zilikuwa zimemeza uwekezaji mkubwa wa kikampuni na kiserikali wakati wa miaka ya 1980, kisha zikaporomoka chini ya udhaifu wake yenyewe—mifumo isiyoweza kujifunza, isiyoweza kushughulikia visa maalum, na yenye gharama kubwa kudumisha. Kuporomoka kwa soko kulivuta pamoja nayo ufadhili wa dhana nzima ya AI ya alama (symbolic AI). Historia ya Academies za Kitaifa za utafiti wa kompyuta wa shirikisho, Funding a Revolution (1999), inaandika jinsi kupunguzwa kwa DARPA na kutoweka kwa wauzaji wa mashine za Lisp kulivyobadilisha kushindwa kwa uwanja mdogo kuwa ukame wa taaluma nzima (National Academies Press). Historia kamili zaidi za simulizi ni AI: The Tumultuous History of the Search for Artificial Intelligence ya Crevier (1993) na The Quest for Artificial Intelligence ya Nilsson (2009)—zote mbili zinafaa kusomwa kwa ajili ya muundo huo, wala si kwa ajili ya ukweli pekee.

Muundo huo: kila baridi haikuwa mwisho wa kiufundi bali kuporomoka kwa uaminifu-na-ufadhili. Sayansi iliendelea kusonga gizani; fedha, vipaji, na uvumilivu wa umma havikufanya hivyo. Baridi iliisha wakati onyesho la gharama ya chini—chess, kisha ImageNet—lilifanya uwanja huo kuwa wa kuwekeza tena, karibu mara moja.

Hoja ya mapambazuko ya uongo

Toleo imara zaidi la hoja ya kusimama lina miguu mitatu.

Vikwazo vya data na kialgorithimu. Uchambuzi wa Epoch wa maandishi yaliyotengenezwa na binadamu ulikadiria kwamba akiba ya data ya hadhara ya ubora wa juu ya mafunzo ingeisha ndani ya takriban muongo mmoja iwapo mielekeo ya wakati huo ingeendelea (Villalobos et al., 2022), ikilazimisha utegemezi kwa data ya kutengenezwa (synthetic) na suluhu nyingine ambazo thamani yao ya muda mrefu haina uhakika kwa kweli. Kwa upande mwingine, uwanja huu umekosea mara kwa mara kujaa kwa vipimo kwa umahiri wa jumla—onyo ambalo kurasa za mwongozo huu za uwezo unaojitokeza na kipimo cha Turing zinaeleza kwa undani. Vipimo vinaweza kujaa huku uaminifu wa ulimwengu halisi, kitu ambacho uchumi kwa kweli hulipia, ukibaki nyuma sana.

Ncha kali huenda ndio dari, wala si sakafu. Ugunduzi endelevu kwamba mifano ni bora kuliko binadamu katika vipimo fulani na dhaifu bila maelezo katika vipimo vya karibu una tafsiri ya kutokuwa na matumaini: kwamba kuongeza kiwango cha mtabiri wa alama-inayofuata kununua upana bila kununua aina ya hoja thabiti, ya kiunganishi ambayo wenye matumaini wa sheria za uongezaji kiwango wanatarajia. Hoja ya Chollet kwamba vipimo vya kisasa vinazidisha akili kwa sababu vinaruhusu ukariri badala ya kuhitaji upataji wa ujuzi chini ya jambo jipya ndiyo kauli kuu ya ushakiki huu (Chollet, 2019).

Uzidi (overhang) hukata pande zote mbili. Hata kama faida hizo ni za kweli, huenda tayari zimetolewa: hoja ya «uzidi wa uwezo» inadokeza kwamba mifano ya sasa inafanya vibaya kuliko mafunzo yake kwa sababu bidhaa, tathmini, na taasisi hazijapata kufikia kiwango hicho. Iwapo ndivyo, uongezaji zaidi wa kiwango unazalisha mapato yanayoonekana yanayopungua—ambayo masoko yanayasoma kama tambarare, haijalishi chanzo cha msingi ni nini. Kuna hata jambo lililorekodiwa linalokwenda kinyume na kiwango: uongezaji kiwango wa kinyume (inverse scaling), ambapo mifano mikubwa zaidi inapata alama mbaya zaidi katika kazi fulani, kama aina fulani za hoja za ukweli au nyeti (McKenzie et al., 2023).

Hoja dhidi ya baridi

Wafuasi wa baridi lazima waeleze kwa nini mzunguko huu unafanana na miwili iliyopita, na tofauti ni kubwa.

Fedha ni za kweli wakati huu. Baridi za awali zilifuata uzushi bila mapato. Mzunguko wa sasa una mapato ya utoaji yanayopimwa kwa mabilioni kumi ya dola kwa mwaka na uwekezaji binafsi wa AI ya kizazi unaoendelea kuweka rekodi—Stanford AI Index 2025 inaripoti dola bilioni 33.9 katika uwekezaji binafsi wa AI ya kizazi mwaka 2024 pekee, ongezeko kubwa mwaka hadi mwaka. Ufadhili wa kiwango hicho hauyeyuki kwa sababu vipimo vimekatisha tamaa; unayeyuka wakati mizania inapovunjika.

Msingi wa vifaa ni mkubwa mno. Baridi za awali zingeweza kunyima uwanja huo rasilimali kwa kupunguza ruzuku chache. Leo uwanja huu unategemea ujenzi mkubwa wenye mtaji mkubwa wa semiconductor, wingu, na nishati ambao wawekezaji wake wanatarajia mapato ya miongo kadhaa. Hilo ni sakafu chini ya maendeleo yanayoendelea—na, kwa giza zaidi, kundi la wadau litakaloendelea kusukuma hata wakati busara inaposema kusimama.

Ujumuishaji mpana unaunda mahitaji yake yenyewe. Mamia ya mamilioni ya watu na sehemu kubwa ya makampuni sasa yanategemea mifumo ya AI kwa kazi za kawaida. Manufaa, tofauti na upya, hayapitwi na wakati. Mzigo wa uthibitisho uko kwenye hoja ya baridi: lazima ionyeshe si tu kwamba maendeleo yanapungua kasi, bali kwamba yanapungua kasi vya kutosha, kwa muda mrefu vya kutosha, kurudia kuporomoka kwa ufadhili dhidi ya msingi uliowekwa wa ukubwa huu.

Baridi ingemaanisha nini

Tuchukulie kusimama kunatokea. Kinachofuata ni chenye pande mbili kwa kweli.

Kutawanyika kwa vipaji. Baridi inasukuma watafiti wa mstari wa mbele kuelekea hazina za ulinzi (hedge funds), teknolojia ya kibiolojia, na uwanja wowote unaofuata unaovuma. Hilo ni baya kwa usalama kwa njia moja—utaalamu wa upatanishi (alignment), ambao ni finyu na umejikita katika maabara chache, unatawanyika—na huenda likawa jema kwa njia nyingine: kazi za uwezo hatari zinapungua kasi huku baadhi ya akili hizohizo zikifanya kazi kwenye matatizo finyu zaidi, yanayoweza kukaguliwa zaidi. Athari halisi haiwezi kujulikana mapema, lakini kutawanyika kwa vipaji vya upatanishi ni gharama halisi ambayo wenye matumaini kuhusu baridi huwa wanaipuuza.

Uzidi wa vifaa. Maendeleo ya programu yaliyosimamishwa hayayeyushi chip. Ulimwengu ambao ungesimamisha kufunza mifano ya mstari wa mbele kesho bado ungeshikilia akiba kubwa ya uwezo uliotumika, sehemu kubwa yake ikiwa na vichocheo vichache vya kudumisha wafanyakazi wa usalama. Baridi inapunguza ulinzi kuzunguka mifumo iliyopo; haipunguzi mifumo yenyewe.

Hatari ya kusoma vibaya. Hii ndiyo sehemu mbaya zaidi. Tambarare la kweli la miaka kadhaa lingesomwa kisiasa kama «hatari imepita»—hitimisho ambalo lingekuwa na makosa kikamilifu. Maendeleo yaliyosimama si maendeleo yaliyokanushwa. Vichocheo vya msingi (kikokotoo, ufanisi wa kialgorithimu, kichocheo cha kibiashara) vingeendelea kujilimbikiza nyuma ya pazia, na kuanza upya, kikifika, kingekuwa kwa kawaida kwa haraka zaidi na kwa usimamizi mdogo zaidi kuliko ongezeko lililotangulia. Jinsi mwongozo huu unavyoshughulikia manufaa na gharama za fursa unakata kwa njia hiyohiyo: hata mpito uliosimama una faida za kweli, na ulimwengu unaotangaza ushindi mapema unapoteza faida hizo na uangalifu vyote.

Hatari ya kusoma vibaya inastahili msisitizo: baridi hatari zaidi ni ile inayoushawishi umma kwamba hatari imepita. Baridi za kihistoria ziliishia kuanza upya. Hakuna kitu katika kusimama kinachohakikisha kazi ya usalama inaishi hadi kuyeyuka kwa baadaye.

Panga kwa ajili ya usambazaji, wala si kichwa cha habari

Msimamo wa kweli kwa mwongozo ni ulelile uliofungua ukurasa huu: usiweke uchambuzi kwenye dau la maendeleo endelevu ya kielelezo, wala usiweke dau lake kwenye kusimama pia. Jiandae kwa uwezo kufika kwa ratiba, kufika kuchelewa, kufika bila usawa, na kufika katikati ya kushindwa kwa kitaasisi kunakoshughulikiwa mahali pengine kwenye tovuti hii—kwa sababu maandalizi hayohayo (taasisi imara, maarifa yaliyohifadhiwa, uwezo wa kujibu uliosambaa) ndiyo yanayolipa kote katika usambazaji huo mzima. Baridi ingebadilisha muda. Isingebadilisha jinsi jamii iliyojiandaa vizuri inavyoonekana.

References

  1. National Academies Press nap.nationalacademies.org
  2. Villalobos et al., 2022 arxiv.org
  3. Chollet, 2019 arxiv.org
  4. McKenzie et al., 2023 arxiv.org
  5. Stanford AI Index 2025 hai.stanford.edu

Type to search the manual.

navigate open esc close