Uotomatishaji hauisimamishi sheria ya haki za kiraia
Mwajiri, mmiliki wa nyumba, mkopeshaji, shule, kampuni ya bima, idara ya polisi, au wakala wa manufaa anaweza kutumia kialgorithimu bila kuepuka wajibu unaosimamia uamuzi huo. Nchini Marekani, sheria kama Title VII, Sheria ya Wamarekani wenye Ulemavu, Sheria ya Nyumba Sawa, Sheria ya Fursa Sawa ya Mikopo, na ulinzi wa kikatiba wa haki za kisheria zinaweza kutumika kutegemea mtenda na muktadha. Ufunikaji, viwango vya kisheria, na tiba hutofautiana; ukurasa huu si ushauri wa kisheria.
Wasiwasi wa leo unatokana na mifano ya kitakwimu, mifumo ya upangaji, biometriki, na AI ya kuzalisha. Madai kwamba AGI itaunda ufuatiliaji wa jumla au kutabiri tabia kwa ukamilifu ni utabiri wenye masharti, wala si uwezo ulioonekana.
Ubaguzi unaweza kuingia katika kila hatua
Data ya kihistoria inaweza kuweka ndani ubaguzi wa awali. Lebo zinaweza kuakisi kukamatwa badala ya kuhalifu, matumizi ya afya badala ya uhitaji, au ukadiriaji wa meneja badala ya utendaji. Sifa zinazoacha rangi nje bado zinaweza kuwakilisha hadhi iliyolindwa kupitia jiografia, shule, lugha, ulemavu, au mtandao.
Uchaguzi wa kubuni unaamua nani anawakilishwa, matokeo gani yanaboreshwa, na makosa yapi yanahusika. Uwekaji unaunda matatizo zaidi: wafanyakazi wanaweza kuamini alama kupita kiasi, waombaji wanaweza kushindwa kusahihisha rekodi, na zana iliyojaribiwa kitaifa inaweza kushindwa katika idadi ya watu ya kienyeji. Usahihi wa jumla wa muuzaji unaweza kuficha viwango vya juu vya makosa hasi au chanya kwa kikundi kidogo.
Vipimo vya usawa vinaweza kugongana. Kusawazisha kiwango kimoja cha kosa kunaweza kuzidisha kingine, hasa wakati viwango vya msingi vilivyopimwa vinatofautiana. Hisabati haiwezi kuamua ni kipi kilicho halali au haki. Taasisi lazima ziunganishe vipimo na haki, madhumuni, na matokeo.
Ajira inaonyesha uwajibikaji wa pamoja
Waajiri wanatumia programu kupanga wasifu, kupima majaribio, kuchambua video, kupanga ratiba ya kazi, kufuatilia uzalishaji, na kupendekeza kupandishwa cheo au kufukuzwa. Tume ya Fursa Sawa ya Ajira ya Marekani na Idara ya Sheria zinaonya kwamba zana za kialgorithimu zinaweza kuwaondoa kinyume cha sheria watu wenye ulemavu na kwamba waajiri huenda wakahitaji kutoa nafasi maalum zenye busara (EEOC na DOJ, Mei 2022).
Kununua zana hakuhamishi uwajibikaji wote kwa muuzaji. Waajiri wanapaswa kuithibitisha kwa kazi na idadi ya watu, kuwajulisha waombaji, kutoa njia mbadala zinazofikika, kufuatilia matokeo, na kuchunguza mbinu zisizo za ubaguzi zaidi. Waombaji wanahitaji njia ya kupinga data isiyo sahihi na kupokea upitiaji wa binadamu kabla ya uamuzi mbaya kuwa wa mwisho.
Udokezi wa sauti, mtazamo, sura ya uso, au utu unastahili shaka mahususi. Ishara inaweza kuhusiana katika sampuli ya mafunzo bila kupima kwa uaminifu umahiri wa kazi, na ulemavu au tofauti za kiutamaduni zinaweza kuibadilisha. Madai kwamba AI inasoma hisia yanapaswa kuungwa mkono na ushahidi huru wa uhalali kwa matumizi halisi.
Makazi, mikopo, na huduma muhimu
Mifumo ya upangaji wa wapangaji huchanganya rekodi za mikopo, kufukuzwa, uhalifu, na utambulisho ambazo zinaweza kuwa hazijakamilika au hazilingani. Mwongozo wa HUD wa 2024 unasema Sheria ya Nyumba Sawa inatumika kwa upangaji wa wapangaji unaotumia ujifunzaji wa mashine na kwamba watoa huduma za nyumba na makampuni ya upangaji zote zina majukumu ya kuhakikisha maamuzi yenye haki, sahihi, na uwazi (mwongozo wa HUD uliohifadhiwa, Aprili 2024).
Utangazaji wa kiotomatiki pia unaweza kuwaondoa watu kabla ya kuomba kwa kutoa fursa za nyumba au kazi kwa uteule. Katika ukopeshaji, data mbadala inaweza kupanua ufikivu kwa watu wenye faili nyembamba za mikopo au kurudia tofauti za kimtaa na kipato. Kilinganisho sahihi si kialgorithimu dhidi ya binadamu kamili; ni mchakato uliojaribiwa dhidi ya njia mbadala halisi, huku haki zikilindwa katika zote mbili.
Manufaa, huduma ya afya, na bima vinahusisha hatari kubwa hasa. Upangaji wa kipaumbele unaweza kusaidia wafanyakazi kuweka vipaumbele vya kesi, lakini alama isiyo wazi haipaswi kuwa ukataliwaji usiokataliwa. Mashirika yanahitaji taarifa, sababu, ufikivu wa ushahidi, upitiaji wa binadamu kwa wakati, na muendelezo wakati kosa linatatuliwa.
AI ya kuzalisha inaongeza madhara ya uwakilishi na udokezi
Mifumo ya kuzalisha inaweza kuzalisha dhana potofu, kubuni mashtaka, kufichua data ya kibinafsi iliyokumbukwa, au kudokeza sifa nyeti kutoka habari za kawaida. Wasifu wa Hiari wa AI ya Kuzalisha wa NIST unabainisha upendeleo wenye madhara, ujumuishaji, faragha, na uzushi kati ya hatari za sekta mbalimbali (NIST AI 600-1, Julai 2024).
Mwongozo wa NIST si sheria inayofunga. Unatoa msamiati wa usimamizi wa hatari. Madai ya utii yanapaswa kubainisha ni nini shirika limejaribu na kubadilisha kwa kweli, wala si tu kusema “linatumia mfumo wa NIST.”
Ufuatiliaji unabadilisha mamlaka hata unapokuwa sahihi
AI inaweza kufanya iwe nafuu zaidi kutafuta kamera, sauti, maeneo, ununuzi, mawasiliano, na shughuli za mahali pa kazi. Madhara hayajazuiliwa kwa utambulisho usio sahihi. Ufuatiliaji sahihi unaweza kupoza maandamano, ushirikiano, ibada, huduma ya kitiba, au uhamasishaji wa kikazi. Mtu anaweza kubadilisha tabia halali kwa sababu uangalizi ni wa kudumu na maamuzi si wazi.
Utambulisho wa kibiometriki unaweza kusaidia kupata mtu aliyepotea au kufungua kifaa. Pia unaweza kuwezesha ufuatiliaji wa kiwango cha idadi ya watu. Uwiano unategemea madhumuni, mamlaka au hati ya kisheria, uhifadhi, ubora wa orodha ya ufuatiliaji, upitiaji wa binadamu, kosa, na kama njia zisizoingilia zaidi zipo.
Kutanuka kwa matumizi ni kutabirika: data iliyokusanywa kwa usalama inaweza baadaye kuhudumia uuzaji, uhamiaji, upimaji wa uzalishaji, au utekelezaji wa sheria. Mipaka ya madhumuni, uhifadhi mfupi, kumbukumbu za ufikivu, na ufutaji ni udhibiti halisi.
Ukaguzi unahitaji meno
Ukaguzi unaweza kuchunguza data, utendaji wa vikundi vidogo, usalama, usimamizi, na utii wa kisheria. Jaribio lililochaguliwa na muuzaji kwenye seti ya data iliyochaguliwa ni dhaifu kuliko tathmini huru yenye ufikivu wa uzalishaji. Wakaguzi wanahitaji ulinzi dhidi ya kisasi, uhuru wa kuchapisha vikwazo vya kimsingi, na taarifa za kutosha kurudia matokeo.
Tathmini za athari zinapaswa kutokea kabla ya ununuzi na tena baada ya uwekaji. Zinapaswa kubainisha makundi yaliyoathirika, njia mbadala, vyanzo vya data, matokeo ya makosa, rufaa, na vigezo vya kufunga. Ufuatiliaji wa matokeo ya jumla ni muhimu kwa sababu majaribio ya kabla-ya-uwekaji hayawezi kutabiri kila hali ya kienyeji.
Uwazi lazima uwe wa manufaa. Kuchapisha karatasi ya kiufundi hakumwambii mwombaji kwa nini alikataliwa. Taarifa ya mtu binafsi inahitaji sababu za maamuzi na njia ya kusahihisha; uwazi wa umma unahitaji utendaji, mikataba, matukio, na mamlaka ya wakala.
Ushiriki na tiba
Watu walioathiriwa na mfumo wanapaswa kusaidia kubainisha maana ya mafanikio na madhara yasiyokubalika. Vikundi vya ulemavu vinaweza kubainisha majaribio yasiyofikika; wapangaji nyumba wanaweza kuelezea makosa ya rekodi; wafanyakazi wanaweza kufichua jinsi ufuatiliaji unavyobadilisha tabia. Mashauriano baada ya mkataba kusainiwa yana ushawishi mdogo.
Tiba inapaswa kujumuisha usahihishaji, kufikiria upya, urejeshaji wa fursa iliyopotea inapowezekana, fidia kwa madhara, na mabadiliko ya kitaasisi. Upitiaji wa binadamu lazima uwe huru na wenye mamlaka, wala si muhuri wa kukubali alama.
Hali dhahania za AGI
Wakala wenye uwezo zaidi wanaweza kuunganisha hifadhidata, kudokeza sifa za karibu, kubinafsisha udanganyifu, na kuotomatisha maamuzi ya ufuatiliaji. Pia wanaweza kusaidia kufichua ubaguzi, kutafsiri malalamiko, na kufanya msaada wa kisheria ufikike zaidi. Hakuna matokeo linalofuata kutoka akili peke yake. Sheria, udhibiti wa ufikivu, motisha za kitaasisi, na umiliki vinaamua matumizi.
Kiwango cha vitendo ni rahisi: usiweke mfumo unaoathiri haki bila madhumuni halali, ushahidi wa uhalali, majaribio ya vikundi vidogo, upunguzaji wa data, taarifa inayofikika, rufaa halisi ya binadamu, uangalizi huru, na tiba. Usahihi ni muhimu katika mazingira mengi, lakini haki za kiraia zinahitaji mipaka juu ya kile taasisi zinaweza kufanya hata kwa usahihi.