Novemba 22 (IPS) –
CIVICUS inajadili hatari zinazotokana na matumizi ya kijeshi ya akili bandia (AI) na Sophia Goodfriend, Mwanafunzi wa Baada ya Udaktari katika Mpango wa Mashariki ya Kati wa Shule ya Harvard Kennedy.
Ongezeko la kimataifa la AI limeibua wasiwasi kuhusu athari zake kwa haki za binadamu, hasa kwa makundi yaliyotengwa, na matumizi yenye utata kuanzia polisi wa ndani na ufuatiliaji hadi 'orodha za kuua' kama zile zinazotumiwa na Israel kutambua shabaha za mashambulizi ya makombora. Makundi ya haki za kidijitali yanatoa wito wa kuundwa kwa mfumo wa utawala wa AI ambao unatanguliza haki za binadamu na kupiga marufuku matumizi hatari zaidi ya AI. Wakati maazimio ya hivi karibuni ya Umoja wa Mataifa (UN) yanatambua hatari za haki za binadamu za AI, hatua madhubuti zaidi zinahitajika.
Kwa nini tunapaswa kuwa na wasiwasi kuhusu AI na matumizi yake ya sasa na yanayoweza kutokea?
AI inaunganishwa kwa haraka katika operesheni za kijeshi kote ulimwenguni, haswa katika mifumo ya silaha, mkusanyiko wa kijasusi na kufanya maamuzi. Kuongezeka kwa uhuru wake kunapunguza uangalizi wa kibinadamu, kuzua wasiwasi mkubwa na hofu ya sci-fi ya mashine zinazofanya maamuzi ya maisha na kifo bila kuingilia kati kwa maana kwa binadamu.
Teknolojia za AI kama vile ndege zisizo na rubani, silaha za kiotomatiki na mifumo ya hali ya juu ya ulengaji sasa ni sehemu ya ghala za kijeshi. Kuongezeka kwa utegemezi wa kijeshi kwa mifumo hii inazua wasiwasi mkubwa, kwani kwa kiasi kikubwa haijadhibitiwa chini ya sheria za kimataifa. Kiwango cha ufuatiliaji ambacho teknolojia hizi hutegemea kinakiuka ulinzi wa faragha chini ya sheria za kimataifa na sheria nyingi za kitaifa za haki za kiraia.
Ukuaji wa haraka na uwekaji wa teknolojia hizi unapita udhibiti, na kuacha umma kwa kiasi kikubwa kutojua athari zao. Bila uangalizi ufaao, AI inaweza kutumika vibaya kwa njia zinazosababisha madhara yaliyoenea na kukwepa uwajibikaji. Tunahitaji kudhibiti haraka matumizi ya kijeshi ya AI na kuhakikisha kuwa inalingana na sheria za kimataifa na kanuni za kibinadamu.
Zaidi ya hayo, data mbovu au yenye upendeleo inaweza kusababisha makosa makubwa, na hivyo kuibua maswali mazito ya kimaadili na kisheria. Na maamuzi yanayofanywa na mifumo hii yanaweza kudhoofisha kanuni ya uwiano na tofauti katika vita, na kuweka maisha ya raia katika hatari.
Ni mfano gani wa jinsi AI inatumika kwa sasa?
Jeshi la Israel linatumia mifumo ya kulenga inayosaidiwa na AI kutambua na kushambulia maeneo ya Gaza. Mifumo hii huchanganua kiasi kikubwa cha data iliyokusanywa kupitia ndege zisizo na rubani, setilaiti, kamera za uchunguzi, mitandao ya kijamii na udukuzi wa simu ili kutambua walengwa, kuwapata na kuamua wapi na lini watu wanapaswa kuuawa.
Inayozalishwa na AIkuua orodha' kuongeza wasiwasi mkubwa. Data yenye dosari au yenye upendeleo tayari imesababisha makosa makubwa, huku waandishi wa habari na wafanyakazi wa misaada ya kibinadamu wakiuawa katika migomo. Pia kumekuwa na madai kwamba jeshi limepanua ufafanuzi wake wa nani au nini kinalenga shabaha halali, na kuruhusu mashambulizi dhidi ya watu au maeneo ambayo yanaweza yasifikie viwango vilivyowekwa na sheria za kimataifa.
Mifumo hii inafanya kazi kwa kasi na kiwango ambacho hakijawahi kufanywa, na kuunda idadi kubwa ya malengo. Wana uwezo wa kusababisha uharibifu mkubwa bila uangalizi wa kina. Wanajeshi wanaofanya kazi huko Gaza wana angalau sekunde 20 kuidhinisha malengo ambayo yanajumuisha wanamgambo wa Hamas, lakini pia watu ambao hawatachukuliwa kuwa walengwa halali wa kijeshi chini ya sheria za kimataifa za vita na viwango vya haki za binadamu.
Je, hii ina maana gani kwa wajibu wa kimaadili juu ya uharibifu unaosababishwa?
Teknolojia za kulenga zinazosaidiwa na AI kama vile Mfumo wa lavender hawana uhuru kamili. Bado zinahitaji uangalizi wa kibinadamu. Hili ni jambo muhimu kwa sababu teknolojia hizi zinaharibu tu kama watu wanaosimamia. Yote inategemea maamuzi yaliyofanywa na viongozi wa kijeshi, na maamuzi haya yanaweza kuzingatia au kukiuka sheria za kimataifa za haki za binadamu.
Wakati huo huo, matumizi ya mashine za kulenga na kuharibu zinaweza kudhoofisha utu, na kurahisisha wanajeshi kuidhinisha uharibifu zaidi. Kwa kutoa maamuzi kwa AI, kuna hatari ya kuacha uwajibikaji wa maadili. Mbinu hii ya kiteknolojia hufanya vitendo vya kijeshi kuonekana kuwa vya ufanisi zaidi na vya busara, ambavyo vinaweza kusaidia kuhalalisha kila shambulio la bomu kwa sababu inayoonekana kuwa ya kimantiki, lakini pia inadhalilisha ubinadamu wa majeruhi wa raia na uharibifu mkubwa unaofuata.
Je, mifumo ya sasa ya utawala wa AI inatosha kulinda haki za binadamu?
Jibu fupi ni hapana: mifumo ya sasa ya utawala wa AI ina upungufu katika kulinda haki za binadamu, hasa katika maombi ya kijeshi. Ingawa mataifa mengi yanakubali kwamba silaha zinazoendeshwa na AI – kutoka kwa uhuru kamili hadi zile zinazosaidiwa na AI – zinapaswa kuzingatia sheria za kimataifa za haki za binadamu, hakuna mfumo wa kimataifa wa kuhakikisha hii inafanyika.
Hii imesababisha wito wa sheria za kina zaidi na zinazotekelezeka, na kumekuwa na hatua nzuri. Kwa mfano, mashirika ya kiraia na watafiti walifanikiwa kusukuma marufuku ya silaha zinazojiendesha kikamilifu nchini Mkataba wa Umoja wa Mataifa kuhusu Silaha Fulani za Kawaidaambayo iliungwa mkono na zaidi ya majimbo 100. Kutokana na hali hiyo, Katibu Mkuu wa Umoja wa Mataifa ametaka kupitishwa kwa mkataba unaofunga kisheria mwaka 2026 ili kupiga marufuku kabisa silaha zinazojiendesha, ambazo zinaendeshwa na AI lakini hazina uangalizi wa kibinadamu wa operesheni zao.
Umoja wa Ulaya (EU) pia umechukua hatua, kupiga marufuku baadhi ya maombi ya kijeshi ya AI kama vile mifumo ya alama za kijamii – ambayo huwapa watu ukadiriaji kulingana na tabia zao za kijamii – kama sehemu ya Sheria yake ya AI. Hata hivyo, EU bado haina sheria maalum kwa AI ya kijeshi.
Mashirika kama vile Future of Life Institute, Human Rights Watch na Stop Killer Robots yamekuwa muhimu katika kusukuma mabadiliko. Lakini wanakabiliwa na changamoto zinazoongezeka huku Wakurugenzi Wakuu wa teknolojia ya Silicon Valley na wabiashara wakisukuma maendeleo ya haraka ya AI na kanuni chache. Hii inatia wasiwasi, kwani takwimu hizi zenye nguvu sasa zitakuwa na ushawishi zaidi juu ya sera ya AI chini ya utawala mpya wa Trump.
Je! Kampuni za AI zinapaswa kuchukua jukumu gani katika kuhakikisha uzingatiaji wa kanuni za haki za binadamu?
Kampuni zina jukumu muhimu. Katika miaka ya hivi karibuni, kampuni nyingi zinazoongoza, kama vile Amazon, Google, Microsoft na OpenAI, zimetoa taarifa za umma kuhusu kujitolea kwao kwa haki za binadamu. OpenAI, kwa mfano, imetoa wito wa kuundwa kwa shirika la uangalizi sawa na Shirika la Kimataifa la Nishati ya Atomiki, na waanzilishi wake wameahidi kutoruhusu teknolojia yao kutumika kwa madhumuni ya kijeshi. Amazon, Google na Microsoft pia zina sera za matumizi ya haki, ambazo wanadai zinahakikisha kuwa teknolojia zao zinatumika kwa mujibu wa kanuni za haki za binadamu.
Lakini kiutendaji, sera hizi mara nyingi huwa pungufu, haswa linapokuja suala la maombi ya kijeshi. Licha ya madai yao, mengi ya makampuni haya yameuza teknolojia zao kwa vikosi vya kijeshi, na kiwango cha ushiriki wao katika maendeleo ya kijeshi ya AI mara nyingi haijulikani. Wiki chache tu zilizopita, The Intercept taarifa kwamba kamandi ya jeshi la Merika la Afrika ilikuwa imenunua programu ya OpenAI kupitia Microsoft. Pia tunajua kuwa jeshi la Israeli lilitumia huduma za wingu za Google kulenga mabomu huko Gaza na huduma za wavuti za Amazon ili kuhifadhi data za uchunguzi wa raia katika maeneo ya Palestina.
Hii imezua maandamano ndani ya makampuni yanayohusika, huku wafanyakazi wakiandaa matembezi na kudai uwazi zaidi na uwajibikaji. Ingawa maandamano haya ni muhimu, kampuni za AI zinaweza tu kufanya mengi ili kuhakikisha kuwa teknolojia zao zinatumika kwa maadili. Tunahitaji sheria za kimataifa zenye nguvu na pana zaidi kuhusu matumizi ya kijeshi ya AI, na serikali lazima zichukue jukumu la kuhakikisha sheria hizi zinatekelezwa katika ngazi ya kitaifa.
Wakati huo huo, Wakurugenzi Wakuu wengi wa teknolojia, kama vile Elon Musk, wameachana na dhamira yao ya awali ya haki za binadamu na wanaambatana zaidi na viongozi wa kisiasa wa mrengo wa kulia kama Trump. Baadhi ya Wakurugenzi Wakuu, kama vile Peter Thiel wa PayPal na Alex Karp wa Palantir Technologies, wanahoji kuwa makampuni ya kibinafsi yanahitaji kufanya kazi kwa karibu na wanajeshi ili kudumisha ubora wa kiteknolojia wa Marekani. Hili limezua mvutano kati ya watetezi wa haki za binadamu na makampuni makubwa ya teknolojia, na kuangazia hitaji la mifumo thabiti ya udhibiti ili kuwajibisha kampuni hizi na kuzuia AI kutumiwa kwa njia zinazodhoofisha haki za binadamu.
WASILIANE
TAZAMA PIA
Haki za binadamu huchukua nafasi ya nyuma katika udhibiti wa AI CIVICUS Lenzi 16.Jan.2024
AI: 'Changamoto kubwa ni upendeleo na ukosefu wa uwazi wa algorithms' Mahojiano na Timu ya OpenStreetMap ya Kibinadamu 24.Aug.2023
Udhibiti wa AI: 'Lazima kuwe na uwiano kati ya kukuza uvumbuzi na kulinda haki' Mahojiano na Nadia Benaissa 25.Jul.2023
© Inter Press Service (2024) — Haki Zote ZimehifadhiwaChanzo asili: Inter Press Service
