Kujihusisha na jamii ya teknolojia sio “nzuri kuwa na” kando kwa watengenezaji sera za utetezi-“ni muhimu sana kuwa na jamii hii inayohusika tangu mwanzo katika muundo, maendeleo na utumiaji wa mifumo ambayo itaongoza usalama na usalama wa mifumo na uwezo wa AI”, alisema Gosia Loy, mkuu wa sehemu ya umoja wa Taasisi ya UN.
Akizungumza hivi karibuni Mkutano wa Ulimwenguni juu ya Usalama na Maadili ya AI Akiwa na mwenyeji wa Unidir huko Geneva, alisisitiza umuhimu wa kuunda walinzi bora kwani ulimwengu unazunguka kile kinachoitwa “Oppenheimer Moment” wa AI mara kwa mara – kwa kuzingatia Robert Oppenheimer, mtaalam wa nyuklia wa Merika anayejulikana kwa jukumu lake muhimu katika kuunda bomu ya atomi.
Uangalizi unahitajika ili maendeleo ya AI yaheshimu haki za binadamu, sheria za kimataifa na maadili – haswa katika uwanja wa silaha zilizoongozwa na AI – ili kuhakikisha kuwa teknolojia hizi zenye nguvu zinaendeleza kwa njia iliyodhibitiwa, yenye uwajibikaji, afisa huyo wa Unidir alisisitiza.
Teknolojia yenye dosari
AI tayari imeunda shida ya usalama kwa serikali na wanamgambo kote ulimwenguni.
Asili ya matumizi ya teknolojia mbili za AI-ambapo zinaweza kutumika katika mazingira ya raia na kijeshi sawa-inamaanisha kwamba watengenezaji wanaweza kupoteza uhusiano na hali halisi ya hali ya uwanja wa vita, ambapo programu zao zinaweza kugharimu maisha, alionya Arnaud Valli, mkuu wa maswala ya umma huko Comand AI.
Vyombo bado viko katika utoto wao lakini vimeongeza hofu kwa muda mrefu kwamba zinaweza kutumiwa kufanya maamuzi ya maisha au kifo katika mpangilio wa vita, kuondoa hitaji la kufanya maamuzi ya wanadamu na uwajibikaji. Kwa hivyo wito unaokua wa kanuni, ili kuhakikisha kuwa makosa yanaepukwa ambayo yanaweza kusababisha athari mbaya.
“Tunaona mifumo hii inashindwa wakati wote,” alisema David Sully, Mkurugenzi Mtendaji wa kampuni ya London Advai, na kuongeza kuwa teknolojia hizo zinabaki “zisizo za kweli”.
“Kwa hivyo, kuwafanya waende vibaya sio ngumu kama vile watu wanavyofikiria wakati mwingine,” alisema.
Jukumu la pamoja
Katika Microsoft, timu zinaangazia kanuni za msingi za usalama, usalama, umoja, usawa na uwajibikaji, alisema Michael Karimian, mkurugenzi wa diplomasia ya dijiti.
Mkubwa wa teknolojia ya Amerika iliyoanzishwa na Bill Gates inaweka mapungufu juu ya teknolojia ya utambuzi wa usoni wa kweli inayotumiwa na utekelezaji wa sheria ambayo inaweza kusababisha madhara ya kiakili au ya mwili, Bwana Karimian alielezea.
Ulinzi wazi lazima uwekwe na mashirika lazima yashirikiana kuvunja silos, aliiambia hafla hiyo huko UN Geneva.
“Ubunifu sio kitu ambacho hufanyika tu ndani ya shirika moja. Kuna jukumu la kushiriki,” Bwana Karimian, ambaye washirika wake wa kampuni na UNIDIR ili kuhakikisha kufuata AI na haki za binadamu za kimataifa.
Uangalizi wa kitendawili
Sehemu ya equation ni kwamba teknolojia zinajitokeza kwa kasi sana, nchi zinajitahidi kuendelea.
“Maendeleo ya AI yanafikia uwezo wetu wa kudhibiti hatari zake nyingi,” alisema Sulyna Nur Abdullah, ambaye ni mkuu wa mipango na mshauri maalum kwa Katibu Mkuu katika Jumuiya ya Mawasiliano ya Kimataifa (ITU).
“Tunahitaji kushughulikia kitendawili cha utawala wa AI, kwa kugundua kuwa kanuni wakati mwingine zinafanya kazi nyuma ya teknolojia hufanya iwe kwa mazungumzo yanayoendelea kati ya sera na wataalam wa kiufundi kuunda zana za utawala bora,” Bi Abdullah alisema, na kuongeza kuwa nchi zinazoendelea lazima pia zipate kiti kwenye meza.
Mapungufu ya uwajibikaji
Zaidi ya muongo mmoja uliopita mnamo 2013, mtaalam mashuhuri wa haki za binadamu Christof Heyns katika a ripoti Kwenye Robotic Autonomous Robotic (Lars) alionya kwamba “kuwaondoa wanadamu kwenye kitanzi pia kuna hatari ya kuchukua ubinadamu kutoka kitanzi”.
Leo sio ngumu sana kutafsiri hukumu za kisheria zinazotegemea muktadha katika programu ya programu na bado ni muhimu kwamba maamuzi ya “maisha na kifo” yanachukuliwa na wanadamu na sio roboti, alisisitiza Peggy Hick, mkurugenzi wa haki ya mgawanyiko wa maendeleo ya Ofisi ya Haki za Binadamu (Ohchr).
Jamii inayoangazia
Wakati viongozi wakubwa wa teknolojia na utawala kwa kiasi kikubwa wanaona macho juu ya kanuni zinazoongoza za mifumo ya ulinzi ya AI, maoni yanaweza kuwa magumu na msingi wa kampuni.
“Sisi ni kampuni ya kibinafsi – tunatafuta faida pia,” alisema Comand AI's Mr. Valli.
“Kuegemea kwa mfumo wakati mwingine ni ngumu sana kupata,” akaongeza. “Lakini unapofanya kazi katika sekta hii, jukumu linaweza kuwa kubwa, kubwa kabisa.”
Changamoto ambazo hazijajibiwa
Wakati watengenezaji wengi wamejitolea kubuni algorithms ambazo ni “sawa, salama, nguvu” kulingana na Mr. Sully – hakuna ramani ya barabara ya kutekeleza viwango hivi – na kampuni zinaweza hata kujua ni nini hasa wanajaribu kufikia.
Hizi kanuni “zote zinaamuru jinsi kupitishwa kunapaswa kuchukua nafasi, lakini hazielezei jinsi hiyo inapaswa kutokea,” Bwana Sully alisema, akiwakumbusha watunga sera kwamba “AI bado iko katika hatua za mwanzo”.
Teknolojia kubwa na watunga sera wanahitaji kuvuta nje na kuingiza picha kubwa.
“Ni nini nguvu kwa mfumo ni lengo la kiufundi, lenye changamoto sana kuamua na kwa sasa halijajibiwa,” aliendelea.
Hakuna 'alama za vidole'
Bwana Sully, ambaye alijielezea kama “msaidizi mkubwa wa kanuni” za mifumo ya AI, alikuwa akifanya kazi kwa wasio na agizo Shirika kamili la Mkataba wa Mtihani wa Nyuklia-Mtihani Katika Vienna, ambayo inafuatilia ikiwa upimaji wa nyuklia hufanyika.
Lakini kubaini silaha zilizoongozwa na AI, anasema, inaleta changamoto mpya ambayo mikono ya nyuklia-inayoonyesha saini za ujasusi-haifanyi.
“Kuna shida ya vitendo katika suala la jinsi polisi wa aina yoyote katika kiwango cha kimataifa,” Mkurugenzi Mtendaji alisema. “Ni mtu anayetaka kushughulikia. Lakini hadi hiyo ishughulikiwe … nadhani hiyo itakuwa kizuizi kikubwa, kubwa.”
Kulinda baadaye
Wajumbe wa Mkutano wa Unidir walisisitiza juu ya hitaji la mtazamo wa kimkakati, kuelewa hatari zinazosababishwa na teknolojia za kukata sasa zinazaliwa.
Kwa Mozilla, ambayo hufundisha kizazi kipya cha wataalamu wa teknolojia, watengenezaji wa siku zijazo “wanapaswa kufahamu kile wanachofanya na teknolojia hii yenye nguvu na kile wanaunda”, kampuni ya Bwana Elias ilisisitiza.
Wasomi kama Moses B. Khanyile wa Chuo Kikuu cha Stellenbosch huko Afrika Kusini wanaamini vyuo vikuu pia vina “jukumu kubwa” kulinda maadili ya msingi ya maadili.
Masilahi ya wanajeshi – watumiaji waliokusudiwa wa teknolojia hizi – na serikali kama wasanifu lazima “zibadilishwe”, alisema Dk Khanyile, mkurugenzi wa Kitengo cha Utafiti wa Ushauri wa Artificial katika Chuo Kikuu cha Stellenbosch.
“Lazima waone Tech ya AI kama zana nzuri, na kwa hivyo lazima wawe nguvu nzuri.”
Nchi zinazohusika
Alipoulizwa ni hatua gani moja wangechukua kujenga uaminifu kati ya nchi, wanadiplomasia kutoka China, Uholanzi, Pakistan, Ufaransa, Italia na Korea Kusini pia walizidi.
“Tunahitaji kufafanua safu ya usalama wa kitaifa katika suala la udhibiti wa teknolojia ya hi-tech”, alisema Shen Jian, Balozi wa ajabu na Plenipotentiary (silaha) na naibu mwakilishi wa kudumu wa Jamhuri ya Watu wa Uchina.
Njia za utafiti wa baadaye wa AI na maendeleo lazima pia ni pamoja na nyanja zingine zinazoibuka kama fizikia na neuroscience.
“AI ni ngumu, lakini ulimwengu wa kweli ni ngumu zaidi,” alisema Robert huko Den Bosch, Balozi wa Silaha na mwakilishi wa kudumu wa Uholanzi kwenye Mkutano wa Silaha. “Kwa sababu hiyo, ningesema kuwa ni muhimu pia kuangalia AI kwa kuunganika na teknolojia zingine na haswa cyber, quantum na nafasi.”
