Wiki hii, mamlaka kutoka Uingereza, EU, Marekani, na mataifa mengine saba walikusanyika San Francisco kuzindua “Mtandao wa Kimataifa wa Taasisi za Usalama za AI.” Mkutano huo, ambao ulifanyika katika Klabu ya Presidio Golden Gate, ulishughulikia kudhibiti hatari za maudhui yanayozalishwa na AI, miundo ya msingi ya majaribio, na kufanya tathmini za hatari kwa mifumo ya juu ya AI. Taasisi za usalama za AI kutoka Australia, Kanada, Ufaransa, Japani, Kenya, Jamhuri ya Korea na Singapore pia zilijiunga rasmi na Mtandao huu. Mbali na kutia saini taarifa ya dhamira, zaidi ya dola milioni 11 za ufadhili zilitengwa kwa ajili ya utafiti wa maudhui yanayozalishwa na AI, na matokeo ya zoezi la kwanza la kupima usalama la pamoja yalikaguliwa. Waliohudhuria ni pamoja na maafisa wa udhibiti, watengenezaji wa AI, wasomi, na viongozi wa mashirika ya kiraia ili kusaidia mjadala kuhusu changamoto zinazojitokeza za AI na ulinzi unaowezekana. Mkutano huo ulitokana na maendeleo yaliyofanywa katika Mkutano wa awali wa Usalama wa AI mwezi Mei, ambao ulifanyika Seoul. Mataifa 10 yalikubali kukuza “ushirikiano wa kimataifa na mazungumzo juu ya ujasusi wa bandia licha ya maendeleo yake ambayo hayajawahi kushuhudiwa na athari kwa uchumi na jamii zetu.” “Mtandao wa Kimataifa wa Taasisi za Usalama za AI utatumika kama jukwaa la ushirikiano, kuleta pamoja utaalam wa kiufundi kushughulikia hatari za usalama za AI na mazoea bora,” kulingana na Tume ya Ulaya. “Kwa kutambua umuhimu wa anuwai ya kitamaduni na lugha, Mtandao utafanya kazi kuelekea uelewa wa pamoja wa hatari za usalama za AI na mikakati ya kupunguza.” Taasisi za Usalama za AI zitalazimika kuonyesha maendeleo yao katika upimaji na tathmini ya usalama wa AI na Mkutano wa Athari wa Paris AI mnamo Februari 2025 ili waweze kusonga mbele na majadiliano kuhusu udhibiti. Matokeo muhimu ya taarifa ya dhamira ya mkutano iliyotiwa saini Taarifa ya dhamira inawalazimisha washiriki wa Mtandao kushirikiana katika maeneo manne: Utafiti: Kushirikiana na jumuiya ya utafiti wa usalama wa AI na kushiriki matokeo. Majaribio: Kukuza na kushiriki mbinu bora za kujaribu mifumo ya hali ya juu ya AI. Mwongozo: Kuwezesha mbinu za pamoja za kutafsiri matokeo ya mtihani wa usalama wa AI. Ujumuishaji: Kushiriki habari na zana za kiufundi ili kupanua ushiriki katika sayansi ya usalama ya AI. Zaidi ya dola milioni 11 zilizotengwa kwa utafiti wa usalama wa AI Kwa jumla, wanachama wa mtandao na mashirika kadhaa yasiyo ya faida walitangaza zaidi ya $11 milioni ya ufadhili wa utafiti wa kupunguza hatari ya maudhui yanayozalishwa na AI. Nyenzo za unyanyasaji wa watoto kingono, picha za ngono zisizo na ridhaa, na matumizi ya AI kwa ulaghai na uigaji yaliangaziwa kama maeneo muhimu ya wasiwasi. Ufadhili utatolewa kama kipaumbele kwa watafiti wanaochunguza mbinu za uwazi wa maudhui ya kidijitali na ulinzi wa mfano ili kuzuia uzalishaji na usambazaji wa maudhui hatari. Ruzuku zitazingatiwa kwa wanasayansi wanaokuza upunguzaji wa kiufundi na tathmini za sayansi ya kijamii na kibinadamu. Taasisi ya Marekani pia ilitoa mfululizo wa mbinu za hiari kushughulikia hatari za maudhui yanayotokana na AI. Matokeo ya zoezi la upimaji wa pamoja lililojadiliwa Mtandao umekamilisha zoezi lake la kwanza la upimaji wa pamoja kwenye Llama 3.1 405B ya Meta, kwa kuangalia maarifa yake ya jumla, uwezo wa lugha nyingi, na maonyesho ya vikoa vilivyofungwa, ambapo mwanamitindo hutoa taarifa kutoka nje ya eneo la kile kilichoagizwa kurejelea. Zoezi hilo liliibua mambo kadhaa ya kuzingatia jinsi upimaji wa usalama wa AI katika lugha, tamaduni na miktadha unavyoweza kuboreshwa. Kwa mfano, athari ndogo za tofauti za mbinu na mbinu za uboreshaji za kielelezo zinaweza kuwa nazo kwenye matokeo ya tathmini. Mazoezi mapana ya upimaji wa pamoja yatafanyika kabla ya Mkutano wa Kitendo wa Paris AI. Misingi ya pamoja ya tathmini za hatari zilizokubaliwa Mtandao umekubaliana juu ya msingi wa kisayansi wa pamoja wa tathmini za hatari za AI, ikijumuisha kwamba lazima ziwe zinazoweza kutekelezeka, uwazi, wa kina, washikadau wengi, wa kurudiarudia, na unaozalishwa tena. Wajumbe walijadili jinsi gani inaweza kutekelezwa. Kikosi kazi cha Marekani cha ‘Kujaribu Hatari za AI kwa Usalama wa Kitaifa’ kilianzishwa Hatimaye, kikosi kazi kipya cha TRAINS kilianzishwa, kikiongozwa na Taasisi ya Usalama ya AI ya Marekani, na kujumuisha wataalam kutoka mashirika mengine ya Marekani, ikiwa ni pamoja na Biashara, Ulinzi, Nishati, na Usalama wa Nchi. Wanachama wote watajaribu miundo ya AI ili kudhibiti hatari za usalama wa kitaifa katika vikoa kama vile usalama wa radiolojia na nyuklia, usalama wa kemikali na kibayolojia, usalama wa mtandao, miundombinu muhimu na uwezo wa kijeshi. TAZAMA: Apple Yajiunga na Ahadi ya Hiari ya Serikali ya Marekani kwa Usalama wa AI Hii inasisitiza jinsi makutano ya AI na jeshi yalivyo ya hali ya juu nchini Marekani Mwezi uliopita, Ikulu ya Marekani ilichapisha Mkataba wa Usalama wa Kitaifa wa kwanza kabisa wa Ujasusi Bandia, ambao uliamuru. Idara ya Ulinzi na mashirika ya kijasusi ya Marekani ili kuharakisha utumiaji wao wa AI katika misheni ya usalama wa kitaifa. Habari zaidi za lazima-kusomwa za AI Wazungumzaji walishughulikia kusawazisha uvumbuzi wa AI na usalama Katibu wa Biashara wa Marekani Gina Raimondo alitoa hotuba kuu siku ya Jumatano. Aliwaambia waliohudhuria kuwa “kuendeleza AI ni jambo sahihi kufanya, lakini kusonga mbele haraka iwezekanavyo, kwa sababu tu tunaweza, bila kufikiria matokeo, sio jambo la busara kufanya,” kulingana na TIME. Vita kati ya maendeleo na usalama katika AI imekuwa hatua ya mzozo kati ya serikali na kampuni za teknolojia katika miezi ya hivi karibuni. Ingawa nia ni kuwaweka wateja salama, wadhibiti wanahatarisha kuzuia ufikiaji wao kwa teknolojia za hivi karibuni, ambazo zinaweza kuleta manufaa yanayoonekana. Google na Meta zote zimekosoa waziwazi udhibiti wa AI wa Ulaya, zikirejelea Sheria ya AI ya eneo hilo, na kupendekeza kuwa itaondoa uwezo wake wa uvumbuzi. Raimondo alisema kuwa Taasisi ya Usalama ya AI ya Marekani “haiko katika biashara ya kukandamiza uvumbuzi,” kulingana na AP. “Lakini hapa kuna jambo. Usalama ni mzuri kwa uvumbuzi. Usalama huzaa uaminifu. Uaminifu huongeza kasi ya kupitishwa. Kuasili kunasababisha ubunifu zaidi.” Pia alisisitiza kuwa mataifa yana “wajibu” wa kudhibiti hatari ambazo zinaweza kuathiri vibaya jamii, kama vile kusababisha ukosefu wa ajira na ukiukaji wa usalama. “Tusiruhusu matarajio yetu yatupofushe na kuturuhusu kulala katika uharibifu wetu,” alisema kupitia AP. Dario Amodei, Mkurugenzi Mtendaji wa Anthropic, pia alitoa mazungumzo akisisitiza haja ya kupima usalama. Alisema kwamba wakati “watu hucheka leo wakati gumzo zinasema jambo lisilotabirika,” inaonyesha jinsi ilivyo muhimu kupata udhibiti wa AI kabla ya kupata uwezo mbaya zaidi, kulingana na Fortune. Taasisi za kimataifa za usalama za AI zimekuwa zikijitokeza mwaka jana Mkutano wa kwanza wa mamlaka ya AI ulifanyika Bletchley Park huko Buckinghamshire, Uingereza mwaka mmoja uliopita. Iliona kuzinduliwa kwa Taasisi ya Usalama ya AI ya Uingereza, ambayo ina malengo matatu ya msingi ya: Kutathmini mifumo iliyopo ya AI. Kufanya utafiti wa msingi wa usalama wa AI. Kushiriki habari na watendaji wengine wa kitaifa na kimataifa. Marekani ina Taasisi yake ya Usalama ya AI, iliyoanzishwa rasmi na NIST mnamo Februari 2024, ambayo imeteuliwa kuwa mwenyekiti wa mtandao huo. Iliundwa ili kufanyia kazi hatua za kipaumbele zilizoainishwa katika Agizo la Utendaji la AI lililotolewa mnamo Oktoba 2023. Hatua hizi ni pamoja na kuendeleza viwango vya usalama na usalama wa mifumo ya AI. TAZAMA: Makubaliano ya OpenAI na Anthropic Signs na Taasisi ya Usalama ya AI ya Marekani Mnamo Aprili, serikali ya Uingereza ilikubali rasmi kushirikiana na Marekani katika kutengeneza majaribio ya miundo ya hali ya juu ya AI, kwa kiasi kikubwa kwa kushiriki maendeleo yaliyofanywa na Taasisi zao za Usalama za AI. Makubaliano yaliyofanywa huko Seoul yaliona taasisi kama hizo zikiundwa katika mataifa mengine ambayo yalijiunga na ushirikiano huo. Kufafanua msimamo wa Marekani kuhusu usalama wa AI na mkutano wa San Francisco ulikuwa muhimu sana, kwani taifa pana kwa sasa halitoi mtazamo wa kuunga mkono kwa kiasi kikubwa. Rais mteule Donald Trump ameapa kufuta Amri ya Utendaji atakaporejea Ikulu ya White House. Gavana wa California Gavin Newsom, ambaye alihudhuria, pia alipinga mswada tata wa udhibiti wa AI SB 1047 mwishoni mwa Septemba.