Deepseek, mfano unaokua wa akili wa bandia (Genai) unaokua haraka ambao ulifanya mawimbi kote ulimwenguni mwishoni mwa Januari – na inasemekana ilifuta zaidi ya dola trilioni kutoka kwa masoko ya hisa – ina uwezekano mkubwa kuliko wengine kutoa upendeleo, madhara na sumu kuliko Washindani wake, kulingana na ushahidi wa awali walikusanyika kwa utafiti. Huku kukiwa na Jeshi la Wataalam wa Usalama wa Teknolojia na Cyber ambao wametumia siku zilizopita kuzidi kuongezeka kwa haraka kwa Deepseek kwa umaarufu na maana yake ni wataalam katika Boston-msingi wa Usalama wa AI na jukwaa la kufuata Enkrypt AI, ambao sasa wamechapisha matokeo ya mapema juu ya jinsi nyekundu yao nyekundu Timu iligundua litany ya kushindwa kwa usalama katika mfano. Enkrypt alielezea mfano huo kuwa wa upendeleo na unaoweza kuhusika na sio tu kanuni za kutokuwa na usalama, lakini pia yaliyomo kama vile nyenzo za jinai, hotuba ya chuki na vitisho, vifaa vya kujiumiza, na yaliyomo wazi ya kijinsia. Kama wengine wameonyesha wiki hii, pia ni hatari sana kwa ujanja, pia inajulikana kama kuvunja gereza, ambayo inaweza kuiwezesha kusaidia katika uundaji wa silaha za kemikali, kibaolojia na cyber. Enkrypt alisema ilileta “wasiwasi mkubwa wa usalama wa ulimwengu”. Ikilinganishwa na mifano mingine, watafiti wa kampuni hiyo walidai mfano wa Deepseek-R1 ni mara tatu zaidi ya upendeleo kuliko Claude-3 Opus, mara nne zaidi katika hatari ya kutoa msimbo wa kutokuwa na usalama kuliko OpenAI O1, mara nne zaidi kuliko GPT-4O, mara 11 zaidi uwezekano Ili kutoa mazao mabaya ikilinganishwa na OpenAI O1, na mara tatu na nusu uwezekano mkubwa wa kutoa kemikali, kibaolojia, radiolojia na nyuklia (CBRN) kuliko OpenAI O1 au Claude-3 opus. “Deepseek-R1 inatoa faida kubwa za gharama katika kupelekwa kwa AI, lakini hizi zinakuja na hatari kubwa,” Mkurugenzi Mtendaji wa Enkrypt Sahil Agarwal alisema. “Matokeo yetu ya utafiti yanaonyesha mapungufu makubwa ya usalama na usalama ambayo hayawezi kupuuzwa. Wakati DeepSeek-R1 inaweza kuwa na faida kwa matumizi nyembamba, usalama wa nguvu-pamoja na walinzi na ufuatiliaji unaoendelea-ni muhimu kuzuia utumiaji mbaya. Usalama wa AI lazima ubadilike pamoja na uvumbuzi, sio kama mawazo ya baadaye. ” Wakati wa kupima, watafiti wa Enkrypt waligundua kuwa 83% ya vipimo vya upendeleo vilifanikiwa kutoa matokeo ya kibaguzi, ambayo ilikuwa kali sana katika maeneo kama jinsia, afya, kabila na dini, uwezekano wa kuweka Deepseek katika hatari ya kukiuka sheria na kanuni, na kusababisha hatari kubwa kwa Mashirika ambayo yanaweza kujaribiwa kuunganisha zana hiyo katika maeneo kama huduma za kifedha, utoaji wa huduma ya afya au rasilimali watu. Kwa ujumla, 6.68% ya majibu yote yalikuwa na kiwango fulani cha matusi, hotuba ya chuki, au simulizi zenye msimamo mkali, tofauti na Claude-3 Opus, ambayo ilizuia kwa ufanisi mioyo yote ya sumu. Kwa kuongezea, 45% ya maudhui mabaya husababisha kupimwa kwa mafanikio itifaki za usalama, na kutoa miongozo ya upangaji wa uhalifu, habari haramu ya silaha na propaganda za msimamo mkali. Katika moja ya vipimo, Enkrypt aliweza kutumia Deepseek-R1 kuandika blogi ya kuajiri “yenye kushawishi” kwa kikundi cha kigaidi kisichojulikana. Hii inaendana na vipimo vingine vilivyofanywa na wataalam katika Mitandao ya Palo Alto, ambao walitumia safu ya kuvunja gereza kutoa maagizo juu ya kutengeneza kifaa cha kulipuka cha kuboresha (IEC) – kwa mfano huo, jogoo wa Molotov. Deepseek-R1 pia ilitoa data ya kina juu ya mwingiliano wa biochemical wa haradali ya kiberiti-inayojulikana zaidi kama gesi ya haradali-na DNA, ambayo, wakati imesomwa na kujulikana kwa miaka, inatoa tishio la biosecurity. Kugeuka kwa hatari za usalama wa cyber haswa, 78% ya vipimo vinavyoendeshwa na Enkrypt vilifanikiwa kudanganya Deepseek-R1 kuwa nambari ya kutengeneza ambayo ilikuwa na udhaifu au ilikuwa mbaya kabisa-pamoja na nambari ambayo inaweza kusaidia kuunda programu hasidi, Trojans na unyonyaji mwingine. Enkrypt alisema mfano mkubwa wa lugha una uwezekano mkubwa wa kuwa na uwezo wa kutengeneza vifaa vya utapeli wa kazi, kitu wataalamu wa usalama wameonya kwa muda mrefu. Akifikiria matokeo ya timu hiyo, Agarwal alisema ni kawaida kwamba China na Amerika zitaendelea kushinikiza mipaka ya AI kwa nguvu za kiuchumi, kijeshi na kiteknolojia. “Walakini, matokeo yetu yanaonyesha kuwa udhaifu wa usalama wa Deepseek-R1 unaweza kugeuzwa kuwa zana hatari-ambayo wahalifu wa cyber, mitandao ya disinformation, na hata wale walio na matarajio ya vita vya biochemical wanaweza kutumia,” alisema. “Hatari hizi zinahitaji umakini wa haraka.”
Leave a Reply