GOC/Getty ImagesAmidst sehemu sawa na ubishani juu ya nini utendaji wake unamaanisha kwa AI, kuanza kwa Kichina Deepseek inaendelea kuongeza wasiwasi wa usalama. Siku ya Alhamisi, Kitengo cha 42, timu ya utafiti wa cybersecurity katika Mitandao ya Palo Alto, ilichapisha matokeo juu ya njia tatu za kuvunja gerezani ambazo ziliajiri dhidi ya matoleo kadhaa ya mifano ya V3 na R1 ya V3 na R1. Kulingana na ripoti hiyo, juhudi hizi “zilipata viwango muhimu vya kupita, bila ujuzi wowote maalum au utaalam kuwa muhimu.” Pia: Hifadhidata ya Umma ya AI ya Umma inafichua funguo za API na data zingine za watumiaji “Matokeo yetu ya utafiti yanaonyesha kuwa njia hizi za kuvunja gerezani zinaweza kusababisha mwongozo wa wazi kwa shughuli mbaya,” ripoti inasema. “Shughuli hizi ni pamoja na uundaji wa Keylogger, uhamishaji wa data, na hata maagizo ya vifaa vya kuingiliana, kuonyesha hatari zinazoonekana za usalama zinazosababishwa na darasa hili linaloibuka la shambulio.” Watafiti waliweza kuhamasisha Deepseek kwa mwongozo wa jinsi ya kuiba na kuhamisha data nyeti, kwa njia ya usalama wa kupita, kupita kwa njia ya usalama, kupita kwa njia ya usalama, kupita kwa njia ya usalama, kupita. , andika barua pepe za “kushawishi sana” za spear-spear, fanya “kisasa” mashambulizi ya uhandisi wa kijamii, na ufanye chakula cha jioni cha Molotov. Waliweza pia kudanganya mifano katika kuunda programu hasidi. “Wakati habari juu ya kuunda Visa vya Molotov na KeyLogger inapatikana kwa urahisi mkondoni, LLM zilizo na vizuizi vya usalama vya kutosha vinaweza kupunguza kizuizi cha kuingia kwa watendaji mbaya kwa kuandaa na kuwasilisha matokeo yanayoweza kutumika na yanayoweza kutekelezwa,” karatasi inaongeza. Pia: OpenAI inazindua mfano mpya wa O3 -mini – Hapa kuna jinsi watumiaji wa bure wa Chatgpt wanaweza kujaribu Ijumaa, Cisco pia alitoa ripoti ya kuvunja gereza kwa Deepseek R1. Baada ya kulenga R1 na uhamasishaji 50 wa Harmbench, watafiti walipata Deepseek walikuwa na “kiwango cha mafanikio cha shambulio la 100%, ikimaanisha ilishindwa kuzuia haraka moja yenye madhara.” Unaweza kuona jinsi Deepseek inalinganisha na viwango vingine vya juu vya upinzani wa mifano hapa chini. Cisco “Lazima tuelewe ikiwa Deepseek na dhana yake mpya ya hoja ina biashara yoyote muhimu linapokuja suala la usalama na usalama,” ripoti inabainisha. Pia mnamo Ijumaa, mtoaji wa usalama Wallarm aliachilia ripoti yake mwenyewe ya kuvunja gerezani, akisema ilikuwa imepita hatua zaidi ya kujaribu kupata Deepseek kutoa yaliyomo hatari. Baada ya kupima V3 na R1, ripoti hiyo inadai kuwa imefunua mfumo wa Deepseek, au maagizo ya msingi ambayo yanafafanua jinsi mfano unavyofanya, pamoja na mapungufu yake. Pia: Kipengele kipya cha nguvu cha Copilot cha ‘Fikiria zaidi’ ni bure kwa watumiaji wote – jinsi inavyofanya kazi zinaonyesha “udhaifu unaowezekana katika mfumo wa usalama wa mfano,” Wallarm anasema. OpenAI imeshutumu Deepseek kwa kutumia mifano yake, ambayo ni ya wamiliki, kutoa mafunzo kwa V3 na R1, na hivyo kukiuka masharti yake ya huduma. Katika ripoti yake, Wallarm anadai kuwa amesababisha Deepseek kurejelea OpenAi “katika safu yake ya mafunzo iliyofunuliwa,” ambayo – kampuni inasema – inaonyesha “teknolojia ya OpenAI inaweza kuwa na jukumu la kuunda msingi wa maarifa wa Deepseek.” Mazungumzo ya Wallarm na Deepseek, ambayo yanataja OpenAi. Wallarm “Katika kesi ya Deepseek, moja wapo ya uvumbuzi wa kuvutia zaidi wa Jalada ni uwezo wa kutoa maelezo juu ya mifano inayotumika kwa mafunzo na kunereka. Kwa kawaida, habari kama hizo za ndani zinalindwa, kuzuia watumiaji kuelewa data za wamiliki au za nje zilizotengwa Ili kuongeza utendaji, “ripoti inaelezea. “Kwa kukwepa vizuizi vya kiwango cha kawaida, milango ya gereza huonyesha ni kiasi gani watoa huduma wa AI wanadumisha juu ya mifumo yao wenyewe, wakifunua udhaifu wa usalama tu lakini pia ushahidi unaowezekana wa ushawishi wa mfano katika bomba la mafunzo ya AI,” inaendelea. Pia: Watafiti wa Apple wanaonyesha mchuzi wa siri nyuma ya Deepseek Aithe Prompt Wallarm inayotumika kupata majibu hayo imepunguzwa katika ripoti hiyo, “ili wasiweze kuathiri aina zingine zilizo hatarini,” watafiti waliiambia ZDNet kupitia barua pepe. Kampuni hiyo ilisisitiza kwamba majibu haya ya gerezani sio uthibitisho wa tuhuma za OpenAI kwamba Deepseek ilisababisha mifano yake. Kama vyombo vya habari 404 na wengine vimesema, wasiwasi wa OpenAI ni wa kushangaza, kwa sababu ya mazungumzo karibu na wizi wake wa data ya umma. Wallarm anasema ilifahamisha Deepseek juu ya hatari hiyo, na kwamba kampuni tayari imeshatoa suala hilo. Lakini siku chache tu baada ya hifadhidata ya Deepseek kupatikana bila kutumiwa na kupatikana kwenye mtandao (na kisha kuchukuliwa haraka, baada ya taarifa), matokeo ya matokeo ya uwezekano mkubwa wa mashimo katika mifano ambayo Deepseek haikufanya timu nyekundu kabla ya kutolewa. Hiyo ilisema, watafiti mara nyingi wameweza kuvunja mifano maarufu iliyoundwa na Amerika kutoka kwa wakuu zaidi wa AI, pamoja na Chatgpt.