Watafiti wamedanganya Deepseek, AI ya Uzani wa Wachina (GENAI) ambayo ilijadiliwa mapema mwezi huu kwa kimbunga cha utangazaji na kupitishwa kwa watumiaji, katika kufunua maagizo ambayo yanafafanua jinsi inavyofanya kazi. Deepseek, “msichana mpya” huko Genai, alifundishwa kwa gharama kubwa ya sadaka zilizopo, na kwa hivyo imesababisha kengele ya ushindani katika Bonde la Silicon. Hii imesababisha madai ya wizi wa mali ya akili kutoka OpenAI, na upotezaji wa mabilioni katika soko la AI Chipmaker Nvidia. Kwa kawaida, watafiti wa usalama wameanza kuchunguza Deepseek pia, kuchambua ikiwa kile kilicho chini ya kofia hiyo kinafaidika au mbaya, au mchanganyiko wa wote wawili. Na wachambuzi huko Wallarm walifanya maendeleo makubwa mbele hii kwa kuivunja gerezani. Katika mchakato huo, walifunua mfumo wake wote wa haraka, yaani, seti ya siri, iliyoandikwa kwa lugha wazi, ambayo inaamuru tabia na mapungufu ya mfumo wa AI. Wanaweza pia kuwa walisababisha Deepseek kukubali uvumi kwamba ilifunzwa kwa kutumia teknolojia iliyoundwa na OpenAI. Mfumo wa Deepseek unahamisha Wallarm ulimjulisha Deepseek juu ya kuvunjika kwake kwa gereza, na Deepseek tangu sasa imerekebisha suala hilo. Kwa kuogopa kwamba hila zile zile zinaweza kufanya kazi dhidi ya mifano mingine maarufu ya lugha (LLMs), hata hivyo, watafiti wamechagua kuweka maelezo ya kiufundi chini ya Wraps. Kuhusiana: Leseni ya Skanning ya Code-Moyo Katika Moyo wa Usalama wa Usalama “Kwa kweli ilihitaji uandishi wa habari, lakini sio kama unyonyaji ambapo unatuma rundo la data ya binary [in the form of a] Virusi, na kisha imekatwa, “anafafanua Ivan Novikov, Mkurugenzi Mtendaji wa Wallarm. “Kwa kweli, tunashawishi mfano wa kujibu [to prompts with certain biases]Na kwa sababu ya hiyo, mfano huvunja aina fulani za udhibiti wa ndani. ” Kwa kuvunja udhibiti wake, watafiti waliweza kutoa mfumo mzima wa Deepseek, neno kwa neno. Na kwa maana ya jinsi tabia yake inalinganishwa na mifano mingine maarufu, ililisha maandishi hayo kuwa OpenAI’s GPT-4O na kuiuliza ifanye kulinganisha. Kwa jumla, GPT-4O ilidai kuwa isiyo na kizuizi na ya ubunifu zaidi linapokuja suala la maudhui nyeti. “Haraka ya OpenAI inaruhusu fikira muhimu zaidi, majadiliano ya wazi, na mjadala mzuri wakati unahakikisha usalama wa watumiaji,” chatbot ilidai, ambapo “haraka ya Deepseek inaweza kuwa ngumu zaidi, inaepuka majadiliano yenye utata, na inasisitiza kutokujali kwa hatua ya udhibiti.” Wakati watafiti walikuwa wakizunguka katika Kishkes zake, pia waligundua ugunduzi mwingine wa kupendeza. Katika hali yake ya gerezani, mfano huo ulionekana kuashiria kuwa inaweza kuwa imepokea maarifa yaliyohamishwa kutoka kwa mifano ya OpenAI. Watafiti waligundua utaftaji huu, lakini walisimamisha kuiandika ni aina yoyote ya uthibitisho wa wizi wa IP. Kuhusiana: Upungufu wa OAuth ulifunua mamilioni ya watumiaji wa ndege kwa wachukuaji “[We were] Sio kurudisha nyuma au sumu majibu yake – hii ndio tulipata kutoka kwa majibu wazi baada ya kuvunjika kwa gereza. Walakini, ukweli wa mapumziko ya gereza yenyewe hautupatii ishara ya kutosha kwamba ni ukweli wa msingi, “Novikov anaonya. Somo hili limekuwa nyeti sana tangu Januari 29, wakati OpenAI – ambayo ilifundisha mifano yake juu ya data isiyo na maandishi, yenye hakimiliki kutoka kwa wavuti – ilifanya madai hayo yaliyotajwa hapo juu kwamba Deepseek ilitumia teknolojia ya OpenAI kutoa mafunzo kwa mifano yake bila ruhusa. Chanzo: Wiki ya Wallarm Deepseek kukumbuka Deepseek imekuwa na safari ya kimbunga tangu kutolewa kwake ulimwenguni mnamo Januari 15. Katika wiki mbili kwenye soko, ilifikia kupakuliwa milioni 2. Umaarufu wake, uwezo, na gharama ya chini ya maendeleo ilisababisha kuunganishwa katika Bonde la Silicon, na hofu kwenye Wall Street. Ilichangia kushuka kwa asilimia 3.4 katika mchanganyiko wa NASDAQ mnamo Januari 27, ukiongozwa na kuifuta kwa dola bilioni 600 katika hisa ya Nvidia-kupungua kwa siku moja kwa kampuni yoyote katika historia ya soko. Halafu, kulia juu ya cue, kutokana na maelezo yake ya juu ghafla, Deepseek alipata wimbi la trafiki iliyosambazwa ya huduma (DDOS). Kampuni ya Wachina ya cybersecurity XLAB iligundua kuwa mashambulio hayo yalianza tena Januari 3, na yalitoka kwa maelfu ya anwani za IP zilizoenea kote Amerika, Singapore, Uholanzi, Ujerumani, na Uchina yenyewe. Kuhusiana: Faili za Mitaji ya Spectral Quantum Cybersecurity Patent Mtaalam asiyejulikana aliwaambia gazeti la Global Times walipoanza kwamba “mwanzoni, mashambulio yalikuwa shambulio la SSDP na NTP. Siku ya Jumanne, idadi kubwa ya mashambulio ya wakala wa HTTP yaliongezwa. Halafu mapema asubuhi ya leo, botnets zilizingatiwa kuwa zilijiunga na ujanja. Hii inamaanisha kuwa mashambulio ya Deepseek yamekuwa yakiongezeka, na njia zinazoongezeka, na kufanya utetezi unazidi kuwa mgumu na changamoto za usalama zinazowakabili Deepseek kali zaidi. ” Ili kushinikiza wimbi, kampuni iliweka sehemu ya muda kwenye akaunti mpya zilizosajiliwa bila nambari ya simu ya Wachina. Mnamo Januari 28, wakati wa kuweka mbali cyberattacks, kampuni hiyo ilitoa toleo la pro la mfano wake wa AI. Siku iliyofuata, watafiti wa Wiz waligundua hifadhidata ya Deepseek inayoonyesha historia ya gumzo, funguo za siri, siri za programu ya programu (API), na zaidi kwenye wavuti wazi. Mahali pengine mnamo Januari 31, Enkyrpt AI ilichapisha matokeo ambayo yanaonyesha maswala ya kina, yenye maana na matokeo ya Deepseek. Kufuatia upimaji wake, iliona mazungumzo ya Wachina mara tatu zaidi ya upendeleo kuliko Claud-3 Opus, mara nne yenye sumu zaidi kuliko GPT-4O, na mara 11 iwezekanavyo kutoa matokeo mabaya kama O1 ya O1. Pia ina mwelekeo zaidi kuliko wengi kutoa nambari ya ukosefu wa usalama, na hutoa habari hatari inayohusu kemikali, kibaolojia, radiolojia, na mawakala wa nyuklia. Walakini licha ya mapungufu yake, “ni mshangao wa uhandisi kwangu, kibinafsi,” anasema Sahil Agarwal, Mkurugenzi Mtendaji wa Enkrypt AI. “Nadhani ukweli kwamba ni chanzo wazi pia huongea sana. Wanataka jamii kuchangia, na kuweza kutumia uvumbuzi huu. Nadhani ndio sababu watoa huduma wengi wa chanzo-msingi ni wa kuogopa. ” Anaongeza, pia, kwamba “kuna mifano mingine ambayo ni mbaya kuliko Deepseek. Ni kwamba Deepseek ni mengi sana kwenye habari, kwa hivyo ina macho mengi juu yake. ” URL ya asili ya asili: https://www.darkreading.com/application-security/deepseek-jailbreak-system-prompt