Jan 11, 2025Ravie LakshmananAI Security / Cybersecurity Microsoft imefichua kuwa inafuatilia hatua za kisheria dhidi ya “kundi la waigizaji tishio lenye makao yake ya kigeni” kwa kuendesha miundombinu ya udukuzi-huduma ili kuvuka kwa makusudi udhibiti wa usalama wa kampuni yake. huduma za kijasusi bandia (AI) na kutoa maudhui yanayokera na yenye madhara. Kitengo cha Uhalifu wa Kidijitali cha kampuni hiyo kubwa ya kiteknolojia (DCU) kilisema kimeona wahusika tishio “wanatengeneza programu ya kisasa ambayo ilitumia kitambulisho cha mteja kilichofichuliwa kutoka kwa tovuti za umma,” na “kutafuta kutambua na kufikia kinyume cha sheria akaunti zilizo na huduma fulani za uzalishaji za AI na kubadilisha uwezo kwa makusudi. wa huduma hizo.” Wapinzani walitumia huduma hizi, kama vile Huduma ya Azure OpenAI, na kuchuma mapato kwa kuziuza kwa watendaji wengine hasidi, wakiwapa maagizo ya kina kuhusu jinsi ya kutumia zana hizi maalum kutoa maudhui hatari. Microsoft ilisema iligundua shughuli hiyo mnamo Julai 2024. Kampuni ya kutengeneza Windows ilisema tangu wakati huo imebatilisha ufikiaji wa kikundi cha waigizaji tishio, imetekeleza hatua mpya za kupinga, na kuimarisha ulinzi wake ili kuzuia shughuli kama hiyo kutokea katika siku zijazo. Pia ilisema ilipata amri ya mahakama ya kukamata tovuti (“aitism[.]net”) ambayo ilikuwa msingi wa operesheni ya jinai ya kikundi. Umaarufu wa zana za AI kama OpenAI ChatGPT pia umekuwa na matokeo ya watendaji vitisho kuzitumia vibaya kwa nia ovu, kuanzia kutoa maudhui yaliyokatazwa hadi kuunda programu hasidi. Microsoft na OpenAI wamefichua mara kwa mara kwamba makundi ya mataifa kutoka China, Iran, Korea Kaskazini, na Urusi yanatumia huduma zao kwa ajili ya uchunguzi, utafsiri na kampeni za kutoa taarifa zisizo sahihi za Mahakama angalau watu watatu wasiojulikana wanahusika na operesheni hiyo, wakitumia funguo za API za Azure zilizoibiwa na maelezo ya uthibitishaji wa kitambulisho cha mteja ili kukiuka mifumo ya Microsoft na kuunda picha zenye madhara kwa kutumia DALL-E kinyume na sera yake ya matumizi inayokubalika huduma na zana zinazotolewa nao kwa madhumuni sawa na jinsi funguo za API zinavunwa kwa sasa hazijulikani, lakini Microsoft ilisema washtakiwa walijihusisha na “wizi wa ufunguo wa API” kutoka kwa nyingi. wateja, pamoja na kampuni kadhaa za Amerika, ambazo zingine ziko Pennsylvania na New Jersey. “Kwa kutumia Vifunguo vya API vya Microsoft vilivyoibiwa vilivyokuwa vya wateja wa Microsoft wanaoishi Marekani, washtakiwa waliunda mpango wa udukuzi-kama-huduma – unaopatikana kupitia miundombinu kama vile vikoa vya ‘rentry.org/de3u’ na ‘aitism.net’ – iliyoundwa mahsusi matumizi mabaya ya miundombinu na programu ya Azure ya Microsoft,” kampuni hiyo ilisema kwenye faili. Kulingana na hazina ya GitHub iliyoondolewa sasa, de3u imeelezewa kama “DALL-E 3 frontend na usaidizi wa wakala wa nyuma.” Akaunti ya GitHub inayozungumziwa iliundwa tarehe 8 Novemba 2023. Inasemekana watendaji tishio walichukua hatua “kufunika nyimbo zao, ikiwa ni pamoja na kujaribu kufuta baadhi ya kurasa za Rentry.org, hazina ya GitHub ya zana ya de3u, na sehemu za kinyume. miundombinu ya wakala” kufuatia kunaswa kwa “aitism[.]net.” Microsoft ilibaini kuwa watendaji tishio walitumia de3u na huduma ya proksi ya reverse bespoke, iitwayo oai reverse proksi, kupiga simu za Azure OpenAl Service API kwa kutumia vitufe vya API vilivyoibiwa ili kutengeneza isivyo halali maelfu ya picha hatari kwa kutumia vidokezo vya maandishi. haijulikani ni aina gani ya taswira ya kukera iliundwa. Huduma ya wakala ya oai inayoendeshwa kwenye seva imeundwa kusambaza mawasiliano kutoka kwa mtumiaji wa de3u kompyuta kupitia handaki la Cloudflare ndani ya Huduma ya Azure OpenAI, na kusambaza majibu kwa kifaa cha mtumiaji “Programu ya de3u inaruhusu watumiaji kutoa simu za API za Microsoft kutoa picha kwa kutumia kielelezo cha DALL-E kupitia kiolesura rahisi cha mtumiaji kinachotumia Azure. API za kufikia Huduma ya Azure OpenAI,” Redmond alieleza. “Programu ya de3u ya washtakiwa huwasiliana na kompyuta za Azure kwa kutumia API za mtandao wa Microsoft zisizo na hati kutuma maombi yaliyoundwa. kuiga maombi halali ya Azure OpenAPI Service API. Maombi haya yameidhinishwa kwa kutumia vitufe vya API vilivyoibiwa na maelezo mengine ya uthibitishaji.” Inafaa kuashiria kuwa matumizi ya huduma za wakala kufikia huduma za LLM kinyume cha sheria yaliangaziwa na Sysdig mnamo Mei 2024 kuhusiana na kampeni ya LLMjacking inayolenga matoleo ya AI kutoka Anthropic, AWS. Bedrock, Google Cloud Vertex AI, Microsoft Azure, Mistral, na OpenAI kwa kutumia wingu lililoibiwa stakabadhi na kuuza ufikiaji kwa watendaji wengine “Washtakiwa wameendesha shughuli za Azure Abuse Enterprise kupitia muundo ulioratibiwa na endelevu wa shughuli haramu ili kufikia malengo yao ya kawaida yasiyo halali,” Microsoft ilisema si mdogo kwa mashambulizi ya Microsoft. Ushahidi ambao Microsoft imegundua hadi sasa unaonyesha kuwa Azure Abuse Enterprise imekuwa ikiwalenga na kuwadhulumu watoa huduma wengine wa AI.” Je, makala haya yamekuvutia? Tufuate kwenye Twitter  na LinkedIn ili kusoma maudhui ya kipekee zaidi tunayochapisha.