Je, miundo mikubwa ya lugha (LLMs) inayoendesha ukuzaji wa AI inaweza kuendelea kuwa bora? Hilo ndilo swali linaloendesha mjadala kuhusu kile kinachoitwa sheria za kuongeza viwango – na Mkurugenzi Mtendaji wa zamani wa Google Eric Schmidt hajali.Sheria za kuongeza viwango hurejelea jinsi usahihi na ubora wa kielelezo cha mafunzo ya kina huboreshwa kulingana na ukubwa – kubwa zaidi ni bora inapokuja suala la modeli yenyewe, kiasi cha data inayolishwa, na kompyuta inayoiwezesha.Hata hivyo, sheria hizi za kuongeza viwango zinaweza kuwa na mipaka. Hatimaye, LLMs hukabiliana na faida zinazopungua, maboresho yanakuwa ghali zaidi, au yanaacha kuwezekana kabisa – labda kuonyesha kizuizi katika teknolojia yenyewe au kwa sababu za kiutendaji zaidi, kama vile uhaba wa data. Ripoti za mapema mwezi huu zilipendekeza miundo inayofuata kutoka kwa kuu kuu. Watengenezaji wa AI wanaweza kuakisi hili, kwa kasi ndogo mbele kuliko matoleo ya awali. Kwanza, ripoti kutoka kwa Taarifa ilipendekeza OpenAI ilikuwa na wasiwasi kuhusu toleo linalofuata la muundo wake, unaoitwa Orion, na uboreshaji mdogo zaidi kuliko matoleo ya awali. Kwa sababu hiyo, ripoti ilidai kuwa kampuni hiyo ilikuwa ikitumia mbinu za ziada kwa utendakazi bora zaidi ya muundo wenyewe, ikiwa ni pamoja na marekebisho ya baada ya mafunzo. Changamoto kama hizo zilibainishwa katika ripoti ya Bloomberg katika Google na Anthropic, na marudio yaliyofuata ya mtindo wa Gemini wa zamani kushindwa kukidhi matarajio, wakati changamoto za Anthropic na toleo linalofuata la modeli yake ya Claude zimeripotiwa kusababisha kucheleweshwa kwa kutolewa kwake. Pokea habari zetu za hivi punde, masasisho ya tasnia, nyenzo zilizoangaziwa na zaidi. Jisajili leo ili kupokea ripoti yetu ya BILA MALIPO kuhusu uhalifu wa mtandaoni na usalama wa AI – iliyosasishwa upya kwa 2024. Je, kuna ukuta? Sio kila mtu anakubali kwamba kuna kikomo kwa LLM hizi, hata hivyo. Kufuatia ripoti hizo, mtendaji mkuu wa OpenAI Sam Altman alichapisha mtandaoni akisisitiza “hakuna ukuta.” Hoja fupi ya Altman ilipanuliwa na kiongozi wa zamani wa mmoja wa wapinzani wa OpenAI, Mkurugenzi Mtendaji wa zamani wa Google Eric Schmidt. Akiongea kwenye Diary ya podikasti ya Mkurugenzi Mtendaji , mwenyeji Steven Bartlett alimuuliza Schmidt nini kilimtia wasiwasi kuhusu LLMs katika siku za usoni, na akaanza jibu lake kwa kueleza kwamba anaamini mifano hii ya AI. haitakabiliwa na ukuta wa kuongeza ukubwa ndani ya miaka mitano ijayo.”Katika miaka mitano, utakuwa na zamu mbili au tatu zaidi za sauti ya miundo hii kubwa ya lugha,” Schmidt alisema.”Miundo hii mikubwa inaongezeka kwa uwezo ambao haijawahi kutokea; hakuna ushahidi kwamba sheria za kuongeza viwango, kama zinavyoitwa, zimeanza kusimama. Hatimaye watakoma, lakini bado hatujafika,” aliongeza.”Kila moja ya mikunjo hii inaonekana kama ni kipengele cha mbili, tatu, kipengele cha nne cha uwezo, kwa hivyo wacha tu tuseme kugeuza mkumbo wote. mifumo hii inakuwa na nguvu mara 50 au 100 zaidi.”Aliendelea kuongeza “fantasia”Kwa kuzingatia kwamba nguvu inaongezeka kila wakati, Schmidt alisisitiza wasiwasi wa usalama wa AI kwa kujadili jinsi LLMs zinaweza kupanga mashambulizi ya mtandao, kuunda. Virusi, na kuzidisha migogoro.Wengine hawakubaliani, ikiwa ni pamoja na mkosoaji wa muda mrefu wa AI, profesa wa Chuo Kikuu cha New York, Gary Marcus, ambaye alisema katika Substack yake kwamba AI ingegonga ukuta, na kuendelea na maendeleo kwa kasi sawa hadi kufikia Ujasusi Mkuu wa Artificial (AGI). ) ilikuwa “fantasia”.”Ukweli ni kwamba kuongeza kasi kunaisha, na ukweli ni kwamba, mwishowe unatoka,” aliandika, na kuongeza kuwa mradi huo. bepari Marc Andreesen alikuwa amesema hadharani kwamba kwenye podikasti “hatupati maboresho ya kiakili hata kidogo kutoka kwayo” – ambayo Marcus alitafsiri kama “kimsingi VC-ese kwa ‘kujifunza kwa kina ni kugonga ukuta’.” Hiyo itamaanisha kusumbua. nyakati za kampuni ambazo zimeweka dau kubwa kwenye LLM, kama vile OpenAI na Microsoft. Marcus alitabiri kuwa LLMs ziko hapa kubaki, lakini gharama zinazoongezeka zitabadilisha soko.” LLM kama zilivyo, zitakuwa bidhaa; vita vya bei vitaweka mapato ya chini,” aliandika.” Kwa kuzingatia gharama ya chips, faida itakuwa Wakati kila mtu anatambua hili, kiputo cha fedha kinaweza kupasuka haraka, wakati watu wanatambua kiwango ambacho tathmini yake iliegemezwa kwenye dhana ya uwongo.”Gharama zinazohusiana na LLMs pia zimekuwa iliyotiwa alama kuwa kero kubwa na washikadau wengine wa tasnia, kama vile Mkurugenzi Mtendaji wa Anthropic Dario Amodei. Mnamo Julai, Amodei alibainisha kuwa tayari inagharimu mamia ya mamilioni ya dola kutoa mafunzo kwa wanamitindo katika baadhi ya matukio, na kuna baadhi ya “katika mafunzo leo” ambayo yanagharimu karibu. hadi dola bilioni 1. Nambari hizi ni nyepesi ikilinganishwa na miaka ijayo, hata hivyo, Amodei akitabiri kwamba gharama za mafunzo ya AI zitafikia alama ya $ 10 bilioni na $ 100 katika kipindi cha “2025, 2026, labda 2027”.