Výzkumníci společnosti Apple zasáhli novou multimodální metodu rychlého školení velkých jazykových modelů (LLM), která může umožnit flexibilnější a výkonnější strojové učení a systémy typu „AI“.
Výzkumný dokument, který společnost zveřejnila na výzkumném webu arxiv.org začátkem tohoto týdne, odhalil, že Apple použil to, co nazývá „pečlivým mixem“ obrázků s titulky, prokládaným textem obrázků a dat pouze s textem, aby trénoval LLM. Kombinace vizuálních a jazykových dat umožnila modelům zvládnout úkoly, jako je inteligentní popisování obrázků nebo odvození významů v přirozeném jazyce.
V rámci výzkumu bylo zjištěno, že výběr obrazového kodéru a rozlišení obrazů, které zpracovává, má velký vliv na výkon, více než design konektoru vizuálního jazyka.
V jednom případě bylo pomocí modelu MM1 s 30 miliardami parametrů zjištěno, že existují silné schopnosti učení v kontextu. Tento objev znamená, že může provádět vícekrokové uvažování nad více obrázky s několika výzvami „řetězce myšlenek“.
Podle VenturebeatApple pokračuje ve své tradici být „rychlým následovníkem“ spíše než „prvním tahounem“, pokud jde o převratné technologie. Generální ředitel Tim Cook nedávno přiznal, že společnost utrácí 1 miliardu dolarů ročně na začlenění „AI“ do svých stávajících technologií.
Cook řekl, že společnost bude koncem tohoto roku sdílet „podrobnosti o naší probíhající práci v oblasti umělé inteligence“. Očekává se, že Apple učiní některá oznámení o svých pokrocích na WWDC letos v červnu.
Společnost dohání své konkurenty v používání technologií souvisejících s AI. Vyvíjí také metody, které by chránily soukromí uživatelů a zároveň rozšiřovaly jeho stávající schopnosti strojového učení.
Posledně jmenovaný zájem o soukromí a bezpečnost není součástí stávajících služeb typu „chatbot“ a zvyšuje výzvu pro Apple.
Zájem Applu o vícemodelové trénování neuronových sítí vyústil v nejmodernější výkon, který umožňuje vícekrokové uvažování. To naznačuje, že společnost našla cestu k rychlému rozvoji schopností strojového učení a zároveň jim poskytla pokročilé „inteligenční“ schopnosti.
Zdroj: appleinsider.com