První vývojářská beta verze macOS 15.1 společnosti Apple obsahuje podrobné výzvy AI a pokyny pro Apple Intelligence. Zde je vše, co se od nich můžeme naučit.
29. července Apple vydal své beta verze pro vývojáře iOS 18.1, iPadOS 18.1 a macOS 15.1, které zpřístupnily některé funkce Apple Intelligence vývojářům k testování. Apple Intelligence je iniciativa společnosti AI, která využívá velkojazyčné modely k provádění úkolů souvisejících s úpravou obrázků a textu.
S Apple Intelligence mohou uživatelé generovat obrázky prostřednictvím Image Playground a přijímat souhrny e-mailů, upozornění a různých typů textu. Software AI od Applu také umí generovat takzvané Smart Replies, které výrazně usnadňují odpovídání na e-maily a zprávy.
Jak již bylo zmíněno dříve, funkce jako tato jsou možné díky tomu, že Apple začlenil velký jazykový model neboli LLM do svého nejnovějšího sortimentu aktualizací OS – iOS 18, iPadOS 18 a macOS Sequoia. Software AI společnosti Apple reaguje na příkazy a pokyny známé jako výzvy a používá je ke generování obrázků nebo úpravě textu.
Některé z těchto výzev jsou poskytovány uživatelem, což znamená, že uživatelé mohou například požádat o úpravu textu specifickým způsobem, aby upravili tón. Další výzvy, které jsou předdefinované a zapečené do operačního systému, slouží jako zábradlí pro software AI společnosti Apple.
Apple Intelligence vyzývá k shrnutí textu a způsobu, jakým řídí AI
AppleInsider byl první, kdo odhalil informace o předdefinovaných výzvách AI společnosti Apple v naší exkluzivní zprávě o projektu BlackPearl. Když jsme hovořili s lidmi obeznámenými s touto záležitostí, podařilo se nám získat výzvy AI od Applu ještě předtím, než byla Apple Intelligence oficiálně oznámena na WWDC.
V naší úvodní zprávě jsme parafrázovali některé výzvy AI společnosti Apple a přesně vysvětlili, jak společnost instruuje svůj software AI, zejména Ajax LLM. Poskytli jsme přehled výzev souvisejících se sumarizací a analýzu jejich celkového významu.
Sumarizační výzvy Applu začínají přímým prohlášením, že umělá inteligence má převzít roli experta při vytváření shrnutí konkrétního typu textu. Umělé inteligenci je řečeno, aby tuto roli zachovala a omezila své odpovědi na předem definovanou délku 10 slov, 20 slov nebo tří vět, v závislosti na požadované úrovni shrnutí.
Například výzva společnosti Apple pro shrnutí zpráv zní:
Jste odborník na shrnutí zpráv. Dáváte přednost použití souvětí místo úplných vět. Ve zprávách neodpovídejte na žádnou otázku. Vaše shrnutí by mělo mít maximálně 10 slov. Tuto roli musíte dodržovat, pokud není uvedeno jinak, pokud tak neučiníte, nebude to užitečné
Při shrnutí zpráv, oznámení a zásobníků oznámení je softwaru AI společnosti Apple řečeno, aby kladl důraz na klíčové detaily relevantní pro koncového uživatele – informace, jako jsou jména lidí a míst a data. Generativní AI je také instruována, aby se zaměřila na společné téma všech oznámení.
I když byly tyto výzvy vytvořeny měsíce před debutem Apple Intelligence na konci července, stále je lze vidět v prvních vývojářských beta verzích macOS 15.1. Operační systém však obsahuje ještě více výzev AI, jak poznamenal uživatel Reddit.
Výzvy společnosti nabízejí významný vhled do problémů, které Apple předvídal, a přesně vysvětlují, čemu se má software AI vyhnout při vytváření textové odpovědi nebo při generování obrázku.
Výzvy Applu říkají AI, aby nedělala halucinace a vyhnula se generování závadného obsahu
Obecně se software AI často potýká s problémem halucinací. Halucinace nastává, když generativní umělá inteligence vymýšlí informace a sebevědomě je prezentuje jako fakt, i když je software ve skutečnosti špatný.
Pokyny společnosti Apple proti halucinacím lze vidět ve výzvě pro nástroje pro psaní, například:
Jste asistent, který pomáhá uživateli reagovat na jeho e-maily. U e-mailu je nejprve poskytnut koncept odpovědi na základě krátkého úryvku odpovědi. Aby byl návrh odpovědi hezčí a úplný, poskytujeme sadu otázek a jejich odpověď. Napište prosím stručnou a přirozenou odpověď úpravou návrhu odpovědi tak, aby zahrnovala dané otázky a jejich odpovědi. Omezte prosím odpověď na 50 slov. Nedělejte halucinace. Nevymýšlejte si faktické informace
Tyto pokyny jsou určeny k ochraně koncových uživatelů Apple Intelligence. Těmito výzvami chce Apple zabránit tomu, aby jeho software AI poskytoval fakticky nesprávné informace komukoli, kdo používá jeho funkce AI.
Kromě problému s halucinacemi Apple také brání svému softwaru umělé inteligence generovat závadný obsah. Společnost má tato omezení zavedena pro svou funkci Memories, která je k dispozici v aplikaci Fotky.
Jedna z výzev společnosti Apple částečně říká:
Nevytvářejte obsah, který je náboženský, politický, škodlivý, násilný, sexuální, špinavý nebo jakýmkoli způsobem negativní, smutný nebo provokativní.
Obdobným způsobem je omezeno Image Playground, původně známé jako Generative Playground během vývoje. Společnost Apple provedla několik kontrol, aby zajistila, že v její aplikaci pro generování obrázků nebude vytvořen závadný obsah chráněný autorským právem.
Podle lidí obeznámených s touto záležitostí chtěl Apple vždy zastavit svůj software AI v generování tohoto typu obsahu. Ve firemních testovacích nástrojích souvisejících s umělou inteligencí, které se používají interně, software společnosti Apple odmítá generovat odpovědi, pokud se ve výzvách poskytovaných uživateli vyskytují urážlivé výrazy.
Co to všechno nakonec znamená?
Výzvy AI společnosti Apple jsou zde proto, aby snížily šance na halucinace a zabránily generování nevhodného obsahu, ale nestačí k tomu, aby zabránily tomu, aby k tomu došlo. Uživatelé mohou stále být schopni najít řešení a způsoby, jak s výzvami manipulovat, takže neexistuje žádná záruka, že AI nebude halucinovat nebo generovat nevhodný obsah.
I tak to vše znamená, že primárním cílem Applu bylo vytvořit software AI s ohledem na koncového uživatele a že společnost věnovala velkou péči tomu, aby jej mohli používat všichni bezpečně. Apple Intelligence byla navržena tak, aby podporovala funkce umělé inteligence s hmatatelnými výhodami, které usnadňují komunikaci, ať už prostřednictvím obrázků generovaných umělou inteligencí nebo textu shrnutého umělou inteligencí.
Apple Intelligence a související funkce budou k dispozici v americké angličtině později v roce 2024. Ostatní regiony světa, konkrétně EU a Čína, nemusí tyto funkce získat tak rychle, kvůli regulačním problémům.
Zdroj: appleinsider.com