Naposledy aktualizováno
Apple Intelligence se bude používat pro generování obrázků v iOS 18 a obrázky vytvořené pomocí Image Playground budou označeny. Zde se dozvíte, jak to bude fungovat a jaká jsou omezení štítků.
S Image Playground budou uživatelé moci vytvářet jedinečné obrázky generované AI v různých aplikacích Apple, jako jsou Freeform, Messages a Keynote. To vše bude možné, jakmile bude Apple Intelligence k dispozici později v roce 2024.
Jak se technologie generování obrázků poháněná umělou inteligencí každým dnem zlepšuje, bude stále obtížnější identifikovat obrázky vytvořené pomocí umělé inteligence. Apple má jasný plán, jak tento problém vyřešit, protože jeho software bude označovat obrázky vytvořené umělou inteligencí a zabránit vytváření fotorealistického obsahu pro dospělé a obsahu chráněného autorskými právy.
Apple bude označovat mágy generované AI prostřednictvím EXIF dat
Na briefingu se společností Apple AppleInsider se dozvěděl, že společnost plánuje označit snímky generované umělou inteligencí prostřednictvím metadat obrázků, známých také jako EXIF data.
To znamená, že obrázky generované umělou inteligencí vytvořené prostřednictvím Image Playground budou jasně označeny prostřednictvím těchto metadat. Zdroj obrazu, který obvykle zobrazuje název a značku fotoaparátu použitého k pořízení snímku, zobrazí „Apple Image Playground“, které slouží jako jasná indikace, že snímek vytvořila umělá inteligence.
Společnost však nejde tak daleko jako steganografie. V současnosti se nezdá, že by se plánovalo začlenit akreditaci pro Image Playground do samotného snímku.
A metadata obrázků lze snadno odstranit nebo změnit pomocí mnoha veřejně dostupných webových stránek a nástrojů pro úpravu obrázků. Snímek obrazovky obrázku také nezachová metadata.
Označení obrázku pomocí EXIF dat pro Apple nestačilo, protože společnost zajistila, že její software dokáže generovat obrázky pouze ve specifických, nerealistických stylech.
Na stejném briefingu jsme se dozvěděli, že software společnosti Apple účinně zabrání uživatelům ve vytváření fotorealistických snímků. Místo toho budou uživatelé moci v rámci Image Playground generovat obrázky v následujících třech stylech schválených společností Apple: Animation, Illustration a Sketch.
Žádný z těchto obrazových stylů nemohl být nikdy zaměněn za fotografii osoby nebo místa v reálném světě. Styl Animace vytváří obrázky, které se vágně podobají statickým snímkům z 3D animovaných filmů, zatímco styly Ilustrace a Náčrt vytvářejí obrázky ještě zřetelnějšího dvourozměrného typu.
Apple spolupracoval s digitálními umělci a požádal je, aby vytvořili obrázky ve třech výše uvedených stylech. Tyto obrázky pak byly použity k trénování generativního softwaru společnosti AI, aby mohl generovat obrázky s podobným vzhledem.
Image Playground zabrání vytváření obsahu chráněného autorskými právy, fotorealistického obsahu a obsahu pro dospělé prostřednictvím vícenásobných kontrol
Když mluvím s lidmi obeznámenými s věcí, AppleInsider se dozvěděl podrobnosti o referenčním materiálu, který Apple použil pro Image Playground.
Pro styl obrázku Animation společnost použila obrázek trojrozměrného žlutého kuřátka, připomínajícího postavu z animovaného filmu Pixar nebo Dreamworks s očima ve stylu kreslených filmů.
Pro styl Sketch Image Playground použil Apple zjevnou kresbu růžové a oranžové květiny. K trénování softwaru umělé inteligence pro styl ilustrace použila společnost obrázek osoby v poměrně dobře rozpoznatelném a poněkud abstraktním stylu známém jako Corporate Memphis.
Prostřednictvím našeho nezávislého výzkumu AppleInsider se dozvěděl o čtvrtém obrazovém stylu známém jako Line Art, který Apple opustil v určitém okamžiku během vývoje Image Playground. Dodnes se o tomto stylu obrázků nezmiňuje a nedostal se do prvních vývojářských beta verzí nejnovějších operačních systémů Apple.
Vytvořením těchto různých stylů obrázků a uvedením referenčního materiálu do provozu chtěl Apple vycvičit svou AI tak, aby vytvářela specifické typy obrázků, které nebyly fotorealistické, a proto je nebylo možné zaměnit se skutečným obrázkem entity nebo místa. Image Playground bude mít také schopnost vytvářet zjevné obrázky lidí, které uživatel zná, generované umělou inteligencí, a to prostřednictvím integrace s uživatelskou knihovnou fotografií.
Na našem briefingu s Applem během WWDC jsme se také dozvěděli, že Apple zjevně vytvořil „vícenásobné kontroly“, aby zabránil generování materiálů chráněných autorskými právy a materiálů pro dospělé. K dispozici bude také možnost zpětné vazby od uživatelů, která uživatelům umožní nahlásit obsah chráněný autorskými právy nebo obsah pro dospělé neúmyslně vytvořený v aplikaci.
Tyto nové kontroly autorských práv a obsahu pro dospělé spolu s označováním obrázků prostřednictvím metadat byly podle lidí obeznámených s touto záležitostí zřejmě přidány pozdě během vývojového období Image Playground. Bylo nám řečeno, že první vývojové verze Image Playground zřejmě nemají tyto bezpečnostní kontroly na místě, protože nebyly určeny pro vnější použití.
V podstatě to vše znamená, že Apple vynaložil velké úsilí, aby zabránil vytváření fotorealistického obsahu pro dospělé a obsahu chráněného autorským právem. Společnost chce, aby její snímky generované umělou inteligencí byly snadno identifikovatelné, a proto jsou tyto snímky označeny prostřednictvím metadat, která může kdokoli zkontrolovat.
Zdroj: appleinsider.com