Zdá se, že Apple není schopen zastavit příliv takzvaných aplikací „dvojího použití“, které na povrchu vypadají nevinně, ale pomáhají uživatelům vytvářet hluboce falešné porno – za vysokou cenu.
Apple je hrdý na regulaci App Store a součástí této kontroly je úplné zabránění pornografickým aplikacím. Tato kontrola však má své limity, protože některé aplikace mohou nabízet funkce, které mohou uživatelé snadno zneužít – zdánlivě bez vědomí společnosti Apple.
Podle zprávy z 404 MédiaApple se potýká s problémem „dvojího použití“, který se vyskytuje v aplikacích, které nabízejí funkce jako výměna obličeje. I když je tato funkce na první pohled docela nevinná, uživatelé zaměňují tváře za pornografii, někdy používají tváře nezletilých.
Problém se ukázal, když reportér narazil na placenou reklamu na Redditu na aplikaci pro výměnu obličejů. Face swapping bývá snadno k nalezení a často zdarma, takže taková aplikace by potřebovala obchodní model, který umožňuje placené umístění reklamy.
To, co našli, byla aplikace, která uživatelům nabízí možnost zaměnit jakoukoli tvář na video z jejich „oblíbeného webu“ s obrázkem naznačujícím Porn Hub jako možnost. Apple nepovoluje aplikace související s pornem na App Store, ale některé aplikace související s uživatelským obsahem často obsahují takové obrázky a videa jako druh mezery.
Když byl Apple upozorněn na případ dvojího použití inzerované aplikace, byl stažen. Zdálo se však, že Apple o problému vůbec nevěděl a odkaz na aplikaci musel být sdílen.
Není to poprvé, co nevinně vyhlížející aplikace procházejí kontrolou aplikací a nabízejí službu, která porušuje pokyny společnosti Apple. I když to není tak do očí bijící porušení jako změna dětské aplikace na kasino, schopnost generovat nekonsensuální intimní snímky (NCII) zjevně nebyla něčím, co by Apple sledoval.
Funkce umělé inteligence v aplikacích mohou vytvářet neuvěřitelně realistické hluboké padělky a je důležité, aby společnosti jako Apple těmto problémům předcházely. I když Apple nebude schopen zastavit takové případy použití, může alespoň implementovat politiku, kterou lze vynutit při kontrole aplikací – jasné pokyny a pravidla týkající se generování pornografických obrázků. To již zastavilo používání hluboce falešných webových stránek s umělou inteligencí v používání přihlašování přes Apple.
Žádná aplikace by například neměla být schopna získávat video z Porn Hubu. Apple může mít také specifická pravidla pro potenciální aplikace dvojího použití, jako jsou zákazy nulové tolerance pro aplikace, o kterých se zjistilo, že se snaží vytvořit takový obsah.
Apple se velmi staral, aby zajistil, že Apple Intelligence nebude pořizovat nahé snímky, ale tím by jeho dohled neměl skončit. Vzhledem k tomu, že Apple tvrdí, že je nejlepším arbitrem App Store, musí se postarat o takové věci, jako je propagace generace NCII v reklamách.
Aplikace pro výměnu obličeje nejsou jediné aplikace, které mají problém. Dokonce i aplikace, které bezostyšně propagují nevěru, intimní videochat, chat pro dospělé nebo jiné eufemismy, projdou kontrolou aplikací.
Zprávy již dlouho naznačovaly, že kontrola aplikací je nefunkční a regulační orgány jsou unavené frázemi. Apple musí získat kontrolu nad App Store, jinak riskuje ztrátu kontroly.
Zdroj: appleinsider.com