Apple odstranil z App Store aplikace, které tvrdily, že vytvářejí nekonsensuální snímky nahých lidí, což je krok, který ukazuje, že Apple je nyní ochotnější řešit kategorii nebezpečných aplikací.
Schopnosti generativní umělé inteligence vytvářet obrázky na základě výzev se staly velmi užitečným nástrojem ve fotografii a designu. Technologie však byla také zneužita při vytváření hlubokých padělků – a nekonsensuální pornografie.
Navzdory nebezpečí byl Apple od problému pozoruhodně daleko. Před nedávným přesunem neudělala mnoho pro vyřešení potenciálně zásadního problému.
Ve zprávě od 404 MédiaApple byl informován o řadě aplikací pro generování obrázků AI dostupných v App Store. Konkrétně se jednalo o aplikace, které byly prodávány jako schopné vytvářet nekonsensuální obrázky nahých postav.
Aplikace nabízely funkce, jako je výměna obličejů na obrázcích pro dospělé. Jiné byly prodávány jako aplikace „Svlékat se“, které prakticky svlékaly oblečení z předmětů na jinak neškodných fotografiích.
Poté, co byl Apple upozorněn na aplikace a související reklamu, odstranil tři z nich z App Store. Google podobně odstranil aplikace z Obchodu Play.
Vyšetřování zprávy dříve vyvolalo problém, že Instagram inzeruje aplikace prostřednictvím knihovny reklam Meta. Jakmile byly reklamy označeny, Meta je smazala.
Pomalý start
Odstranění aplikací Apple z App Store je dobrá zpráva, ale s některými přetrvávajícími problémy. Pro začátek se Applu nepodařilo zakázat aplikace v rámci procesu App Store Review, ale místo toho musel být na jejich existenci upozorněn třetími stranami.
I tak jde o krok vpřed oproti předchozím pokusům publikace bojovat s aplikacemi.
Zprávy z roku 2022 o aplikacích vysvětlovaly, že se na stránkách App Store zpočátku jevily jako nevinné. Nicméně, hluboce falešné porno schopnosti byly inzerovány na porno stránkách.
V té době na ně byly upozorněny Apple a Google, ale odmítly aplikace odebrat. Místo toho bylo společnostem řečeno, aby přestaly zobrazovat reklamy na webech pro dospělé, a aplikacím bylo povoleno zůstat v App Store
Navzdory příkazu jedna z aplikací pokračovala v marketingu svých funkcí pro dospělé až do roku 2024, kdy byla stažena z obchodu Google Play.
Rozhodnutí společnosti Apple definitivně odstranit problematické aplikace z App Store je nejnovějším krokem společnosti Apple, aby se pokusil udržet své obchody s umělou inteligencí tak nadřazené, jak je to jen možné.
Kromě používání školicích metod pro jazykové modely umělé inteligence, které chrání soukromí, se Apple také vyhýbá nelegálnímu používání děl chráněných autorskými právy. Zatímco Microsoft a OpenAI byly žalovány New York Times za porušení autorských práv používáním jeho článků pro školení AI se Apple místo toho pokusil licencovat díla od velkých vydavatelů výměnou za miliony dolarů.
Zdroj: appleinsider.com