Apple aggiorna le regole dell’App Store e mette nel mirino uno dei problemi più delicati legati alla diffusione dell’intelligenza artificiale generativa: i deepfake intimi creati senza il consenso delle persone coinvolte.
Il materiale pornografico era già vietato da tempo sull’App Store, ma con le nuove App Review Guidelines l’azienda rende molto più esplicita la responsabilità degli sviluppatori, soprattutto nel caso di app che permettono di generare o modificare immagini tramite AI.
Non basta più intervenire dopo una segnalazione: le piattaforme devono predisporre strumenti adeguati per prevenire e rimuovere contenuti intimi non consensuali, compresi quelli generati artificialmente. Gli sviluppatori che non implementano protezioni sufficienti, o che non correggono le violazioni dopo essere stati avvisati, rischiano la rimozione dell’app e, nei casi più gravi, conseguenze sul proprio account Developer.
Apple cita esplicitamente anche le cosiddette applicazioni di “nudification”, quei servizi che utilizzano l’intelligenza artificiale per trasformare fotografie reali in immagini nude o sessualmente esplicite senza il consenso del soggetto.
Il problema non riguarda soltanto la presenza di queste funzioni, ma anche il modo in cui alcune app sarebbero riuscite a superare i controlli dell’App Store, ma con la nuova regola 2.5.19, Apple chiarisce infatti che sono vietate le funzioni nascoste, dormienti o non documentate che non erano presenti nella versione sottoposta alla verifica iniziale.
In pratica, uno sviluppatore non può presentare ad Apple un’app apparentemente innocua e poi attivare successivamente funzionalità diverse, magari tramite aggiornamenti lato server, con lo scopo di aggirare la review.
Apple parla apertamente di una tecnica “bait-and-switch”: l’app viene approvata mostrando un determinato comportamento, per poi trasformarsi successivamente in qualcosa di diverso.
Le linee guida dell’App Store già imponevano alle app con contenuti generati dagli utenti di filtrare materiale offensivo, offrire strumenti di segnalazione e permettere di bloccare gli utenti abusivi. Ora Apple specifica che anche le piattaforme che consentono la generazione di immagini attraverso l’intelligenza artificiale devono essere considerate responsabili dell’uso che viene fatto dei propri strumenti.
Se un’app dispone di strumenti capaci di generare immagini, deve prevedere sistemi per impedire abusi di questo tipo e intervenire rapidamente quando le protezioni vengono aggirate.
Apple ha aggiornato anche la sezione 5 delle proprie linee guida per chiarire che le app utilizzate per facilitare tratta di esseri umani o sfruttamento dei minori possono essere bloccate non soltanto dall’App Store, ma anche dai sistemi alternativi di distribuzione disponibili dove previsti.
Per Apple, chi offre strumenti capaci di creare immagini artificiali deve anche dimostrare di avere controlli sufficienti per limitarne gli utilizzi più pericolosi.
