Ο Εισαγγελέας του Σαν Φρανσίσκο, Ντέιβιντ Τσίου, έστειλε επιστολές παύσης και διακοπής στην Apple και την Google, απαιτώντας την άμεση κατάργηση 13 εφαρμογών που επιτρέπουν στους χρήστες να γδύνουν άτομα και έτσι να προσφέρουν σεξουαλικά deepfakes χρησιμοποιώντας τεχνητή νοημοσύνη. Σύμφωνα με τις επιστολές που εξέτασε το Wired , ο Τσίου κατηγορεί τις δύο εταιρείες ότι διευκολύνουν ενεργά την πώληση αυτών των άσεμνων εικόνων μέσω των εφαρμογών στο App Store και το Play Store.
Αίτημα για την κατάργηση εφαρμογών deepfake με σεξουαλικό περιεχόμενο από το App Store
Ο εισαγγελέας του Σαν Φρανσίσκο βασίζει την κατηγορία του σε ένα συγκεκριμένο οικονομικό επιχείρημα: ισχυρίζεται ότι η Apple και η Google έχουν κερδίσει εκατομμύρια δολάρια σε προμήθειες από τις πληρωμές εντός εφαρμογής που χρησιμοποιούνται από αυτές τις εφαρμογές ανίχνευσης γυμνού. Οι δύο εταιρείες λαμβάνουν προμήθεια για κάθε συναλλαγή που πραγματοποιείται μέσω των συστημάτων πληρωμών εντός εφαρμογής, κάτι που, σύμφωνα με τον εισαγγελέα, μετατρέπει την απλή αμέλεια εποπτείας σε επικερδή συνενοχή. Επικαλείται τους νόμους της Καλιφόρνια για τις υπηρεσίες deepfake προς υποστήριξη του ισχυρισμού του και ισχυρίζεται ότι «αυτές οι εταιρείες έχουν την ευθύνη να διασφαλίσουν ότι οι εφαρμογές στις πλατφόρμες τους δεν διευκολύνουν τη σεξουαλική κακοποίηση » .
Η Apple και η Google έχουν ήδη θεσπίσει κανόνες που απαγορεύουν ρητά την πορνογραφία, την κακοποίηση και την παρενόχληση στα αντίστοιχα καταστήματα εφαρμογών τους. Η Apple μάλιστα ενίσχυσε τους κανόνες του App Store τον Ιούνιο και είχε προηγουμένως αφαιρέσει εφαρμογές deepfake που περιλαμβάνουν γυμνό. Η Google, από την πλευρά της, ισχυρίζεται ότι έχει αφαιρέσει εκατοντάδες εφαρμογές για παραβίαση των κανόνων της, έχει περιορίσει τα αποτελέσματα αναζήτησης που σχετίζονται με τον όρο "nudify" και έχει αφαιρέσει πέντε εφαρμογές Android που έχουν συγκεκριμένα προσδιοριστεί από τον Εισαγγελέα του Σαν Φρανσίσκο. Ένας εκπρόσωπος δήλωσε: "Το Google Play δεν επιτρέπει εφαρμογές που περιέχουν σεξουαλικό περιεχόμενο και λαμβάνουμε συνεχώς προληπτικά μέτρα για την ανίχνευση και την αφαίρεση εφαρμογών με επιβλαβές περιεχόμενο " .
Αυτά τα μέτρα, ωστόσο, δεν εμπόδισαν τις στοχευμένες εφαρμογές να παραμείνουν διαθέσιμες για μεγάλο χρονικό διάστημα, παρά τις επανειλημμένες αναφορές από ερευνητές και δημοσιογράφους και στα δύο καταστήματα εφαρμογών. Ο David Chiu θεωρεί την τρέχουσα διαδικασία εποπτείας ανεπαρκή και ζητά τη βελτίωσή της, μια κίνηση που ακολουθεί προηγούμενες νομικές ενέργειες που έλαβε εναντίον 16 ιστότοπων που δημιουργούν deepfakes.
