Η Apple ενισχύει τους κανόνες του App Store για την καλύτερη καταπολέμηση εφαρμογών που απογυμνώνουν άτομα χωρίς τη συγκατάθεσή τους, ιδίως μέσω της χρήσης τεχνητής νοημοσύνης και deepfakes. Η ενημέρωση στοχεύει επίσης εφαρμογές που αποκρύπτουν απαγορευμένες λειτουργίες κατά τη διάρκεια του ελέγχου και στη συνέχεια τις ενεργοποιούν μετά την έγκριση, με κυρώσεις που φτάνουν έως και την κατάργηση του λογαριασμού προγραμματιστή.
Η Apple καταπολεμά τις εφαρμογές deepfake με σεξουαλικό περιεχόμενο
Οι νέοι κανόνες του App Store διευκρινίζουν ότι οι υποχρεώσεις εποπτείας περιεχομένου ισχύουν για εφαρμογές που επιτρέπουν στους χρήστες να δημιουργούν, να παράγουν, να ανεβάζουν, να κοινοποιούν ή να συνεισφέρουν σε περιεχόμενο. Η Apple αναφέρει ρητά τις εφαρμογές δημιουργίας με τεχνητή νοημοσύνη μεταξύ των υπηρεσιών που επηρεάζονται. Οι προγραμματιστές πρέπει να αποτρέπουν τη διανομή μη συναινετικού γυμνού, συμπεριλαμβανομένου του τεχνητά δημιουργημένου, και να αφαιρούν το προβληματικό περιεχόμενο.
Αυτές οι υποχρεώσεις αποτελούν επέκταση των υφιστάμενων κανόνων κατά του πορνογραφικού περιεχομένου. Η Apple επαναλαμβάνει ότι οι λεγόμενες εφαρμογές «γυμνώματος», οι οποίες δημιουργούν σεξουαλικά άσεμνες εικόνες πραγματικών ανθρώπων χωρίς τη συγκατάθεσή τους, απαγορεύονται ήδη. Η καινοτομία του κανόνα 1.2 του App Store έγκειται ιδιαίτερα στη ρητή αναφορά σε μη συναινετικές προσωπικές εικόνες που δημιουργούνται από την Τεχνητή Νοημοσύνη και στον κίνδυνο κυρώσεων για τους προγραμματιστές που δεν εφαρμόζουν επαρκείς εγγυήσεις ή δεν διορθώνουν αναφερόμενες παραβάσεις. Αυτές οι ελλείψεις μπορούν πλέον να θεωρηθούν παραβίαση του κώδικα δεοντολογίας των προγραμματιστών και να οδηγήσουν στην κατάργηση της εφαρμογής.
Τους τελευταίους μήνες έχουν υπάρξει αρκετές υποθέσεις, κυρίως με την εφαρμογή Grok. Η Apple παραλίγο να την καταργήσει , αλλά η Grok έλαβε τα απαραίτητα μέτρα για την εφαρμογή μέτρων ασφαλείας μετά τις αντιπαραθέσεις που ξέσπασαν γύρω από τις γυμνές γυναίκες που έφερε η τεχνητή νοημοσύνη της.
Στο στόχαστρο βρίσκονται επίσης εφαρμογές που παρακάμπτουν την επαλήθευση.
Ο νέος κανόνας 2.5.19 διευκρινίζει την απαγόρευση κρυφών, αδρανών ή μη τεκμηριωμένων λειτουργιών. Στοχεύει συγκεκριμένα σε εφαρμογές που φαίνονται ακίνδυνες κατά την αξιολόγηση της Apple, αλλά στη συνέχεια ενεργοποιούν επιβλαβείς λειτουργίες μετά την έγκρισή τους στο App Store. Αυτή η παραπλανητική μέθοδος διαφήμισης μπορεί να χρησιμοποιηθεί για την απόκρυψη εργαλείων για τη δημιουργία γυμνών εικόνων ή άλλων απαγορευμένων λειτουργιών.
Η Apple διευκρινίζει ότι η προσπάθεια απόκρυψης μη τεκμηριωμένων λειτουργιών στον κώδικα μιας εφαρμογής μπορεί να οδηγήσει στην αφαίρεσή της από το App Store και στο κλείσιμο του λογαριασμού προγραμματιστή. Ενώ αυτός ο κανόνας υπήρχε ήδη σε ξεχωριστή ενότητα, τώρα έχει το δικό του άρθρο και πιο σαφώς καθορισμένες συνέπειες. Στόχος είναι η καταπολέμηση των προγραμματιστών που παρακάμπτουν τη διαδικασία επαλήθευσης μη αποκαλύπτοντας τις πραγματικές δυνατότητες των εφαρμογών τους.
