Η Apple αφαίρεσε το Kromix, μια εφαρμογή επεξεργασίας εικόνων με τεχνητή νοημοσύνη που χρησιμοποιεί γυμνό για να δημιουργήσει σεξουαλικά deepfake γυναικών Αμερικανίδων πολιτικών, από το App Store μετά από έρευνα του Wired . Το Kromix είχε εμφανιστεί σε διαφημίσεις στις πλατφόρμες του Meta, οι οποίες αφαίρεσαν μια καμπάνια 32 διαφημίσεων που στόχευε ειδικά τους άνδρες.
Η Kromix παρουσιάστηκε στις διαφημίσεις της ως «η Τεχνητή Νοημοσύνη που χρησιμοποιούν στην πραγματικότητα οι άνθρωποι », ισχυριζόμενη ρητά «χωρίς περιορισμούς» και δηλώνοντας ότι «όλοι οι χαρακτήρες είναι πραγματικοί άνθρωποι ». Αυτή η απροκάλυπτη επικοινωνία σχετικά με την απουσία μέτρων ασφαλείας έστρεψε άμεσα την προσοχή στην πραγματική φύση της υπηρεσίας που προσφέρεται από αυτήν την εφαρμογή επεξεργασίας εικόνας με τεχνητή νοημοσύνη.
Αυτές οι διαφημίσεις που μεταδόθηκαν από την Meta για την προώθηση του Kromix πυροδότησαν την αλυσιδωτή αντίδραση: η αφαίρεση της καμπάνιας από την Meta και η αφαίρεση της εφαρμογής από την Apple από το App Store ήρθαν μετά την άμεση επικοινωνία του Wired και με τις δύο εταιρείες για να συγκεντρώσει τα σχόλιά τους επί του θέματος.
Ένας εκπρόσωπος της Apple δικαιολόγησε αυτήν την απόσυρση επαναλαμβάνοντας τη σταθερή θέση της εταιρείας:
Πάντα απαγορεύαμε αυστηρά τις εφαρμογές που έχουν σχεδιαστεί για τη δημιουργία, τη διανομή ή την προβολή πορνογραφικού περιεχομένου. Οι εφαρμογές που εμφανίζουν γυμνό παραβιάζουν τους κανόνες επικύρωσης εφαρμογών μας και δεσμευόμαστε να εντοπίζουμε και να καταργούμε εφαρμογές, καθώς και τους λογαριασμούς προγραμματιστών που τις λειτουργούν, που επιχειρούν να παρακάμψουν τις διαδικασίες και τις πολιτικές μας.
Υπάρχουν ήδη άλλες περιπτώσεις εφαρμογών που εκθέτουν
Αυτή η αφαίρεση δεν αποτελεί μεμονωμένη περίπτωση στην πρόσφατη πολιτική της Apple σχετικά με αυτό το είδος εφαρμογής. Η Apple είχε ήδη αφαιρέσει το MaskAI από το App Store της πριν από την υπόθεση Kromix. Επίσης, επέτρεπε στους χρήστες να δημιουργούν deepfakes σεξουαλικού περιεχομένου. Από την πλευρά του, ο Εισαγγελέας του Σαν Φρανσίσκο, David Chiu, είχε ζητήσει από την Apple και την Google να αφαιρέσουν οκτώ εφαρμογές που δημιουργούν γυμνό.
Στην περίπτωση του Kromix, τόσο η Meta όσο και η Apple φταίνε: η πρώτη που επέτρεψε τις διαφημιστικές καμπάνιες και η δεύτερη που ενέκρινε την εφαρμογή στο App Store. Αντέδρασαν μόνο αφού επικοινωνήσαμε μαζί τους σχετικά.
