Μια έκθεση που δημοσιεύθηκε σήμερα από το Tech Transparency Project (TTP) αποκαλύπτει ότι το App Store της Apple και το Play Store της Google είναι γεμάτα με εφαρμογές που χρησιμοποιούν τεχνητή νοημοσύνη για να γδύνουν ανθρώπους, ιδιαίτερα γυναίκες, όπως για παράδειγμα το Grok . Παρά τις επίσημες δηλώσεις που επικεντρώνονται στην ασφάλεια, το App Store και το Play Store καθιστούν αυτά τα εργαλεία εύκολα προσβάσιμα, δημιουργώντας τεράστια κέρδη για τους δύο τεχνολογικούς γίγαντες.
Μια επιχείρηση 117 εκατομμυρίων δολαρίων που ωφελεί την Apple και την Google
Σύμφωνα με στοιχεία της εταιρείας ανάλυσης AppMagic, τα οποία επικαλείται το TTP, οι εφαρμογές που εντοπίστηκαν έχουν ληφθεί περισσότερες από 705 εκατομμύρια φορές παγκοσμίως. Έχουν αποφέρει συνολικά έσοδα 117 εκατομμυρίων δολαρίων. Το πρόβλημα είναι το εξής: δεδομένου ότι η Apple και η Google λαμβάνουν προμήθεια για κάθε συναλλαγή (έως και 30%), αυτές οι εταιρείες επωφελούνται άμεσα και οικονομικά από αυτήν τη δραστηριότητα, η οποία παραβιάζει τους δικούς τους κανόνες.
Αυτή η κατάσταση θέτει την Apple σε δύσκολη θέση. Η εταιρεία δικαιολογεί εδώ και καιρό τις υψηλές αμοιβές της κατά τη διάρκεια των αντιμονοπωλιακών μαχών της εναντίον της Epic Games, υποστηρίζοντας ότι αυτά τα χρήματα χρηματοδότησαν την χειροκίνητη και αυτοματοποιημένη εποπτεία που είναι απαραίτητη για την ασφάλεια του App Store. Ωστόσο, η έκθεση καταδεικνύει ότι ολόκληρες κατηγορίες καταχρηστικών εφαρμογών ξεφεύγουν από το διαδίκτυο. Τουλάχιστον μία από αυτές τις εμπλεκόμενες εφαρμογές είχε μάλιστα αξιολογηθεί για ηλικίες 9 ετών και άνω στο App Store.
Αναποτελεσματικές πολιτικές εποπτείας απέναντι στην Τεχνητή Νοημοσύνη
Οι δοκιμές που διεξήγαγε το TTP είναι οριστικές. Χρησιμοποιώντας απλές λέξεις-κλειδιά όπως «γυμνώνομαι» ή «γδύνομαι», οι ερευνητές εντόπισαν εύκολα αυτές τις εφαρμογές, μερικές από τις οποίες διαφημίζουν ανοιχτά τη χρήση αυτών των όρων. Από τις εφαρμογές που δοκιμάστηκαν με εικόνες γυναικών που δημιουργήθηκαν από τεχνητή νοημοσύνη, 55 εφαρμογές Android και 47 εφαρμογές iOS συμμορφώθηκαν με αιτήματα για δημιουργία μη συναινετικού σεξουαλικού περιεχομένου μέσω των δωρεάν λειτουργιών τους.
Αυτές οι εφαρμογές εμπίπτουν σε δύο κατηγορίες: αυτές που δημιουργούν εικόνες ή βίντεο από μηνύματα κειμένου και αυτές που εκτελούν «ανταλλαγές προσώπων», επικαλύπτοντας το πρόσωπο ενός ατόμου πάνω στο σώμα ενός άλλου. Η έκθεση αναφέρει συγκεκριμένα παραδείγματα: μια εφαρμογή, για παράδειγμα, προσέφερε πρότυπα βίντεο στην αρχική της οθόνη με τίτλο «Tear Clothes» ή «Shake Breasts».
Ενώ το πρόβλημα των προσβλητικών εικόνων προηγείται της γενετικής τεχνητής νοημοσύνης, αυτή η τεχνολογία έχει καταργήσει όλα τα τεχνικά εμπόδια, επιτρέποντας πλέον την παραγωγή αυτού του περιεχομένου σε μαζική κλίμακα σε δευτερόλεπτα. Το TTP καταλήγει στο αυστηρό συμπέρασμα ότι οι εφαρμογές που εντοπίστηκαν αντιπροσωπεύουν μόνο ένα «κλάσμα» της πραγματικής προσφοράς και αποδεικνύουν ότι οι εταιρείες τεχνολογίας «δεν ελέγχουν αποτελεσματικά τις πλατφόρμες τους ούτε επιβάλλουν τις δικές τους πολιτικές » .
Ένας εκπρόσωπος της Apple δήλωσε στο CNBC ότι η εταιρεία έχει αφαιρέσει 28 εφαρμογές από το App Store που η TTP χαρακτήρισε ως προβληματικές. Η εταιρεία προειδοποίησε επίσης τους προγραμματιστές άλλων εφαρμογών ότι κινδυνεύουν να αφαιρεθούν από το App Store εάν δεν αντιμετωπίσουν τις παραβιάσεις πολιτικής.
