Ο πράκτορας τεχνητής νοημοσύνης Muse της Meta απέκτησε πρόσβαση στα iMessages από τον Mac ενός αρθρογράφου τεχνολογίας, παρά τον ισχυρισμό του αρθρογράφου ότι είχε αρνηθεί την άδεια. Το περιστατικό εγείρει ερωτήματα σχετικά με τα δικαιώματα που δόθηκαν στην εφαρμογή σε Mac και την ικανότητα του πράκτορα να εξηγήσει σωστά την προέλευση των πληροφοριών που χρησιμοποιεί.
Η Muse διάβασε μια συνομιλία στο iMessage που υποτίθεται ότι θα παρέμενε ιδιωτική
Ο Jason Aten εγκατέστησε το Muse σε ένα δοκιμαστικό iPhone και Mac mini για να αξιολογήσει τον νέο πράκτορα τεχνητής νοημοσύνης του Meta. Αφού του ζήτησε να αναζητήσει πληροφορίες για τον εαυτό του, ρώτησε το Muse ποιες εργασίες θα μπορούσε να του αναθέσει, συμπεριλαμβανομένης της έρευνας θεμάτων για τα άρθρα του και της προετοιμασίας ενημερώσεων.
Το πρόβλημα προέκυψε όταν ο Jason συζητούσε τα νέα iPhone με τον συμπαρουσιαστή του στο podcast, Stephen Robles. Λίγο αργότερα, ο Muse του πρότεινε να γράψει ένα άρθρο σχετικά με αυτό και μάλιστα αναφέρθηκε σε ένα μήνυμα από τον συντάκτη του σχετικά με μια στήλη που ετοίμαζε. Ο Jason υποστηρίζει, ωστόσο, ότι αρνήθηκε ρητά την πρόσβαση στα iMessages, το ημερολόγιο και άλλα προσωπικά του δεδομένα.
Όταν ρωτήθηκε σχετικά με αυτήν την ανακάλυψη, η Muse εξήγησε ότι λάμβανε μόνο το περιεχόμενο των ειδοποιήσεων που εμφανίζονταν στο σχετικό Mac. Ο παράγοντας τεχνητής νοημοσύνης ισχυρίζεται έτσι ότι δεν μπορεί να ανοίξει την εφαρμογή Μηνυμάτων της Apple στο Mac ή να έχει πρόσβαση στο ιστορικό συνομιλιών. Στη συνέχεια, ο Jason εξέτασε τη λειτουργία της εφαρμογής και αναφέρει ότι η Muse είχε συγχρονίσει δεδομένα από την εφαρμογή Μηνυμάτων, έως τον αριθμό καταχώρησης 187.462 στη βάση δεδομένων.
Η Meta υπερασπίζεται το σύστημα δικαιωμάτων της
Η Meta, ωστόσο, παρουσιάζει το Muse ως έναν παράγοντα τεχνητής νοημοσύνης που έχει σχεδιαστεί γύρω από τον έλεγχο του χρήστη. Κατά την κυκλοφορία του, η εταιρεία εξήγησε ότι κάθε χρήστης επιλέγει σε ποιες εφαρμογές μπορεί να συνδεθεί το Muse και το επίπεδο πρόσβασης που του παρέχεται. Ο παράγοντας λειτουργεί ειδικότερα με μια ειδική εικονική μηχανή και το σύστημα παρακολούθησης Sentinel, το οποίο είναι υπεύθυνο για την παρακολούθηση ορισμένων ευαίσθητων ενεργειών.
Ο David Singleton, επικεφαλής του τμήματος Τεχνητής Νοημοσύνης στη Meta, απάντησε στον Jason Aten παρέχοντας μια τεχνική εξήγηση για το πώς λειτουργούν τα δικαιώματα. Ωστόσο, ο Jason πιστεύει ότι αυτή η απάντηση δεν αντιμετωπίζει το βασικό ζήτημα: ένας χρήστης πρέπει να είναι σε θέση να κατανοήσει με σαφήνεια ποια δεδομένα μπορεί να χρησιμοποιήσει ο εκπρόσωπός του και για ποιο σκοπό.
Αυτό συμβαίνει καθώς η Meta επεκτείνει ραγδαία τις δυνατότητες του Muse. Η εταιρεία δηλώνει τώρα ότι ο πράκτορας τεχνητής νοημοσύνης της μπορεί, με την άδεια του χρήστη, να ελέγχει τις εφαρμογές ενός Mac και να συνεχίζει ορισμένες εργασίες κατά την απουσία του χρήστη.
Ένα άλλο περιστατικό έχει αυξήσει τις ανησυχίες σχετικά με την ασφάλεια της εφαρμογής: ο ερευνητής ασφαλείας Patrick Wardle ανακάλυψε ένα κενό ασφαλείας που επέτρεπε σε μια άλλη εφαρμογή που εκτελείται τοπικά σε Mac να τροποποιήσει ορισμένες μη τεκμηριωμένες ρυθμίσεις του Muse και, υπό ορισμένες συνθήκες, να παραβιάσει την επεξεργασία φωνητικών αιτημάτων. Στη συνέχεια, η Meta διόρθωσε αυτό το κενό ασφαλείας.
