Η Meta ανέστειλε το Model Capability Initiative, ένα εσωτερικό πρόγραμμα παρακολούθησης εργασιακής δραστηριότητας που χρησιμοποιούνταν για την εκπαίδευση και αξιολόγηση συστημάτων τεχνητής νοημοσύνης, μετά από διαρροή ευαίσθητων δεδομένων μέσα στην ίδια την εταιρεία.

Σύμφωνα με τα δημοσιεύματα των Techgear και Insomnia, το πρόγραμμα κατέγραφε στοιχεία όπως πατήματα πλήκτρων και κινήσεις ποντικιού εργαζομένων. Η κρίσιμη αστοχία δεν ήταν μόνο το εύρος της καταγραφής, αλλά το ότι δεδομένα που έπρεπε να είναι περιορισμένα έγιναν κατά λάθος προσβάσιμα σε ευρύτερο προσωπικό. Ανάμεσα στα στοιχεία που αναφέρονται ήταν ιδιωτικές συνομιλίες και αξιολογήσεις απόδοσης. Η εταιρεία, κατά τις ίδιες πηγές, λέει ότι δεν έχει ενδείξεις κακόβουλης χρήσης, ενώ η έρευνα συνεχίζεται.

Το επεισόδιο ακουμπά ένα μεγαλύτερο πρόβλημα για τις μεγάλες εταιρείες τεχνητής νοημοσύνης: πόσο μακριά μπορούν να φτάσουν στην εσωτερική μέτρηση εργασίας όταν τα ίδια τα εργαλεία που αναπτύσσουν χρειάζονται όλο και περισσότερα δεδομένα. Η διαρροή δείχνει ότι το ρίσκο δεν είναι μόνο εξωτερική κυβερνοεπίθεση, αλλά και λάθος διαχείριση πρόσβασης μέσα στον οργανισμό.

Για τη Meta, το πάγωμα του προγράμματος είναι κίνηση περιορισμού ζημιάς. Για την αγορά, είναι υπενθύμιση ότι η AI παραγωγικότητα χωρίς αυστηρή διακυβέρνηση δεδομένων μπορεί εύκολα να γίνει εργασιακό και ρυθμιστικό πρόβλημα.