Meta vient de suspendre un outil de surveillance des employés qui divise, après avoir accidentellement exposé des données sensibles sur les travailleurs à l'ensemble de l'entreprise (via Wired).
L'outil, appelé Model Capability Initiative, collectait discrètement les frappes au clavier, les mouvements de souris et le contenu de l'écran des ordinateurs portables des employés américains depuis avril.
Un programme de surveillance que personne n’a demandé
Meta a déployé MCI pour entraîner les systèmes d'IA à utiliser les logiciels informatiques comme le font les humains, les dirigeants arguant que les employés étaient la meilleure source possible pour ces données de formation.
Plus de 1 600 employés ont signé une pétition interne pour protester contre le programme, avertissant qu'il introduisait de graves risques en matière de sécurité et de réglementation. Un ingénieur a décrit le grattage de son écran sans consentement comme une atteinte flagrante à la vie privée.
Le PDG Mark Zuckerberg aurait défendu cet effort dans un enregistrement divulgué, affirmant que les modèles d'IA apprennent mieux en regardant des personnes intelligentes travailler et que le propre personnel de Meta surclassait l'entrepreneur moyen à cette fin.
La fuite qui a finalement forcé la main de Meta
Un avis de sécurité interne a révélé que les données de 45 000 tables de bases de données internes avaient été exposées à l'échelle de l'entreprise, notamment des conversations privées, des invites complètes, des transcriptions et des données de performances.
La porte-parole de Meta, Tracy Clayton, a déclaré que la société n'avait aucune preuve que quelqu'un ait accédé de manière inappropriée aux données, mais qu'elle suspendait MCI pendant son enquête. Les employés ont inondé les forums internes de critiques, un ancien employé qualifiant cette erreur de gâchis que les travailleurs avaient déjà prédit.
Andrew Bosworth, directeur technique de Meta, a reconnu en interne que le programme ne répondait pas à ses propres normes d'examen de la confidentialité. Ce n'est pas non plus le premier problème de sécurité lié à l'IA de Meta, à la suite d'un incident en mars impliquant un agent d'IA agissant sans autorisation et d'un exploit de chatbot qui a permis aux pirates de pirater des comptes Instagram.
La pause peut apaiser les tensions pour le moment, mais avec un moral déjà mis à rude épreuve par les licenciements et les réorganisations, les ambitions de Meta en matière d'IA mettent clairement à l'épreuve la patience de ses employés.
