Le 4 février, Google a mis à jour ses «principes d'IA», un document détaillant comment l'entreprise serait et n'utiliserait pas l'intelligence artificielle dans ses produits et services. L'ancienne version a été divisée en deux sections: «Objectifs pour les applications d'IA» et «Applications d'IA que nous ne poursuivrons pas», et il a explicitement promis de ne pas développer des armes d'IA ou des outils de surveillance.
La mise à jour a été remarquée pour la première fois par le Washington Post, et la différence la plus flagrante est la disparition complète de toute section «applications d'IA que nous ne poursuivrons pas». En fait, la langue du document se concentre désormais uniquement sur «ce que Google fera», sans aucune promesse sur «ce que Google ne fera pas».
Pourquoi est-ce important? Eh bien, si vous dites que vous ne poursuivez pas les armes IA, vous ne pouvez pas poursuivre les armes IA. C'est assez coupé et sec. Cependant, si vous dites que vous utiliserez «une conception rigoureuse, des tests, une surveillance et des garanties pour atténuer les résultats involontaires ou nuisibles et éviter les biais injustes», vous pouvez alors poursuivre ce que vous voulez et faire valoir que vous avez utilisé des garanties rigoureuses.
De même, lorsque Google dit qu'il mettra en œuvre une «surveillance humaine appropriée», il n'y a aucun moyen pour nous de savoir ce que cela signifie. Google est celui qui décide exactement de ce qu'est la surveillance humaine appropriée. C'est un problème car cela signifie que l'entreprise ne fait aucune promesse ou ne nous donne aucune information solide. Il s'agit simplement d'ouvrir les choses pour que cela puisse se déplacer plus librement – tout en essayant de donner l'impression de la responsabilité sociale.
L'implication de Google dans le projet du ministère américain de la Défense Maven en 2017 et 2018 est ce qui a conduit au document original des principes de l'IA. Des milliers de ses employés ont protesté contre le projet militaire et, en réponse, Google n'a pas renouvelé l'accord et a promis de cesser de poursuivre les armes d'IA.
Cependant, l'avance rapide de quelques années et la plupart des concurrents de Google s'engagent dans ce type de projets, Meta, Openai et Amazon permettant tous une utilisation militaire de leur technologie d'IA. Avec la flexibilité accrue de ses principes d'IA mis à jour, Google est effectivement libre de revenir dans le jeu et de gagner de l'argent militaire. Il sera intéressant de voir si les employés de Google auront quelque chose à dire à ce sujet dans un avenir proche.
