Les outils de codage d’IA étaient censés rendre le développement de logiciels plus rapide et plus facile. Ils l’ont fait, mais peut-être un peu trop bien. Les gens écrivent du code plus rapidement que jamais, ce qui a créé toute une nouvelle série de problèmes pour les entreprises.
Selon le New York Times, une société de services financiers a commencé à utiliser Cursor, un outil de codage d’IA, et est passée de 25 000 à 250 000 lignes de code par mois. Cela ressemble à une victoire, mais cela a créé un retard d'un million de lignes de code non révisé.
« L'énorme quantité de code fourni et l'augmentation des vulnérabilités sont quelque chose qu'ils ne peuvent pas suivre », a déclaré Joni Klippert, PDG de StackHawk, une startup de sécurité travaillant avec l'entreprise.
Le problème s’est répandu dans toute la Silicon Valley. Les entreprises produisent désormais plus de code qu’elles n’ont de personnel pour l’examiner, et cette lacune devient un risque pour la sécurité.
Alors, quel est le problème ?
Le rôle chargé de détecter les erreurs dans le code généré par l’IA est appelé ingénieur en sécurité des applications. Il n’y en a pas assez. « Il n'y a pas assez d'ingénieurs en sécurité des applications sur la planète pour répondre aux besoins des entreprises américaines », a déclaré Joe Sullivan, conseiller de Costanoa Ventures.
Ce n’est pas seulement un problème de personnel. Les outils de codage d’IA fonctionnent mieux sur les ordinateurs portables personnels que sur les serveurs sécurisés de l’entreprise, ce qui signifie que les ingénieurs téléchargent des bases de code entières sur des appareils personnels. Si un ordinateur portable disparaît, de nombreuses données sensibles disparaissent également.
Est-ce que davantage d’IA est vraiment la solution ?
Comme on pouvait s’y attendre, c’est ce que pense la Silicon Valley. Des entreprises comme Anthropic, OpenAI et Cursor créent déjà des outils de révision basés sur l'IA pour aider à détecter les erreurs dans le code généré par l'IA. Cursor a même acquis une startup de révision de code pour intégrer cela dans son produit.
Comme l'a dit le responsable de l'ingénierie de Cursor : « L'usine de développement de logiciels est en quelque sorte en panne. Nous essayons de réorganiser les pièces dans un certain sens. »
J'ai mes doutes. Oui, l’IA sera éventuellement capable de détecter les erreurs de code, mais un examen humain sera toujours nécessaire avant de lancer la production finale. Récemment, un code d'IA a provoqué une panne d'Amazon, entraînant plus de 100 000 commandes perdues et 1,6 million d'erreurs.
Aucune entreprise ne souhaite que cela se produise, et je ne suis pas sûr que les réviseurs de codes d’IA soient la réponse.
