OpenAI a clairement indiqué que son service d'IA phare, Chatgpt n'est pas destiné à une utilisation malveillante.
La société a publié un rapport détaillant qu'il a observé les tendances des mauvais acteurs utilisant sa plate-forme à mesure qu'elle devient plus populaire. OpenAI a indiqué qu'il avait supprimé des dizaines de comptes sur la suspicion d'utiliser Chatgpt de manière non autorisée, par exemple pour «le code de débogage pour générer du contenu de publication sur diverses plates-formes de distribution».
La société a également récemment annoncé une atteinte à une étape importante de 400 millions de utilisateurs actifs hebdomadaires. La société a détaillé que son utilisateur avait augmenté de plus de 100 millions en moins de trois mois, car plus d'entreprises et de développeurs utilisent ses outils. Cependant, Chatgpt est également un service gratuit accessible à l'échelle mondiale. Comme les aspects moraux et éthiques de ses fonctions sont en question depuis longtemps, Openai a dû se réconcilier avec le fait qu'il y a des entités qui ont des arrière-pensées pour la plate-forme.
«Les politiques d'Openai interdisent strictement l'utilisation de la sortie de nos outils de fraude ou d'escroqueries. Grâce à notre enquête sur les programmes d'emploi trompeurs, nous avons identifié et interdit des dizaines de comptes », a indiqué la société dans son rapport.
Dans son rapport, Openai a discuté de la contesté des actions néfastes qui se déroulent sur Chatgpt. La société a mis en évidence plusieurs études de cas, où elle a découvert et pris des mesures en interdisant les comptes qui utilisent l'outil pour une intention malveillante.
Dans un cas, OpenAI a détaillé un compte qui a rédigé des articles de nouvelles désobligeants sur les États-Unis, avec la source de nouvelles publiée en Amérique latine sous le couvert d'une publication chinoise.
Un autre cas, localisé en Corée du Nord, s'est avéré générer des curriculum vitae et des profils d'emploi pour les candidats imaginaires. Selon OpenAI, le compte peut avoir été utilisé pour postuler à des emplois dans des entreprises occidentales.
Une autre étude a révélé des comptes qui auraient été originaires du Cambodge qui ont utilisé Chatgpt pour la traduction et pour générer des commentaires dans des réseaux de «escrocs romantiques», qui infiltrent plusieurs plateformes de médias sociaux, dont X, Facebook et Instagram.
OpenAI a confirmé avoir partagé ses conclusions avec ses contemporains de l'industrie, tels que Meta, qui pourraient par inadvertance être affectés par les actions qui se produisent sur Chatgpt.
