OpenAI a révélé des dizaines d’incidents au cours desquels ses systèmes d’IA ont eu un comportement jugé inapproprié par l’entreprise, notamment la fuite et la publication en ligne de plus de 50 images privées d’utilisateurs de ChatGBT.

Il s’agit du premier cas publiquement reconnu de mauvaise gestion des données utilisateur par les applications d’IA de l’entreprise et du dernier exemple en date des problèmes émergents liés à des comportements incontrôlés au sein des systèmes d’OpenAI.

L’entreprise indique que l’enquête sur ces incidents, qu’elle qualifie de « liés à la sécurité », pourrait prendre des mois.

OpenAI a déclaré que certaines de ses applications ont envoyé des données de ses systèmes internes d’entraînement et de test vers des sites web externes, y compris des images d’utilisateurs, comme l’a révélé Reuters.

L’entreprise a identifié 53 cas où des images téléchargées par des utilisateurs sur ChatGBT ont été publiées sur des sites d’hébergement d’images.

Ces images appartenaient à des utilisateurs dont les données étaient autorisées à être utilisées dans ChatGBT pour l’entraînement des modèles d’IA, car ils n’avaient pas refusé cette autorisation ; autrement dit, ils n’avaient pas demandé que leurs données soient exclues de l’entraînement.