Un groupe de plus de 100 biologistes d’universités américaines et internationales a lancé mardi un appel aux gouvernements et aux organismes de financement de la recherche afin qu’ils réglementent certains ensembles de données sur les maladies infectieuses susceptibles de permettre à l’intelligence artificielle de concevoir des virus mortels. Ce groupe, qui comprend des chercheurs des universités Johns Hopkins, Oxford, Stanford, Columbia et New York, a plaidé pour la mise en place de « contrôles d’accès aux nouvelles données virales afin de réduire les risques d’utilisation abusive » dans un appel publié dans la revue scientifique Science, éditée par l’Association américaine pour l’avancement des sciences et relayée par KUNA. L’appel souligne que les scientifiques progressent « rapidement dans le développement de modèles d’IA entraînés sur des données biologiques et dans l’intégration de ces modèles biologiques à des modèles d’inférence généraux et à des agents d’IA ». Il précise qu’« un groupe international de plus de 100 chercheurs a soutenu un appel visant à empêcher l’utilisation de ces systèmes d’IA avancés à des fins délibérément malveillantes, telles que le développement d’armes biologiques ».
L’auteure explique que les modèles biologiques « permettent aux chercheurs de concevoir avec précision de nouvelles molécules, de prédire la structure des protéines, de comprendre les effets des mutations génétiques et de concevoir et mener des expériences complexes en sciences de la vie, parmi de nombreuses autres tâches ». Elle a toutefois souligné que « à mesure que les systèmes d’IA acquièrent de nouvelles capacités biologiques, ils peuvent également être utilisés à des fins imprévues et dangereuses ». Elle a insisté sur le fait que les modèles actuels « possèdent certaines capacités susceptibles d’être détournées. Ils sont capables de concevoir de nouvelles enveloppes virales, de prédire l’évolution des agents pathogènes, de manipuler les séquences d’acides nucléiques pour contourner les programmes de contrôle de sécurité et de créer de nouveaux génomes de phages (virus microscopiques qui attaquent et tuent les bactéries en les pénétrant et en s’y répliquant jusqu’à leur explosion) avec une efficacité accrue lorsqu’ils sont fabriqués en laboratoire ».
Elle a fait remarquer que les développeurs publient « de nouveaux modèles biologiques plus performants, souvent sans procéder à des évaluations de sécurité de base, une pratique inacceptable dans d’autres domaines de la recherche en sciences de la vie ».
