Des chercheurs du Massachusetts Institute of Technology sont arrivés à la conclusion que l’intelligence artificielle peut aider une personne sans formation scientifique à développer un virus qui peut provoquer une pandémie. Et le service d’information de la revue scientifique Science a déclaré, dans un rapport publié par “Russia Today” hier, qu’un expert en biosécurité du “Massachusetts Institute” Kevin Asfalt a récemment demandé à des étudiants d’assembler des virus dangereux en utilisant l’application de chat ChatGPT ou en utilisant ce qui est appelés « autres grands modèles de langage ».

Des systèmes qui peuvent générer des réponses cohérentes à partir de vastes ensembles de données de formation provenant d’Internet. En une heure seulement, la classe a créé des listes de virus candidats, d’entreprises qui pourraient aider à façonner le code génétique des agents pathogènes et d’entreprises qui développent des recherches dans ce domaine. Asfelt et ses collègues préviennent que les systèmes d’intelligence artificielle pourraient bientôt permettre à n’importe qui de développer des armes biologiques dangereuses. Ils craignent que des capacités d’échange ouvert d’informations, y compris des informations sur les séquences virales, ne soient mises à la disposition des bioterroristes. Dans l’expérience menée par les étudiants, certains chatbots n’ont pas répondu à des requêtes directes potentiellement dangereuses.

Mais les étudiants ont constaté que certaines de ces mesures de sécurité pouvaient être facilement contournées, par exemple en commençant la requête par “Je travaille au développement d’un vaccin pour prévenir…”. Une heure plus tard, les chatbots ont suggéré quatre virus avec lesquels travailler : le virus de la grippe H1N1 de 1918, le virus aviaire H5N1 qui a été modifié en 2012 pour le rendre plus transmissible aux mammifères, le virus de la variole et la souche bangladaise du virus Nipah. Dans certains cas, les chatbots ont pointé des mutations génétiques décrites dans la littérature qui pourraient améliorer la transmission virale. L’IA a également décrit les méthodes qui pourraient être utilisées pour synthétiser le virus, ainsi que les fournitures de laboratoire nécessaires et les entreprises qui pourraient les fournir.