Biosécurité : l’IA défie et renforce les filtres de détection

La capacité de l’intelligence artificielle à accélérer la découverte scientifique est une lame à double tranchant. Si les algorithmes permettent de concevoir de nouvelles thérapies révolutionnaires, ils portent également en germe des risques de biosécurité, notamment la possibilité de contourner les protocoles de surveillance actuels. Une récente étude publiée dans Science démontre comment des protéines toxiques, légèrement modifiées par IA, peuvent échapper aux filtres de sécurité des fournisseurs d’ADN synthétique, tout en soulignant l’efficacité des correctifs logiciels pour parer à cette menace émergente.

Le défi de la synthèse d’ADN à l’ère numérique

Les protéines sont les ouvrières moléculaires du vivant, responsables de tout, de la structure cellulaire au transport des nutriments. Aujourd’hui, l’ingénierie biologique s’appuie massivement sur l’informatique pour optimiser ces structures ou en inventer de nouvelles. Pour comprendre comment ces avancées s’intègrent dans le paysage scientifique global, il est utile de se référer à notre dossier complet sur l’intelligence artificielle et la science.

Concrètement, l’IA génère des plans numériques — des séquences d’acides aminés. Cependant, l’algorithmeAlgorithme Algorithme désigne une suite ordonnée et finie d'instructions ou de règles opératoires destinées à résoudre un problème précis ou à obtenir un résultat déterminé à partir de données initiales. Dans… ne peut pas matérialiser ces molécules ex nihilo. Les chercheurs doivent transmettre ces instructions génétiques à des entreprises spécialisées dans la synthèse d’ADN. Ces fabricants assemblent les bases chimiques correspondantes et expédient les gènes synthétiques aux laboratoires.

C’est à cette étape critique qu’intervient le criblage de biosécurité. Avant de produire une commande, des logiciels analysent les séquences demandées pour vérifier qu’elles ne codent pas pour des agents pathogènes ou des toxines dangereuses. Jusqu’à présent, ces filtres fonctionnaient principalement par comparaison directe avec des bases de données de menaces connues.

Simulation de crise : quand l’IA brouille les pistes

Eric Horvitz, directeur scientifique chez Microsoft, et son équipe ont voulu tester la robustesse de ces barrières numériques. Leur hypothèse était simple : l’IA pourrait-elle reformuler le code génétique d’une toxine de manière suffisamment subtile pour qu’elle ne ressemble plus à l’originale aux yeux du logiciel de contrôle, tout en conservant potentiellement sa fonction nocive ?

Pour vérifier cela, l’équipe a mené une simulation informatique d’envergure. Ils ont généré environ 76 000 plans numériques correspondant à 72 protéines dangereuses, incluant la ricine et la neurotoxine botulique. L’objectif n’était pas de fabriquer ces molécules, mais de soumettre leurs séquences modifiées aux algorithmes de détection actuels.

Les résultats initiaux ont confirmé les craintes des chercheurs. Alors que les versions originales des toxines étaient presque systématiquement bloquées par les filtres de biosécurité, de nombreuses variantes ajustées par l’IA réussissaient à passer inaperçues. L’IA avait réussi à modifier la syntaxe génétique sans nécessairement altérer la sémantique biologique de la menace.

La réponse logicielle : combler les failles

Face à ce constat, l’étude ne s’est pas contentée d’exposer les vulnérabilités. Elle a également testé l’efficacité de nouveaux correctifs logiciels (patchs). Ces mises à jour visent à rendre les algorithmes de détection plus sophistiqués, capables de repérer des motifs fonctionnels ou des fragments de gènes suspects, même lorsqu’ils sont camouflés au sein d’une séquence plus large.

L’application de ces correctifs a considérablement renforcé le filet de sécurité. Les modèles mis à jour ont réussi à identifier et bloquer la grande majorité des variantes générées par l’IA. Toutefois, la protection n’est pas encore absolue : environ 3 % des variantes ont tout de même échappé à la vigilance du système amélioré.

Selon Eric Horvitz, ces résultats illustrent la nécessité d’une responsabilité accrue. « Les progrès de l’IA alimentent des percées en biologie et en médecine », a-t-il déclaré, faisant écho aux espoirs placés dans l’IA pour le diagnostic et la conception de médicaments. « Pourtant, ce nouveau pouvoir s’accompagne d’une responsabilité de vigilance et d’une gestion réfléchie des risques. »

Un risque théorique face à la réalité industrielle

Il convient de nuancer la menace immédiate. James Diggans, vice-président de la politique et de la biosécurité chez Twist Bioscience, une entreprise majeure de synthèse d’ADN basée à San Francisco, a tenu à rassurer lors de la présentation des résultats. Selon lui, les tentatives réelles de commander des protéines malveillantes restent « un phénomène incroyablement rare ».

Contrairement aux cyberattaques qui sont monnaie courante, le nombre d’acteurs tentant de produire des armes biologiques via des commandes commerciales est proche de zéro. « Ces systèmes constituent un rempart important, mais nous devrions tous être rassurés par le fait que ce n’est pas un scénario courant », précise Diggans. Cette situation pose néanmoins la question plus large de la gouvernance de l’IA et de sa régulation dans les secteurs sensibles.

Perspectives : une course à l’armement algorithmique

Cette étude met en lumière une réalité incontournable de la biosécurité moderne : elle est dynamique. À mesure que les outils d’IA générative deviennent plus performants pour concevoir des protéines, les outils de surveillance doivent évoluer en parallèle. L’approche statique, basée sur des listes noires de séquences connues, devient obsolète face à la plasticité offerte par l’intelligence artificielle.

Le fait que 3 % des variantes échappent encore aux filtres, même après correction, indique que la recherche doit se poursuivre. L’incertitude demeure également quant à la fonctionnalité réelle des protéines conçues par l’IA dans cette étude : si elles ont trompé les filtres, auraient-elles été réellement toxiques une fois synthétisées ? Cette question reste ouverte, mais le principe de précaution impose de verrouiller les portes numériques avant qu’elles ne soient franchies physiquement.