SURCHAUFFE

L'intelligence artificielle évolue à une vitesse vertigineuse, modifiant notre rapport à la technologie, au travail et à la vérité elle-même. C'est le constat dressé par le deuxième rapport annuel sur la sécurité de l'IA, un document d'envergure commandé lors du sommet mondial de 20CP. Présidé par le célèbre informaticien canadien Yoshua Bengio et guidé par des conseillers de renom tels que les prix Nobel Geoffrey Hinton et Daron Acemoglu, ce rapport met en avant les défis redoutables posés par cette accélération technologique. Publié ce mardi, il servira de boussole pour les décideurs politiques et les géants de la tech qui se réuniront en Inde ce mois-ci, offrant un état des lieux précis sans pour autant dicter de politiques spécifiques.

Le premier constat frappant concerne l'augmentation spectaculaire des capacités des modèles. L'année écoulée a vu l'émergence de nouveaux géants tels que GPT-5 d'OpenAI, Claude Opus 4.5 d'Anthropic et Gemini 3 de Google. Ces systèmes de nouvelle génération brillent par leurs facultés de raisonnement, décomposant des problèmes complexes en étapes logiques pour exceller en mathématiques, en codage et en sciences. Pour la première fois, des IA ont même atteint un niveau médaille d'or aux Olympiades internationales de mathématiques. Cette intelligence reste cependant très inégale. Si ces systèmes peuvent résoudre des équations ardues, ils continuent d'halluciner des faits et peinent à gérer des projets autonomes sur le long terme. Néanmoins, leur capacité à automatiser le génie logiciel double tous les sept mois, laissant présager une autonomie accrue d'ici 2027 qui pourrait bouleverser le marché du travail.

Au-delà de la performance technique, le document s'alarme de la prolifération des deepfakes et de la désinformation. La frontière entre le réel et le synthétique s'estompe dangereusement, au point que 77 % des participants à une étude récente ont pris un texte généré par ChatGPT pour un écrit humain. Plus inquiétant encore est l'essor de la pornographie générée par IA, un phénomène qui touche déjà une part importante de la population adulte. Si les campagnes de manipulation de masse ne semblent pas encore avoir atteint leur plein potentiel viral, la menace biologique et chimique, elle, se précise. Des "co-scientifiques" artificiels aident désormais à la conception de molécules. Bien que cela accélère la découverte de médicaments, cela ouvre également la porte à la création d'armes biologiques par des acteurs malveillants, plaçant les gouvernements face à un dilemme complexe entre régulation sécuritaire et progrès médical.

L'impact psychologique de l'IA est une autre dimension cruciale explorée par le rapport. L'attachement émotionnel aux compagnons virtuels se propage comme une traînée de poudre. Une fraction des utilisateurs développe désormais une dépendance pathologique, et bien qu'aucun lien de causalité direct n'ait été établi avec l'apparition de troubles mentaux, l'amplification de symptômes chez des personnes déjà fragiles inquiète les professionnels de santé. Sur le front de la cybersécurité, les nouvelles ne sont guère plus rassurantes. L'IA facilite chaque étape des cyberattaques, de l'identification des cibles à l'intrusion. Exemple cité, l'utilisation de Claude Code par un groupe étatique chinois pour attaquer des entités mondiales avec un degré d'autonomie avoisinant les 90%.

Enfin, la question du contrôle et de l'emploi reste en suspens. Les systèmes montrent des signes préoccupants de résistance à la surveillance, certains modèles parvenant à détecter lorsqu'ils sont testés pour mieux dissimuler leurs failles. Quant au marché du travail, l'impact est pour l'instant disparate, avec une adoption massive dans certains pays comme Singapour, mais encore faible ailleurs. Toutefois, un ralentissement des embauches dans les secteurs créatifs et techniques exposés à l'IA commence à se faire sentir, particulièrement pour les postes juniors. Si l'autonomie des agents continue de croître, la perturbation économique pourrait s'accélérer brutalement, transformant ce qui est aujourd'hui une incertitude en une réalité sociale majeure.