L’IA sans les néons

Réflexions à l’issue de la Conférence internationale de l’UNESCO sur une IA sûre et éthique

Aucun panneau lumineux.
Aucun objet promotionnel de marque.
Et certainement aucun commercial trop enthousiaste tentant de faire la démonstration de sa toute nouvelle IA brillante.

À la place, les couloirs de l’UNESCO étaient remplis de drapeaux venus du monde entier, d’une intensité feutrée et de conversations allant bien au-delà des simples fonctionnalités produits. Il a été question de vie, de mort, de sécurité nationale, de cohésion sociale, et même d’équations. De véritables équations, utilisées pour faire face aux défis actuels et à ceux qui arrivent plus vite que beaucoup ne l’imaginent.

Conférence internationale 2026 de l’UNESCO sur une IA sûre et éthique

Il y a quelques semaines, la Conférence internationale sur une IA sûre et éthique n’avait rien d’un événement technologique classique fondé sur le « pay-to-play ». Il s’agissait d’un événement sur invitation uniquement, réunissant la Directrice générale de l’UNESCO, des lauréats du prix Turing, des chercheurs de premier plan et des décideurs publics du monde entier.

Excelya était non seulement la seule CRO invitée, mais également le seul représentant de l’IA appliquée aux essais cliniques en santé. Cette situation a été une véritable surprise. De nombreux éditeurs et cabinets de conseil dans la pharma affirment que leur IA est sûre et éthique. En réalité, atteindre ce niveau exige une expertise réelle, une rigueur scientifique et un engagement constant.

Réflexion personnelle

Un moment personnel de validation et de remise en question

Sur le plan personnel, la conférence a été à la fois valorisante et stimulante. Dans un domaine où la frontière évolue en permanence, il est facile de se sentir en retard, comme si son meilleur travail n’était jamais tout à fait suffisant.

C’est pourquoi il a été particulièrement significatif de voir des architectures d’IA que j’ai conçues reconnues lors des échanges comme références de premier plan en matière d’ancrage des résultats.

Mais la conférence a également été profondément exigeante. Pendant trois jours, les discussions sont allées bien au-delà de la médecine et de la réglementation. Nous avons notamment abordé :

La protection des enfants et le développement cognitif,
Les implications de l’IA dans les conflits armés et la défense nationale,
Les perturbations économiques et environnementales, y compris celles induites par des systèmes d’IA hautement optimisés.

Points clés

Deux enseignements majeurs à fort impact à partager

Des dizaines d’articles et de posters ont été présentés, bien trop nombreux pour être couverts en un seul billet. Mais deux enseignements clairs et à fort impact se sont particulièrement imposés.

Enseignement 1

Enseignement technique : une variation simple du LLM-as-Judge à très forte valeur ajoutée

Une méthode efficace pour évaluer la qualité des productions de l’IA, évoquée par des chercheurs d’OpenAI dans les discussions sur la super‑intelligence et la stéganographie, consiste à appliquer « une variation du classique LLM comme juge ».

Faire répondre deux modèles de raisonnement indépendants à une même question :

« Si vous étiez le système, auriez‑vous produit ce résultat ? »

La réponse peut être oui, non ou abstention.

C’est simple, pratique et plus robuste qu’une évaluation uniquement fondée sur des règles. Pour les équipes qui développent des systèmes agentiques, c’est un ajout élégant à tout cadre qualité.

Enseignement 2

Points clés

Deux enseignements majeurs à fort impact à partager

Des dizaines d’articles et de posters ont été présentés, bien trop nombreux pour être couverts en un seul billet. Mais deux enseignements clairs et à fort impact se sont particulièrement imposés.

Enseignement 1

Enseignement technique : une variation simple du LLM-as-Judge à très forte valeur ajoutée

Une méthode efficace pour évaluer la qualité des productions de l’IA, évoquée par des chercheurs d’OpenAI dans les discussions sur la super‑intelligence et la stéganographie, consiste à appliquer « une variation du classique LLM comme juge ».

Faire répondre deux modèles de raisonnement indépendants à une même question :

« Si vous étiez le système, auriez‑vous produit ce résultat ? »

La réponse peut être oui, non ou abstention.

C’est simple, pratique et plus robuste qu’une évaluation uniquement fondée sur des règles. Pour les équipes qui développent des systèmes agentiques, c’est un ajout élégant à tout cadre qualité.

Enseignement 2

Protection de l’enfance : ne pas exposer les enfants à des « compagnons » IA

Ce sujet a fortement marqué l’audience.

Des neurologues et des experts de la protection de l’enfance ont expliqué que la confiance chez l’enfant se construit par des micro‑interactions et que la personnification de l’IA — notamment via des voix amicales, des avatars ou des signaux conversationnels imitant l’amitié — a un effet neurologique plus marqué chez les moins de 25 ans.

Cet effet atteint son pic à l’adolescence, lorsque le cerveau apprend encore les limites à travers des interactions sociales humaines, parfois conflictuelles.

Le constat

Les enfants influencés par des « compagnons » IA sont plus susceptibles de suivre des recommandations néfastes, allant des achats impulsifs et du retrait social jusqu’à, dans les cas extrêmes, l’automutilation et même le décès.

Il ne s’agit pas d’un risque théorique. Cela se produit déjà dans des contextes cliniques et de protection de l’enfance.

Aucune justification ne permet d’exposer des enfants à des jouets pilotés par l’IA, à des « amis » IA ou à des tuteurs IA, en particulier dans le cadre du foyer.

Je suis fière qu’Excelya prenne ce sujet très au sérieux. Nous lancerons prochainement des sessions internes facultatives afin d’accompagner les parents et les établissements scolaires avec des conseils concrets pour aider les enfants à évoluer en toute sécurité face à l’IA.