AGORAPUBLIX

Le Cabinet Landot a mis en ligne : Intelligence artificielle et achat public : solutions, risques, perspectives
https://youtu.be/CKA39PgzQc0 (https://youtu.be/CKA39PgzQc0)
 
avec

• M. Jérémy BAKKALIAN Directeur des Achats Pôle Marchés, Achats, Juridique, Immobilier Région Île-de-France
• M. Cédric R. C. BERNARD Docteur en droit Chercheur postdoctoral en droit

---

Synthèse Automatique  (Gemini 2.5 Pro preview)

Introduction : L'IA, un tournant pour la commande publique
La vidéo, animée par Maître Éric Landot, explore l'impact de l'intelligence artificielle (IA) sur le domaine de la commande publique, en collaboration avec les experts Cédric R. C. Bernard (Docteur en droit) et Jérémy Bakkalian (Directeur des Achats, Région Île-de-France). L'IA n'est plus une technologie naissante ("balbutiante") mais une réalité opérationnelle qui, bien qu'imparfaite, transforme déjà les pratiques, notamment via des outils professionnels (bases de données juridiques) et des applications grand public. Cette évolution soulève des questions fondamentales sur les solutions, les risques et les perspectives pour les acheteurs publics, un sujet qui préoccupe déjà les institutions comme le Conseil d'État et l'INET, qui ont publié des études de référence en 2022 et 2024.

---

I. Solutions et outils d'IA pour les acheteurs publics
L'IA offre un panel d'outils pour optimiser le cycle de l'achat public. Jérémy Bakkalian distingue trois niveaux de solutions :

• IA Généraliste et non spécialisée :
  
  • Description : Il s'agit des IA génératives grand public (ChatGPT, Copilot, Claude) accessibles facilement et souvent gratuitement.
  • Usages : Elles sont utiles pour des tâches simples comme la reformulation de textes, la recherche de codes de nomenclature (CPV), ou la simplification de clauses standard.
  • Limites : Leur nature non spécialisée et non sécurisée pour des données sensibles présente des risques importants.
• IA Spécialisée "sur étagère" :
  
  • Description : Ce sont des logiciels développés par des éditeurs, souvent proposés en mode SaaS (Software as a Service), qui intègrent des fonctionnalités d'IA pour des missions spécifiques à l'achat public.
  • Usages :
    
    • Sourcing : Identification de fournisseurs.
    • Gestion contractuelle : Suivi des contrats, gestion des risques fournisseurs.
    • Analyse des dépenses : Optimisation des budgets.
  • Intégration : Ces outils peuvent être autonomes ou s'intégrer comme des modules dans un Système d'Information Achat (SIA) global.
• IA sur-mesure et développements spécifiques :
  
  • Description : La solution la plus intégrée, répondant à un besoin précis de l'organisation. Elle nécessite une définition claire des besoins et passe souvent par des procédures de commande publique complexes (marchés d'innovation, etc.).
  • Usages : Cédric Bernard cite l'exemple du BIM (Building Information Modeling), où l'IA, intégrée à une maquette numérique, permet d'optimiser la gestion des bâtiments (prévision des déperditions énergétiques, cycle de vie des matériaux, émissions de CO2). Cet usage illustre le potentiel de l'IA dans des projets complexes et liés au développement durable.

II. Risques majeurs et controverses
L'enthousiasme pour l'IA ne doit pas occulter les risques juridiques, éthiques et opérationnels qu'elle engendre.

• Biais et Discriminations (Risque juridique et éthique) :
  
  • Cédric Bernard met en garde contre la fausse neutralité des algorithmes. Une IA entraînée sur des données historiques peut reproduire et amplifier des biais existants.
  • Exemples :
    
    • Discrimination envers les PME/TPE au profit de grands groupes historiquement plus présents.
    • Biais sexistes ou racistes si les données d'entraînement favorisent des profils spécifiques de dirigeants.
    • Discrimination émergente : Des biais imprévus peuvent être créés par l'IA elle-même au fil de son apprentissage.
• Confidentialité et Sécurité des données :
  
  • L'utilisation d'IA, surtout les modèles généralistes, expose à des risques de fuite de données sensibles : secrets d'affaires des entreprises, données personnelles, informations stratégiques de la collectivité.
• Perte de compétences et déconnexion du réel :
  
  • Une dépendance excessive à l'IA risque d'éroder le savoir-faire des agents publics (juristes, acheteurs).
  • Cela peut entraîner une déconnexion entre les décisions automatisées et les réalités du terrain, affectant la pertinence et la qualité du service public.
• Transparence et Explicabilité (Le problème de la "boîte noire") :
  
  • Le fonctionnement interne de certains algorithmes est opaque. Cette "boîte noire" rend difficile la justification d'une décision, ce qui contrevient aux principes fondamentaux de la commande publique (transparence des procédures, motivation des décisions de rejet).

III. Recommandations et principes directeurs
Face à ces enjeux, les experts formulent des recommandations clés pour un usage responsable de l'IA.

• La primauté de l'humain ("Human in the Loop") :
  
  • Principe fondamental : L'humain doit rester au centre du processus décisionnel. L'IA est un outil d'aide à la décision, pas un substitut.
  • Application : Un contrôle humain est indispensable, non seulement sur le résultat final, mais aussi par une vérification régulière des algorithmes pour détecter et corriger les biais.
• Cadre réglementaire et gouvernance :
  
  • Réglementation : S'appuyer sur les cadres existants et à venir, comme l'AI Act européen, qui classifie les systèmes d'IA selon leur niveau de risque.
  • Gouvernance interne : Mettre en place des chartes ou codes de conduite internes pour encadrer l'usage de l'IA et instaurer une gouvernance des données robuste.
• Collaboration et formation :
  
  • Pluridisciplinarité : Le juriste ne peut plus travailler seul. Une collaboration étroite est nécessaire avec les informaticiens, les data analysts et les services métiers.
  • Montée en compétences : Former et acculturer les agents publics aux potentiels et aux limites de l'IA est crucial pour une utilisation éclairée.

IV. Perspectives d'évolutions concrètes

• L'Achat Augmenté : Jérémy Bakkalian évoque l'avenir de l'achat public non pas comme une substitution par l'IA, mais comme un "achat augmenté", où l'IA assiste l'acheteur à chaque étape (sourcing, rédaction, analyse).
• Projets concrets : La Région Île-de-France lance une initiative, "IA 2024 - Augmenter l'achat public", pour explorer concrètement ces cas d'usage, montrant une volonté politique forte de s'emparer du sujet.

En conclusion, si l'IA représente une opportunité majeure pour moderniser et optimiser la commande publique, son déploiement doit être encadré par des principes stricts de transparence, de contrôle humain et de responsabilité pour garantir le respect des droits fondamentaux et des grands principes du droit public.

Un conclusion sans surprise. En somme l'IA apporte le même type de plus-value que l'INTERNET il y a 25-30 ans et les mêmes limites

L'accumulation de changements quantitatifs peut provoquer, à un certain point, un "saut qualitatif", c'est-à-dire un changement de la nature.

Pour ce qui est de l'utilisation des "IA spécialisées", quelques réflexions :
En dehors de son éventuelle intégration à un outil vertical, on peut se demander quels sont les avantages d'une IA spécialisé.
. Sur la "puissance", il me semble que l'IA spécialisée sera toujours un peu en retard sur les IA généralistes.
. Cependant, ce n'est sans doute pas sur ce terrain que les apports sont le plus significatif, ce sera sans doute plus sur le corpus des textes traités (limitation mais également accès à des synthèses validées) et sur les règles d'inférence (instruction, prompt système)  intégrées. Ces deux aspects sont nécessaires pour permettre à des utilisateurs moyennement avertis (même après formation, car l'utilisation des outils ne sera pas leur coeur de métier) de produire des résultats pertinents m^me s'il faudra continuer à les vérifier.

La confidentialité restera le sujet. En effet si les plus grandes entreprises peuvent se doter de moyens propres, cela ne sera sans doute pas le cas (*) de la plus grande partie des Acheteurs publics.

Cela étant on peut faire des choses très intéressantes avec les IA généralistes non spécialisées, notamment des recherches que 'l'on n'aurait pas entreprises faute de temps en leur absence :
- L'IA pour commencer à éclairer une question (valeur du carbone) (https://agorapublix.com/index.php?topic=44160.new#new)
- Optimiser les recherches en commande publique avec l'aide de l'IA (Gemini 2.5 Deep Research) (https://agorapublix.com/index.php?msg=421787) (accueil téléphonique)
- Optimiser les recherches en commande publique avec l'aide de l'IA avec NotebookLM (https://agorapublix.com/index.php?topic=44057.msg421787;topicseen#msg421787)

Au delà du sujet de l'IA Je suis sur le "cul" par l'évolution de la carrière de Jeremy. Le gars est désormais directeur de l'achat public de la région Idf ! ben dis donc :D Il y a quelques années il avait fait des résumés d'actu pour notre site ^^ je le trouvais déjà super prometteur le gars ! Bravo à lui.

Sur l'IA perso j'adhère complètement ! je trouve ça top. je regrette juste que mon entité est très lourde à faire évoluer :(