IA et secteur public

[hpchavaz]

Ce qui suit n'est pas en relation directe avec la commande publique. mais dans la suite de l'échange sur chatGPT entamé dans un autre fil.

I/ "ChatGPT in the Public Sector  - overhyped or overlooked?"

Le service de recherche interne du Conseil due l'Union européenne vient de publier un intéressant document sur les LLM (Large Language Model, ou grand modèle de langage) dont Chat GPT intitule "ChatGPT in the Public Sector  - overhyped or overlooked?" ("ChatGPT dans le secteur public - surestimé ou négligé ?" - le document ne semble disponible uniquement en anglais) comprenant :
- une présentation assez fouillée Openai (développeur de ChatGPT)
- Une analyse des impacts que pourrraient avoir ces modèles dans le secteur public dont des développement sur en quoi les LLM peuvent affecter les grands principes des administrations publiques et comment les risques pourraient être gérés
- des perspectives pour la suite


A titre d'illustration du contenu un résumé très succinct (produit par chatGPT bien sûr puis DeepL pour la traduction) de la partie développement sur en quoi les LLM peuvent affecter les grands principes des administrations publiques :

Transparence et responsabilité:
Les LLM, comme d'autres formes d'IA, sont des "boîtes noires", ce qui rend difficile la compréhension de leur raisonnement et soulève des questions cruciales en matière de responsabilité.

Égalité et impartialité
Les LLM sont sujets aux préjugés et à la discrimination, ce qui peut nuire à l'impartialité des administrations publiques. Le réglage fin des modèles peut aider, mais n'est pas une solution complète.

Efficacité
Les LLM peuvent être plus performants que les humains dans de nombreuses tâches administratives, mais ils nécessitent une puissance de calcul considérable, ce qui est coûteux et a une forte empreinte CO2.

Qualité des résultats
Les LLM comme ChatGPT peuvent produire des réponses convaincantes mais superficielles, et leur fiabilité est limitée. Il n'existe pas de normes industrielles en matière de sécurité et de performance.

Prévisibilité et fiabilité
Les LLM peuvent servir de mémoire institutionnelle mais peuvent avoir du mal à reproduire des résultats cohérents pour des requêtes complexes.

Implication et confiance des citoyens
Les LLM peuvent aider à personnaliser les messages et à soutenir les citoyens, mais ils peuvent aussi saper la confiance si l'IA remplace l'agence humaine dans la prise de décision et l'élaboration des politiques.

Servir l'intérêt public
Le développement et le fonctionnement des LLM sont dominés par un petit nombre d'entreprises, ce qui soulève la question de savoir si leur utilisation sert l'intérêt public ou les intérêts de leur société mère ou de leur propriétaire.

Protection des données et sécurité
Les LLM peuvent aider à détecter des vulnérabilités et des logiciels malveillants, mais présentent des risques pour la protection et la sécurité des données, notamment l'accès à des informations sensibles et la facilitation du développement de logiciels malveillants.

II/ "Chatgpt in the public sector -- should it be banned?"

Albert Sanchez-Graells a publié une analyse critique du document  dans un article intitulé  "Chatgpt in the public sector -- should it be banned?" dans laquelle il conclut que  l'adoption de l'IA et des autres technologies numériques,dans le secteur public mais pas uniquement, devrait être interdite, sauf s'il est prouvé qu'elles ne mettent pas en danger les droits individuels et publics, et que les risques résiduels soient atténués. Il soutient que le manque de réglementation en matière de déploiement de l'IA dans le secteur public est inacceptable. Il propose une approche plus prudente pour ce déploiement.

[mighty]

Moi je trouve ça passionnant l'IA ! Hate de voir les développements !

[speedy]

Moi je trouve ça passionnant l'IA ! Hate de voir les développements !

l'anonymat des réseaux sociaux est une plaie , l'anonymat de l'IA sera mille fois pire ....  comme les dérapages des manifestations sont déplorables mais l'effet des blackblocs mille fois pire  .....

[Ponta]

Moi je trouve ça passionnant l'IA ! Hate de voir les développements !

[Piko]

On y va tout droit 
Protégeons vite la famille Conor 

[zoran]

Révolution de l'IA à venir dans nos métiers d'acheteur public (dans 5 ans? 10 ans?).

Nous ne seront plus des "acheteurs publics" mais des "questionneur de chat GPT".

Future annonce d'emploi:
"La Collectivité XXX recrute un questionneur de l'outil d'intelligence artificiel pour la passation des marchés publics.
Sous l'autorité du DGS, vous devrez poser les "bonnes questions" à l'outil d'intelligence artificiel qui se chargera lui même de rédiger le DCE, lancer la consultation, analyser les offres et attribuer le marché".
Connaissance en matière de marché public nécessaire au poste: Vague connaissance de la réglementation
Capacité de rédaction: Niveau collège - Les fautes d'orthographe ou  de grammaire ne posent pas de problème, l'IA peut comprendre le langage "sms".
Capacité de management: Aucune. Peu importe votre bienveillance avec l'outil d'IA, ce dernier sera toujours motivé pour réaliser le travail

....


Je vais commencer à réfléchir à un métier manuel... Il y a quelques années quand on parlait d'informatique, de robotique, je me disais que les travailleurs manuels seraient les premiers concernés mais en fait ce sont nos métiers qui seront les premiers touchés....


Et dire que quand j'étais au lycée, Internet n'existait pas encore et on faisait nos recherches au CDI.... lol.... ça existe encore un CDI dans un lycée?

[Piko]

Et dire que quand j'étais au lycée, Internet n'existait pas encore et on faisait nos recherches au CDI.... lol.... ça existe encore un CDI dans un lycée?

Aucune idée, mais pas de quoi s'en faire... s'il y en a encore, ils pourront se reconvertir pour dire aux gamins comment on doit faire pour trouver... un CDI dans le monde du travail 

[Mathieu]

en matière de fake news l'IA va faire fort aussi

[Coccy]

Révolution de l'IA à venir dans nos métiers d'acheteur public (dans 5 ans? 10 ans?).

Nous ne seront plus des "acheteurs publics" mais des "questionneur de chat GPT".

Future annonce d'emploi:
"La Collectivité XXX recrute un questionneur de l'outil d'intelligence artificiel pour la passation des marchés publics.
Sous l'autorité du DGS, vous devrez poser les "bonnes questions" à l'outil d'intelligence artificiel qui se chargera lui même de rédiger le DCE, lancer la consultation, analyser les offres et attribuer le marché".
Connaissance en matière de marché public nécessaire au poste: Vague connaissance de la réglementation
Capacité de rédaction: Niveau collège - Les fautes d'orthographe ou  de grammaire ne posent pas de problème, l'IA peut comprendre le langage "sms".
Capacité de management: Aucune. Peu importe votre bienveillance avec l'outil d'IA, ce dernier sera toujours motivé pour réaliser le travail

....

et c'est aussi l'IA qui produira les offres pour toutes les entreprises qu'elle aura elle-même sélectionnée : ça promet..... 

[speedy]

et c'est aussi l'IA qui produira les offres pour toutes les entreprises qu'elle aura elle-même sélectionnée : ça promet..... 

j'en connais qui n'ont pas eu besoin d'IA pour çà !!!!

[Mathieu]

https://www.lefigaro.fr/sciences/chatgpt-juge-bien-plus-humain-que-les-medecins-dans-ses-reponses-aux-patients-20230504

[hpchavaz]

https://www.lefigaro.fr/sciences/chatgpt-juge-bien-plus-humain-que-les-medecins-dans-ses-reponses-aux-patients-20230504

Pour l'essentiel l'article du figaro (réservé aux abonnées) indique que dans une étude publiée dans le "Journal of American Medical association - Internal Medicine", ChatGPT a été jugé plus clair et plus empathique que des médecins en chair et en os et exprime la crainte que le grand public s'oriente vers des réponses automatisées dy fait qu'en outre elles sont disponibles 24/24h 7/7j Une conclusion plus sobre de l'article d'origine est que "les assistants d'intelligence artificielle pourraient aider à rédiger des réponses aux questions des patients".

[zoran]

Bonjour à tous...

J'ai demandé à Chat GPT de me faire une clause "durée" de manière poétique:

Le marché est conclu pour une année entière,
Dès le jour de la notification,
Et pourra se renouveler, si l'entente demeure sincère,
Les parties pourront ainsi poursuivre leur collaboration.

La reconduction sera tacite et sans délai,
Pour une période d'un an renouvelable,
A moins qu'une partie ne s'en aille,
Par lettre recommandée, claire et irréfutable.

Que ce marché soit un hymne à la coopération,
Pour offrir au public des prestations de qualité,
Et que sa durée soit un gage de satisfaction,
Pour le bien-être de tous, dans la sérénité.

lol... je plains les profs pour les devoirs à la maison ..... 

[Ponta]

 

[Kirepo]

Je l'ai utilisé pour trouver des formules excel, assez impressionnant

Par contre pour "rire" je l'ai utilisé pour trouver une réponse juridique un peu pointue, il a galéré comme pas possible, tournant en rond en me donnant des références de textes abrogés ou des jurisprudences sans aucun rapport