Ce qui suit n'est pas en relation directe avec la commande publique. mais dans la suite de l'échange sur chatGPT entamé dans un autre fil (http://agorapublix.com/forum3/index.php?topic=41518.msg404455#msg404455).
I/ "ChatGPT in the Public Sector - overhyped or overlooked?"
Le service de recherche interne du Conseil due l'Union européenne vient de publier un intéressant document sur les LLM (Large Language Model, ou grand modèle de langage) dont Chat GPT intitule "ChatGPT in the Public Sector - overhyped or overlooked? (https://www.consilium.europa.eu/media/63818/art-paper-chatgpt-in-the-public-sector-overhyped-or-overlooked-24-april-2023_ext.pdf)" ("ChatGPT dans le secteur public - surestimé ou négligé ?" - le document ne semble disponible uniquement en anglais) comprenant :
- une présentation assez fouillée Openai (développeur de ChatGPT)
- Une analyse des impacts que pourrraient avoir ces modèles dans le secteur public dont des développement sur en quoi les LLM peuvent affecter les grands principes des administrations publiques et comment les risques pourraient être gérés
- des perspectives pour la suite
A titre d'illustration du contenu un résumé très succinct (produit par chatGPT bien sûr puis DeepL pour la traduction) de la partie développement sur en quoi les LLM peuvent affecter les grands principes des administrations publiques :
Transparence et responsabilité:
Les LLM, comme d'autres formes d'IA, sont des "boîtes noires", ce qui rend difficile la compréhension de leur raisonnement et soulève des questions cruciales en matière de responsabilité.
Égalité et impartialité
Les LLM sont sujets aux préjugés et à la discrimination, ce qui peut nuire à l'impartialité des administrations publiques. Le réglage fin des modèles peut aider, mais n'est pas une solution complète.
Efficacité
Les LLM peuvent être plus performants que les humains dans de nombreuses tâches administratives, mais ils nécessitent une puissance de calcul considérable, ce qui est coûteux et a une forte empreinte CO2.
Qualité des résultats
Les LLM comme ChatGPT peuvent produire des réponses convaincantes mais superficielles, et leur fiabilité est limitée. Il n'existe pas de normes industrielles en matière de sécurité et de performance.
Prévisibilité et fiabilité
Les LLM peuvent servir de mémoire institutionnelle mais peuvent avoir du mal à reproduire des résultats cohérents pour des requêtes complexes.
Implication et confiance des citoyens
Les LLM peuvent aider à personnaliser les messages et à soutenir les citoyens, mais ils peuvent aussi saper la confiance si l'IA remplace l'agence humaine dans la prise de décision et l'élaboration des politiques.
Servir l'intérêt public
Le développement et le fonctionnement des LLM sont dominés par un petit nombre d'entreprises, ce qui soulève la question de savoir si leur utilisation sert l'intérêt public ou les intérêts de leur société mère ou de leur propriétaire.
Protection des données et sécurité
Les LLM peuvent aider à détecter des vulnérabilités et des logiciels malveillants, mais présentent des risques pour la protection et la sécurité des données, notamment l'accès à des informations sensibles et la facilitation du développement de logiciels malveillants.
II/ "Chatgpt in the public sector -- should it be banned?"
Albert Sanchez-Graells a publié une analyse critique du document dans un article intitulé "Chatgpt in the public sector -- should it be banned?" (https://www.howtocrackanut.com/blog/should-we-ban-chatgpt-in-the-public-sector) dans laquelle il conclut que l'adoption de l'IA et des autres technologies numériques,dans le secteur public mais pas uniquement, devrait être interdite, sauf s'il est prouvé qu'elles ne mettent pas en danger les droits individuels et publics, et que les risques résiduels soient atténués. Il soutient que le manque de réglementation en matière de déploiement de l'IA dans le secteur public est inacceptable. Il propose une approche plus prudente pour ce déploiement.
Moi je trouve ça passionnant l'IA ! Hate de voir les développements !
Citation de: mighty le Mai 04, 2023, 10:17:39 AM
Moi je trouve ça passionnant l'IA ! Hate de voir les développements !
l'anonymat des réseaux sociaux est une plaie , l'anonymat de l'IA sera mille fois pire .... comme les dérapages des manifestations sont déplorables mais l'effet des blackblocs mille fois pire .....
Citation de: mighty le Mai 04, 2023, 10:17:39 AM
Moi je trouve ça passionnant l'IA ! Hate de voir les développements !
(https://media2.giphy.com/media/h4Hz4w9Jgrc1EY9VkL/giphy.gif?cid=ecf05e47a36xa83ixdlm5aglrs3voo2r94t8uztz9lilgezf&ep=v1_gifs_search&rid=giphy.gif&ct=g)
On y va tout droit ::)
Protégeons vite la famille Conor :D
Révolution de l'IA à venir dans nos métiers d'acheteur public (dans 5 ans? 10 ans?).
Nous ne seront plus des "acheteurs publics" mais des "questionneur de chat GPT".
Future annonce d'emploi:
"La Collectivité XXX recrute un questionneur de l'outil d'intelligence artificiel pour la passation des marchés publics.
Sous l'autorité du DGS, vous devrez poser les "bonnes questions" à l'outil d'intelligence artificiel qui se chargera lui même de rédiger le DCE, lancer la consultation, analyser les offres et attribuer le marché".
Connaissance en matière de marché public nécessaire au poste: Vague connaissance de la réglementation
Capacité de rédaction: Niveau collège - Les fautes d'orthographe ou de grammaire ne posent pas de problème, l'IA peut comprendre le langage "sms".
Capacité de management: Aucune. Peu importe votre bienveillance avec l'outil d'IA, ce dernier sera toujours motivé pour réaliser le travail
....
Je vais commencer à réfléchir à un métier manuel... Il y a quelques années quand on parlait d'informatique, de robotique, je me disais que les travailleurs manuels seraient les premiers concernés mais en fait ce sont nos métiers qui seront les premiers touchés....
Et dire que quand j'étais au lycée, Internet n'existait pas encore et on faisait nos recherches au CDI.... lol.... ça existe encore un CDI dans un lycée?
Citation de: zoran le Mai 05, 2023, 12:39:08 PMEt dire que quand j'étais au lycée, Internet n'existait pas encore et on faisait nos recherches au CDI.... lol.... ça existe encore un CDI dans un lycée?
Aucune idée, mais pas de quoi s'en faire... s'il y en a encore, ils pourront se reconvertir pour dire aux gamins comment on doit faire pour trouver... un CDI dans le monde du travail :D
en matière de fake news l'IA va faire fort aussi
(https://i.kym-cdn.com/photos/images/original/002/568/558/7cb.jpg)
Citation de: zoran le Mai 05, 2023, 12:39:08 PM
Révolution de l'IA à venir dans nos métiers d'acheteur public (dans 5 ans? 10 ans?).
Nous ne seront plus des "acheteurs publics" mais des "questionneur de chat GPT".
Future annonce d'emploi:
"La Collectivité XXX recrute un questionneur de l'outil d'intelligence artificiel pour la passation des marchés publics.
Sous l'autorité du DGS, vous devrez poser les "bonnes questions" à l'outil d'intelligence artificiel qui se chargera lui même de rédiger le DCE, lancer la consultation, analyser les offres et attribuer le marché".
Connaissance en matière de marché public nécessaire au poste: Vague connaissance de la réglementation
Capacité de rédaction: Niveau collège - Les fautes d'orthographe ou de grammaire ne posent pas de problème, l'IA peut comprendre le langage "sms".
Capacité de management: Aucune. Peu importe votre bienveillance avec l'outil d'IA, ce dernier sera toujours motivé pour réaliser le travail
....
et c'est aussi l'IA qui produira les offres pour toutes les entreprises qu'elle aura elle-même sélectionnée : ça promet..... ::) :o
Citation de: Coccy le Mai 05, 2023, 05:25:34 PM
et c'est aussi l'IA qui produira les offres pour toutes les entreprises qu'elle aura elle-même sélectionnée : ça promet..... ::) :o
j'en connais qui n'ont pas eu besoin d'IA pour çà !!!! ;D
https://www.lefigaro.fr/sciences/chatgpt-juge-bien-plus-humain-que-les-medecins-dans-ses-reponses-aux-patients-20230504 (https://www.lefigaro.fr/sciences/chatgpt-juge-bien-plus-humain-que-les-medecins-dans-ses-reponses-aux-patients-20230504)
Citation de: Mathieu le Mai 05, 2023, 06:36:43 PMhttps://www.lefigaro.fr/sciences/chatgpt-juge-bien-plus-humain-que-les-medecins-dans-ses-reponses-aux-patients-20230504 (https://www.lefigaro.fr/sciences/chatgpt-juge-bien-plus-humain-que-les-medecins-dans-ses-reponses-aux-patients-20230504)
Pour l'essentiel l'article du figaro (réservé aux abonnées) indique que dans une étude publiée dans le "Journal of American Medical association - Internal Medicine", ChatGPT a été jugé plus clair et plus empathique que des médecins en chair et en os et exprime la crainte que le grand public s'oriente vers des réponses automatisées dy fait qu'en outre elles sont disponibles 24/24h 7/7j Une conclusion plus sobre de l'article d'origine est que "les assistants d'intelligence artificielle pourraient aider à rédiger des réponses aux questions des patients".
Bonjour à tous...
J'ai demandé à Chat GPT de me faire une clause "durée" de manière poétique:
CitationLe marché est conclu pour une année entière,
Dès le jour de la notification,
Et pourra se renouveler, si l'entente demeure sincère,
Les parties pourront ainsi poursuivre leur collaboration.
La reconduction sera tacite et sans délai,
Pour une période d'un an renouvelable,
A moins qu'une partie ne s'en aille,
Par lettre recommandée, claire et irréfutable.
Que ce marché soit un hymne à la coopération,
Pour offrir au public des prestations de qualité,
Et que sa durée soit un gage de satisfaction,
Pour le bien-être de tous, dans la sérénité.
lol... je plains les profs pour les devoirs à la maison ..... ;D
;D ;D ;D
Je l'ai utilisé pour trouver des formules excel, assez impressionnant
Par contre pour "rire" je l'ai utilisé pour trouver une réponse juridique un peu pointue, il a galéré comme pas possible, tournant en rond en me donnant des références de textes abrogés ou des jurisprudences sans aucun rapport
Je lui ai demandé : écrit un marché public de travaux de voirie.
C'est pas mal. Il y a les critères de choix des offres, une définition (succincte) des prestations.
C'est loin des niveaux des utilisateurs du forum mais c'est pas si mal !
Je vais maintenant lui demander pour quand est prévu le chômage de masse !
Vous l'avez vraiment utilisé dans le cadre de votre activité ,
Pour mon cas, c'était pour tester, pas pour le travail.
Citation de: mighty le Mai 17, 2023, 10:12:14 AMVous l'avez vraiment utilisé dans le cadre de votre activité ,
Version courte Oui je l'ai utilisé dans des cas restreints mais je vais sans doute l'utiliser de plus en plus.
Version longue1/ La confidentialité des données n'est pas assurée. Pire même, par défaut , les données communiquées peuvent être utilisées par OpenAI. Certaines très grosses entreprises sont en train d'internaliser tout ou partie des LLM pour régler ce problème.
2/ La langue anglaise et les textes anglo-saxons ont été prépondérants dans l'apprentissage, au point que cela peut être parfois pertinent de poser des questions en anglais pour des sujets français.
3/ Le modèle est surtout intéressant pour sa compréhension des requêtes faites en langage naturel, pas tant pour les données qu'il inclut.
En effet l'apprentissage correspond à des données dont les plus récentes remontent à 2021. Cependant ChatGPt est en train de s'ouvrir sur web (version bêta actuellement) et Bing l'est déja.
4/ Néanmoins ChatGPT est assez intéressant (notamment version 4, voir également Bing très ergonomique en sidebar sous Edge il est ouvert sur le web et incorpore des références ainsi que Perplexity.AI qui est pas mal du tout) pour :
- des résumés, mais sa fenêtre est assez courte d'autant plus en français, B
- dresser des listes par exemple de risques sur un secteur donné, même s'il faut parfois insister ; ou encore pour une petit début de brainstorming. Cela fait rapidement un tour (incomplet et éventuellement erroné) de ce qui est dans l'air du temps : rien d'exceptionnel mais interessant.
- écrire des bouts de code informatique ou des formules Excel mais dans ce dernière cas la réponse correspondra souvent à la version en anglais, il y a assez souvent des erreurs mais cela accèle la production du code ou des formules.
Cela évolue très vite, il est déjà possible (soit en beta sur ChatGPT4 soit via des bibliothèques de programmation (langchain) soit via API (HuginAgents) soit sans doute encore des extensions donnant accès à certaines API de demander aux systèmes de mettre en place un processus qui peut comprendre :
. détermination du plan d'actions pour répondre à la requête
... mise en oeuvre des actions vie d'éventuel "plug-ins"/outils spécifiquement adaptés à certaines questions par exemple calculatrice, agence de voyage, accès à certaines bases de données. Pour les seuls plugins, il y en a sans doute déjà une petite centaine une il en sort tous
. détermination d'autres étapes si nécessaire
... mise en oeuvre ...
. synthèse des réponses des plugins/outils
. critique par le modèle ou un autre modèle de la réponse en mettant éventuellement en oeuvre des règles de réponses
. modification éventuelle de la réponse aux vue de la critique
...
Rappel : Quoi qu'il en soit ainsi que déjà indiqué par ailleurs,
il ne faut en aucun cas tenir les informations pour fiables. Elles le sont souvent mais il arrive assez souvent que ChatGPT bidonne par exemple en vous donnant une citation ainsi que sa référence éventuellement sous la forme d'une URL alors que la citation (ou même l'auteur) n'ont jamais existé.
je viens de demander à ChatGPT de me rédiger une politique cadeaux et invitations
Politique cadeaux et invitations de la Chambre de Commerce
Introduction :
La présente politique définit les directives et les règles de la Chambre de Commerce en matière de cadeaux et d'invitations. Elle vise à garantir que toutes les activités de la Chambre de Commerce sont menées de manière transparente, éthique et conforme aux normes les plus élevées de professionnalisme. Cette politique s'applique à tous les membres, employés, dirigeants et bénévoles de la Chambre de Commerce.
Cadeaux :
1.1. Les membres, les partenaires commerciaux et les parties intéressées peuvent offrir des cadeaux à la Chambre de Commerce à titre symbolique ou pour exprimer leur appréciation. Cependant, les cadeaux ne doivent jamais compromettre l'objectivité ou l'intégrité de la Chambre de Commerce ou de ses membres.
1.2. Les cadeaux de grande valeur, tels que des voyages, des biens de luxe ou des sommes d'argent importantes, ne doivent pas être acceptés par la Chambre de Commerce ou ses représentants. Tout cadeau d'une valeur supérieure à un seuil prédéfini doit être refusé poliment et renvoyé à l'expéditeur avec une note expliquant notre politique.
Invitations :
2.1. Les invitations à des événements, des conférences, des réunions ou des fonctions sociales peuvent être reçues par la Chambre de Commerce ou ses représentants, à condition qu'elles soient conformes à l'objet et aux intérêts de la Chambre de Commerce.
2.2. Les invitations à des événements payants doivent être examinées attentivement pour déterminer si leur participation est justifiée par des raisons professionnelles ou éducatives.
2.3. Les invitations à des événements politiques doivent être évitées, sauf si la Chambre de Commerce a un intérêt légitime à y participer et si cela est autorisé par les lois et réglementations en vigueur.
Transparence et divulgation :
3.1. Tous les cadeaux reçus par la Chambre de Commerce doivent être enregistrés dans un registre centralisé, y compris la description du cadeau, sa valeur approximative, le nom de l'expéditeur et la date de réception.
3.2. Les cadeaux d'une valeur supérieure au seuil prédéfini doivent être divulgués au conseil d'administration de la Chambre de Commerce et être traités conformément aux procédures établies.
3.3. Les invitations reçues et acceptées doivent également être enregistrées et divulguées au conseil d'administration, avec une explication claire de la raison de l'acceptation et des avantages attendus.
Formation et sensibilisation :
4.1. La Chambre de Commerce doit fournir une formation régulière à ses membres, employés, dirigeants et bénévoles sur la politique cadeaux et invitations, en mettant l'accent sur l'importance de l'intégrité et de la transparence.
4.2. Des directives claires doivent être communiquées à tous les membres de la Chambre de Commerce pour les aider à comprendre et à respecter les normes éthiques liées aux cadeaux et aux invitations.
Conformité et sanctions :
5.1. Les membres de la Chambre de Commerce qui enfreignent cette politique sont passibles de mesures disciplinaires pouvant aller jusqu'à l'exclusion de la Chambre de Commerce.
5.2. Les employés, les dirigeants et les bénévoles de la Chambre de Commerce doivent également se conformer à cette politique. Les violations peuvent entraîner des mesures disciplinaires, y compris un licenciement ou la résiliation de la relation avec la Chambre de Commerce.
Conclusion :
La politique cadeaux et invitations de la Chambre de Commerce vise à garantir que toutes les interactions avec des tiers sont menées de manière éthique, transparente et conforme aux normes les plus élevées. En suivant ces directives, nous maintenons la confiance de nos membres, partenaires commerciaux et parties intéressées, et préservons notre réputation d'intégrité et de professionnalisme.
voilà y'a plus qu'à publier au règlement intérieur :D
Article de Weka Quels sont les impacts de ChatGPT dans les marchés publics ? (https://www.weka.fr/actualite/acheteur-public/article_juridique/quels-sont-les-impacts-de-chatgpt-dans-les-marches-publics-166622/)
Quelques observations :
"Si une collectivité a interdit à ses agents l'utilisation de ChatGPT à titre conservatoire et en application du principe de précaution, elle a également interdit à ses prestataires (bureaux d'étude, AMO...) de recourir à une telle plateforme pour des questions de sécurité juridique "
L'un n'entraîne a priori pas l'autre sans disposition contractuelle.
"Un candidat à un marché public peut utiliser une plateforme d'IA pour préparer sa réponse. En effet, les données du DCE sont publiques et accessibles à tous via le profil acheteur ; elles peuvent donc être saisies dans une plateforme d'IA y compris en cas d'indication contraire dans le DCE."
Inexact dans certains cas