Le gouvernement britannique a dissous le conseil consultatif indépendant de son Centre pour l’éthique et l’innovation des données (CDEI) sans aucune annonce, dans le cadre d’une plus grande volonté de positionner le Royaume-Uni comme un leader mondial de la gouvernance de l’IA. Lancé en juin 2018 pour promouvoir une approche collaborative et multisectorielle de la gouvernance de l’intelligence artificielle (IA) et d’autres technologies basées sur les données, le mandat initial du conseil consultatif multidisciplinaire du CDEI était d’« anticiper les lacunes dans le paysage de la gouvernance, de convenir et de présenter les meilleures pratiques pour guider les utilisations éthiques et innovantes des données, et de conseiller le gouvernement sur la nécessité d’une action politique ou réglementaire spécifique ». Depuis lors, le centre s’est principalement concentré sur l’élaboration de lignes directrices pratiques pour aider les organisations des secteurs public et privé à gérer leurs technologies d’IA de manière éthique, ce qui inclut, par exemple, la publication d’une norme de transparence algorithmique pour tous les organismes du secteur public en novembre 2021 et un portefeuille de techniques d’assurance IA en juin 2023. La décision intervient avant le sommet mondial sur la sécurité de l’IA qui se tiendra au Royaume-Uni en novembre, et si la page web du conseil consultatif indique qu’elle a été officiellement fermée le 9 septembre 2023, Future News a déclaré que le gouvernement a mis à jour la page de telle sorte qu’aucune alerte par e-mail n’a été envoyée aux personnes abonnées à ce sujet. S’exprimant anonymement avec Recorded Future, d’anciens membres du conseil consultatif ont expliqué comment l’attitude du gouvernement envers l’organisme a évolué au fil du temps, alors qu’il a changé quatre fois de premier ministre et sept fois de secrétaires d’État depuis la nomination des membres du conseil en novembre 2018. « À notre création, il y avait une question de savoir si nous devions être retirés du gouvernement et placés sur une base légale, ou être un organisme indépendant, et l’hypothèse était que c’était dans cette direction que nous allions », a déclaré l’officiel, ajoutant que le CDEI a plutôt été placé entièrement sous la juridiction du Département des sciences, de l’innovation et de la technologie (DSIT) au début de l’année 2023. « Ils n’étaient pas investis dans ce que nous faisions. Cela faisait partie d’une malaise plus général où le Bureau de l’IA avait également du mal à obtenir le soutien du gouvernement, et ses livres blancs étaient constamment retardés ». L’ancien membre du conseil a également ajouté qu’il y avait également très peu de volonté politique d’amener les organismes du secteur public à adhérer au travail du CDEI, notant par exemple que la norme de transparence algorithmique publiée en novembre 2021 n’a pas été largement adoptée et n’a pas été promue par le gouvernement dans son livre blanc de mars 2023 sur l’IA (qui expose ses propositions en matière de gouvernance de la technologie) : « J’ai été vraiment surpris et déçu par cela ». S’exprimant avec Computer Weekly sous couvert d’anonymat, le même ancien membre du conseil a ajouté qu’il avait été informé de la dissolution du conseil en août : « La raison invoquée était que le DSIT avait décidé d’adopter une approche plus flexible pour consulter des conseillers, en puisant dans un pool de personnes externes plutôt que d’avoir un conseil consultatif formel. “Il y avait certainement une possibilité pour le conseil de continuer. Dans l’environnement actuel, avec un tel intérêt pour la réglementation et la surveillance de l’utilisation de l’IA et des données, l’expertise existante au sein du conseil aurait pu contribuer beaucoup plus”. Cependant, il a clairement indiqué que les membres du personnel du CDEI « ont toujours travaillé de manière extrêmement professionnelle avec le conseil consultatif, tenant compte de ses conseils et s’assurant que le conseil était tenu informé des projets en cours ». Neil Lawrence, professeur d’apprentissage automatique à l’université de Cambridge et président ad interim du conseil consultatif, a également déclaré à Recorded Future qu’il avait « de forts soupçons » concernant la dissolution du conseil consultatif, mais qu’« il n’y a eu aucune conversation avec moi » avant que la décision ne soit prise. Au début du mois de septembre 2023, par exemple, juste avant que la page web du conseil consultatif ne soit discrètement modifiée, le gouvernement a annoncé avoir nommé des personnalités issues de l’industrie, du monde universitaire et de la sécurité nationale au sein du conseil consultatif de son groupe de travail sur l’IA de pointe, rebaptisé (auparavant, il s’agissait du groupe de travail sur le modèle de fondation IA). L’objectif déclaré des 100 millions de livres sterling du groupe de travail est de promouvoir la sécurité de l’IA, et il se concentrera en particulier sur l’évaluation des systèmes « de pointe » qui présentent des risques importants pour la sécurité publique et mondiale. Commentant l’impact de la dissolution du conseil consultatif du CDEI sur la gouvernance de l’IA au Royaume-Uni, les anciens membres du conseil consultatif ont déclaré : « Les risques existentiels semblent être l’objectif actuel, du moins au sein du bureau du Premier ministre. On pourrait dire qu’il est facile de se concentrer sur les risques futurs “existenciels” car cela évite de devoir examiner les détails de ce qui se passe actuellement et de prendre des mesures. “Il est difficile de décider quoi faire concernant les utilisations actuelles de l’IA car cela implique d’examiner en détail la technologie et la manière dont elle s’intègre à la prise de décision humaine. Cela implique également de réfléchir aux politiques du secteur public et à la manière dont l’IA est utilisée pour les mettre en œuvre. Cela peut soulever des problèmes délicats. “J’espère que le CDEI continuera et que l’expertise qu’il a accumulée sera mise en avant dans les efforts continus pour identifier le véritable potentiel et les risques de l’IA, et les réponses appropriées en termes de gouvernance ” En réponse à la demande de commentaire de Computer Weekly, un porte-parole du DSIT a déclaré : “Le conseil consultatif du CDEI a été nommé pour une durée déterminée et, alors que son travail évolue pour suivre les développements rapides dans le domaine des données et de l’IA, nous utilisons désormais un groupe d’experts plus large provenant de différents départements, au-delà de la structure formelle d’un conseil. “Cela garantira une diversité d’opinions et d’informations, notamment de la part d’anciens membres du conseil, qui pourront continuer à informer notre travail et soutenir les priorités du gouvernement en matière d’IA et d’innovation.” Le 26 septembre, plusieurs anciens membres du conseil consultatif, dont Lawrence, Martin Hosken, Marion Oswald et Mimi Zou, ont publié un blog avec leurs réflexions sur leur expérience au CDEI. “Pendant mon mandat au sein du conseil consultatif, le CDEI a lancé des projets de pointe au niveau mondial, tels que l’AI Assurance, les défis de prix UK-US PETs, la norme d’enregistrement de transparence algorithmique, le Fairness Innovation Challenge, entre autres”, a déclaré Zou. “À l’avenir, je ne doute pas que le CDEI continuera d’être un acteur majeur dans la réalisation des priorités stratégiques du Royaume-Uni en matière d’utilisation fiable des données et de l’IA et d’innovation responsable. J’ai hâte de soutenir cette mission importante pendant de nombreuses années.” Le CDEI lui-même a déclaré : “Le conseil consultatif du CDEI a joué un rôle important en nous aidant à mener à bien cet agenda crucial. Leur expertise et leur point de vue ont été inestimables pour orienter et réaliser nos programmes de travail sur l’accès responsable aux données, l’assurance de l’IA et la transparence algorithmique. “Comme le mandat du conseil est maintenant terminé, nous tenons à profiter de cette occasion pour remercier le conseil de son soutien à certains de nos principaux projets pendant leur mandat.” Compte tenu de l’intérêt général pour la réglementation et la gouvernance de l’IA, plusieurs enquêtes parlementaires ont été lancées au cours de l’année écoulée pour examiner différents aspects de la technologie. Cela comprend une enquête sur la gouvernance de l’IA lancée en octobre 2022 ; une enquête sur les systèmes d’armes autonomes lancée en janvier 2023 ; une autre sur l’IA générative lancée en juillet 2023 ; et encore une autre sur les modèles de langage importants lancée en septembre 2023. Une enquête de la Chambre des Lords sur l’utilisation de l’intelligence artificielle et des technologies algorithmiques par la police britannique a conclu en mars 2022 que la technologie est déployée par les organismes chargés de l’application de la loi sans une étude approfondie de leur efficacité ou de leurs résultats, et que ceux qui sont responsables de ces déploiements sont essentiellement “en train d’améliorer le processus à mesure qu’ils avancent”. “Il est particulièrement inquiétant que le gouvernement ait dissous le conseil consultatif car l’éthique des données est un élément essentiel de la lég
Retour à l’accueil Worldnet
