La Commission européenne pour l'efficacité de la justice (CEPEJ) du Conseil de l'Europe

En créant la Commission européenne pour l’efficacité de la justice (CEPEJ) fin 2002. 

C'est à l’initiative des ministres européens de la Justice réunis à Londres (2000), le Comité des Ministres du Conseil de l’Europe a voulu établir une instance innovante pour améliorer la qualité et l’efficacité des systèmes judiciaires européens et renforcer la confiance des justiciables dans ces systèmes.

La Commission européenne pour l'efficacité de la justice (CEPEJ) du Conseil de l'Europe a adopté en décembre 2018 la Charte éthique européenne d'utilisation de l'intelligence artificielle (IA) dans les systèmes judiciaires. Cette charte vise à fournir un cadre de principes pour guider les décideurs politiques, les juristes et les professionnels de la justice dans le développement de l'IA dans les processus judiciaires nationaux.

Selon la perspective de la CEPEJ, l'IA peut contribuer à améliorer l'efficacité et la qualité du travail des tribunaux, mais son utilisation doit être responsable et conforme aux droits fondamentaux tels que garantis par la Convention européenne des droits de l'homme et la Convention du Conseil de l'Europe pour la protection des données à caractère personnel. La charte met l'accent sur le maintien de l'IA en tant qu'outil au service de l'intérêt général, tout en respectant les droits individuels.

La CEPEJ identifie cinq principes essentiels à respecter en matière d'IA et de justice :

1. Principe de respect des droits fondamentaux.

2. Principe de non-discrimination.

3. Principe de qualité et sécurité des données judiciaires.

4. Principe de transparence, neutralité et intégrité intellectuelle.

5. Principe de maîtrise par l'utilisateur.

La charte est accompagnée d'une étude approfondie sur l'utilisation de l'IA dans les systèmes judiciaires, notamment les applications assurant le traitement des décisions et des données judiciaires.

La CEPEJ a organisé divers événements et conférences sur le sujet, réunissant des experts et des représentants du monde universitaire, des professionnels de la justice, et des institutions judiciaires européennes pour explorer comment l'IA peut soutenir le travail des professionnels du droit et garantir une meilleure qualité de la justice.

https://www.coe.int/fr/web/cepej

Outils de la CEPEJ sur l'évaluation des systèmes judiciaires

Accès à la base de données dynamique CEPEJ-STAT

Cycle 2020-2022 / Systèmes judiciaires européens – Rapport d’évaluation de la CEPEJ – Cycle d’évaluation 2022

Partie 1 : Tableaux, graphiques et analyses

Partie 2 : Fiches pays 

Fiches pays individuelles

Publication du rapport : Dossier spécial

Grille d'évaluation

Note explicative

https://www.coe.int/fr/web/cepej/eval-tools

Depuis 2004 la CEPEJ a notamment entrepris un processus régulier d’évaluation des systèmes judiciaires des Etats membres du Conseil de l’Europe.

Son Groupe de travail sur l’évaluation des systèmes judiciaires (CEPEJ-GT-EVAL) est chargé de la gestion de ce processus.

Pour faciliter la collecte et le traitement des données judiciaires, une grille électronique en ligne a été créée (accessible sur CEPEJ-COLLECT). Chaque correspondant national peut ainsi accéder à un site électronique sécurisé pour transmettre ses réponses au questionnaire au Secrétariat de la CEPEJ.

Les réponses nationales contiennent aussi des descriptions des systèmes judiciaires et des explications qui contribuent pour beaucoup à la compréhension des données fournies. Accessibles aisément pour tout citoyen, décideur public, praticien du droit, universitaire et chercheur sur CEPEJ-STAT, véritable base de données des systèmes judiciaires des Etats membres du Conseil de l'Europe, elles constituent donc un complément utile au rapport qui, dans un objectif de concision et d’homogénéité, ne peut pas intégrer toutes ces informations.

D’autres exercices d’évaluation, basés sur la même méthodologie, sont menés pour les pays de l’Union Européenne, des Balkans occidentaux et les pays du Partenariat oriental.

La justice et l'éthique sont deux concepts fondamentaux qui guident nos actions et nos décisions dans la société. 

**La justice** est souvent considérée comme l'impératif qui gouverne les principes éthiques de l'action sociale tels que l'autonomie, la bienveillance et l'équité⁴. En philosophie, la justice renvoie à d'autres concepts comme la liberté, l'égalité, l'équité, l'éthique, la paix sociale⁵. On distingue généralement la justice dans son sens moral, où l'on parle alors de légitimité, et la justice dans son sens juridique, où l'on parle alors de légalité⁵.

**L'éthique**, quant à elle, est une réflexion philosophique sur nos valeurs¹. Elle intègre le mobile des activités humaines et trouve son fondement dans l'intériorité de l'être¹. L'éthique renvoie à une réflexion philosophique par rapport à nos valeurs¹. Son champ d'action diffère de celui du droit et de la justice¹. Par exemple, un acte peut être légal mais non conforme à l'éthique, ou illégal mais conforme à l'éthique¹.

Ces deux concepts sont étroitement liés et se complètent. Par exemple, l'éthique inspire et précède souvent le droit¹. Le temps de l'éthique aboutit à la création du consensus social nécessaire à l'établissement de la règle de droit¹. L'évolution des mentalités empreintes de morale et d'éthique ont ainsi permis l'adoption de lois sociétales¹.

Cependant, il existe des tensions et des défis dans la relation entre l'éthique et la justice. Par exemple, peut-on sincèrement croire que l'augmentation du niveau de vie des plus démunis puisse se faire sans accroître davantage les pressions sur les ressources limitées de la planète²? Ces questions soulignent la complexité de la relation entre l'éthique et la justice et la nécessité d'une réflexion continue sur ces concepts. 

En somme, la justice et l'éthique sont deux piliers essentiels de notre société qui guident nos actions et nos décisions. Ils sont complémentaires et interdépendants, chacun apportant une perspective unique sur la façon dont nous devrions agir et ce que nous devrions valoriser.

(1) 2. La justice et les trois principes éthiques | Cairn.info. https://www.cairn.info/philosophie-et-ethique-en-travail-social--9782810901326-page-21.htm

(2) Justice — Wikipédia. https://fr.wikipedia.org/wiki/Justice

(3) Droit, éthique et justice | Cairn.info. https://www.cairn.info/revue-archives-de-philosophie-du-droit-2018-1-page-323.htm

(4) L’éthique et la justice : différence et complémentarité - Cairn.info. https://www.cairn.info/article.php?ID_ARTICLE=ECOPO_035_0079

(5) 2. La justice et les trois principes éthiques | Cairn.info. https://bing.com/search?q=Justice+et+Ethique

L'éthique joue un rôle crucial dans les décisions politiques de plusieurs façons :

1. **Principes éthiques** : Les principes éthiques servent de guide pour les décisions politiques¹. Par exemple, les principes d'équité, de justice et de respect des droits de l'homme peuvent influencer la formulation des politiques publiques¹.

2. **Intégrité et influence** : L'éthique peut aider à prévenir l'influence indue de l'argent et des intérêts privés sur les décisions politiques¹. Par exemple, les gouvernants peuvent se sentir obligés de "rendre la pareille" aux entreprises qui ont financé leur campagne, ce qui peut entraîner une capture des politiques publiques¹. L'éthique peut aider à garantir l'intégrité des politiques publiques et à identifier des moyens positifs d'influencer le processus de décision publique¹.

3. **Représentation des intérêts** : L'éthique peut renforcer la représentation des intérêts. Les partis politiques, les syndicats, les associations professionnelles et les gouvernements d'entreprises devraient avoir des normes d'intégrité, avec des comptes et des registres publics et transparents¹.

4. **Redevabilité des financements politiques** : L'éthique peut renforcer les mécanismes de redevabilité des financements politiques. Il est nécessaire de renforcer les compétences des professionnels d'audit et de contrôle, et de promouvoir des systèmes de reddition des comptes transparents et en temps opportuns des financements des partis pendant les campagnes¹.

5. **Éthique, morale et politique** : Dans la société contemporaine, l'éthique et la morale prennent place dans le politique comme loi symbolique et comme lieu des droits et du droit². Les droits humains et les "valeurs républicaines" (égalité, liberté, responsabilité, justice) prennent alors tout leur sens².

En somme, l'éthique influence les décisions politiques en guidant l'action, en prévenant l'influence indue, en renforçant la représentation des intérêts et la redevabilité, et en intégrant les valeurs morales dans le processus politique.

Source : conversation avec Bing, 09/01/2024

(1) intégrité et influence dans l'élaboration des politiques - OCDE - OECD. https://www.oecd.org/fr/gouvernance/ethique/influence/

(2) L’éthique et la morale dans le politique - OpenEdition Journals. https://journals.openedition.org/jda/4486

(3) Les enjeux éthiques de la décision | travail universitaire | Espace .... 

https://www.espace-ethique.org/ressources/travail-universitaire/les-enjeux-ethiques-de-la-decision

(4) undefined. https://doi.org/10.4000/jda.4486

--- 

Pierre Erol GIRAUDY 

http://about.me/giraudyerol

L’éthique de l’intelligence artificielle (IA)

L’éthique de l’intelligence artificielle (IA) est un sujet important et en constante évolution.

Elle concerne les principes moraux qui guident la conception et les résultats de l’IA1. L’UNESCO, par exemple, organise le « Forum mondial sur l’éthique de l’IA » pour explorer le paysage évolutif de la gouvernance de l’IA.

L’IA #éthique est une question à laquelle toute organisation devrait réfléchir longuement avant toute mise en œuvre de l’IA.

Elle consiste à évaluer les risques et à mettre en place des règles d’utilisation afin que la technologie ne nuise pas à la dignité des utilisateurs3.

L’essor rapide de l’IA a créé de nombreuses opportunités, comme faciliter les diagnostics de santé ou permettre des interactions humaines par le biais des réseaux sociaux. Cependant, ces changements rapides soulèvent également de profondes préoccupations éthiques.

Par exemple, les systèmes d’IA ont le potentiel d’intégrer des biais, de contribuer à la dégradation du climat, de menacer les droits de l’homme et bien d’autres choses encore.

Il est donc essentiel de veiller à ce que les sciences et les technologies se développent avec des garde-fous éthiques solides2. Sans garde-fous éthiques, l’IA risque de reproduire les préjugés et les discriminations du monde réel, d’alimenter les divisions et de menacer les droits de l’homme et les libertés fondamentales2.

https://www.ibm.com/fr-fr/topics/ai-ethics

Intelligence artificielle : comment mettre en œuvre une charte éthique

En outre, la création d’une #charte #éthique #éthique de pour l’utilisation de l’IA est également une étape primordiale. Elle doit à la fois être approuvée par chaque département concerné et également par les clients et les fournisseurs.

Enfin, il existe des outils destinés aux organisations, notamment aux responsables éthiques et aux dirigeants, qui permettent de mesurer les avantages et les risques que présente l’IA.

https://intelligence-artificielle.com/intelligence.../

Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires - Commission européenne pour l’efficacité de la justice (CEPEJ) (coe.int)

https://www.coe.int/fr/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment

La Charte de la CEPEJ énonce cinq principes clés qui devraient être respectés par le pouvoir judiciaire dans la conception et l'utilisation de l'intelligence artificielle (ci-après IA) :  

1) principe de respect des droits fondamentaux : assurer une conception et une mise en 

œuvre des outils et services d'IA qui soient compatibles avec les droits fondamentaux ; 

2) principe de non-discrimination : prévenir spécifiquement la création ou le renforcement de 

discriminations entre individus ou groupes d’individus ; 

3) principe de qualité et de sécurité : en ce qui concerne le traitement des décisions 

juridictionnelles et des données judiciaires, utiliser des sources certifiées et des données 

intangibles, avec des modèles conçus de manière multi-disciplinaire, dans un 

environnement technologique sécurisé ; 

4) principe de transparence, de neutralité et d’intégrité intellectuelle : rendre accessibles et 

compréhensibles les méthodes de traitement des données, autoriser des audits externes; 

5) principe de maîtrise par l'utilisateur : bannir une approche prescriptive et permettre à 

l’usager d’être un acteur éclairé et maître de ses choix.

https://rm.coe.int/0900001680adcc9d

CONSEIL IBÉRO-AMÉRICAIN DES ENTREPRISES POUR L'ÉTHIQUE DE L'IA

Le Conseil ibéro-américain des entreprises pour l'éthique de l'IA est une initiative de collaboration entre l'#UNESCO et des entreprises opérant en Amérique latine qui sont impliquées dans le développement ou l'utilisation de l'intelligence artificielle (IA) dans divers secteurs.

Le Conseil sert de plateforme aux entreprises pour se réunir, échanger des expériences et promouvoir des pratiques éthiques au sein de l'industrie de l'IA. En travaillant en étroite collaboration avec l'UNESCO, il vise à garantir que l'IA est développée et utilisée dans le respect des droits de l'homme et des normes éthiques.

Actuellement coprésidé par Microsoft et Telefonica, le Conseil s'est engagé à renforcer les capacités techniques en matière d'éthique et d'IA, à concevoir et à mettre en œuvre l'outil d'évaluation de l'impact éthique prévu par la recommandation sur l'éthique de l'IA et à contribuer à l'élaboration de réglementations régionales intelligentes. Grâce à ces efforts, il s'efforce de créer un environnement compétitif qui profite à toutes les parties prenantes en Amérique latine et promeut l'utilisation responsable et éthique de l'IA.

En savoir plus (en anglais)

https://www.unesco.org/.../artifici.../recommendation-ethics

Forum mondial sur l'éthique de l'intelligence artificielle 2024

Le 2e « Forum mondial sur l'éthique de l'IA : changer le paysage de la gouvernance de l'IA » sera organisé par la Slovénie, sous le patronage de l'UNESCO, les 5 et 6 février 2024.

https://www.unesco.org/fr/articles/forum-mondial-sur-lethique-de-lintelligence-artificielle-2024

Readiness assessment methodology: a tool of the Recommendation on the Ethics of Artificial Intelligence - UNESCO Bibliothèque Numérique

https://unesdoc.unesco.org/ark:/48223/pf0000385198

La bonne gouvernance de l'IA est l'un des défis les plus importants de notre époque, qui nécessite un apprentissage mutuel basé sur les leçons et les bonnes pratiques émergeant des différentes juridictions à travers le monde. Ce forum rassemblera les expériences et l'expertise de pays à différents niveaux de développement technologique et politique, pour un échange ciblé afin d'apprendre les uns des autres, et pour un dialogue avec le secteur privé, le monde universitaire et la société civile dans son ensemble.

L'UNESCO a apporté une contribution décisive à l'objectif d'une gouvernance efficace et éthique de l'IA en adoptant une norme mondiale ambitieuse - la Recommandation sur l'éthique de l'IA en 2021, et en pilotant sa mise en œuvre par les États membres au moyen d'outils et de méthodologies innovants, tels que la Méthode d’évaluation de l’état de préparation et l'Évaluation de l'impact éthique.

Grâce à l'application de ces outils, l'UNESCO est en train de changer le modèle commercial qui sous-tend l'IA, développant une gamme de solutions concrètes et pratiques pour s'assurer que les produits de l'IA sont équitables, inclusifs, durables et non discriminatoires. Les données obtenues grâce à ce travail, y compris un diagnostic complet et multidimensionnel de l'état de préparation à l'IA de près de cinquante pays dans le monde, alimenteront aussi les débats lors du Forum.

Pour en savoir plus

Premier forum mondial sur l'éthique de l'IA 

Éthique de l'intelligence artificielle 

Éthique des sciences et des technologies 

Méthode d’évaluation de l’état de préparation : un outil de la Recommandation sur l’éthique de l’intelligence artificielle

La méthode d’évaluation de l’état de préparation est un instrument au niveau macro qui aidera les pays à savoir se situer sur l’échelle de préparation à une mise en œuvre éthique et responsable de l’IA dans l’intérêt de l’ensemble de leurs citoyens, tout en leur indiquant les changements indispensables à apporter sur les plans institutionnels et réglementaires. Les résultats de la méthode d’évaluation de l’état de préparation aideront l’UNESCO à adapter les mesures de renforcement des capacités aux besoins de chacun des pays. « Capacités » désigne ici l’aptitude à évaluer les systèmes d’IA conformément à la Recommandation ainsi que la présence du capital humain, d’infrastructures, de politiques et de réglementations nécessaires et appropriées pour répondre aux défis posés par les technologies de l’IA et à veiller à ce que les personnes et leurs intérêts soient toujours placés au cœur du développement de l’IA. 28 août 2023 

https://unesdoc.unesco.org/ark:/48223/pf0000385082#page=12

ARTICLES

L'Intelligence artificielle peut-elle être éthique? (lefigaro.fr)

https://www.lefigaro.fr/vox/societe/2019/02/21/31003-20190221ARTFIG00141-l-intelligence-artificielle-peut-elle-etre-ethique.php

Les enjeux éthiques de l’intelligence artificielle | éduscol | Ministère de l'Éducation nationale et de la Jeunesse - Direction générale de l'enseignement scolaire (education.fr)

https://eduscol.education.fr/3251/les-enjeux-ethiques-de-l-intelligence-artificielle

Legal Compliance and Ethics at #Microsoft

Our commitment to corporate responsibility and integrity

https://www.microsoft.com/en-us/legal/compliance...

Notre approche

Programme de conformité Microsoft

Normes de conduite professionnelle

Notre code de confiance

Respecter notre code de conduite

Signaler une préoccupation

Lutte contre la corruption et lutte contre la corruption

Lutte contre la corruption et engagements anti-corruption

Des représentants dignes de confiance

Critères des entités publiques

Respect de l'environnement

Conformité et durabilité des appareils

Emballage responsable dans le cloud

Un approvisionnement responsable en fournisseurs

--- 

 Pierre Erol GIRAUDY 

http://about.me/giraudyerol

Quelle est la prochaine étape pour la réglementation de l’IA en 2024 ?

L’année à venir verra l’entrée en vigueur des premières lois radicales sur l’IA, avec des efforts mondiaux pour tenir les entreprises technologiques responsables.

Par Tate Ryan-MosleyPage d’archivageMelissa HeikkiläPage d’archivageZeyi YangPage d’archivage

5 janvier 2024

La série What’s Next du MIT Technology Review examine les secteurs, les tendances et les technologies pour vous donner un premier aperçu de l’avenir. 

En 2023, la politique et la réglementation de l’IA sont passées d’un sujet de niche et ringard à l’actualité en première page. C’est en partie grâce au ChatGPT d’OpenAI, qui a aidé l’IA à se généraliser, mais qui a également exposé les gens à la manière dont les systèmes d’IA fonctionnent – ​​et ne fonctionnent pas. 

Ce fut une année monumentale pour la politique : nous avons assisté à l'adoption de la première loi radicale sur l'IA dans l'Union européenne, aux audiences du Sénat et aux décrets aux États-Unis, et à des règles spécifiques en Chine pour des choses comme les algorithmes de recommandation. 

Si 2023 a été l’année où les législateurs se sont mis d’accord sur une vision, 2024 sera l’année où les politiques commenceront à se transformer en actions concrètes. 

Voici à quoi s’attendre. 

Les États Unis 

L’IA est réellement entrée dans le débat politique aux États-Unis en 2023. Mais il ne s’agissait pas seulement d’un débat. Il y a eu également des actions, qui ont culminé avec le décret du président Biden sur l’IA fin octobre, une directive tentaculaire appelant à plus de transparence et à de nouvelles normes. 

Grâce à cette activité, une politique américaine en matière d'IA a commencé à émerger : une politique favorable à l'industrie de l'IA, mettant l'accent sur les meilleures pratiques, s'appuyant sur différentes agences pour élaborer leurs propres règles et une approche nuancée de réglementation de chaque secteur de l'IA. l’économie différemment. 

L’année prochaine s’appuiera sur la dynamique de 2023, et de nombreux éléments détaillés dans le décret de Biden seront adoptés. Nous entendrons également beaucoup parler du nouvel AI Safety Institute des États-Unis, qui sera chargé de mettre en œuvre la plupart des politiques demandées dans l’ordonnance. 

Histoire connexe

 Quelle est la prochaine étape pour l’IA en 2024 Nos rédacteurs examinent les quatre tendances à surveiller cette année Du point de vue du Congrès, on ne sait pas exactement ce qui va se passer. Le chef de la majorité au Sénat, Chuck Schumer, a récemment signalé que de nouvelles lois pourraient venir s'ajouter au décret. 

Plusieurs propositions législatives sont déjà en cours qui touchent divers aspects de l’IA, tels que la transparence, les deepfakes et la responsabilité des plateformes. 

Mais il n’est pas clair lequel, le cas échéant, de ces projets de loi déjà proposés gagnera du terrain l’année prochaine. Ce à quoi nous pouvons nous attendre, cependant, c’est une approche qui classe les types et les utilisations de l’IA en fonction du risque qu’ils posent – ​​un cadre similaire à la loi européenne sur l’IA. 

L'Institut national des normes et de la technologie a déjà proposé un tel cadre que chaque secteur et agence devra désormais mettre en pratique, explique Chris Meserole, directeur exécutif du Frontier Model Forum, un organisme de lobbying de l'industrie. 

Une autre chose est claire : l’élection présidentielle américaine de 2024 influencera une grande partie du débat sur la réglementation de l’IA. 

Comme le montre l’impact de l’IA générative sur les plateformes de médias sociaux et la désinformation, nous pouvons nous attendre à ce que le débat sur la manière de prévenir les dommages causés par cette technologie soit façonné par ce qui se passe pendant la période électorale. 

L'Europe 

L’Union européenne vient de se mettre d’accord sur l’AI Act, la première loi radicale au monde sur l’IA. Après d’intenses retouches techniques et l’approbation officielle des pays européens et du Parlement européen au premier semestre 2024, la loi sur l’IA entrera en vigueur assez rapidement. Dans le scénario le plus optimiste, des interdictions sur certaines utilisations de l’IA pourraient s’appliquer dès la fin de l’année. 

Tout cela signifie que 2024 sera une année chargée pour le secteur de l’IA alors qu’il se prépare à se conformer aux nouvelles règles. Même si la plupart des applications d’IA bénéficieront d’un laissez-passer gratuit en vertu de la loi sur l’IA, les entreprises développant des modèles de base et des applications considérées comme présentant un « risque élevé » pour les droits fondamentaux, comme ceux destinés à être utilisés dans des secteurs comme l’éducation, les soins de santé et l’éducation. la police devra répondre aux nouvelles normes européennes. 

En Europe, la police ne sera pas autorisée à utiliser cette technologie dans les lieux publics, à moins d'obtenir au préalable l'approbation du tribunal à des fins spécifiques telles que la lutte contre le terrorisme, la prévention de la traite des êtres humains ou la recherche d'une personne disparue. 

D’autres utilisations de l’IA seront totalement interdites dans l’UE, comme la création de bases de données de reconnaissance faciale comme celle de Clearview AI ou l’utilisation de technologies de reconnaissance des émotions au travail ou dans les écoles. 

La loi sur l’IA obligera les entreprises à être plus transparentes sur la manière dont elles développent leurs modèles, et elle les rendra, ainsi que les organisations utilisant des systèmes d’IA à haut risque, plus responsables de tout préjudice qui en résulterait. Les entreprises développant des modèles de base (les modèles sur lesquels sont basés d'autres produits d'IA, tels que GPT-4) devront se conformer à la loi dans un délai d'un an après son entrée en vigueur. 

Les autres entreprises technologiques ont deux ans pour mettre en œuvre les règles. 

Pour répondre aux nouvelles exigences, les entreprises d’IA devront réfléchir davantage à la manière dont elles construisent leurs systèmes et documenter leur travail de manière plus rigoureuse afin qu’il puisse être audité. 

La loi obligera les entreprises à être plus transparentes sur la manière dont leurs modèles ont été formés et garantira que les systèmes d’IA jugés à haut risque soient formés et testés avec des ensembles de données suffisamment représentatifs afin de minimiser les biais, par exemple. 

L’UE estime que les modèles d’IA les plus puissants, tels que GPT-4 d’OpenAI et Gemini de Google, pourraient présenter un risque « systémique » pour les citoyens et nécessiteraient donc des travaux supplémentaires pour répondre aux normes de l’UE. 

Les entreprises doivent prendre des mesures pour évaluer et atténuer les risques et garantir la sécurité des systèmes. Elles seront tenues de signaler les incidents graves et de partager des détails sur leur consommation d'énergie. Il appartiendra aux entreprises d’évaluer si leurs modèles sont suffisamment puissants pour entrer dans cette catégorie. 

Les sociétés d’IA open source sont exemptées de la plupart des exigences de transparence de la loi sur l’IA, à moins qu’elles ne développent des modèles aussi gourmands en ressources informatiques que le GPT-4. Le non-respect des règles pourrait entraîner de lourdes amendes ou entraîner le blocage de leurs produits hors de l’UE. 

L’UE travaille également sur un autre projet de loi, appelé Directive sur la responsabilité en matière d’IA, qui garantira que les personnes ayant été lésées par la technologie puissent obtenir une compensation financière. 

Les négociations à ce sujet sont toujours en cours et reprendront probablement cette année. Certains autres pays adoptent une approche plus non interventionniste. Par exemple, le Royaume-Uni, siège de Google DeepMind, a déclaré qu’il n’avait pas l’intention de réglementer l’IA à court terme. 

Cependant, toute entreprise en dehors de l’UE, la deuxième économie mondiale, devra toujours se conformer à la loi sur l’IA si elle souhaite faire des affaires dans le bloc commercial. 

Anu Bradford, professeur de droit à l’Université de Columbia, a appelé cela « l’effet Bruxelles » : en étant la première à réglementer, l’UE est en mesure d’établir la norme mondiale de facto, façonnant la manière dont le monde fait des affaires et développe la technologie. 

L’UE y est parvenue grâce à son régime strict de protection des données, le RGPD, qui a été copié partout, de la Californie à l’Inde. Il espère répéter l’astuce en matière d’IA. 

Chine 

Jusqu’à présent, la réglementation de l’IA en Chine a été profondément fragmentée et fragmentée. Plutôt que de réglementer l’IA dans son ensemble, le pays a publié des textes législatifs individuels chaque fois qu’un nouveau produit d’IA devient important. 

C’est pourquoi la Chine a un ensemble de règles pour les services de recommandation algorithmique (applications et moteurs de recherche de type TikTok), un autre pour les deepfakes et encore un autre pour l’IA générative. 

La force de cette approche est qu’elle permet à Pékin de réagir rapidement aux risques découlant des avancées technologiques, tant pour les utilisateurs que pour le gouvernement. Mais le problème est que cela empêche le développement d’une perspective panoramique à plus long terme. Cela pourrait changer l’année prochaine. 

En juin 2023, le Conseil d’État chinois, l’organe directeur suprême, a annoncé qu’une « loi sur l’intelligence artificielle » figurait à son programme législatif. Cette loi couvrirait tout, comme l’AI Act for Europe. 

En raison de sa portée ambitieuse, il est difficile de dire combien de temps prendra le processus législatif. Nous pourrions voir une première ébauche en 2024, mais cela pourrait prendre plus de temps. 

En attendant, il ne serait pas surprenant que les régulateurs chinois de l’Internet introduisent de nouvelles règles pour gérer les nouveaux outils d’IA ou les types de contenu populaires qui émergeront l’année prochaine. Jusqu’à présent, très peu d’informations à ce sujet ont été publiées, mais un document pourrait nous aider à prédire la nouvelle loi : des chercheurs de l’Académie chinoise des sciences sociales, un institut de recherche public, ont publié une version « suggestion d’experts » de l’IA chinoise. loi en août. 

Ce document propose un « bureau national de l'IA » pour superviser le développement de l'IA en Chine, exige un « rapport de responsabilité sociale » indépendant annuel sur les modèles de fondation et établit une « liste négative » des domaines de l'IA présentant des risques plus élevés, que les entreprises peuvent pas même de recherche sans l’approbation du gouvernement. Actuellement, les entreprises chinoises d’IA sont déjà soumises à de nombreuses réglementations. 

En fait, tout modèle de fondation doit être enregistré auprès du gouvernement avant de pouvoir être rendu public chinois (fin 2023, 22 entreprises avaient enregistré leurs modèles d’IA). 

Cela signifie que l’IA en Chine n’est plus un environnement du Far West. Mais la manière exacte dont ces réglementations seront appliquées reste incertaine. Au cours de l’année à venir, les entreprises d’IA générative devront essayer de comprendre la réalité de la conformité, notamment en ce qui concerne les examens de sécurité et la violation de la propriété intellectuelle. Dans le même temps, étant donné que les sociétés étrangères d’IA n’ont reçu aucune autorisation pour commercialiser leurs produits en Chine (et ne le feront probablement pas à l’avenir), l’environnement commercial national qui en résulte protège les entreprises chinoises. 

Cela pourrait les aider à prendre un avantage sur les sociétés occidentales d’IA, mais cela pourrait également étouffer la concurrence et renforcer le contrôle de la Chine sur la parole en ligne. 

Le reste du monde 

Nous verrons probablement davantage de réglementations sur l’IA introduites dans d’autres régions du monde au cours de l’année prochaine. 

Une région à surveiller sera l’Afrique. 

L'Union africaine est susceptible de publier une stratégie d'IA pour le continent début 2024, destinée à établir des politiques que chaque pays peut reproduire pour rivaliser dans l'IA et protéger les consommateurs africains des entreprises technologiques occidentales, a déclaré Melody Musoni, chargée de politique au Centre européen. pour la gestion des politiques de développement. 

Certains pays, comme le Rwanda, le Nigéria et l’Afrique du Sud, ont déjà élaboré des stratégies nationales en matière d’IA et s’efforcent de développer des programmes éducatifs, une puissance de calcul et des politiques favorables à l’industrie pour soutenir les entreprises d’IA. 

Des organismes mondiaux comme l’ONU, l’OCDE, le G20 et des alliances régionales ont commencé à créer des groupes de travail, des conseils consultatifs, des principes, des normes et des déclarations sur l’IA. 

Des groupes comme l’OCDE peuvent s’avérer utiles pour créer une cohérence réglementaire entre les différentes régions, ce qui pourrait alléger le fardeau de la conformité pour les entreprises d’IA. 

Sur le plan géopolitique, nous verrons probablement des différences croissantes entre la manière dont les pays démocratiques et autoritaires encouragent – ​​et militarisent – ​​leurs industries de l’IA. 

Il sera intéressant de voir dans quelle mesure les entreprises d’IA donneront la priorité à l’expansion mondiale ou à la spécialisation nationale en 2024.

Elles devront peut-être prendre des décisions difficiles. par Tate Ryan-Mosley, Melissa Heikkilä et Zeyi Yang 

What’s next for AI regulation in 2024?  | MIT Technology Review

What's Next in Tech | MIT Technology Review

https://www.technologyreview.com/tag/whats-next-in-tech/

Je suis sur des forums à propos de l'IA sur l'Afrique et je confirme qu'ils sont très en avance.

https://www.unesco.org/fr/articles/forum-mondial-sur-lethique-de-lintelligence-artificielle-2024

https://cio-mag.com/une-semaine-de-lintelligence-artificielle-annoncee-au-togo/

--- 

 Pierre Erol GIRAUDY 

http://about.me/giraudyerol

Audit et sécurité de l'IA

Ces livres sont des publications de l’ISACA.

C'est une association professionnelle internationale qui se consacre à la gouvernance, à l’audit et à la sécurité des systèmes d’information. Les livres traitent de différents aspects de l’intelligence artificielle (IA) et de son impact sur les organisations et les individus.

• AI Uses in Blue Team Security : Ce livre explore comment l’IA peut être utilisée pour renforcer la sécurité informatique et prévenir les cyberattaques. Il présente des exemples de cas d’utilisation, des bonnes pratiques et des défis de l’IA dans le domaine de la sécurité.
• Auditing Artificial Intelligence : Ce livre examine comment auditer l’IA et évaluer ses risques et ses opportunités. Il fournit des conseils pratiques, des normes et des méthodologies pour auditer l’IA de manière efficace et éthique.

Pour acheter ces livres, vous avez plusieurs options :

• Vous pouvez les télécharger gratuitement si vous êtes membre de l’ISACA, une association professionnelle internationale qui se consacre à la gouvernance, à l’audit et à la sécurité des systèmes d’information. Pour cela, il vous suffit de vous connecter au site web de l’ISACA et de cliquer sur le bouton “Download” sous chaque livre. Vous trouverez plus d’informations sur les avantages de l’adhésion à l’ISACA et sur le processus d’inscription dans le guide du candidat aux examens de certification ISACA¹.
• Vous pouvez aussi acheter les livres en ligne sur le site web de Innovative Learning, un partenaire officiel de l’ISACA qui propose des formations et des examens pour les certifications CISA, CISM, COBIT 2019 et autres. Pour cela, il vous suffit de sélectionner le paquet “cours avec examen” et d’activer votre cours. Vous recevrez alors un code voucher que vous utiliserez pour réserver votre examen et télécharger votre livre. Vous trouverez plus de détails sur les modalités d’achat et de réservation des examens sur le site web de Innovative Learning².
• Vous pouvez également acheter les livres auprès de Global Knowledge, un autre partenaire officiel de l’ISACA qui offre des formations de préparation aux certifications CISA, CISM et CRISC. Pour cela, il vous suffit de consulter le catalogue des formations disponibles sur le site web de Global Knowledge et de choisir celle qui correspond au livre que vous souhaitez acheter. Vous pourrez alors vous inscrire à la formation et recevoir votre livre par courrier ou par voie électronique. Vous trouverez plus d’informations sur les formations et les certifications ISACA sur le site web de Global Knowledge³.

Examens en ligne avec ISACA

Vous pouvez acheter l’examen sur ce site internet, en sélectionnant le paquet « cours avec examen ».

À l’activation de votre cours, vous recevrez un code voucher valable 6 mois que vous utiliserez pour réserver votre examen. Une fois que vous aurez utilisé votre code voucher, vous aurez 12 mois pour bloquer la date et l’heure de votre examen.

Les examens avec ISACA se déroulent en ligne, sont à livre fermé et surveillés à distance. Les examens en ligne organisés par ISACA sont destinés à la certification CISA, à la certification CISM et à la certification COBIT 2019.

--- 

 Pierre Erol GIRAUDY 

http://about.me/giraudyerol

MITRE et ses solutions + outils tel que ATT&CK 

Pourquoi cet article sur cette société et sur cet outil, parce qu'il figure dans mon prochain livre sur l'IA.

MITRE est spécialisé dans plusieurs domaines d'expertise, notamment²³:

- **Intelligence artificielle**

- **Science des données intuitive**

- **Informatique quantique**

- **Informatique de la santé**

- **Sécurité spatiale**

- **Expertise politique et économique**

- **Partage des cybermenaces**

- **Cyber-résilience**

En outre, MITRE a développé le framework ATT&CK, un référentiel de comportements de cyberattaque basé sur des observations concrètes de comportements adverses, classés par tactiques et techniques². Ce framework aide les entreprises à renforcer leur position globale de sécurité en fournissant une représentation complète des comportements d'attaque².

Source : conversation avec Bing-Copilot, 22/10/2023

(1) Qu’est-ce que le framework MITRE ATT&CK - Splunk. https://www.splunk.com/fr_fr/data-insider/what-is-the-mitre-att-and-ck-framework.html

(2) Qu’est-ce que le framework MITRE ATT&CK - Splunk. https://bing.com/search?q=domaines+d%27expertise+de+MITRE

(3) Liste des 15 domaines d’expertise couverts par la qualification RP-CFI. https://consultants-formateurs-qualifies.org/wordpress/wp-content/uploads/2017/02/2017-02-10-RPCFI-Domaines-expertise.pdf

ATT&CK.

Le framework MITRE ATT&CK (Adversarial Tactics, Techniques & Common Knowledge) est une base de connaissances universellement accessible et continuellement mise à jour sur les comportements adverses des cybercriminels². Il sert à modéliser, détecter, anticiper et lutter contre les menaces de cybersécurité basées sur les comportements adverses connus des cybercriminels².

MITRE ATT&CK répertorie les tactiques, techniques et procédures (TTP) cybercriminelles à chaque phase du cycle de vie de la cyberattaque, depuis les comportements initiaux de collecte d’informations et de planification d’un pirate jusqu’à l’exécution finale de l’attaque². Les informations contenues dans MITRE ATT&CK peuvent aider les équipes de sécurité à :

- Simuler avec précision des cyberattaques pour tester les cyberdéfenses.

- Créer des politiques de sécurité, des contrôles de sécurité et des plans de réponse aux incidents plus efficaces.

- Choisir et configurer les technologies de sécurité pour mieux détecter, éviter et atténuer les cybermenaces².

En outre, la taxonomie MITRE ATT&CK des tactiques, techniques et sous-techniques adverses établit un langage commun que les professionnels de la sécurité peuvent utiliser pour partager des informations sur les cybermenaces et collaborer à la prévention des menaces².

MITRE ATT&CK organise les tactiques et techniques (et les sous-techniques) adverses en matrices. Chaque matrice comprend des tactiques et des techniques correspondant aux attaques sur des domaines spécifiques².

Source : conversation avec Bing-Copilot, 22/10/2023

(1) Qu’est-ce que le framework MITRE ATT&CK - IBM. https://www.ibm.com/fr-fr/topics/mitre-attack

(2) MITRE ATT&CK®. https://attack.mitre.org/

(3) What is the MITRE ATT&CK Framework? | Rapid7. https://www.rapid7.com/fundamentals/mitre-attack/

(4) What is the Mitre Att&ck Framework? - ServiceNow. https://www.servicenow.com/products/security-operations/what-is-mitre-attack.html

(5) What is Mitre Att&ck Framework? - Definition - CyberArk. https://www.cyberark.com/what-is/mitre-attack/

MITRE ATT&CK®

MITRE ATT&CK® est une base de connaissances accessible à l'échelle mondiale qui répertorie les tactiques et techniques adverses basées sur des observations du monde réel. Cette base de connaissances sert de fondement pour le développement de modèles de menaces spécifiques et de méthodologies dans le secteur privé, le gouvernement et la communauté des produits et services de cybersécurité.

Avec la création d'ATT&CK, MITRE remplit sa mission de résoudre des problèmes pour un monde plus sûr en rassemblant des communautés pour développer une cybersécurité plus efficace. ATT&CK est ouvert et disponible à toute personne ou organisation pour une utilisation gratuite.

La matrice ATT&CK pour les entreprises :

Le framework MITRE ATT&CK peut être utilisé de plusieurs façons pour renforcer la cybersécurité de votre entreprise¹²⁴⁵⁶:

1. **Analyser les failles de sécurité et planifier des améliorations** : Vous pouvez utiliser le framework pour identifier les vulnérabilités de votre réseau et planifier des améliorations⁴.

2. **Renforcer la cyberveille** : Le framework vous aide à rester à jour avec les dernières tactiques, techniques et procédures (TTP) utilisées par les attaquants⁴.

3. **Accélérer le tri des alertes et l’investigation** : Il peut aider à améliorer la détection des menaces et la méthodologie d'investigation⁵.

4. **Créer des scénarios plus réalistes pour les exercices Red Team et les simulations d’attaque** : Vous pouvez utiliser le framework pour créer des simulations d'adversaires plus réalistes⁴.

5. **Tester vos règles de détection** : Il vous permet de tester vos règles de détection pour vous assurer que vous êtes alerté comme prévu⁵.

Pour mettre en œuvre le framework MITRE ATT&CK, vous pouvez suivre ces étapes²:

1. Évaluez les besoins spécifiques de votre organisation et choisissez les domaines prioritaires à aborder.

2. Sélectionnez les outils et technologies appropriés pour la collecte et l'analyse des données.

3. Formez vos équipes de cybersécurité pour qu'elles acquièrent une compréhension approfondie de chaque TTP.

4. Favorisez la collaboration entre les différentes équipes de votre organisation.

N'oubliez pas que le framework est en constante évolution et que les données qu'il contient sont tirées d'instances réelles⁶. Il est donc essentiel de rester à jour avec les dernières TTP utilisées par les attaquants.

Source : conversation avec Bing-Copilot, 22/10/2023

(1) Cadre MITRE ATT&CK : le guide complet - Varonis. https://www.varonis.com/fr/blog/mitre-attck-framework-complete-guide

(2) Comment Utiliser le Framework MITRE ATT&CK - Arsen Cybersécurité. https://arsen.co/blog/Utiliser-MITRE-ATTACK

(3) Qu'est-ce que le cadre MITRE ATT&CK ? - CrowdStrike. https://www.crowdstrike.fr/cybersecurity-101/mitre-attack-framework/

(4) Utilisez la matrice ATT&CK pour définir des scénarios d'attaque. https://openclassrooms.com/fr/courses/1750566-optimisez-la-securite-informatique-grace-au-monitoring/7145826-utilisez-la-matrice-att-ck-pour-definir-des-scenarios-dattaque

(5) MITRE ATT&CK : Quel intérêt pour les entreprises. https://blogs.manageengine.com/fr/2022/09/07/comment-les-entreprises-peuvent-elles-tirer-pleinement-profit-du-cadre-mitre-attck.html

(6) Utilisez la matrice ATT&CK pour définir des scénarios d'attaque. https://bing.com/search?q=Comment+utiliser+le+framework+ATT%26CK+pour+une+entreprise

Pour former vos équipes de cybersécurité à l'utilisation du framework MITRE ATT&CK, vous pouvez suivre les étapes suivantes¹²:

1. **Comprendre le framework** : Assurez-vous que votre équipe comprend bien le framework, ses objectifs et comment il fonctionne. Les matrices ATT&CK de MITRE sont une ressource précieuse pour les professionnels de la cybersécurité¹.

2. **Formation pratique** : Organisez des sessions de formation pratique pour permettre à votre équipe de se familiariser avec le framework. Cela peut inclure des exercices de simulation d'attaque et des études de cas².

3. **Utilisation d'un SIEM** : Les solutions SIEM (Security Information and Event Management) peuvent tirer parti du framework ATT&CK. Ce dernier classe les attaques par type et par étape, permettant ainsi à l'analyste d'identifier rapidement la position de l'attaque dans une tentative de compromission et de présenter clairement les résultats aux membres de l'équipe².

4. **Formation continue** : Comme le framework est constamment mis à jour avec de nouvelles tactiques et techniques, il est important d'assurer une formation continue pour que votre équipe reste à jour².

En outre, il existe des ressources en ligne, comme des blogs et des guides complets, qui peuvent aider votre équipe à comprendre et à utiliser efficacement le framework¹. Vous pouvez également envisager des sessions d'e-learning pour permettre à chaque membre de votre équipe de se former à son rythme³.

(1) Cadre MITRE ATT&CK : le guide complet - Varonis. https://www.varonis.com/fr/blog/mitre-attck-framework-complete-guide

(2) MITRE ATT&CK framework for attack communication - Logpoint. https://www.logpoint.com/fr/blog/framework-mitre-attck-ameliorer-communication-attaque/

(3) Cybersécurité : former les salariés, une nécessité I Stormshield. https://www.stormshield.com/fr/actus/lhumain-cle-de-la-cybersecurite-des-entreprises/

L'utilisation collaborative du framework ATT&CK présente plusieurs avantages, tels que²⁴:

- **Améliorer la compréhension des menaces** : Le framework permet de partager les connaissances sur les tactiques et techniques utilisées par les attaquants, ce qui facilite l'analyse et la prévention des attaques.

- **Renforcer la coordination des équipes** : Le framework fournit un langage commun et une structure standardisée pour communiquer et collaborer entre les différentes équipes de sécurité, comme les équipes Red Team et Blue Team.

- **Optimiser les technologies de sécurité** : Le framework aide à choisir et à configurer les outils et les solutions de sécurité les plus adaptés pour détecter et contrer les attaques, en se basant sur des scénarios réalistes.

(1) Framework MITRE ATT&CK : Une Révolution en Cyberdéfense. https://arsen.co/blog/Revolution-Cyberdefense-MITRE

(2) Présentation de MITRE ATT&CK, l'atout cybersécurité | LogPoint. https://www.logpoint.com/fr/blogg-sv/guide-logpoint-framework-mitre-att-ck/

(3) Cadre MITRE ATT&CK : le guide complet - Varonis. https://www.varonis.com/fr/blog/mitre-attck-framework-complete-guide

(4) Présentation de MITRE ATT&CK, l'atout cybersécurité | LogPoint. https://bing.com/search?q=avantages+d%5c%27une+utilisation+collaborative+du+framework+ATT%26CK

(5) Tour d’horizon du framework MITRE ATT&CK - Advens. https://www.advens.fr/article/horizon-framework-mitre-attck/

L’engagement de MITRE dans le domaine de l’intelligence artificielle (IA). 

Fort de ses 65 ans d’expérience en tant que conseiller de confiance, MITRE vise à catalyser l’utilisation conséquente de l’IA dans tous les secteurs, pour tous les gens. Ils cherchent à anticiper et à relever les défis nationaux de l’IA en connectant proactivement le gouvernement, l’industrie, le monde universitaire et les alliés internationaux. Pour ce faire, ils appliquent leurs capacités techniques à travers MITRE Labs, leur Centre d’Innovation en Intelligence Artificielle et Autonomie, la recherche indépendante, les collaborations stratégiques et les six centres de R&D financés par le gouvernement fédéral qu’ils exploitent¹. Leurs travaux informent le développement de systèmes sécurisés et assurés activés par l’IA pour leurs sponsors, leur nation et le public. Les principaux objectifs sont de catalyser l’utilisation conséquente de l’IA, d’extraire la valeur maximale de l’IA tout en protégeant la société contre les risques inacceptables, de diminuer la surprise technologique et de maintenir le leadership des États-Unis dans l’innovation en IA.

MITRE est une entreprise unique qui a été créée pour faire progresser la sécurité nationale de nouvelles manières et servir l’intérêt public en tant que conseiller indépendant¹. Ils continuent de tenir cette promesse en appliquant leur approche de la pensée systémique pour fournir des solutions qui améliorent notre sécurité nationale et notre mode de vie. Leur personnel, motivé par l’impact, découvre de nouvelles possibilités, crée des opportunités inattendues et mène en tant que pionniers pour le bien public². Même si vous ne connaissez pas leur nom, vous avez ressenti leur impact. Au cours de leurs plus de 60 ans de catalyse et de maintien du changement, ils n’ont jamais perdu de vue le facteur humain derrière chaque système complexe et solution innovante.

URL de mon Livre tome 1 sur la FNAC : 

https://www.fnac.com/a18279697/P-Erol-Giraudy-OpenAI-et-Microsoft-des-solutions-une-gouvernance-par-des-experts-Tome-1 

--- 

 Pierre Erol GIRAUDY 

http://about.me/giraudyerol