{"id":18688,"date":"2021-04-30T15:23:04","date_gmt":"2021-04-30T13:23:04","guid":{"rendered":"https:\/\/www.ades-grenoble.org\/wordpress\/?p=18688"},"modified":"2021-04-30T16:03:52","modified_gmt":"2021-04-30T14:03:52","slug":"lintelligence-artificielle-fait-peser-des-risques-sur-les-droits-et-libertes","status":"publish","type":"post","link":"https:\/\/www.ades-grenoble.org\/wordpress\/2021\/04\/30\/lintelligence-artificielle-fait-peser-des-risques-sur-les-droits-et-libertes\/","title":{"rendered":"L\u2019intelligence artificielle fait peser des risques sur les droits et libert\u00e9s"},"content":{"rendered":"\n<div class=\"wp-block-image\"><figure class=\"alignleft\"><img loading=\"lazy\" decoding=\"async\" width=\"350\" height=\"239\" src=\"https:\/\/www.ades-grenoble.org\/wordpress\/wp-content\/uploads\/2016\/12\/drapeau-europe-1.jpg\" alt=\"\" class=\"wp-image-12360\" srcset=\"https:\/\/www.ades-grenoble.org\/wordpress\/wp-content\/uploads\/2016\/12\/drapeau-europe-1.jpg 350w, https:\/\/www.ades-grenoble.org\/wordpress\/wp-content\/uploads\/2016\/12\/drapeau-europe-1-150x102.jpg 150w, https:\/\/www.ades-grenoble.org\/wordpress\/wp-content\/uploads\/2016\/12\/drapeau-europe-1-300x205.jpg 300w\" sizes=\"auto, (max-width: 350px) 100vw, 350px\" \/><\/figure><\/div>\n\n\n\n<p>Le 21 avril, la Commission\neurop\u00e9enne a rendu public son projet de r\u00e9glementation en mati\u00e8re\nd\u2019intelligence artificielle (IA) en fonction des risques qu\u2019elle fait peser sur\nles droits et libert\u00e9s. Quatre \u00e9chelles de risques sont d\u00e9finies&nbsp;: risque\ninacceptable, risque \u00e9lev\u00e9, risque limit\u00e9 et risque minime.<\/p>\n\n\n\n<p>La Commission entend interdire\nles utilisations des IA inacceptables, par exemple les syst\u00e8mes de notation\nsociale et toutes celles qui <em>\u00ab\u00a0manipulent le comportement humain afin de\npriver les utilisateurs de leur libre arbitre\u00a0\u00bb.<\/em><\/p>\n\n\n\n<p>Les IA \u00e0\nhaut risque pour les droits ou la s\u00e9curit\u00e9 des citoyens seront les plus\nencadr\u00e9es, par exemple&nbsp;: la gestion des infrastructures critiques comme\nles transports ; l\u2019\u00e9ducation et la formation ; l\u2019acc\u00e8s \u00e0 emploi et la gestion\ndes ressources humaines ; la justice et le maintien de l\u2019ordre ou encore la gestion\ndes processus d\u00e9mocratiques. La mise sur le march\u00e9 d\u2019IA appliqu\u00e9es \u00e0 ces\ndomaines seront conditionn\u00e9es \u00e0 une \u00e9valuation des risques ; des garanties\napport\u00e9es sur la qualit\u00e9 des donn\u00e9es pour \u00e9viter les risques de discrimination\n; une tra\u00e7abilit\u00e9 des calculs et r\u00e9sultats ; une information claire \u00e0\nl\u2019intention des utilisateurs et enfin un contr\u00f4le des syst\u00e8mes par l\u2019humain.\nCes IA \u00e0 haut risque seront soumises \u00e0 un contr\u00f4le de conformit\u00e9 et\nr\u00e9pertori\u00e9es dans une base de donn\u00e9es europ\u00e9enne. Elles auront un marquage CE\navant leur mise sur le march\u00e9, toute \u00e9volution de l\u2019IA passant par un nouveau\ncontr\u00f4le de conformit\u00e9.<\/p>\n\n\n\n<!--more-->\n\n\n\n<p>Le Comit\u00e9 europ\u00e9en de la protection des donn\u00e9es (CEPD), qui coordonne l\u2019action des Cnil nationales, a rendu le 23 avril 2021 <a rel=\"noreferrer noopener\" aria-label=\"un avis\u00a0critique sur ce projet de r\u00e8glementation sur l\u2019intelligence artificielle (s\u2019ouvre dans un nouvel onglet)\" href=\"https:\/\/edps.europa.eu\/press-publications\/press-news\/press-releases_en\" target=\"_blank\">un avis\u00a0critique sur ce projet de r\u00e8glementation sur l\u2019intelligence artificielle<\/a>. Il regrette que la Commission n\u2019ait pas retenu l\u2019id\u00e9e de moratoire sur la reconnaissance faciale dans l\u2019espace public.<\/p>\n\n\n\n<p>Voici un extrait du projet de\nla Commission.<\/p>\n\n\n\n<p><em>\u00ab&nbsp;Risque\ninacceptable :&nbsp;Les syst\u00e8mes d&rsquo;IA consid\u00e9r\u00e9s comme une menace \u00e9vidente\npour la s\u00e9curit\u00e9, les moyens de subsistance et les droits des personnes seront\ninterdits. Il s&rsquo;agit notamment des syst\u00e8mes ou applications d&rsquo;IA qui manipulent\nle comportement humain pour priver les utilisateurs de leur libre arbitre (par\nexemple, des jouets utilisant une assistance vocale incitant des mineurs \u00e0\navoir un comportement dangereux) et des syst\u00e8mes qui permettent la notation\nsociale par les \u00c9tats.<\/em><\/p>\n\n\n\n<p><em>Risque \u00e9lev\u00e9<\/em><em> :&nbsp;Parmi les syst\u00e8mes d&rsquo;IA consid\u00e9r\u00e9s comme \u00e0\nhaut risque, on peut citer : <\/em><\/p>\n\n\n\n<ul class=\"wp-block-list\"><li><em>les technologies d&rsquo;IA qui sont utilis\u00e9es dans&nbsp;les infrastructures\n     critiques&nbsp;(par exemple les transports) et sont susceptibles de mettre\n     en danger la vie et la sant\u00e9 des citoyens ;<\/em><\/li><li><em>les technologies d&rsquo;IA utilis\u00e9es dans&nbsp;l&rsquo;\u00e9ducation ou la\n     formation professionnelle, qui peuvent d\u00e9terminer l&rsquo;acc\u00e8s \u00e0 l&rsquo;\u00e9ducation et\n     le parcours professionnel d&rsquo;une personne (par exemple, la notation\n     d&rsquo;\u00e9preuves d&rsquo;examens);<\/em><\/li><li><em>les technologies d&rsquo;IA utilis\u00e9es dans&nbsp;les composants de\n     s\u00e9curit\u00e9 des produits&nbsp;(par exemple, l&rsquo;application de l&rsquo;IA dans la\n     chirurgie assist\u00e9e par robot);<\/em><\/li><li><em>les technologies d&rsquo;IA utilis\u00e9es dans le domaine de&nbsp;l&#8217;emploi,\n     de la gestion de la main d&rsquo;\u0153uvre et de l&rsquo;acc\u00e8s \u00e0 l&#8217;emploi\n     ind\u00e9pendant&nbsp;(par exemple, les logiciels de tri des CV pour les\n     proc\u00e9dures de recrutement);<\/em><\/li><li><em>les technologies d&rsquo;IA utilis\u00e9es dans&nbsp;les services priv\u00e9s et\n     publics essentiels&nbsp;(par exemple, l&rsquo;\u00e9valuation du risque de cr\u00e9dit,\n     qui prive certains citoyens de la possibilit\u00e9 d&rsquo;obtenir un pr\u00eat);<\/em><\/li><li><em>les technologies d&rsquo;IA utilis\u00e9es dans le domaine du&nbsp;maintien\n     de l&rsquo;ordre, qui sont susceptibles d&rsquo;interf\u00e9rer avec les droits fondamentaux\n     des personnes (par exemple, la v\u00e9rification de la fiabilit\u00e9 des \u00e9l\u00e9ments\n     de preuve);<\/em><\/li><li><em>les technologies d&rsquo;IA utilis\u00e9es dans le domaine de la&nbsp;gestion\n     de la migration, de l&rsquo;asile et des contr\u00f4les aux fronti\u00e8res&nbsp;(par\n     exemple, la v\u00e9rification de l&rsquo;authenticit\u00e9 des documents de voyage);<\/em><\/li><li><em>les technologies d&rsquo;IA utilis\u00e9es dans les domaines de\n     l&rsquo;administration de la justice&nbsp;et des&nbsp;processus\n     d\u00e9mocratiques&nbsp;(par exemple, l&rsquo;application de la loi \u00e0 un ensemble\n     concret de faits).<\/em><\/li><\/ul>\n\n\n\n<p><em>Les syst\u00e8mes d&rsquo;IA \u00e0 haut\nrisque devront \u00eatre conformes \u00e0&nbsp;obligations strictes&nbsp;pour pouvoir\n\u00eatre mis sur le march\u00e9 : syst\u00e8mes ad\u00e9quats d&rsquo;\u00e9valuation et d&rsquo;att\u00e9nuation des\nrisques ; qualit\u00e9 \u00e9lev\u00e9e des ensembles de donn\u00e9es&nbsp;alimentant le syst\u00e8me\nafin de r\u00e9duire au minimum les risques et les r\u00e9sultats ayant un effet\ndiscriminatoire ; enregistrement des activit\u00e9s afin de garantir la tra\u00e7abilit\u00e9\ndes r\u00e9sultats ; documentation d\u00e9taill\u00e9e&nbsp;fournissant toutes les\ninformations n\u00e9cessaires sur le syst\u00e8me et sur sa finalit\u00e9 pour permettre aux\nautorit\u00e9s d&rsquo;\u00e9valuer sa conformit\u00e9 ; informations claires et ad\u00e9quates&nbsp;\u00e0\nl&rsquo;intention de l&rsquo;utilisateur ; contr\u00f4le humain appropri\u00e9&nbsp;pour r\u00e9duire au\nminimum les risques ; niveau \u00e9lev\u00e9 de&nbsp;robustesse, de&nbsp;s\u00e9curit\u00e9&nbsp;et\nd&rsquo;exactitude.<\/em><\/p>\n\n\n\n<p><em>En particulier, les\nsyst\u00e8mes d&rsquo;identification biom\u00e9trique \u00e0 distance&nbsp;fond\u00e9s sur l&rsquo;IA sont\nconsid\u00e9r\u00e9s comme \u00e0 haut risque et sont donc soumis \u00e0 des exigences strictes.\nLeur utilisation en temps r\u00e9el dans l&rsquo;espace public aux fins du maintien de\nl&rsquo;ordre est en principe interdite. Il existe des exceptions restreintes \u00e0 ce\nprincipe, qui sont strictement d\u00e9finies et r\u00e9glement\u00e9es (par exemple, lorsque\ncela est strictement n\u00e9cessaire pour rechercher un enfant disparu, pr\u00e9venir une\nmenace terroriste sp\u00e9cifique et imminente ou d\u00e9tecter, localiser, identifier ou\npoursuivre l&rsquo;auteur ou le suspect d&rsquo;une infraction p\u00e9nale grave). L&rsquo;utilisation\nde ces syst\u00e8mes doit alors \u00eatre autoris\u00e9e par une instance judiciaire ou un\nautre organe ind\u00e9pendant et est soumise \u00e0 des limitations appropri\u00e9es\nconcernant la dur\u00e9e, la port\u00e9e g\u00e9ographique et les bases de donn\u00e9es consult\u00e9es.<\/em><\/p>\n\n\n\n<p><em>Risque limit\u00e9<\/em><em>, c&rsquo;est-\u00e0-dire les syst\u00e8mes d&rsquo;IA auxquels s&rsquo;appliquent\ndes obligations sp\u00e9cifiques en mati\u00e8re de transparence : Lorsqu&rsquo;ils utilisent\ndes syst\u00e8mes d&rsquo;IA tels que des chatbots, les utilisateurs doivent savoir qu&rsquo;ils\ninteragissent avec une machine afin de pouvoir d\u00e9cider en connaissance de cause\nde poursuivre ou non\u2026&nbsp;\u00bb<\/em><\/p>\n\n\n\n<p>Pour lire le projet, cliquez <a href=\"https:\/\/ec.europa.eu\/commission\/presscorner\/detail\/fr\/IP_21_1682\">ici.<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Le 21 avril, la Commission europ\u00e9enne a rendu public son projet de r\u00e9glementation en mati\u00e8re d\u2019intelligence artificielle (IA) en fonction des risques qu\u2019elle fait peser sur les droits et libert\u00e9s. Quatre \u00e9chelles de risques sont d\u00e9finies&nbsp;: risque inacceptable, risque \u00e9lev\u00e9, risque limit\u00e9 et risque minime. La Commission entend interdire les utilisations des IA inacceptables, par [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"twitterCardType":"","cardImageID":0,"cardImage":"","cardTitle":"","cardDesc":"","cardImageAlt":"","cardPlayer":"","cardPlayerWidth":0,"cardPlayerHeight":0,"cardPlayerStream":"","cardPlayerCodec":"","footnotes":""},"categories":[62,11],"tags":[295,141,279,305],"class_list":["post-18688","post","type-post","status-publish","format-standard","hentry","category-le-rouge-le-vert-hebdo","category-politique-locale","tag-droits","tag-europe","tag-libertes","tag-technos"],"_links":{"self":[{"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/posts\/18688","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/comments?post=18688"}],"version-history":[{"count":1,"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/posts\/18688\/revisions"}],"predecessor-version":[{"id":18689,"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/posts\/18688\/revisions\/18689"}],"wp:attachment":[{"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/media?parent=18688"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/categories?post=18688"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ades-grenoble.org\/wordpress\/wp-json\/wp\/v2\/tags?post=18688"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}