Défendre les droits humains à l'ère de l'intelligence artificielle

FREE

Défendre les droits humains à l'ère de l'intelligence artificielle

Après avoir suivi ce cours, vous serez... être conscient des implications de l'IA sur la liberté d'expression, le droit à la vie privée et le droit à l'égalité. se sont engagés avec des exemples pratiques d'utilisations de l'IA, qui sont problématiques du point de vue des droits de l'homme.

Les algorithmes des moteurs de recherche nous aident à accéder aux informations que nous voulons en traitant rapidement les données sur Internet. Les résultats de la recherche ont tendance à être de plus en plus personnalisés en fonction de l'emplacement, du sexe, de la langue, de l'historique de recherche et d'autres empreintes de données en ligne d'un utilisateur.

Les algorithmes de recherche d'emploi analysent les compétences des personnes pour montrer aux employeurs les candidats appropriés pour un emploi.

Les plateformes de vidéo à la demande fournissent des recommandations personnalisées basées sur nos modèles de visionnage et ceux de millions d'autres utilisateurs. Ce faisant, ils offrent aux annonceurs la possibilité de prédire et de pousser nos attitudes et nos actions.

Les algorithmes aident les juges à déterminer la probabilité qu'une personne commette un crime sur la base des antécédents d'individus ayant un profil similaire. Des algorithmes sont également utilisés pour suggérer la durée des peines de prison.

Les profils numériques sont utilisés par les autorités de l'immigration pour approuver ou rejeter les demandes de visa.

Dans ce cours, nous verrons comment l'utilisation de l'IA se développe - et pourquoi nous devons défendre trois droits humains : Liberté d'expression Droit à la vie privée Droit à l'égalité

Liberté d'expression | Partie 1

De même, la liberté d'expression est importante pour l'expression personnelle, qui permet l'épanouissement individuel. (Gilmore, 2011)

Le Comité des droits de l'homme de l'ONU clarifie l'article 19 du PIDCP dans son Observation générale n° 34 (2011), déclarant que... L'article 19 du Pacte international relatif aux droits civils et politiques ( PIDCP ) souligne que la liberté d'opinion et la liberté d'expression sont à la fois des conditions indispensables au plein épanouissement de la personne et sont deux pierres angulaires de toute société libre. Le droit à la liberté d'expression dans la Déclaration universelle des droits de l'homme (DUDH) et le PIDCP comprend également le droit de rechercher, de recevoir et de répandre des informations et des idées. (de Zayas & Martín, 2012)

Modération de contenu en ligne

Les plateformes Internet s'appuient sur des techniques d'IA pour modérer, signaler et supprimer les contenus illégaux publiés en ligne. Grâce à des pratiques telles que la "détection de spam, la technologie de correspondance de hachage, les filtres de mots clés, le traitement du langage naturel et d'autres "algorithmes de détection", les sociétés de médias sociaux peuvent supprimer ou réduire la visibilité du contenu perçu comme "indésirable" conformément à la politique ou aux lois de l'entreprise. d'un pays. (AGNU A/73/348, 2018)​

L'utilisation de l'IA pour la modération du contenu doit être mise en œuvre avec une surveillance et un processus clair pour protéger les droits des utilisateurs.

En mai 2018, un groupe d'organisations, de défenseurs et d'experts universitaires a proposé les principes de Santa Clara comme premières étapes à suivre par les entreprises et les plateformes engagées dans la modération de contenu, afin de garantir l'application équitable des directives de contenu. (La Société royale, 2018)

Liberté d'expression | Scénarios

Facebook 2016 Le cas de Facebook interdisant la photographie 'Napalm Girl' lauréate du prix Pulitzer

En septembre 2016, Facebook a décidé de supprimer la photo emblématique de Phan Thi Kim Phúc, neuf ans, courant nue à la suite d'une attaque chimique au napalm pendant la guerre du Vietnam.

Comme nous l'avons vu dans l'exemple de Facebook, seuls les algorithmes basés sur l'IA font des erreurs

Alana passe le week-end chez ses parents. Alana a des idéologies politiques différentes de celle de ses parents. Ils ont tendance à avoir souvent des débats houleux à leur sujet, en particulier pendant les crises politiques.

Elle décide de publier son dernier désaccord avec ses parents sur son flux de médias sociaux. À son grand soulagement, elle reçoit une vague de soutien de ses amis et collègues, affirmant que l'ancienne génération n'a aucun respect pour les générations futures.

Cependant, lorsqu'elle utilise l'ordinateur familial un soir, Alana voit constamment des articles et des sites recommandés avec des opinions politiques opposées à ses opinions. Alana se rend compte que puisqu'il s'agit d'un appareil partagé, l'algorithme continue de recommander des liens vers des informations que le dernier utilisateur, son père, aurait aimé lire. Elle se rend compte que, tout comme son père a été dirigé vers des informations sur lesquelles il était biaisé, elle a également reçu des informations basées sur ses opinions antérieures. Elle aussi vit dans une bulle filtrante et une chambre d'écho des réseaux sociaux, isolée par son propre écosystème d'information personnel.

Alana comprend que pour qu'elle ait des débats significatifs avec son père, ils doivent sortir de leurs bulles de filtre et de leurs chambres d'écho.

Alana trouve quelques outils en ligne qui peuvent les aider à trouver des informations qui ne correspondent pas à leurs préjugés personnels.

Chaque fois que nous cliquons, regardons ou partageons un commentaire, les réseaux sociaux et les moteurs de recherche collectent nos informations, ce qui génère des publicités personnalisées. En ce sens, nos téléphones et ordinateurs sont comme un miroir sans tain dans nos esprits.

Nous pouvons éviter les bulles de filtre en

Droit à la vie privée | Partie 1

La vie privée est importante car elle permet également d'autres droits et libertés de l'homme, notamment :

Le droit à la vie privée est inscrit dans l'article 12 de la Déclaration universelle des droits de l'homme (DUDH) et l'article 17 du PIDCP, ainsi que dans d'autres documents relatifs aux droits de l'homme, des instruments internationaux et des lois nationales.

Grâce à l'utilisation intensive d'Internet et à l'utilisation croissante des appareils de l'Internet des objets (IoT), les individus génèrent une grande quantité de données. (ARTICLE 19 & Privacy International, 2018)

Cela peut être fait intentionnellement en écrivant des messages, en utilisant des emojis ou en publiant des photos sur les réseaux sociaux.

...ou involontairement, en naviguant sur des sites Web, en cliquant sur des liens, en acceptant les cookies, etc.

Droit à la vie privée | Partie 2

Préoccupations liées à la surveillance dans les lieux publics Sélectionnez toutes les bonnes réponses

La surveillance ciblée des civils doit se conformer au test en trois parties qui comprend : Sélectionnez toutes les bonnes réponses

Suivi en ligne et Désanonymisation des individus L'équilibre entre l'utilisation des données et la protection de la vie privée des personnes a toujours reposé sur l'anonymisation des données, à la fois juridiquement et pratiquement. (Montjoye, Farzanehfar, Hendrickx, & Rocher, 2017) L'informatique omniprésente et les mégadonnées remettent en cause l'anonymisation. Certaines de ces prédictions peuvent être exactes au point de désanonymiser les internautes dont les activités en ligne sont constamment suivies.

Droit à la vie privée | Scénarios

Scénario 1 Écoutes d'assistants virtuels : Amazon Alexa

Alexa écoutait, enregistrait sa conversation en arrière-plan, puis l'envoyait à cette personne de sa liste de contacts. L'appareil, cependant, n'a pas été piraté par un tiers. Amazon a confirmé que l'audio avait été involontairement diffusé par l'appareil. (Moye, 2018).

Vision Land City a installé des caméras utilisant la technologie de reconnaissance faciale partout dans la ville.

La police de Vision Land avait installé ces caméras pour les aider à identifier les criminels. Plus de 500 000 visages sont analysés et enregistrés chaque jour, dont l'écrasante majorité ne sont pas suspectés d'actes répréhensibles.

Le tribunal juge que l'utilisation de la reconnaissance faciale a conduit à une atteinte à la vie privée. Les policiers ont appliqué la technologie si largement qu'elle n'était pas conforme aux exceptions raisonnables autorisées en vertu du droit à la vie privée. Le tribunal a en outre décidé que la police n'avait effectué aucun audit sur son système de reconnaissance faciale pour s'assurer qu'il n'était pas discriminatoire à l'égard de certains groupes sociaux et communautés minoritaires.

Droit à l'égalité | Partie 1

L'article 1 de la Déclaration universelle des droits de l'homme (DUDH) proclame que « tous les êtres humains naissent libres et égaux en dignité et en droits ».

L'article 2 stipule que « toute personne a droit à tous les droits et libertés énoncés dans la présente Déclaration sans distinction d'aucune sorte, telle que la race, la couleur, le sexe, la langue, la religion, l'opinion politique ou autre, l'origine nationale ou sociale, la propriété , naissance ou autre statut ». (Résolution 217 de l'AGNU, 1948)

L'article 26 est plus large et prévoit explicitement une protection contre la discrimination.

« Toutes les personnes sont égales devant la loi et ont droit sans discrimination à l'égale protection de la loi. À cet égard, la loi interdit toute discrimination et garantit à toute personne une protection égale et effective contre toute discrimination fondée sur la race, la couleur, le sexe, la langue, la religion, l'opinion politique ou autre, l'origine nationale ou sociale, la fortune, naissance ou autre statut.”. (Résolution 217 de l'AGNU, 1948)

La discrimination négative n'est moralement répréhensible que dans le contexte des groupes raciaux.

Établir les critères de reconnaissance des discriminations ne nous donne pas nécessairement des outils suffisants pour l'analyse des discriminations algorithmiques. Les algorithmes peuvent acquérir un caractère discriminatoire de multiples façons. Il s'agit principalement des caractéristiques techniques de l'algorithme biaisé intentionnellement ou non par les programmeurs ou par le renforcement des biais présents dans les données d'entraînement pour les algorithmes d'apprentissage automatique. L'identification des discriminations directes, indirectes et institutionnelles est nécessaire pour que nous puissions créer des solutions réglementaires ou techniques.

Le biais de l'IA vient de...

De nombreux types de discrimination peuvent être indirects.

Par exemple, un algorithme qui s'appuie sur les modèles d'utilisation du téléphone portable pour déterminer la solvabilité d'une personne est discriminatoire s'il attribue un risque de crédit élevé aux femmes dans les communautés qui...

Il y a de fortes raisons de faire preuve de prudence dans notre dépendance aux algorithmes en tant que décideur final car, au mieux, ils ne fournissent que des informations utiles.

Points d'entrée pour les biais Biais piloté par le programmeur Biais fondé sur les données

La variable cible est la variable qui doit être prédite, qui est la sortie de l'algorithme. L'étiquette de classe classe toutes les variables cibles possibles dans des ensembles mutuellement exclusifs.

Les programmeurs choisissent les attributs des données qui doivent être observés et utilisés pour l'analyse.

Biais basé sur les données Si les règles extraites par l'algorithme d'apprentissage automatique d'un ensemble de données sont considérées comme légitimes, les préjugés et les omissions intégrés dans l'ensemble de données seront répétés dans le modèle prédictif. Voici des exemples de ces biais liés aux données : Données d'échantillon non représentatives, c'est-à-dire que certaines personnes sont sous-représentées dans les données ou simplement absentes de l'ensemble de données parce que leurs données ne sont pas du tout collectées. Les inférences tirées sur la base des corrélations entre différentes variables dans les données peuvent être incorrectes, conduisant ainsi à des résultats incorrects Les biais induits par les procurations se produisent lorsque des variables telles que le code PIN résidentiel agissent comme des procurations pour la race ou la classe sociale. Une mauvaise allocation cyclique des ressources se produit lorsque des données sélectives sont utilisées pour déterminer l'allocation future des ressources. Par exemple, si un organisme municipal utilise des données enregistrées par un capteur intégré dans les voitures sur le nombre de nids-de-poule dans les rues pour déterminer quelles rues réparer dans la ville, alors les zones les plus pauvres où il n'y a peut-être pas assez de voitures pourraient obtenir moins de ressources tandis que les zones plus riches avec plus de voitures et donc plus de données sur les nids-de-poule, leurs routes peuvent être réparées rapidement.

Les données d'entraînement biaisées peuvent ressembler à :

Droit à l'égalité | Scénarios

Un bon moyen de réduire les biais introduits dans les algorithmes d'IA est de diversifier les pratiques d'embauche pour garantir un plus large éventail de perspectives.

Sommaire et conclusion

L'intelligence artificielle (IA) est de plus en plus utilisée de telle manière qu'elle devient le décideur voilé de notre temps.

Les diverses applications techniques vaguement associées à l'IA sont toujours présentes dans nos vies. Ils scannent des milliards de pages Web, de pistes numériques et de données dérivées de capteurs en quelques microsecondes, en utilisant des algorithmes pour préparer et produire des décisions importantes.

Des algorithmes qui façonnent la façon dont notre fil d'actualités sur les réseaux sociaux est affiché à ceux qui influencent nos préférences de vote, l'IA a un impact sur de nombreux droits liés à nos droits liés à la liberté d'expression, à la vie privée et à l'égalité.

Certains systèmes d'IA peuvent avoir des impacts très négatifs sur les sociétés et les communautés, les mettant en danger et aggravant la discrimination entre elles.

Recommandations #1 Plaider pour que les pays renforcent la gouvernance de l'IA en ce qui concerne les normes internationales des droits de l'homme, et développent des mécanismes pour la transparence, la responsabilité et la réparation des violations et abus. #2 Plaider pour que le secteur privé et la communauté technique mènent des évaluations des risques et de l'impact des applications de l'IA sur les droits humains afin de s'assurer qu'elles n'interfèrent pas avec les droits humains. #3 Participez à des recherches axées sur les droits sur les effets sociaux, économiques et politiques de la personnalisation du contenu de l'IA, y compris les conséquences des « chambres d'écho » en ligne. #4 Sensibiliser sur les implications de l'IA et plaider pour un développement de l'IA qui respecte les droits humains. #5 Soutenir les acteurs des médias pour enquêter et signaler les abus et les préjugés de l'IA ainsi que les avantages, et exploiter l'IA pour renforcer le journalisme et le développement des médias.