Defendiendo los derechos humanos en la era de la Inteligencia Artificial

FREE

** Defender los derechos humanos en la era de la inteligencia artificial **

Después de tomar este curso, usted ... será consciente de las implicaciones de la IA en la libertad de expresión, el derecho a la privacidad y el derecho a la igualdad. estará familiarizado con ejemplos prácticos de usos de la IA que son problemáticos desde una perspectiva de derechos humanos.

** Los algoritmos de los motores de búsqueda ** nos ayudan a acceder a la información que queremos, procesando rápidamente los datos en Internet. Los resultados de la búsqueda tienden a ser cada vez más personalizados en función de la ubicación, el género, el idioma, el historial de búsqueda y otras huellas de datos en línea del usuario.

** Los algoritmos de búsqueda de empleo ** analizan las competencias de las personas para mostrar a los empleadores candidatos adecuados para el empleo.

** Las plataformas de video bajo demanda ** brindan recomendaciones personalizadas basadas en nuestros patrones de visualización y los de millones de otros usuarios. Al hacerlo, ofrecen a los anunciantes la capacidad de predecir y estimular nuestras actitudes y acciones.

Basándose en el historial de personas con un perfil similar, los algoritmos ayudan a los jueces a determinar la probabilidad de que alguien cometa un delito. También se utilizan algoritmos para sugerir la duración de las penas de prisión.

Las autoridades de inmigración utilizan perfiles digitales para aprobar o rechazar solicitudes de visa.

En este curso veremos cómo crece el uso de la IA y el porqué debemos defender tres derechos humanos: Libertad de expresión Derecho a la privacidad Derecho a la igualdad

Libertad de expresión | Parte 1

Igualmente, la libertad de expresión es importante para la expresión personal, que permite la autorrealización individual. (Gilmore, 2011)

El Comité de Derechos Humanos de la ONU aclara el artículo 19 del Pacto Internacional de Derechos Civiles y Políticos en su Observación general No. 34 (2011), afirmando que ... El artículo 19 del Pacto Internacional de Derechos Civiles y Políticos ( PIDCP ) subraya que la libertad de opinión y la libertad de expresión son condiciones indispensables para el pleno desarrollo de la persona y son fundamentales de toda sociedad libre. El derecho a la libertad de expresión en la Declaración Universal de Derechos Humanos (DUDH) y el Pacto Internacional de Derechos Civiles y Políticos también incluye el derecho a buscar, recibir y difundir información e ideas. (de Zayas y Martín, 2012)

** Moderación de contenido en línea **

Las plataformas de Internet se basan en técnicas de inteligencia artificial para moderar, marcar y eliminar el contenido ilegal publicado en línea. A través de prácticas como "detección de spam, tecnología de coincidencia de hash, filtros de palabras clave, procesamiento del lenguaje natural y otros" algoritmos de detección ", las empresas de redes sociales pueden eliminar o reducir la visibilidad del contenido percibido como "indeseable", según la política o las leyes de la empresa o de un país. (AGNU A / 73/348, 2018)

El uso de IA para la moderación de contenido debe implementarse bajo supervisión y un proceso claro para proteger los derechos de los usuarios.

En mayo de 2018, un grupo de organizaciones, defensores y expertos académicos, propusieron los Principios de Santa Clara como los pasos iniciales que deben seguir las empresas y plataformas dedicadas a la moderación de contenido, a fin de garantizar la aplicación justa de las pautas de contenido. (La Royal Society, 2018)

Libertad de expresión | Escenarios

Facebook 2016 El caso de Facebook que prohíbe la fotografía ganadora del premio Pulitzer 'Napalm Girl'

En septiembre de 2016, Facebook decidió eliminar la fotografía icónica de Phan Thi Kim Phúc, de nueve años, corriendo desnudo tras un ataque químico con napalm durante la Guerra de Vietnam.

Como vimos en el ejemplo de Facebook, solo los algoritmos impulsados por IA cometen errores

Alana se queda con sus padres durante el fin de semana. Alana tiene ideologías políticas diferentes a las de sus padres. Suelen tener debates acalorados sobre las ideologías de Alana a menudo, especialmente durante las crisis políticas.

Decide publicar sobre su último desacuerdo con sus padres en sus redes sociales. Para su alivio, recibe una ola de apoyo de sus amigos y colegas, quienes afirman que la generación mayor no tiene en cuenta a las generaciones futuras.

Sin embargo, cuando usa la computadora familiar una noche, Alana ve constantemente artículos y sitios recomendados con opiniones políticas opuestas a sus opiniones. Alana se da cuenta de que, dado que se trata de un dispositivo compartido, el algoritmo continúa recomendando enlaces a información que al último usuario, su padre, le hubiera gustado leer. Ella se da cuenta de que, al igual que la forma en que su padre fue dirigido a la información a la que estaba predispuesto, a ella también se le mostró información basada en sus puntos de vista anteriores. Ella también vive en una burbuja de filtro y una cámara de eco en las redes sociales, aislada por su propio ecosistema personal de información.

Alana entiende que para tener debates significativos con su padre, deben salir de sus burbujas de filtro y cámaras de eco.

Alana encuentra algunas herramientas en línea que pueden ayudarlos a encontrar información que no está alineada con sus prejuicios personales.

Cada vez que hacemos clic, miramos, o incluso compartimos un comentario, las redes sociales y los motores de búsqueda recopilan nuestra información, lo que genera anuncios personalizados. En este sentido, nuestros teléfonos y computadoras son como un espejo unidireccional en nuestras mentes.

Podemos evitar los filtros de burbuja

Derecho a la privacidad | Parte 1

La privacidad es importante ya que también habilita otros derechos humanos y libertades, incluidos:

El derecho a la privacidad está consagrado en el artículo 12 de la Declaración Universal de Derechos Humanos (DUDH) de la ONU y en el artículo 17 del Pacto Internacional de Derechos Civiles y Políticos, así como en otros documentos de derechos humanos, instrumentos internacionales y leyes nacionales.

Mediante el uso intensivo de Internet y el empleo cada vez mayor de dispositivos de Internet de las cosas (IoT), las personas están generando una gran cantidad de datos. (ARTÍCULO 19 y Privacidad Internacional, 2018)

Esto se puede hacer intencionalmente escribiendo publicaciones, usando emojis o publicando imágenes en las redes sociales.

... o involuntariamente, al navegar por sitios web, hacer clic en enlaces, aceptar cookies, etc.

Derecho a la privacidad | Parte 2

Preocupaciones relacionadas con la vigilancia en lugares públicos Seleccione todas las respuestas correctas

La vigilancia selectiva havia civiles debe cumplir con la prueba de tres partes que incluye: Seleccione todas las respuestas correctas

Seguimiento en línea y desanonimización de individuos El equilibrio entre el uso de datos y la protección de la privacidad de las personas se ha basado históricamente en el anonimato de los datos, tanto legal como prácticamente. (Montjoye, Farzanehfar, Hendrickx y Rocher, 2017) La computación ubicua y los macrodatos desafían el anonimato. Algunas de estas predicciones pueden ser precisas hasta el punto de anonimizar a los usuarios web cuyas actividades en línea se controlan constantemente.

Derecho a la privacidad | Escenarios

Escenario 1 Asistentes virtuales que escuchan a escondidas: Amazon Alexa

Alexa había estado escuchando, grabando su conversación de fondo y luego enviándola a esta persona en su lista de contactos. El dispositivo, sin embargo, no fue pirateado por un tercero. Amazon confirmó que el dispositivo transmitió el audio sin querer. (Moye, 2018).

Vision Land City ha instalado cámaras que utilizan tecnología de reconocimiento facial en todas partes de la ciudad.

La policía de Vision Land había instalado estas cámaras para ayudarlos a identificar a los delincuentes. Cada día se analizan y registran más de 500.000 rostros, la inmensa mayoría de los cuales no son sospechosos de haber cometido ningún delito.

El tribunal dictamina que el uso del reconocimiento facial ha provocado una violación de la privacidad. Los agentes de policía aplicaron la tecnología tan ampliamente que no estaba en consonancia con las excepciones razonables permitidas en virtud del derecho a la privacidad. El tribunal dictaminó además que la policía no llevó a cabo ninguna auditoría en su sistema de reconocimiento facial para garantizar que no discriminara a ciertos grupos sociales y comunidades minoritarias.

Derecho a la Igualdad | Parte 1

El artículo 1 de la Declaración Universal de Derechos Humanos (DUDH) proclama que “todos los seres humanos nacen libres e iguales en dignidad y derechos”.

El artículo 2 establece que “toda persona tiene todos los derechos y libertades establecidos en esta Declaración sin distinción de ningún tipo, como raza, color, sexo, idioma, religión, opinión política o de otro tipo, origen nacional o social, propiedad , nacimiento u otro estado ”. (Resolución 217 de la AGNU, 1948)

El artículo 26 es más amplio y brinda protección contra la discriminación de manera explícita.

_ “Todas las personas son iguales ante la ley y tienen derecho sin discriminación a igual protección de la ley. A este respecto, la ley prohibirá cualquier discriminación y garantizará a todas las personas una protección igual y efectiva contra la discriminación por cualquier motivo, como raza, color, sexo, idioma, religión, opinión política o de otro tipo, origen nacional o social, propiedad, nacimiento u otro estado. ”. (Resolución 217 de la AGNU, 1948)

La discriminación negativa solo es moralmente incorrecta en el contexto de los grupos raciales.

Establecer los criterios para reconocer la discriminación no necesariamente nos da herramientas suficientes para el análisis de la discriminación algorítmica. Los algoritmos pueden adquirir una naturaleza discriminatoria de múltiples formas. Estos incluyen principalmente características técnicas del algoritmo sesgadas intencional o involuntariamente por los programadores o mediante el refuerzo de los sesgos presentes en los datos de entrenamiento para algoritmos de aprendizaje automático. Es necesaria la identificación de la discriminación directa, indirecta e institucional para que podamos generar soluciones regulatorias o técnicas.

El sesgo en la IA proviene de ...

Muchos tipos de discriminación pueden ser indirectos.

Por ejemplo, un algoritmo que se basa en patrones de uso de teléfonos celulares para determinar la solvencia crediticia de una persona es discriminatorio si asigna un alto riesgo crediticio a mujeres en comunidades que ...

Hay razones sólidas para ser cautelosos sobre nuestra dependencia de los algoritmos como tomadores de decisiones finales, ya que, en el mejor de los casos, solo brindan información útil.

** Puntos de entrada para sesgos ** Sesgo impulsado por el programador Sesgo impulsado por los datos

La variable de destino es la variable que debe predecirse, que es la salida del algoritmo. La etiqueta de clase categoriza todas las posibles variables de destino en conjuntos mutuamente excluyentes.

Los programadores eligen los atributos de los datos que deben observarse y utilizarse para el análisis.

Sesgo basado en datos Si las reglas extraídas por el algoritmo de aprendizaje automático de un conjunto de datos se consideran legítimas, los prejuicios y omisiones incrustados en el conjunto de datos se repetirán en el modelo predictivo. Ejemplos de sesgos impulsados por datos incluyen: Datos de muestra no representativos, es decir, algunas personas están subrepresentadas en los datos o simplemente están ausentes del conjunto de datos porque sus datos no se recopilan en absoluto. Las inferencias basadas en correlaciones entre diferentes variables en los datos pueden ser incorrectas, lo que da lugar a resultados incorrectos. Los sesgos inducidos por proxy se producen cuando variables como el código PIN residencial actúan como sustitutos de la raza o la clase social. La asignación cíclica de recursos se produce cuando se utilizan datos selectivos para determinar la asignación futura de recursos. Por ejemplo, si un organismo municipal utiliza datos registrados por un sensor integrado en los automóviles sobre la cantidad de baches en las calles para determinar qué calles reparar en la ciudad, entonces las áreas más pobres donde puede que no haya suficientes autos podrían obtener menos recursos, mientras que las áreas más ricas con más automóviles y, por lo tanto, más datos sobre baches, pueden reparar sus carreteras rápidamente.

Los datos de entrenamiento sesgados pueden tener este aspecto:

Derecho a la Igualdad | Escenarios

Una buena forma de reducir el sesgo que se introduce en los algoritmos de IA es tener políticas de contratación que promuevan la diversidad para garantizar una gama más amplia de perspectivas.

Resumen y conclusión

La inteligencia artificial (IA) se utiliza cada vez más de tal manera que se está convirtiendo en la tomadora de decisiones velada de nuestro tiempo.

Las diversas aplicaciones técnicas asociadas libremente con la IA están siempre presentes en nuestras vidas. Escanean miles de millones de páginas web, senderos digitales y datos derivados de sensores en microsegundos, utilizando algoritmos para preparar y producir decisiones importantes.

Desde algoritmos que moldean la forma en que se muestran las noticias de nuestras redes sociales, hasta aquellos que influyen en nuestras preferencias de voto, la IA afecta muchas dimensiones relevantes en torno a nuestros derechos relacionados con la libertad de expresión, la privacidad y la igualdad.

Algunos sistemas de IA pueden tener impactos muy negativos en las sociedades y comunidades, poniéndolas en riesgo y profundizando la discriminación existente entre ellas.

Recomendaciones ** # 1 ** Abogar porque los países fortalezcan la gobernanza de la IA con respecto a las normas internacionales de derechos humanos y desarrollar mecanismos para la transparencia, la rendición de cuentas y la reparación de violaciones y abusos. ** # 2 ** Abogar porque el sector privado y la comunidad técnica lleven a cabo evaluaciones de riesgo e impacto con enfoque de derechos humanos de las aplicaciones de IA para garantizar que éstas no interfieran con los derechos humanos. ** # 3 ** Participar en investigaciones con enfoque de derechos humanos sobre los efectos sociales, económicos y políticos de la personalización del contenido de la IA, incluidas las consecuencias de las "cámaras de eco" en línea. ** # 4 ** Sensibilizar sobre las implicaciones de la IA y promover un desarrollo de la IA que respete los derechos humanos. ** # 5 ** Apoya a los actores de los medios de comunicación para que investiguen e informen sobre los abusos y los prejuicios de la IA, así como sus beneficios, y aprovecha la IA para fortalecer el periodismo y el desarrollo de los medios.