EdApp by SafetyCulture

Защита прав человека в эпоху искусственного интеллекта
FREE

By UNESCO
9 Lessons
Deploy to my team

About this course

Искусственный интеллект (ИИ) влияет на права человека через алгоритмы, которые генерируют наши новостные ленты в социальных сетях, формируют профили пользователей и курируют информацию. Необходимо просвещать людей о влиянии ИИ на права, и предоставить инструменты их защиты. В этой связи добро пожаловать на новый мобильный учебный курс, от ЮНЕСКО и ЮНИТАР (UNESCO & UNITAR) по теме "ИИ и права человека". Этот курс раскрывает сложные понятия об ИИ для молодежи. Занятия на опыте ежедневного взаимодействия с технологиями ИИ, уделяют внимание свободе выражения мнений, праву на неприкосновенность частной жизни и праву на равенство. Счастливого обучения.

Защита прав человека в эпоху искусственного интеллекта Lessons

Click through the microlessons below to preview this course. Each lesson is designed to deliver engaging and effective learning to your team in only minutes.

  1. Вступление
  2. Свобода выражения мнений | Часть 1
  3. Свобода выражения мнения | Сценарии
  4. Право на неприкосновенность | Часть 1
  5. Право на неприкосновенность | Часть 2
  6. Право на неприкосновенность | Сценарии
  7. Право на равенство | Часть 1
  8. Право на равенство | Сценарии
  9. Резюме и заключение
Deploy to my team

Follow the interactions on each screen or click the arrows to navigate between lesson slides.

Защита прав человека в эпоху искусственного интеллекта course excerpts

Вступление

Защита прав человека в эпоху искусственного интеллекта Course - Lesson Excerpt

** Защита прав человека в эпоху искусственного интеллекта **

Пройдя этот курс, вы ... узнаете о последствиях ИИ для свободы выражения мнений, права на неприкосновенность частной жизни и права на равенство. ознакомитесь с практическими примерами использования ИИ, которые проблематичны с точки зрения прав человека.

** Алгоритмы поисковой системы ** помогают нам получить доступ к нужной информации, быстро запрашивая данные из Всемирной сети. Результаты поиска, как правило, становятся все более и более персонализированными в зависимости от местоположения пользователя, пола, языка, истории поиска и других данных.

** Алгоритмы подбора вакансий ** анализируют компетенции людей, чтобы показать работодателям подходящих кандидатов для работы.

** Видеоплатформы по запросу ** предоставляют индивидуальные предложения фильмов на основе наших моделей просмотра и миллионов других пользователей, а также предлагают рекламодателям возможность прогнозировать и подталкивать к нашему отношению и действиям.

Алгоритмы помогают судьям определить вероятность повторного совершения преступления кем-либо на основе прошлых данных о лицах с аналогичным профилем. Затем алгоритмы предлагают продолжительность тюремного заключения.

Цифровые профили используются иммиграционными властями для утверждения или отклонения заявлений на визу.

В этом курсе более подробно рассматривается растущее использование ИИ и необходимость защиты трех прав человека: Свободы выражения Права на конфиденциальность Права на равенство

Свобода выражения мнений | Часть 1

Защита прав человека в эпоху искусственного интеллекта Course - Lesson Excerpt

Свобода выражения | Часть 1

В равной степени свобода убеждений и их выражения важны для самовыражения и личной самореализации. (Гилмор, 2011)

Комитет ООН по правам человека разъясняет статью 19 МПГПП в своем Замечании общего порядка № 34 (2011), заявляя, что ... Статья 19 Международного пакта о гражданских и политических правах ( МПГПП ) подчеркивает, что свобода убеждений и свобода выражения мнения являются необходимыми условиями для полноценного развития человека и являются краеугольными камнями любого свободного общества. Право на свободу выражения убеждений записано во Всеобщей декларации прав человека (ВДПЧ) и МПГПП, также включает право искать, получать и распространять информацию и идеи. (де Заяс и Мартин, 2012 г.)

** Модерация онлайн-контента **

В последние годы интернет-платформы полагаются на ИИ для модерации контента, размещаемого в Интернете. С помощью таких методов, как «обнаружение спама, технология сопоставления хэшей, фильтры по ключевым словам, обработка естественного языка и другие алгоритмы обнаружения» (UNGA A / 73/348, 2018).

В мае 2018 года группа организаций, сторонников и академических экспертов предложила Принципы Санта-Клары.

Свобода выражения мнения | Сценарии

Защита прав человека в эпоху искусственного интеллекта Course - Lesson Excerpt

Свобода слова | Сценарии

** Facebook ** 2016 Случай, когда Facebook запретил фотографию "Napalm Girl", получившую Пулитцеровскую премию

В сентябре 2016 года Facebook решил удалить культовую фотографию девятилетней Фан Тхи Ким Фука, бегущей голой после химической атаки напалмом во время войны во Вьетнаме.

Как мы видели в примере с Facebook, только алгоритмы, управляемые искусственным интеллектом, допускают ошибки.

У Алёны иная политическая идеология, чем у ее родителей. У них часто возникают жаркие споры по поводу них, особенно во время политических кризисов.

Она решает опубликовать сообщение о своем последнем разногласии с родителями в своей социальной сети. К ее облегчению, она получает волну поддержки от своих друзей и коллег, утверждающих, что старшее поколение не заботится о грядущих поколениях.

Однажды вечером, Алёна пользовалась семейным компьютером, увидела статьи и сайты с противоположными политическими взглядами. Алёна понимает - алгоритм компьютера продолжает рекомендовать ссылки на информацию которую хотел бы прочитать отец - последний пользователь. И понимает, что как отец получала информацию, к которой пристрастна, на основании предыдущих взглядов. Алёна тоже живет в пузыре фильтров и эхо-камере социальных сетей, изолированной собственной личной экосистемой информации.

Каждый раз, когда мы нажимаем, смотрим или даже делимся комментарием, социальные сети и поисковые системы собирают нашу информацию, которая генерирует персонализированную рекламу. В этом смысле наши телефоны и компьютеры подобны одностороннему зеркалу в самом нашем сознании.

Мы можем избежать пузырей фильтров

Право на неприкосновенность | Часть 1

Защита прав человека в эпоху искусственного интеллекта Course - Lesson Excerpt

Право на неприкосновенность | Часть 1

Неприкосновенность также важна, поскольку она рассматривается как помощник (или предпосылка для осуществления) других прав и свобод человека, включая:

Право на неприкосновенность частной жизни закреплено в статье 12 Всеобщей декларации прав человека (ВДПЧ) ООН и статье 17 МПГПП, а также в других документах по правам человека, международных документах и национальных законах.

Благодаря интенсивному использованию Интернета и все более широкому использованию устройств Интернета вещей (ИВ) люди генерируют огромные объемы данных. (СТАТЬЯ 19 и Privacy International, 2018)

Это можно сделать намеренно, написав сообщения, используя смайлики или разместив изображения в социальных сетях.

... или непреднамеренно, просматривая веб-сайты, нажимая на ссылки, принимая файлы cookie и т. д.

Право на неприкосновенность | Часть 2

Защита прав человека в эпоху искусственного интеллекта Course - Lesson Excerpt

Право на непрекосновенность | Часть 2

Обеспокоенность, связанная с наблюдением в общественных местах Выбрать все правильные ответы

Целевое наблюдение за гражданским населением должно соответствовать тесту, состоящему из трех частей, который включает: Выберите все правильные ответы

Онлайн-отслеживание и деанонимизация лиц Анонимизация данных исторически была способом, которым «баланс между использованием данных и сохранением конфиденциальности людей зависел как на практике, так и с юридической точки зрения». (Montjoye, Farzanehfar, Hendrickx, & Rocher, 2017 г.) Повсеместные вычисления и большие данные затрудняют анонимность. Некоторые из этих прогнозов могут быть точными до точки деанонимизации пользователей Интернета, чьи действия в сети постоянно отслеживаются.

Право на неприкосновенность | Сценарии

Защита прав человека в эпоху искусственного интеллекта Course - Lesson Excerpt

Право на неприкосновенность | Сценарии

Сценарий # 1 Виртуальные помощники подслушивают: Amazon Alexa

Алекса подслушивала, записывала их фоновый разговор и затем отправляла его этому человеку из своего списка контактов. Однако устройство не было взломано третьими лицами. Amazon подтвердил, что звук был непреднамеренно передано устройством. (Мойе, 2018).

Компания Vision Land City установила камеры, использующие технологию распознавания лиц, повсюду в городе.

Полиция установила эти камеры, чтобы помочь им идентифицировать преступников. Ежедневно анализируются и записываются более 500 000 лиц, подавляющее большинство из которых не подозреваются в каких-либо правонарушениях.

Суд постановил, что использование распознавания лиц привело к нарушению конфиденциальности. Полицейские применяли технологию по своему усмотрению и, следовательно, не соблюдали разумные ограничения, при которых может быть ограничено право на неприкосновенность частной жизни. Суд также постановил, что полиция не проводила никаких проверок своей системы распознавания лиц, чтобы убедиться, что она не является дискриминационной по отношению к определенным социальным группам и общинам меньшинств.

Право на равенство | Часть 1

Защита прав человека в эпоху искусственного интеллекта Course - Lesson Excerpt

Право на равенство | Часть 1

Статья 1 Всеобщей декларации прав человека (ВДПЧ) провозглашает, что «все люди рождаются свободными и равными в своем достоинстве и правах».

Статья 2 гласит, что «каждый человек имеет право на все права и свободы, изложенные в настоящей Декларации, без каких-либо различий, таких как раса, цвет кожи, пол, язык, религия, политические или иные убеждения, национальное или социальное происхождение, собственность, рождение или другой статус ». (Резолюция 217 ГА ООН, 1948 г.)

Статья 26 шире и прямо обеспечивает защиту от дискриминации.

«Все люди равны перед законом и имеют право без какой-либо дискриминации на равную защиту закона». В этом отношении закон запрещает любую дискриминацию и гарантирует всем лицам равную и эффективную защиту от дискриминации по любому признаку, включая расу, цвет кожи, пол, язык, религию, политические или иные взгляды, национальное или социальное происхождение, собственность, рождение или другой статус.» (Резолюция 217 ГА ООН, 1948 г.)

Негативная дискриминация морально неправильна только в контексте расовых групп.

Создание основы для распознавания дискриминации не обязательно дает нам инструменты, достаточные для анализа алгоритмической дискриминации. Алгоритмы могут приобретать дискриминационный характер разными путями. В основном включают технические особенности алгоритма, преднамеренно или непреднамеренно искаженного программистами, или путем усиления предвзятости, присутствующей в обучающих данных для алгоритмов машинного обучения. Идентификация прямой, косвенной и институциональной дискриминации необходима для того, чтобы мы могли разработать нормативные или технические решения.

Предвзятость в ИИ происходит от ...

Многие виды дискриминации могут быть косвенными.

Например, алгоритм, основанный на моделях использования сотового телефона для определения кредитоспособности человека, является дискриминационным, если он назначает высокий кредитный риск женщинам в сообществах, которые ...

Существуют веские основания для осторожности в том, чтобы полагаться на алгоритмы как на окончательное средство принятия решений, поскольку они, в лучшем случае, дают полезную информацию.

** Точки входа для предубеждений ** Предвзятость, движимая программистами Предвзятость, связанная с данными

Целевая переменная - это переменная, которую необходимо предсказать, которая является результатом работы алгоритма. Метка класса разделяет все возможные целевые переменные на взаимоисключающие наборы.

Программисты выбирают атрибуты данных, которые следует наблюдать и использовать для анализа.

Смещение, управляемое данными Если правила, извлеченные алгоритмом машинного обучения из набора данных, считаются законными, предубеждения и упущения, встроенные в набор данных, будут повторяться в модели прогнозирования. Примеры таких предубеждений, обусловленных данными, включают: Нерепрезентативные выборочные данные, т. е. Некоторые люди недостаточно представлены в данных или просто отсутствуют в наборе данных, потому что их данные вообще не собираются. Выводы, сделанные на основе корреляций между различными переменными в данных, могут быть неверными, что приведет к неверным результатам Предубеждения, вызванные прокси-сервером, возникают, когда такие переменные, как жилой пин-код, выступают в роли заместителей для расы или социального класса. Циклическое неправильное распределение ресурсов происходит, когда выборочные данные используются для определения будущего распределения ресурсов. Например, если муниципальный орган использует данные, записанные датчиком, встроенным в автомобили, о количестве выбоин на улицах, чтобы определить, какие улицы в городе ремонтировать, тогда более бедные районы, где может не хватать автомобилей, могут получить меньше ресурсов, в то время как более богатые районы с большим количеством автомобилей и, следовательно, большим количеством данных о выбоинах поможет быстро отремонтировать дороги.

Предвзятые данные обучения могут выглядеть так:

Право на равенство | Сценарии

Защита прав человека в эпоху искусственного интеллекта Course - Lesson Excerpt

Право на равенство | Сценарии

Хороший способ уменьшить предвзятость, вносимую в алгоритмы ИИ, - это разнообразить методы найма, чтобы обеспечить более широкий диапазон перспектив.

Резюме и заключение

Защита прав человека в эпоху искусственного интеллекта Course - Lesson Excerpt

Резюме и заключение

Искусственный интеллект (ИИ) все чаще используется таким образом, что в наше время он становится завуалированным лицом, принимающим решения.

Разнообразные технические приложения, слабо связанные с ИИ, всегда присутствуют в нашей жизни. Они сканируют миллиарды веб-страниц, цифровых следов и данных, полученных с датчиков, за микросекунды, используя алгоритмы для подготовки и принятия важных решений.

От алгоритмов, которые определяют способ отображения нашей ленты новостей в социальных сетях, до алгоритмов, влияющих на наши предпочтения при голосовании, ИИ влияет на многие права, относящиеся к нашим правам, связанным со свободой выражения мнений, неприкосновенностью и равенством.

Некоторые системы искусственного интеллекта могут оказывать очень негативное влияние на общества и сообщества, подвергая их риску и усугубляя дискриминацию между ними.

Рекомендации ** № 1 ** Пропагандируйте усилия стран по укреплению управления ИИ с учетом международных стандартов в области прав человека и разрабатывайте механизмы для обеспечения прозрачности, подотчетности и устранения нарушений и злоупотреблений. ** № 2 ** Поддерживайте частный сектор и техническое сообщество в проведении оценок рисков для прав человека и воздействия приложений ИИ, чтобы убедиться, что они не нарушают права человека. ** № 3 ** Участвуйте в исследованиях ориентированных на права социальных, экономических и политических последствий персонализации ИИ-контента, включая последствия онлайн-«эхо-камер». ** № 4 ** Повышайте осведомленность о последствиях использования ИИ и выступайте за разработку ИИ с уважением к правам человека. ** № 5 ** Поддерживать представителей СМИ в расследовании и сообщении о злоупотреблениях и предвзятости ИИ, а также о преимуществах, а также использовать ИИ для усиления журналистики и развития СМИ.

Course media gallery

Защита прав человека в эпоху искусственного интеллекта

UNESCO

UNESCO is working to harness AI for sustainable development across education, the sciences, culture, communication and information, leading reflections around pressing concerns related to the rapid development of AI, from a Human Rights and ethics perspective in line with its global mandate.

EdApp is easy to use and free for you and your team. No credit card required.

or book a demo with us today