Ru En

2019 Этика и «цифра» - коротко о главном - Дата этика и этика технологий, РАНХИГС

РАНХИГС
2019
РАНХИГС

В докладе рассматриваются этические проблемы цифровых технологий преимущественно с точки зрения их применения в государственном управлении. Особое внимание обращено на три ключевые технологии: сбор и обработку цифровых данных, искусственный интеллект, интернет вещей. 

2019 Этика и «цифра» - коротко о главном - Дата этика и этика технологий, РАНХИГС
Основное содержание:
  • Большинство этических проблем, имеющих отношение к обороту данных, принадлежащих гражданам, возникает из-за огромной стоимости данных и колоссальной заинтересованности в них дата-корпораций. Ради увеличения прибыли корпорации идут на нарушение прав человека при обработке данных граждан. 
  • Реализация механизмов ИИ на практике позволяет говорить о двух масштабных социально экономических явлениях — капитализме слежки и государственной слежке. Присвоив себе право на большие пользовательские данные, дата-корпорации получили потенциально очень мощный инструмент влияния на общество, экономику, на сами государства в будущем.
  • В свою очередь, современная система «Большого брата», основанная на сборе данных и их анализе в системах скоринга, предиктивной аналитики и т.д., может быть использована для контроля порядка, обеспечения безопасности людей и государства, а также для дискриминации несогласных и мягкого подталкивания остальных людей в «верном» направлении.
  • Этические принципы работы с данными должны закладываться в национальную стратегию работы с ними как минимум на уровне идей. Быстрой перестройки культуры работы с данными ожидать не стоит, но начать этот процесс необходимо. 
  • Следующий комплекс проблем связан с существующими особенностями и ограничениями технологий искусственного интеллекта (ИИ), в частности проблемами предвзятости и непрозрачности систем ИИ, то есть с пониманием того, как именно конкретная система ИИ приняла решение. В действующих системах ИИ и то и другое приводит к риску дискриминации и усиления социального расслоения.
  • Человечество не откажется от технологий ИИ. Скорее всего, ИИ будет только больше, шире и активнее использоваться в самых разных сферах — от поиска в интернете до госуправления. Важно уже сейчас задать этические рамки, в которых будет развиваться ИИ, ограничить возможности его неэтичного применения и направить энергию разработчиков и идеи законодателей в русло, обеспечивающее максимальную безопасность и выгоду для общества. 

Документы