В отчете проанализированы мнения экспертов в области высоких технологий насчет того, как далеко человечество должно зайти в передаче своих функций искусственному интеллекту.

Основное содержание:

56% опрошенных экспертов согласились с утверждением, что к 2035 году умные машины, боты и системы не позволят людям легко контролировать большинство технических решений, имеющих отношение к их жизни. Среди наиболее распространенных тем, которые они высказали: 

• У влиятельных кругов мало стимулов уважать волю человека: доминирующие инструменты и платформы цифрового интеллекта, от которых зависит общество, управляются или находятся под влиянием могущественных элит - как капиталистических, так и авторитарных, – у которых мало стимулов разрабатывать их так, чтобы позволить отдельным лицам осуществлять больший контроль над своей повседневной деятельностью, поддерживаемой технологиями. Одним из результатов этого могло бы стать расширение цифрового разрыва.
• Люди ценят удобство и будут продолжать позволять системам “черного ящика” принимать решения за них: люди уже позволяют невидимым алгоритмам влиять и даже иногда "решать" многие, если не большинство аспектов своей повседневной жизни - это не изменится. Кроме того, когда им была предоставлена возможность осуществлять некоторый контроль над своими техническими инструментами и деятельностью, большинство из них не захотели этого делать.
• Масштабы, сложность, стоимость и быстрое развитие технологий искусственного интеллекта слишком сбивают с толку и ошеломляют, чтобы пользователи могли заявить о своей самостоятельности: они предназначены для централизованного, а не персонализированного контроля. Нелегко допустить такую кастомизацию, которая предоставила бы отдельным лицам необходимые полномочия по принятию решений. И эти системы могут быть слишком непрозрачными даже для их создателей, чтобы допускать индивидуальное вмешательство.