Дискурс вокруг этических вопросов искусственного интеллекта



Дискурс вокруг этических вопросов искусственного интеллекта

В своей работе, посвященной проблематике этики искусственного интеллекта (далее ИИ) мы опираемся на метод дискурс-анализа М. Фуко [Фуко, 1996]. Для исследования были взяты художественные фильмы об ИИ, а также публикации в СМИ, посвященные ИИ. Проблематикой научной работы является место искусственного интеллекта в мире и в обществе.

Осуществив дискурс-анализ для выявления этических вопросов и проблем, поднимаемых в прессе и в кинематографе, посвященных тематике ИИ, на основании которых формируются представления социума об искусственном интеллекте, нам удалось выявить семь подходов в понимании искусственного интеллекта: ИИ как друг, враг, компаньон, помощник, конкурент, инструмент, субъект, имитация субъекта. Среди этих семи подходов было выделено четыре дискурса, которые обозначены как 1) дискурс восторга перед новыми технологиями, 2) дискурс экономического развития, 3) дискурс технологического развития и 4) дискурс страха и запугивания.

Следует отметить, что в фильмах (по сравнению с публикациями в СМИ) выявляется широкий круг этических проблем, почти всех тех, что поднимались в научном сообществе. Основной проблематикой в фильмах является взаимодействие между человеком и искусственным интеллектом. Можно сказать, что перспективы такого взаимодействия скорее неоднозначные, нежели позитивные. Также в фильмах видна тенденция к исследованию и рассмотрению проблем, возникающих при взаимодействии человека с сильным ИИ, с которым придется согласно сюжетам фильмов человечеству выстраивать свои взаимоотношения.

Также в работе рассматривается научный пласт данной проблемы. А именно – этические проблемы ассистивной робототехники, проблемы ИИ как морального агента и проблема сильного ИИ. Этические проблемы в ассистивной роботехнике – это проблемы, связанные с взаимодействием с роботами-нянями и роботами-любимцами/компаньонами, относящимися к классу роботов со слабым, ограниченным ИИ. Наиболее часто упоминаемыми этическими проблемами для такого ИИ являются проблемы антропоморфизма роботов, регулирования прав личной жизни, проблема отчужденности от социума и ухода в одиночество людей, утрата навыков реального общения с обычными людьми. Далее мы рассматриваем ИИ как морального агента. Что касается условий при которых ИИ может выступать как моральный агент, то Ник Бостром [Бостром, 2016] и Элизер Юдковский [Юдковский, 2001] выделяют условия, при которых это возможно: обладание Sentience (чувствительно-стью) и Sapience (разумностью). Также в работе уделяется внимание обсуждению этических дилемм в контексте развития и использования ИИ, и преломлении классической дилеммы «вагонетки» в применении к автономным машинам. В работе рассматриваются и проблемы «сильного» ИИ и то, как они освещаются в научном сообществе.

Это две основные темы: экзотические свойства «ума» у такого интеллекта и проблема «сингулярности». Под экзотическими свойствами сильного искусственного интеллекта понимается иное времявосприятие, которое непонятно нам, иные способы мышления и выстраивания логических цепочек, невозможность прогнозирования результатов мышления человеком. Проблема сингулярности представляет собой (по мнению некоторых ученых и философов) неизбежную перспективу в развитии искусственного интеллекта, связанную с тем, что искусственный интеллект неизбежно займется саморазвитием себя и постепенно уйдет за грань понимания его свойств и способностей человеком. Люди не смогут поспевать за такой быстрорастущей системой и окажутся не в состоянии на нее влиять.

По итогам проведенного исследования можно сделать следующие выводы: 1. Этическая сторона вопроса о разработке и внедрении технологий ИИ чрезвычайно важна. ИИ является совершенно иного рода технологией, которая впервые ставит перед человечеством необходимость решения проблемы субъектности ИИ. Однако на сегодняшний день проработка этой стороны вопроса не воспринимается научным сообществом на должном уровне и обсуждается в узких кругах деятелей гуманитарной сферы, футурологов, философов. 2. Наиболее важными являются следующие этические проблемы, которые требуют своего рассмотрения: 1) Для ассистивной техники, внедрение которой будет происходить в горизонте 3–5 лет, важными являются проблемы антропоморфизма роботов-нянь, регулирования прав личной жизни, проблема отчужденности от социума, и связанная с этим деградация навыков реального общения с обычными людьми. Необходимо всестороннее обсуждение этих этических проблем и поиски решения; 2) Для автономных транспортных средств важным является вопрос внедрения систем морального выбора, поскольку беспилотная машина на дороге может столкнуться с этической дилеммой по типу «дилеммы вагонетки». Вопрос, кто будет нести ответственность в случае несчастья, далеко не праздный.

Встает вопрос и выработки систем морали для такого рода автономных машин – на каких принципах это будет сделано: либо на принципах консеквенциализма («наименьшего вреда») или других принципах? 3) Для сильного интеллекта наиболее значимая проблема – это нормы и принципы сосуществования с человеком, а также проблема разработки и создания человеком такого интеллекта, свойства которого не доступны человеческому восприятию и прогнозированию. Возможно, что разумность ИИ будет другая, чем наша способность мыслить, что требует разработки определенных подходов и решения трудной проблемы сознания. 3. Важнейшей проблемой является проблема «сингулярности» в развитии технологий ИИ.

Неконтролируемое развитие технологий ИИ может привести к угрозе существования человека, о чем говорится в открытом письме, подписанным видными деятелями науки (более 50 ученых подписали открытое письмо против развития сильного ИИ). Суть этой проблемы заключена в потере человеком понимания и контроля в развитии ИИ, что может привести к катострафическим последствиям (An Open Letter “Research priorities for robust and beneficial artificial intelligence”). 4. Дискурс-анализ прессы показал четыре вида дискурсов: дискурс технологического прогресса, дискурс экономического развития, дискурс восторга от новых технологий, дискурс страха и запугивания.

Дискурсы экономического развития и технологического прогресса – это привычные старые дискурсы, в которых рассмотрение этического аспекта внедрения ИИ не возникает. В статьях с дискурсом страха и запугивания и в статьях с дискурсом восторга перед ИИ отношение к данным технологиям эмоциональное – либо с восторгом, либо со страхом. В этих дискурсах взгляды на этику диаметрально противоположны. Так, в дискурсе страха и запугивания этическая сторона сводит все ожидания к запрету или существенному ограничению и регулированию разработки и применения искусственного интеллекта.

В дискурсе восторга от технологий наоборот, все представляется как прорыв, а проблемы либо сами решаемы, либо имеют очевидное и простое решение. 5. В фильмах, посвященных ИИ, этические проблемы ставятся шире, чем в прессе, и затрагивается практически весь спектр проблем, которые ставит перед собой научное сообщество. Основная проблематика в фильмах – это проблемы взаимодействия между человеком и ИИ. При этом в фильмах дается разная перспектива взаимодействия ИИ с человечеством, по-разному определяется место ИИ в социуме. В фильмах показана наша эмоциональная уязвимость перед ИИ, а также, что попытка контролировать ИИ не возможна.

Слабый ИИ уязвим перед хакерскими атаками, тогда как сильный ИИ легко просчитывает действия человека и может их обойти. Поставленные в фильмах проблемы говорят о неоднозначности прогнозов и наших ожиданий относительно сильного ИИ и его поведения. Мы не знаем пока, как будет происходить эволюция с появлением еще одного разумного «вида» на планете Земля. По какому пути пойдет история разумных роботов, нам пока не ясно.

Литература 1. Фуко М.П. Археология знания; пер. с фр. / М.П. Фуко; общ. ред. Бр. Левченко. – К.: НикаЦентр, 1996. – 208 с. 2. Бостром Н. Искусственный интеллект: этапы угрозы стратегии / Н. Бостром. – МИФ, 2016. – 496 с. 3. Юдковский Э.Ш. «Создание дружественного ИИ» / Э.Ш. Юдко́вский. – MIRI Machine Intelligence Research Institute, 2001. – 282 с.

Савин А.Г.

ПОДПИСКА НА НОВОСТИ

Ежедневные обновления и бесплатные ресурсы.