Этические дилеммы сильного искусственного интеллекта Этические дилеммы сильного искусственного интеллекта

Этические дилеммы сильного искусственного интеллекта

На международном форуме «Этика искусственного интеллекта: начало доверия» эксперты обсудили, с чего начинать изучение субъектности ИИ

На форуме «Этика искусственного интеллекта: начало доверия» состоялась дискуссия «Научные исследования по этике искусственного интеллекта: как организовать и что исследовать». 

Эксперты в сфере международных отношений, предприниматели, физики и философы обсуждали, какой будет субъектность ИИ и можно ли ее спроектировать, какие этические принципы нужно заложить в ИИ-машину (если человечество еще не пришло к общему перечню этих принципов) и как создать и воспитать этичный ИИ в контексте разных культур. Как роботы и люди будут существовать — вместе или в отдельных зонах? 

Модератором сессии выступил Игорь Пивоваров, главный аналитик Центра компетенций НТИ «Искусственный интеллект» на базе МФТИ. По словам Игоря Пивоварова, этика ИИ сегодня — это оксюморон, поскольку у ИИ нет «внутреннего я», которое делает выбор и принимает решения. «В наше время, когда мы имеем дело со слабым ИИ, можно говорить только об этике разработчика и пользователя. Однако в условном 2050 году настанет время сильного ИИ, который будет обладать своей субъектностью». 

Александр Разин, доктор философских наук, завкафедрой этики философского факультета МГУ им. Ломоносова, считает, что научную деятельность в первую очередь необходимо направить на изучение моральной агентности и создание сообществ ИИ-субъектов. Он также выделил четыре ключевых характеристики интеллектуальных машин будущего. Прежде всего, у машины должен появиться аналог тела, поскольку сознание не может существовать без него. 

Машины должны уметь общаться между собой, оценивать друг друга и понимать значимость такой оценки, а также классифицировать события по степени важности. 

Александр Разин не ожидает особых противоречий между человеком и ИИ-технологиями в будущем. По мнению эксперта, сами роботы, наоборот, будут заинтересованы в сохранении человечества, чтобы имитировать его способности. 

Андрей Кулешов, советник по международному сотрудничеству и координации Центра компетенций НТИ «Искусственный интеллект» на базе МФТИ, обозначил важность национального и международного этического регулирования ИИ. Кодексы этики ИИ, рассказал Андрей Кулешов, сейчас интенсивно строятся на международном уровне. Так, Совет Европы работает над созданием Конвенции по охране прав человека при использовании ИИ — двухуровневого свода правил, включающего международное соглашение и возможность национального регулирования.

Аркадий Сандлера, управляющий партнер DOCET TI, экс-руководитель Центра искусственного интеллекта МТС, подчеркнул пользу кодекса этики ИИ для бизнеса: свод правил создаст в России дополнительные рамки, которые гарантируют, что новые этические принципы будущего не будут распространяться на события прошлого.

Сергей Шумский, директор Научно-координационного совета Центра компетенций НТИ по искусственному интеллекту на базе МФТИ, видит будущее научной работы в переносе центра тяжести с разработки индивидуального разума на разработку коллективного разума со встроенными принципами безопасности:

— Нет шанса создать единую этику, чтобы у всех людей была общая функция ценностей. Однако важно прийти к общим этическим принципам в вопросах, как разрешать конфликты мирными средствами и достигать компромиссов между субъектами с разными ценностями, а потом перенести их в киберпространство.

Сергей Шумский также отметил, что в лаборатории Центра уже ведутся работы над созданием агентов, которые обладают свободной волей и действуют из внутренних потребностей:

— Такие агенты будут жить среди нас. Сейчас они играют в игры и принимают решения исходя из желания выиграть. Задача человека — воспитать этих роботов так, чтобы они, действуя из собственных побуждений, решали его задачи.

Международный форум «Этика искусственного интеллекта: начало доверия» проходил в Москве 26 октября 2021 года, на нем обсуждалось использование технологий ИИ, а также мировые практики регулирования ИИ.