Этика дронов: интервью с Петром Левичем

23 июня 2016
Этика дронов: интервью с Петром Левичем

Стремительное развитие технологий ставит человечество перед вопросом изменения этических норм. Можно ли дать машинам право на убийство? Насколько «нормальной» является привязанность человека к искусственному интеллекту? Можно ли пожертвовать этическими нормами во имя прогресса? Об этом Петр Левич расскажет слушателям конференции «Дроны и будущее» 13 августа в «Сокольниках» в рамках Drone Expo Show.

Досье. 

Петр Левич — директор департамента взаимодействия технологий и общества МТИ, сооснователь Future Foundation.

Здравствуйте, Петр. Можете ли вы сказать, какие масштабные изменения принесет развитие робототехники в будущую жизнь?

Робототехника повлияет на жизнь в значительной степени. В сегодняшнем мире существует множество профессий, не требующих значительных умственных усилий и квалификации. В ближайшем будущем большую часть такой работы будут выполнять роботы.

Отдельный вопрос, насколько мы хотим жить в таком обществе. 

Когда мы сможем увидеть это «ближайшее будущее»? Когда произойдут ощутимые изменения использования роботов в повседневной жизни?

Они происходят уже сейчас, просто пока не заметны большинству. Например, завод в Китае заменил несколько десятков тысяч человек роботами. Непосредственно на нас это не сказалось, но постепенно в процесс будет вовлекаться все больше людей.

При этом большая часть профессий, в которых человека заменит робот, будет приходиться даже не на рабочих, а на менеджерские и управленческие должности. «Вытеснять» их будут не роботы, а IT-системы. Мы видим начало этого процесса уже сейчас.

Это в первую очередь касается менеджеров, сотрудников call-центров. Скоро в большинстве инновационных компаниях их заменят IT-системами.

В качестве темы своего выступления на Drone Expo Вы выбрали этические проблемы робототехники. Чем интересен этот вопрос?

Этические вопросы, которые рассматривает данная тема, касаются совершенно разных областей. Так, перед важным этическим выбором человечество ставит генетику. Вспомним пример редактирования генома человека. Первыми подобный эксперимент провели китайцы, и сначала это не было принято этическими комиссиями почти всех стран. Но спустя 8 месяцев Великобритания разрешила у себя этот эксперимент, просто потому, что поняла: или она проигрывает технологическую гонку в стратегически важном направлении, или изменяет нормы этики — и она выбрала второе. Я думаю, что этические запреты в мире будут падать по принципу домино.

Что касается робототехники, много этических вопросов возникает о секс-роботах, наших взаимоотношениях с искусственным интеллектом — даже не сексуальных, а эмоциональных. Эта ситуация хорошо показана в фильме «Она», где персонажи испытывают привязанность к ИИ. 

Распространение дронов связано с появлением новых этических норм?

Принципиальных вопросов два: privacy и использование боевых дронов. Они сейчас очень активно обсуждаются.

Начнем с privacy — вопроса неприкосновенности частной жизни. Он возникает из-за возможности незаконной съемки с помощью камеры, встроенной в дрон. Сейчас, если какой-то человек снимает вас обычной камерой в окно, он может быть обвинен в нарушении права на частную жизнь и осужден. В чем проблема с дронами? Непонятно, кому он принадлежит и кто им управляет. Под страхом уголовной ответственности человек вряд ли пойдет с камерой к окну, но он может использовать дрон для съемок, потому что в такой ситуации он не рискует своей жизнью и свободой. В связи с нарушением privacy дронами уже было инициировано несколько судебных разбирательств.

Второй вопрос — это военное применение дронов: могут ли люди делегировать им право на убийство. Это вопрос о том, можно ли доверить принятие решения об убийстве не оператору дрона, а самому БПЛА. Многие известные люди, в частности  Стивен Хокинг, подписались под открытым письмом с требованием запретить программам (и дронам) право на убийство. Но рано или поздно мы все равно к этому придем.

Как скоро это может произойти? 

Гораздо быстрее, чем нам кажется. Расскажу реальный кейс. В Пакистане американские спецслужбы следили за террористами через паттерны телефонных разговоров. У них был доступ к базе мобильных операторов, и они знали, кто какие SMS отправляет, откуда, как часто телефон подключается к той или иной соте и так далее. Обученная нейронная сеть вычленяла из этой big data паттерны террористической активности, а потом вылетали дроны и уничтожали эти цели. То есть дроны сами не решали, кого уничтожить,  — им давал команду человек, но тот, в свою очередь, ориентировался на указания нейронной сети. А с нейронными сетями странная ситуация: невозможно предсказать, как они будут работать, можно только постфактум посмотреть логи их работы. Человек не может проверить результаты, потому что не в состоянии проанализировать объем big data. То есть люди фактически делегировали право решать, убивать или нет, программе, а дроны заканчивали дело.  

Ваше выступление на Drone Expo будет посвящено рассмотрению этих вопросов?

Этому в том числе. В своем докладе я рассмотрю то, как технологии меняют классические каноны этики. Мы поговорим об этических выборах, с которыми нам предстоит столкнуться, и о трудностях, которые встанут перед человечеством, если не будут преодолены технологические барьеры. 

 

Услышать выступление Петра Левича и других спикеров можно будет 13 августа на первой в России конференции  «Дроны и будущее: инновационные решения и перспективы». Узнать подробности и связаться с организаторами мероприятия можно на сайте drone-expo.ru

 

 

 

 

29 ноября 2017

Квадрокоптер NASA vs. пилотируемый дрон: кто победил?

Специалисты больших компаний все чаще задумываются о том, чтобы использовать квадрокоптеры в качестве инструмента для мониторинга или доставки грузов. Поэтому...

28 ноября 2017

Купил дрон? Оформляй права на управление им!

Представители власти Великобритании планируют серьезно взяться за контроль пилотирования квадрокоптеров, обязав владельцев сдать экзамены на получение специальных прав. В законопроекте,...

Подпишитесь на новости Drone Expo Show -

и сможете выиграть участие в мастер-классе

Подпишитесь, чтобы получить постматериалы мероприятия

Подписаться