Искусственный интеллект: возможность или угроза? Разберемся!

Искусственный интеллект научили находить метеориты на поверхности Земли”, “Искусственный интеллект всего за 6 часов сгенерировал 40 000 вариантов биохимического оружия”, “Исследование: искусственный интеллект уничтожит человечество”. 

Каждый день мы все чаще и чаще слышим об искусственном интеллекте (ИИ). Да и сталкиваемся с ним тоже практически на каждом шагу. Например, система распознавания лиц, которую используют при разблокировке телефона, оплате услуг, расследовании преступлений и пр. Или чат-боты на основе ИИ, которые помогают бизнесу поддерживать коммуникацию с клиентами. Технологии на основе ИИ уже сделали жизнь человека намного проще, а ведь они только набирают обороты в своем развитии. Плюсов, само собой, очень много, но вот что насчет угроз, которые могут стать следствием столь массового использования искусственного интеллекта? 

 

Инклюзивные демократические институты, в частности право на неприкосновенность частной жизни и тайну коммуникации, — единственное, что удерживает развитые страны от погружения в болото деспотизма и нищеты. К несчастью, некоторые современные технологии дают возможности, о которых Большой брат из романа Оруэла мог только мечтать: непрерывная автоматизированная слежка за всеми без исключения с помощью камер, подключённых к системам биометрического распознавания, точное определение эмоций по мельчайшим движениям, прогнозирование поступков с помощью профилирования. Что может ответить общество на этот вызов? Сможет ли традиционное регулирование поставить эту силу на службу людям? Что еще можно сделать? Вопросы пока остаются открытыми, — поделился своим мнением Сергей Воронкевич, CIPP/E, CIPM, CIPT, MBA, FIP, основатель DPO LLC, тренер и ведущий консультант

Искусственный интеллект

ИИ — новый черный

Сегодня ИИ активно применяется во всех сферах жизни общества. Как отмечают исследователи компании McKinsey, наиболее востребованы технологии в следующих сферах: 

⚡  Работа с клиентами  

⚡  Разработка продуктов и услуг  

⚡  Маркетинг и продажи  

Искусственный интеллект так популярен, потому что представляет собой своеобразную концепцию, которую бизнес может реализовать разными способами. К тому же, всегда есть вариант объединения нескольких технологий. Так, например, возник беспилотный транспорт, который «видит» ситуацию на дороге с помощью лидаров (приборов, измеряющих расстояние до других предметов, а также время на излучение света и его возврата), анализирует ее и принимает решение: ехать дальше, замедлиться или остановиться. 

ИИ

Если говорить о возможностях для бизнеса, то и здесь ИИ может стать очень полезным инструментом. Например, в некоторых сферах важным условием успеха является быстрая обработка поступающей информации и моментальное реагирование на нее (биржевые операции). В отличие от обычных алгоритмов, которые не способны без предварительного обучения самостоятельно адаптироваться к новым условиям и данным, искусственный интеллект обеспечивает такую возможность. 

Еще один пример — разработка маркетинговой стратегии на основе имеющейся информации, а также целей и миссии компании. Искусственный интеллект может не только быстро проанализировать опыт предыдущих продаж, но и спрогнозировать будущие, при этом учесть поведение конкурентов, общую ситуацию на рынке и т.д. Конечно, человек тоже способен на это, однако в некоторых случаях время — очень ценный ресурс.  

Не стоит забывать и о защите, которую может предоставить ИИ. Самообучающиеся нейронные сети помогают анализировать поведение пользователей и выявлять подозрительные операции, а также создавать алгоритмы для предотвращения финансовых потерь. Результат: система становится менее уязвимой, что является важным условием доверия клиентов и партнеров. А еще это может спасти компанию от штрафов и санкций, связанных, например, с утечкой данных. 

Все ли так хорошо?

Любую технологию можно использовать как во благо, так и во вред. ИИ не исключение. В этом ключе логично обсудить угрозы в сфере приватности, которые возникли из-за столько широкого использования “технологии будущего”. 

Возьмем хотя бы систему распознавания лиц, которая встречается практически на каждом шагу. Ее можно использовать как для разблокировки смартфона, так и шпионажа. Многочисленные случаи из практики показывают, что государственные органы и частные компании реализуют системы распознавания, пренебрегая оценкой возможных последствий и влияния на права, свободы и законные интересы отдельного человека и всего общества. Более того, внедрение технологий ИИ опережает не только правовое регулирование, но и формирование этических норм.  

А еще по мнению McKinsey, одной из наиболее перспективных ИИ-технологий станет гиперперсонализация — алгоритмы, которые позволят максимально точно определить потребности клиентов и предложить им более подходящие товары или услуги. Это можно использовать как в маркетинге, так и в продажах: например, банковских кредитов, одежды или обуви. Но также и для слежки за человеком. 

Наибольшее беспокойство по поводу применения ИИ выражает ЕС.  Европейский парламент в своей Резолюции от 6 октября 2021 г.1 подчеркивает:

 

Люди не только имеют право на правильную идентификацию, но и право не быть идентифицированными вообще, за исключением случаев, когда этого требует закон в силу непреодолимых и законных общественных интересов (п. 8). 

 

Китай, который известен своими практиками массового наблюдения, постепенно устанавливает законодательные ограничения для использования технологий ИИ. Согласно ст. 26 Закона КНР о защите персональной информации (PIPL) сбор персональных изображений и отличительных идентификационных признаков может осуществляться только для целей национальной безопасности, и не может осуществляться для иных целей, за исключением отдельного согласия субъекта данных. 

Выражением мирового тренда на ограничение технологий распознавания является, в частности, упомянутый доклад Верховного комиссара ООН по правам человека. Мишель Башеле (Michelle Bachelet) заявила, что приветствует недавние шаги по ограничению или запрету технологий биометрического распознавания в режиме реального времени. 

Еще одной загвоздкой является то, что “ИИ не может ошибаться”. Исследователи из Кембриджа утверждают, что машина свято верит в свою непогрешимость и никогда не признает, что ошиблась. Этот изъян вызван фундаментальными законами математики, а не белыми пятнами в программе. В нем просто нет самокритики. А когда речь идет о защите прав и свобод граждан, то эта “недоработка” может сыграть очень злую шутку.  

Приведем пример. Журналисты Bayerischer Rundfunk решили проверить, насколько хорошо работает ИИ-система, которую уже используют в подборе персонала Люфтганза, BMW и другие крупные компании. Оказалось, что программа существенно меняет оценку одного и того же человека в зависимости от наличия очков или головного убора, а также заднего фона. Кандидат на фоне книжного шкафа оценивался как более открытый и прилежный, чем он же, но на другом фоне. Более того, на оценку повлияло и качество освещения. 

Профессор Катарина Цвайг в этом контексте отмечает: «ИИ, в целом, отличный инструмент, и нам следует его использовать. Но не для анализа человеческого поведениятут возникают проблемы». Похожего мнения придерживается и Джулия Энгвин, журналист, изучающий влияние технологий на общество: «Идея о том, что черты лица могут хоть что-то сказать о ваших профессиональных качествах  научно не обоснована». Однако все это не важно для ИИ-технологии, ведь она “не может ошибаться”.  

По мнению Дениса Садовникова, юриста по искусственному интеллекту и приватности, CIPP/E, GDPR DPP, DPM, главная угроза, связанная с ИИ, состоит в том, что люди все больше полагаются на решения, предлагаемые машинами. Постепенно это может привести к снижению их способности принимать самостоятельные решения, критически оценивать факты и события, а также те варианты, которые предлагает тот же AI. К сожалению, эта тенденция уже прослеживается. Как было сказано в одном интернет-меме: «Меня беспокоит не рост искусственного интеллекта, а упадок естественного». 

Не все так страшно

Технологии искусственного интеллекта — это, несомненно, большой шаг в развитии человечества. Они могут открыть для нас как много возможностей, так и угроз. Однако этот вопрос необходимо поставить на контроль. И одной из попыток стало принятие 21 апреля 2021 Европейской комиссией Artificial Intelligence Act — первого в истории правового документа по искусственному интеллекту, который устанавливает законодательные рамки в использовании машины. Не так давно у нас проходил вебинар “GDPR-2. Судный день для индустрии искусственного интеллекта”, где эксперты в сфере приватности Сергей Воронкевич, Денис Садовников и Александр Тюльканов обсудили, как будет регулироваться Искусственный Интеллект в Европе и что представляет собой Artificial Intelligence Act.  

 

Несомненно, изменения в нашей жизни, связанные с AI, невозможно остановить, да и не нужно пытаться этого сделать. Изменения — это часть развития, часть нормального жизненного процесса. Изменения не нужно останавливать или замедлять, ими нужно управлять, чтобы направить их в правильное русло. Так и с AI. Нельзя сопротивляться его развитию и внедрению: нужно управлять этими процессами и не допускать хаоса. Я думаю, что в силах человечества сделать AI человеко-центричным и заставить его служить людям, — отметил Денис Садовников.  

ии

Вопрос сложный и требует тщательного обсуждения представителей различных сфер жизни общества: юристов, прайвасистов, чиновников и др. Чтобы у вас сложилась более полная картина, собрали подборку полезных материалов по ИИ.  

📌  Как искусственный интеллект меняет труд и производство  

📌  Панельная дискуссия. AI vs. Privacy: Не спрятаться, Не скрыться. 

📌  Дочерняя компания Alphabet создала нейросеть, которая пишет код на уровне среднего программиста 

📌  Privacy by design: как используют GDPR в AI технологиях 

📌  Искусственный интеллект и GDPR 

📌  Дистанционное распознавание людей в режиме реального времени: позиция международных организаций и экспертного сообщества, лучшие практики правового регулирования и правоприменения 

📌  Европейский подход к использованию ИИ в правосудии  

📌  GDPR and AI: Friends, foes or something in between? 

📌  И на закуску, документальный фильм BBC: Искусственный интеллект: не боишься, человек? 

Расписание курсов загружается, подожди несколько секунд