Олаф Грот — профессор Международной школы бизнеса Хальта. В своей последней книге «Код Соломона», написанной в соавторстве с экспертом в области искусственного интеллекта Марком Ницергом, Грот размышляет о том, как ИИ и сбор данных изменят жизнь человечества. Сайт BREAKER опубликовал интервью с профессором в отредактированном и сокращённом виде.
BREAKER: Вы сравниваете искусственный интеллект и открытые блокчейны, называя оба эти явления обоюдоострыми мечами. У прогресса всегда есть цена?
Олаф Грот: Большинство инноваций имеют свои плюсы и минусы. Даже автомобиль можно превратить в орудие убийства. Даже технология вакцинации имеет тёмную сторону: из-за неё вирусы начинают быстрее мутировать. ИИ, как и блокчейном, можно злоупотреблять, поскольку это китайская грамота для большинства людей. Массы не интересуются математикой, не говоря уже о программных кодах. Эффект от данных технологий не всегда очевиден. Необходим более тщательный мониторинг этой сферы.
BREAKER: ИИ имеет тенденцию усиливать социальную сплочённость, объединяя людей. Блокчейн — по крайней мере в смысле его риторики — это протест против «фейсбучного стиля», когда ты постоянно сидишь, уткнувшись лицом в монитор. Уравновешивают ли друг друга инновации?
Олаф Грот: Реальный мир гораздо сложнее этого. У блокчейна есть потенциал децентрализации и анонимизации данных, но в этих аспектах присутствуют риски. Благодаря ИИ и блокчейну мы не знаем, кто, так сказать, за рулём. Блокчейн можно использовать для деятельности, которая не требует вмешательства государства. У ИИ есть возможность влияния на расстоянии: можно скрыть, кто и что делает.
Технология развивается кластерами. Интернет появился на свет вместе с мобильной связью, сетевой коммерцией и технологией видео, благодаря чему сейчас нам доступен разнообразный веб-контент. Я думаю, что блокчейн и ИИ образуют другой кластер, в который также входят квантовые вычисления, редактирование генома посредством изменения CRISPR (прямых повторов ДНК), 3D-печать и нанотехнологии. Все эти явления — столпы новой когнитивной эры. Мы всё больше становимся способны менять физическое состояние человеческих существ и среды их обитания.
Нам следует задуматься о том, как технология воздействует на жизнь общества в разных её аспектах. В Кремниевой долине привыкли считать: «Мы разработали новую технологию, она произведёт революцию в индустрии, и у тебя есть простой выбор — за или против. Это замечательно, пока речь идёт об устаревших отраслевых структурах. Но в смысле воздействия новых технологий на социальную структуру не всё так гладко. Мы должны признать наличие цепей обратной связи. Что происходит, когда Россия начинает манипулировать машинным обучением и я вижу в ленте новостей Facebook только специально отобранные новости? Нам необходима усиленная «этическая цензура». И необходимо практическое решение, нельзя отдавать эти темы на откуп исключительно философам.
BREAKER: В вашей книге описывается фантазия о том, как ИИ находит для героини ресторан, исходя из её текущего настроения. Если определением человека служит свобода воли, то не указывает ли подобное тому, что вы описали, на утрату человеческой природы?
Олаф Грот: Нам следует позаботиться о том, чтобы люди всегда знали, как и почему они принимают те или иные решения. И если они не соглашаются или желают знать больше, у них должна быть возможность нажать кнопку и получить информацию. Нам нужна кнопка для отказа. Если этого нет, мы теряем свободу выбора, которая и делает нас людьми.
BREAKER: Случайный выбор также представляет ценность.
Олаф Грот: Согласен. Если решения за меня принимают машины и на протяжении всей жизни всё больше и больше мной руководят, то окружающий мир не может случайно, по счастливому стечению обстоятельств, воздействовать на меня, что становится барьером на пути самопознания.
BREAKER: В первой же фразе первой главы вашей новой книги говорится о том, как быстро люди начинают считать инновации нормой. Как можно лучше реагировать на риски новых технологий по мере их стремительного развития?
Олаф Грот: Мы становимся умнее. Раньше мы просто переживали из-за того, что люди вредят себе, слишком много времени проводя в Facebook. Теперь же мы действительно понимаем: «Господи, да это явление меняет структуру социума». Я думаю, что с ростом негативного опыта будет расти осознанность.
Но для того, чтобы упреждать риски, нам нужны целевые рабочие группы, которые станут анализировать эффект тех или иных алгоритмов. Мы ведь не разрешаем кому-то просто построить самолёт и заявить: «Добро пожаловать на борт, мы попробуем полетать». Нет, есть Федеральное агентство воздушного транспорта, инженеры которого сертифицируют самолёты и их технические компоненты, и эти люди подписывают обязательства о неразглашении секретных сведений. Нам нужна аналогичная модель, в рамках которой эксперты проводили бы аудит кода, обязуясь не разглашать эти данные. Они будут решать: «Этот код не содержит изъянов, а в этом присутствует алгоритм, который устраняет недостатки, присутствующие в данных; этот хорош, а этот ещё лучше».
BREAKER: Как вы чувствуете — ИИ упростит людям взаимодействие с миром или, напротив, затруднит его?
Олаф Грот: Определённые транзакции он упростит. Компьютер, мобильный телефон, часы, машина, дом будут понимать мои ключевые предпочтения и облегчать некоторые транзакции. Но я также думаю, что взаимодействие этих алгоритмов ускорит процесс изменений. Поскольку столь многие реалии становятся «умнее», среда нашего обитания становится всё более сложной, а скорость происходящего в ней растёт. Мы теряем способность понимать, как различные части системы объединяются и взаимодействуют.
В книге «Код Соломона» мы с Марком Ницергом пишем о том, как Управление перспективного планирования оборонных научно-исследовательских работ США разрабатывает системы ИИ, чтобы с их помощью лучше понимать природу климатических изменений и продовольственных кризисов и предотвращать их или ослаблять последствия.
Подобные системы способны принести огромную пользу людям во всём мире. Это благо для общества и для человечества. Но также мы достигли той стадии развитии, когда даже гениальный компьютерный учёный уже не понимает, каким образом машина думает обо всём том, о чём думает. Мы понимаем, что машины способны творить чудеса, но также сознаём, что не в силах подвергнуть всё анализу и понять.
BREAKER: Предположительно, определённые категории людей в большей мере выиграют от этого изменения среды обитания?
Олаф Грот: Выиграет класс, обеспеченный технологиями и управляющий ими. Выиграет капитал, поскольку технология увеличивает потребность в капитале и его ценность. Выиграет ли рабочий класс — вопрос.
Мы рискуем, если не делаем некоторые явления более демократичными, будь то пулы открытых данных или ПО с открытым исходным кодом. Мы вынуждены наблюдать, как класс технологов-интеллектуалов становится всё умнее и богаче.
BREAKER: Главы успешных технологических проектов, такие как Марк Цукерберг, не сумели предвидеть последствия второго порядка, которые породили их творения. Как можно мотивировать таких людей мыслить в этом направлении?
Олаф Грот: Можно делать это органично, а можно — искусственно. Вы надеетесь, что господин Цукерберг умён и извлечёт уроки из ошибок. Это естественный путь развития. Неестественный путь — это когда в дело вмешиваются Конгресс США и Европарламент. Им (чиновникам) нужны ассистенты и консультанты, которые просвещали бы их в вопросах технологий и учили терминологии. То, как недавно американские и европейские бюрократы призвали Цукерберга к ответу, отвратительно.
BREAKER: Потому что они не знают, как призвать его к ответу.
Олаф Грот: Они не знают, в чём состоит различие между прикладным уровнем ПО и промежуточным. Они не в силах применить свою власть до тех пор, пока не поймут, как она применима к технологиям.
BREAKER: Смогут ли пользователи в будущем отказываться от технологий?
Олаф Грот: Общий регламент ЕС по защите персональных данных потенциально создаёт более справедливый режим работы и развития смарт-технологий. Но даже если это не так, когда рынок на 500 млн. человек защищает себя и говорит: «Если ты хочешь здесь работать, то обязан соблюдать правила», он посылает крупным интернет-компаниям сигнал о необходимости быть умнее. А всё более суровые запреты в Китае причинят вред аналогам Google и Facebook во всём мире, я думаю.
BREAKER: Мы затронули тёмную сторону, но каковы самые очевидные и большие плюсы этих технологий?
Олаф Грот: ИИ поможет понять сложное устройство человеческого тела и подвергнуть анализу совокупности систем. Он позволит изменить модели распределения, маршрутизации и менеджмента в транспортировке. Студентам и преподавателям он поможет в обучении. Кроме того, у него есть гигантский потенциал применения в сферах борьбы с преступностью и распределения продуктов — благодаря ИИ можно устранить из них деструктивную политическую составляющую.
Но это шаткий баланс, поскольку нам нужен политический дискурс, чтобы сформировать определённое мировоззрение, ментальность, политическую волю. Если преждевременно напичкать всё смарт-машинами, люди утратят способность самостоятельно мыслить. Это ещё один обоюдоострый меч. Тем не менее я усматриваю потенциал всеобъемлющей трансформации общества, и этот процесс займёт 20-25 лет.
