+7 499 322-34-68 будни: 9–20, выходные: 11–18
Десять принципов Наделлы
14:44, 8 Июля 2016

Александра Галяутдинова

Технологическая сингулярность неизбежна, и точно произойдет в ближайшее столетие. Об этом говорили футуристы, мечтатели, ученые и Элон Маск. Но если основатель SpaceX и Tesla весьма настороженно относится к появлению на свет искусственного сверхинтеллекта, то генеральный директор Microsoft Сатья Наделла настроен очень оптимистично.


partnership-for-future-03.jpg

«Представьте, что произойдет, если человек и разумная машина начнут вместе работать, чтобы решить серьезные проблемы нашего общества, попробуют победить болезни, невежество, бедность», – пишет в статье для Slate уроженец индийского штата Андхра-Прадеш, взошедший к вершине корпоративной пирамиды американского гиганта.

У скептиков и пессимистов есть свои причины не особо радоваться появлению реального ИИ. Тут дело не столько в поп-культурных «мемах» вроде навязчивого голоса суперкомпьютера HAL 9000 из «Космической одиссеи» или менее разговорчивого Терминатора, эмиссара Скайнета. Разумеется, ученые мужи существуют в том же самом культурном пространстве, что и все остальные смертные. Предупреждая об опасности непредсказуемого компьютерного суперинтеллекта, они умеют абстрагироваться от личных страхов и руководствуются логикой.


Кроме почти научно-фантастических сценариев с суперкомпьютером, разделывающим планету на красивые солнечные батареи, есть гораздо более реалистичные варианты развития истории, хорошо знакомые человечеству. Изобретение ткацкого станка лишило работы ткачей-ремесленников, книгопечатание положило конец рукописным книгам и переписчикам, а современные роботы-кассиры уже начали заменять людей.

Грядущая новая индустриальная революция может оставить без работы даже адвокатов и медицинских работников. Масштабы возможного экономического вытеснения станут действительно катастрофическими. Программистам, злорадствующим над проблемами «синих воротничков» и «идиотов-гуманитариев», не стоит расслабляться: собственную репродукцию и обслуживание умные машины освоят первым делом.

partnership-for-future-04.jpg

Наделла, однако, призывает не погружаться в бессмысленные дебаты о том, хорошими или плохими будут умные машины. Он ставит вопрос иначе: какие качества и ценности должны разделять люди, создающие эти машины и какими качествами и ценностями машины будут в итоге обладать.

В 1995 году основатель Microsoft Билл Гейтс в меморандуме «Приливная волна интернета» предсказал влияние глобальной сети на связь, электронику, программное обеспечение и коммерцию. Новый глава корпорации пытается предугадать, какими универсальными принципами будут руководствоваться те, кто будет придумывать, разрабатывать и осуществлять прибытие «приливной волны» ИИ.

partnership-for-future-05.jpg

Отталкиваясь от трех законов робототехники Айзека Азимова, Наделла сформулировал свой список указаний к разработке компьютерного разума, но дополнил их требованиями к человечеству.

Всего «принципов Наделлы», которыми должны руководствоваться все члены будущего общества, получилось десять.

Искусственный интеллект создается в помощь людям.

Автономные роботы будущего, по Наделле, это «ко-боты», помощники, созданные с уважением к человеческой автономии. Они возьмут на себя опасные работы вроде добычи ископаемых, чтобы гарантировать безопасность людей.

partnership-for-future-06.jpg

Технологии искусственного интеллекта должны быть «прозрачными».

«Умная» машина — прежде всего, понятная машина, сделанная по общеизвестным принципам, и скорее «симбиотический» интеллект, чем «искусственный». Люди будут знать, как роботы видят мир, и при разработке ИИ этика с дизайном должны идти рука об руку.

Новые «умные» технологии призваны максимизировать эффективность, не унижая человеческое достоинство.

Для этого новая технология должна сохранить культурное разнообразие, а к разработке новых систем нужно привлечь самые широкие слои человечества. Технократы не имеют права диктовать ценности и качества этого будущего.

Дизайн умных технологий обязан предусматривать встроенную защиту прав личности и групп.

Для этого потребуется сложная система защита личной и групповой информации от несанкционированного доступа, которая бы завоевала всеобщее доверие.

Искусственный интеллект нуждается во встроенной системе алгоритмической ответственности.

Подразумевается аварийная кнопка выключения, которой бы могли воспользоваться люди для предотвращения причинения непреднамеренного вреда.

partnership-for-future-07.jpg

Искусственный интеллект обязан быть непредвзятым.

Сложно представить предвзятого робота, но если его запрограммирует предвзятый инженер, то такой машина и окажется. Компьютерному разуму нужны методы защиты от возможного проявления дискриминации по любому признаку.

Человечество должно сохранить возможность сопереживать.

Сочувствие тяжело воссоздать в виде технологии, поэтому в будущем мире людей и машин оно будет особенно ценным качеством. Критически важно не растерять способность воспринимать чужие мысли и чувства, сотрудничать и строить отношения.

Образования станет целью жизни каждого человека.

Новые быстро развивающиеся технологии потребуют огромного массива знаний для управления собой, дальнейшей разработки и успешного применения. Более того, это еще один социальный вызов, поскольку без всеобщего доступа к новой информации возрастет неравенство.

Творчество продолжит быть важнейшим человеческим навыком.

Машины обогащают и разнообразят человеческую творческую деятельность, но она останется, прежде всего, человеческой. Особенно важным станет постоянный творческий поиск.

partnership-for-future-08.jpg

Именно люди будут нести весь груз ответственности.

Компьютерный разум сможет поставить диагноз или принять юридическое решение, но последнее слово всегда должно оставаться за человеком.

«Наиболее важным шагом в нашем общем стремлении к ИИ является достижение согласия по вопросам его этической и эмпатической основы», — пишет Наделла. Остается надеяться, что на дебаты о нравственности и морали осталось достаточно времени.

Более подробно со взглядами Сатьи Наделлы на будущее технологий можно будет ознакомиться в его книге Hit Refresh, которая выйдет осенью 2017 года.

Madrobots-Сообщество