Что такое искусственный интеллект? Что такое искусственный интеллект (ИИ): определение понятия простыми словами Существует ли искусственный интеллект

Для книги «Архитекторы интеллекта: вся правда об искусственном интеллекте от его создателей» писатель и футурист Мартин Форд взял интервью у 23 самых выдающихся исследователей в области ИИ, включая CEO DeepMind Демиса Хассабиса, руководителя Google AI Джеффа Дина и ИИ-директора в Стэнфорде Фей-Фей Ли. Каждого из них Форд спросил, в каком году вероятность создания сильного ИИ составит не менее 50%.

Из 23 человек ответили 18, и только двое из них согласились на публикацию предсказаний под своим именем. Интересно, что они дали самые экстремальные ответы: Рэй Курцвейл, футуролог и директор по инженерным разработкам в Google, назвал 2029 год, а Родни Брукс, робототехник и соучредитель iRobot, - 2200. Остальные догадки расположились между этими двумя полюсами, среднее значение - 2099 год, то есть через 80 лет.

Форд говорит, что эксперты стали называть более отдаленные даты - в опросах прошлых лет они заявляли, что сильный ИИ может появиться примерно через 30 лет.

«Вероятно, существует некоторая корреляция между тем, насколько вы дерзки или оптимистичны, и тем, насколько вы молоды», - добавил писатель, отметив, что нескольким его собеседникам было за 70, и они пережили взлеты и падения ИИ. «После работы над этой проблемой в течение десятилетий, возможно, вы становитесь немного более пессимистичными», - считает он.

Форд также указал, что эксперты высказывают разные мнения о способе появления ИИ общего назначения - одни считают, что для этого достаточно имеющихся технологий, другие же категорически с этим не согласны.

Некоторые исследователи утверждают, что большинство инструментов уже готовы, а теперь требуются просто время и усилия. Их оппоненты убеждены, что для создания сильного ИИ все еще не достает многих фундаментальных открытий. По словам Форда, ученые, чья работа касалась глубокого обучения, склонны думать, что в будущем прогресс будет достигнут с использованием нейронных сетей - рабочей лошадки современного ИИ. Те, кто имеет опыт работы в других областях ИИ, считают, что для построения его сильной версии потребуются дополнительные методы наподобие символической логики.

«Некоторые люди из лагеря глубокого обучения очень пренебрежительно относятся к идее напрямую разработать что-то вроде здравого смысла в ИИ. Они думают, что это глупо. Один из них сказал, что это все равно что пытаться засунуть кусочки информации прямо в мозг», - говорит Форд.

Все опрошенные отметили ограничения существующих ИИ-систем и ключевые навыки, которые им еще предстоит освоить, в том числе трансферное обучение, когда знания в одной области применяются к другой, и обучение без наставника, когда системы узнают новое без участия человека. Подавляющее большинство современных методов машинного обучения полагаются на данные, размеченные людьми, что является серьезным препятствием для их развития.

Интервьюируемые также подчеркнули абсолютную невозможность делать прогнозы в области, подобной ИИ, где ключевые открытия начинают работать в полную мощь только спустя десятилетия после их обнаружения.

Стюарт Рассел, профессор Калифорнийского университета в Беркли, автор одного из основополагающих учебников по ИИ, указал, что технологии для создания сильного ИИ, «не имеют ничего общего с большими данными или более мощными машинами».

«Я всегда рассказываю историю из ядерной физики. Точка зрения, высказанная Эрнестом Резерфордом 11 сентября 1933 года, заключалась в том, что энергию из атомов извлечь нельзя. Однако на следующее утро Лео Силард прочитал речь Резерфорда, разозлился и изобрел ядерную цепную реакцию, опосредованную нейтронами! Таким образом, предсказание Резерфорда было опровергнуто примерно через 16 часов. Точно так же совершенно бессмысленно делать точные прогнозы в области ИИ», - сказал Рассел.

Исследователи также не сошлись в оценке потенциальной опасности ИИ. Ник Бостром, оксфордский философ и автор книги «Искусственный интеллект: Этапы. Угрозы. Стратегии» и фаворит Илона Маска, утверждает, что ИИ представляет собой большую угрозу для человечества, чем изменение климата. Он и его сторонники считают, что одной из самых больших проблем в этой области является обучение ИИ человеческим ценностям.

«Дело не в том, что ИИ возненавидит нас за порабощение или что внезапно возникнет искра сознания, и он взбунтуется. Скорее, он будет очень старательно преследовать цель, которая отличается от нашего истинного намерения», - сказал Бостром.

Большинство респондентов заявили, что вопрос об угрозе ИИ крайне абстрактен по сравнению с такими проблемами, как экономический спад и использование передовых технологий в войне. Барбара Грос, профессор в области ИИ в Гарварде, внесшая весомый вклад в область языковой обработки, сказала, что проблемы этики сильного ИИ в основном «отвлекают».

«У нас есть ряд этических проблем, связанных с существующим ИИ. Думаю, что не стоит отвлекаться от них из-за пугающих футуристических сценариев», - считает она.

По словам Форда, подобные споры можно назвать самым важным итогом его опроса: они показывают, что в такой сложной области, как искусственный интеллект, нет простых ответов. Даже самые именитые ученые не могут прийти к единому мнению в фундаментальных проблемах этой области знания.

Технологии искусственного интеллекта и машинного обучения перестали быть фантастикой и уже стали частью нашей жизни. Главным драйвером их развития является крупный бизнес: промышленность, ритейл, банковская сфера. Проблемы и специфику внедрения ИИ в России обсудили с компанией «Инфосистемы Джет».

Владимир Молодых Руководитель дирекции по разработке и внедрению программного обеспечения компании «Инфосистемы Джет»

Какое значение имеют технологии искусственного интеллекта сегодня? Какие возможности и в каких областях открывает развитие ИИ для людей?

Об искусственном интеллекте можно говорить как о философском и футурологическом понятии из фильмов о будущем. Но если говорить о реальной жизни, то он подразумевает ту или иную комбинацию методов машинного обучения: когда мы берем большой набор накопленных данных, на его основе с помощью специальной продвинутой математики создаем модель и учим ее решать ту или иную конкретную задачу.

То есть в реальной жизни ИИ применим в тех областях, где есть большой объем накопленных данных. Они бывают разных типов. Когда у вас есть условно три типа данных, то с ними может справиться один аналитик. Но если параметров более тысячи, причем часть из них неструктурированные, то это не поместится в голову ни одного аналитика. В таких случаях человеческий разум при поддержке аналитических инструментов предыдущего технологического уклада не в состоянии нормально всё проанализировать. Он будет упрощать, брать три-четыре ключевых параметра. И вот тогда машинное обучение — то, что является практической реализацией ИИ, — оказывается эффективным.

Почему именно сегодня говорят об ИИ, хотя на первый взгляд и соответствующая математика, и компьютеры были и двадцать лет назад?

Если говорить об узкоспециализированных задачах, то там машинное обучение использовалось и раньше. Есть четыре ключевых фактора, благодаря которым мы можем говорить, что ИИ — это новый глобальный тренд, меняющий мир. Первый — данных стало больше, например, если раньше на производстве были лишь бумажные записи, то теперь на станках стоят собирающие информацию датчики. Второй и третий факторы — это рост вычислительных мощностей плюс развитие соответствующих областей математики. Себестоимость решений снижается: из-за удешевления «железа» теперь не приходится ждать окупаемости проекта на производстве по десять лет. И последнее — постепенно развивается бизнес-практика, появляются специалисты с проектным опытом в этой области.

Почему процесс внедрения ИИ в России идет медленно?

Всё так. Сейчас в России действительно больше говорят об ИИ, чем реально делают. Тема модная, и чтобы отчитаться по ней «наверх», многие объявляют какой-нибудь хакатон и показывают фото в инстаграме. А результата, который меняет бизнес, не появляется. Исходя из нашего опыта, мы видим, что в большинстве крупнейших организаций России ИИ успешно внедряется лишь в 5-7% случаев от того, о чём говорят.

Дело в том, что это новый тип проектов, с которым пока не умеют грамотно работать. Это комплексная история: с помощью машинного обучения одну задачу можно решить достаточно быстро, но это требует значительной перестройки бизнес-процессов. Пример: можно сделать модель индивидуальных рекомендаций для клиентов торговой сети, но если наряду с этим будет работать классический маркетинг, например, акции в стиле «10% скидка на всё», то эти рекомендации работать не будут. Или, например, мы построили модель прогноза брака и выхода из строя машин в автопарке, но, пока эту модель строили, сменился поставщик ГСМ. А это тоже данные, влияющие на модель, — и она рассыпается. То есть организации нужно измениться, чтобы ее процессы соответствовали задачам, которые можно решать с помощью машинного обучения: эффективно выстроить обмен данными между подразделениями и так далее. Это комплекс изменений, которые нужно уметь делать, и нужно быть готовым бороться за него.

Мы пока находимся на стадии генерации рынка, и из-за его новизны возникают сложности. В частности, мы сталкивались с ситуацией на производстве, когда люди думали: «Значит, с браком будем бороться не мы, а какая-то модель ИИ, а мы, получается, не нужны». Мотивация страдала, и вместо помощи люди занимались критикой. Перед руководством, с одной стороны, стоит какой-то специалист по работе с данными из Москвы, а с другой — 45-летний мужик, знающий производство вдоль и поперек, который говорит: «Это работать не будет, а вы ничего не понимаете». И понятно, что в такой ситуации директор чувствует себя не очень уверенно.

В каких отраслях в России чаще всего используют ИИ и почему?

Во-первых, это инновационные интернет-компании. Тот же самый «Яндекс» — там это вообще везде применяется. Если брать крупные отрасли, то на первом месте будет ритейл, а также банки и страховые компании. Но я абсолютно уверен, что самый большой потенциал применения ИИ — в промышленности: это реальные производственные процессы с реальными деньгами и возможностью сокращения себестоимости. Но эта отрасль пока несколько отстает, потому что она консервативнее ритейла, который из-за конкурентной среды должен очень быстро развиваться.

Везде, где есть много данных. Особенно большой эффект будет в промышленности. Критерии — наличие данных и того, что можно оптимизировать. Это могут быть задачи технического обслуживания, ремонта, борьбы с браком, прогнозирования, «цифровых двойников», позволяющих заниматься анализом. Правильнее смотреть не на отрасли, а на тип задач. Если это штучное производство вроде производства истребителей, то здесь для большинства задач просто не будет необходимого объема данных. А если масштабное вроде стального проката или массовой сборки машин, то тут ИИ будет эффективным.

Зачем внедрять ИИ на предприятии?

Предприятие обычно занимается тем, что зарабатывает деньги — а так оно заработает больше. Сегодня производственные процессы шаг за шагом усложняются, появляется всё больше факторов и нюансов. Если раньше весь производственный процесс умещался в голову одного технолога, то теперь он находится за гранью того, что один человек или группа людей может учесть. Соответственно, усложняющийся процесс производства требует новых решений, в частности ИИ и машинного обучения.

Кроме того, на производстве особенно ценны люди, обладающие какими-то уникальными компетенциями. Они могут заболеть, выйти на пенсию, а использование ИИ повышает устойчивость бизнеса относительно человеческого фактора.

С какими самыми распространенными заблуждениями об ИИ вы чаще всего сталкиваетесь?

Заблуждения бывают двух типов. Первый: «Сейчас я возьму специалиста по работе с данными, он мне построит модель, и через пару недель у меня всё полетит». Так не бывает никогда. Другой тип: «Это всё фантастика и байки, а у нас другая жизнь, в которой это всё неприменимо». А истина тут на самом деле где-то посередине.

Есть распространенное мнение, что со временем ИИ сможет полностью заменить людей на производстве и в других отраслях. Вы разделяете его?

В масштабах трех-пяти-десяти лет будут возникать конкретные области, в которых человека будут замещать. Сейчас тестируется беспилотный транспорт, наверняка он будет постепенно заменять водителей, ведь он позволяет снизить аварийность и не платить деньги водителям. Если говорить о бизнесе, то это происходит прямо на глазах. Если раньше человек принимал решения в одиночку, то теперь он это делает при помощи средств машинного обучения или роботизации. Там, где раньше работали сто человек, сейчас может сидеть один технолог, один специалист по data science, а остальное делают машины.

Заменяться в первую очередь будут типовые задачи. Люди, занимающиеся индивидуальными, творческими задачами, пока в безопасности. А в областях, где тысячи сотрудников на одних и тех же позициях работают по регламенту, через три-пять лет их заменит ИИ.

С чего начать процесс внедрения ИИ на предприятии?

Первый шаг — это найти опытную команду, которая понимает, как это делать. Потому что подводных камней здесь уйма, и с ними нужно разбираться. Второй — найти задачи, которые можно решить с пользой для бизнеса, выстроить грамотные, разумные метрики, понять, как это конвертировать в деньги. Ведь быстрый успех — это тоже важно.

Как решить, делать это своими силами или привлекать подрядчика?

Любая компания должна постепенно двигаться к тому, чтобы IT стало для нее не просто поддерживающей функцией, а тем, что помогает зарабатывать деньги. Это значит, что ей нужно растить IT-компетенции, а это процесс небыстрый. Поэтому на стартовом этапе рационально привлечь экспертов и потом вместе с ними определиться, какие области компания должна развивать сама, а в каких полагаться на партнеров.

А как выбрать партнера?

Важно понимать, что тема ИИ комплексная. Нужна команда, которая не только разбирается в аналитической статистике, data science, машинном обучении, но и обладает комплексными компетенциями: начиная проектным управлением и заканчивая умением работать с данными, высоконагруженными системами, очисткой данных. Также важна информационная безопасность, ведь новые типы IT-решений влекут за собой новые IT-угрозы, при этом старые угрозы никуда не деваются. Поэтому нужна команда, которая умеет всё это.

На ваш взгляд, как технологии ИИ изменятся в будущем?

В практическом плане пока важно освоить то, что есть. Если говорить о будущем, мне кажется, технологии будут в первую очередь двигаться в сторону обучения с подкреплением, самообучения, когда система обучает сама себя на основании свежих данных. Но пока это больше теория, чем практика. Когда речь идет об обучении компьютера игре в го, то обучение с подкреплением работает. А в более комплексных практических задачах пока не особо.

Много ли существует площадок по практическому обсуждению проблем ИИ в России?

Форумов разных очень много, и на всех говорят об ИИ. Тема хайповая, тут может получиться как с нанотехнологиями. Видя всё это, мы проводим свой собственный форум Russian Artificial Intelligence Forum (RAIF). В этом году он пройдет уже в третий раз и состоится 22-23 октября в Сколково в рамках международного форума «Открытые инновации». Там мы говорим как раз о практике: какие в этой области есть проблемы, сложности и так далее.

А какова главная тема форума этого года?

В этом году главная тема форума — как «дотолкать» проект ИИ до промышленной эксплуатации, для того чтобы он приносил результат. Также ключевой акцент мы делаем на всех смежных темах. У нас есть секции о big data, информационной безопасности, «железе». У нас собираются математики, программисты, «железячники», специалисты по инфраструктуре и эксплуатации.

Мы говорим о реальной практике, а не о научных проблемах — хотя об этом у нас есть отдельная секция. Но в первую очередь мы собираем людей, которые реализуют проекты ИИ, рассказываем о собственном опыте, указываем на подводные камни. И главное — всегда рассматриваем задачи в комплексе, в разрезе проекта, а не какой-то философии или науки.

Факты ICTV рассказывают, почему не существует искусственного интеллекта, как кофейная машина использует ваши личные данные и или вытеснят когда-нибудь работы людей.

Гонконгская компания Hanson Robotics очередь создавала работа для помощи пожилым людям в домах престарелых. Внешность Софии моделировали по сходству к актрисе Одри Хепберн.

Но София - не искусственный интеллект.

Факты ICTV в рамках Киевского международного экономического форума пообщались с Натальей Космину, исследовательницей искусственного интеллекта Массачусетского технологического института.

Она объяснила, что такое София, почему искусственного интеллекта не существует и как научиться осторожно использовать личные данные.

Популярность Софии обусловлена ее сходством с настоящего человека - робот гуманоидного типа. Но на самом деле это лишь алгоритм задач, который спроектировали инженеры:

Это лишь определенный набор алгоритмов - их можно встроить в гуманоидного робота, можно встроить в робота, который похож на собаку, а можно "засунуть" в эту бутылку с водой (смеется - Авт.) . И это будет такой же робот, как и София, но на вид как банка с водой.

В Софии нет настоящих эмоций. Все, что она делает, запрограммированное в ней определенным алгоритмом. Что-то вроде чат-бота. Согласитесь, Siri также может шутить и разговаривать с вами.

И когда София шутит - это не более чем ошибка системы. Когда ее спросили, как преодолеть коррупцию в Украине - она зависла. Мы поняли это как ответ. Якобы, даже искусственный интеллект не в состоянии решить проблему коррупции.

Такие маленькие смешные казусы - обычная ошибка. Система не в состоянии понять и обработать ту информацию, которую вы запросили, - объясняет Наталья.

София - не более чем набор алгоритмов. Она запрограммирована общаться с людьми и это ей удается. Так же, как работы компании Boston dynamic запрограммированы двигаться.

Нужно очень правильно называть такие системы просто алгоритмами. София - это очень хорошая группа собранных вместе алгоритмов, в данном случае в одном работе. Они позволяют работу двигаться, разговаривать и реагировать.

Искусственного интеллекта не существует

Если София - это всего лишь набор определенных задач, то что же искусственный интеллект? В фильмах мы привыкли видеть компьютерные программы, которые способны заполонить мир и уничтожить человечество.

Самый большой недостаток искусственного интеллекта в том, что его не существует. Иногда удобнее назвать вещь "искусственный интеллект", чем объяснять, что это. Сейчас есть алгоритмы. Они очень хорошо развиты под решение одной или двух проблем максимум. Искусственного интеллекта как такового нет. Мы еще очень далеки от него, - рассказывает исследовательница.

К счастью, или наоборот, робота, который бы был умнее человека, не существует. Человек способен выполнять большое количество задач и быстро учиться, объясняет Наталья.

Работы же могут выполнять только одну-две задачи. Более того, чтобы учиться, они нуждаются в очень больших объемов информации и много времени. И это - проблема.

Мы очень далеки от роботов, которые будут мыслить. Сейчас нужно заниматься нашим мышлением. У нас с вами большие проблемы - мозг очень лимитированный в ресурсах.

Работы обрабатывают ваши данные

Конфиденциальность становится роскошью. И ее далеко не все могут себе позволить. Для того, чтобы учиться, работам надо большое количество информации. И берут они ее у вас. Кстати, ваша кофемашина тоже в каком-то смысле робот. И ей тоже нужны данные.

Наталья объясняет, как это работает:

Я в своих системах использую данные с гаджетов. Мне не нужно идти в "облако", не требуется соединение с интернетом. В некоторых случаях система работает по-другому - данные передаются через Bluetooth или WiFi на компьютер, на компьютере происходит вся обработка данных и передается системе, которой мы хотим управлять.

Но знаете ли вы, ваши данные берут машины? Процент людей, которые читают соглашение пользования, очень мал. Легче просто нажать кнопку "согласен".

Не всегда системы и приложения работают прозрачно, иногда пользователи не понимают, что они отдают, возможно ничего взамен не получают, даже сервиса.

Даже Марк Цукерберг заклеивает камеру и микрофон на своем компьютере. Чтобы ваши данные не использовали, важно научиться ими правильно распоряжаться.

Косьмина рассказывает, работая с людьми, они придерживаются жесткого этического протокола. Если человека не устраивает, она может отказаться от исследования:

Мы четко говорим, какие данные будут использованы, или фотографируем мы или снимаем видео, берем биометрические данные, сколько лет эти данные будут храниться и кто имеет к ним доступ.

К сожалению, не все системы имеют такие четкие протоколы.

Работы vs люди

Еще в 2016 году в Великобритании разработали систему Optellum , которая диагностирует у человека рак легких. Для того, чтобы научить робота, ученые собрали самую большую в мире базу данных пациентов с опухолями. И стартап в конце концов закрыли. Робот не смог выявлять заболевания так же эффективно, как молодой врач.

А в Японии роботов уже активно используют в сфере обслуживания. Робот с легкостью поселит вас в отель, просканирует документы, выдаст ключ и даже приготовит блины на завтрак.

С одной стороны, работы занимают рабочие месяца людей и это проблема. Но с другой - появляются новые возможности.

Даже забирая работу, мы можем создавать новую. Роботов тоже нужно учить. Мы можем создать рабочие места, где люди будут чувствовать себя более занятыми. Они все равно будут помогать людям и будут продолжать работать в сфере обслуживания.

И хотя наука с каждым днем ​​уверенно шагает вперед, человек еще не создала робота, который бы превзошел ее. Возможно это к лучшему. Маск уверен, что искусственный интеллект приведет к третьей мировой войне.

Впрочем, роботизированные системы способны облегчать человеку жизнь - они готовят кофе, подсказывают как действовать в ситуации, водят нас машины.

Покупка машины начинается с покупки брелочка для ключей.
Из личных афоризмов автора

Чем люди отличаются от машин с искусственным интеллектом? Один из не совсем обычных ответов на поставленный вопрос - эмпатией. Если перевести определение эмпатии, данное в Оксфордском словаре английского языка, оно звучит так: эмпатия - это способность мысленно отождествлять себя с другим человеком или наблюдаемым объектом (или полностью понимать их). Это согласуется и с привычным нам определением из Википедии: «Эмпатия (греч. ἐν - «в» + греч. πάθος - страсть, страдание, чувство) - осознанное сопереживание текущему эмоциональному состоянию другого человека без потери ощущения внешнего происхождения этого переживания». Согласитесь, это весьма характерная черта, отличающая людей от запрограммированной машины. Эта тема в технической литературе затрагивается мало, и на ней хочется остановиться подробнее, тем более в свете проблем ИИ она представляется важной.

Эксклюзивную возможность использовать материалы по этой теме в русскоязычном переводе автору статьи предоставил Джейсон Миллер (Jason Miller), возглавляющий отдел маркетинга в Microsoft в регионе EMEA и в свое время опубликовавший в сети LinkedIn статью «Can a machine have empathy?» («Может ли машина проявлять сочувствие?») . У нас состоялась короткая дискуссия на эту тему, в ходе которой выяснилось, что наши взгляды на проблему и риски бесконтрольного развития и использования ИИ совпадают. Искусственный интеллект сейчас пытаются превратить в некое подобие разума, то есть наделить его чисто человеческими чертами - той же эмпатией, которую Джейсон Миллер оценивал с точки зрения возможности ее использования в маркетинге. По мнению автора данной статьи, область потенциального применения эмпатии гораздо шире. Согласитесь, намного приятнее общаться с приветливым коллаборативным промышленным роботом, если с ним можно перекинуться парой слов и пошутить, он встречает тебя добрым словом и, оценивая тебя сенсорами (они все равно у него есть), подбирает соответствующую модель поведения. Это намного лучше, чем просто включиться в работу с «умным» внутри, но тупо жужжащим снаружи механизмом. А если это домашний, пусть и програм­мный, помощник или личный ассистент - тут и говорить нечего.

Что касается эмпатии, то в мае прошлого года на конференции разработчиков устройств ввода / вывода компания Google продемонстрировала свою новую систему Duplex . Она представляет собой виртуальный помощник на базе ИИ, который способен совершать телефонные звонки, чтобы оптимально организовать расписание своего «начальника». Аудитория наблюдала за тем, как Duplex делал заказы в ресторане и записывался на стрижку в парикмахерской. Они удивленно смеялись, когда в ходе разговора он, по-видимому, убедил человека на другом конце телефонной линии, что тот разговаривает именно с человеком, а не с программой. Здесь можно сделать поправку на нашу психологию: автор статьи наблюдал аналогичный феномен, когда разработал и сделал еще в 1980-х гг. прототип секретаря-информатора (то, что потом назвали автоответчиком). В то время почти все люди пытались с этим прототипом разговаривать, так как при звонке слышали запись человеческой речи.

Демонстрация Duplex вызвала оживленное обсуждение в социальных сетях, подняв при этом один интересный вопрос. Показывает ли способность искусственной системы к такому пониманию и отправке разговорных сигналов, что машина может освоить эмпатию? Это один из наиболее важных вопросов в развивающейся дискуссии об ИИ, его роли в обществе и степени, в которой он будет проникать в исконно человеческие сферы деятельности.

Когда Джейсон Миллер задал этот вопрос аудитории в сети LinkedIn, он получил три совершенно разных типа ответов - и эти ответы имеют большое значение для понимания будущего ИИ. Они дают хорошее представление о взглядах профессионалов на возможности ИИ, а также о том, как эти возможности ИИ могут быть использованы.

Первый вариант ответа - «да, машина может освоить эмпатию» или «да, потому что ИИ в итоге сможет делать все, на что способен человеческий мозг». Было высказано мнение, что эмпатия может быть запрограммирована аналогично нашему восприятию. Для сторонников этой теории мы - это машины, а наш мозг является очень хорошим компьютером, пусть даже квантовым , но, как и обычный компьютер, с соответствующим программированием.

Второй вариант ответа: нет, не может, потому что эмпатия - это уникальная человеческая характеристика, а не то, что машина способна испытать. Да и может ли она вообще что-то чувствовать? Хотя Ава из фильма «Ex Machine», который был взят в качестве примера пути развития ИИ, как минимум, показывала эмпатию и успешно этим воспользовалась. Если обратиться к другим примерам, то в знаковом с рассматриваемой нами точки зрения фильме «Она» («Her», американская фантастическая мелодрама режиссера и сценариста Спайка Джонза (Spike Jonze), 2013 г.) важность этого качества видна очень хорошо, так как фильм полностью на ней построен и в нем отсутствует физическое воплощение ИИ, который представлен в виде нейронной сети Саманты (по фильму «операционки»). Сочувствие позволяет не только «ощущать себя», но и чувствовать чужую боль, переживания и эмоции кого-то другого в большей или меньшей степени. Мы не понимаем организацию сознания в людях, что уж говорить о способности создавать это сознание искусственно с должной верификацией (подтверждением подлинности, если говорить техническим языком).

Третий вариант ответа особенно интригует. Это даже не ответ, а скорее вопрос: если машина, как кажется, испытывает эмпатию, имеет ли значение, реальна эта эмпатия или нет? Функционально разницы нет: способна ли эта машина на те же эмоции, что и мы, или просто выводит эти эмоции из сигналов, которые посылают ей сами люди или ее сенсоры, вырабатывает наиболее подходящий ответ, реакцию. Представим, что мы не можем определить, является ли эмпатия подлинной, потому что робот на основе глубокого обучения изучил мимику и структуру нашего поведения, - можем ли мы тогда все еще смотреть на робота как на машину?

Это далеко не простой вопрос. Имеет ли значение различие между реальным и «искусственным» сопереживанием? Здесь мнение автора статьи совпадает с ответом Джейсона Миллера - да, имеет. Если вернуться к фильму «Ex machine»: Ава с успехом продемонстрировала это, и Калеб, что называется, попался как кур во щи, сам того не ожидая. Возможно, не будь она в образе девушки, специально созданном под его предпочтения, все было бы иначе. Лицам мужского пола мы доверяем куда меньше, а неприятным, с нашей точки зрения, внешне тем более, так что ее разработчик Нейтон этот факт здесь учел. А в фильме «Она» Теодор, начав с использования функций ассистента, просто влюбился в женский голос, заменивший ему живое общение.

Рис. 1.

Перспектива использования ИИ как ассистента вообще характерна - возьмите, например, ту же крайне негативно, если не враждебно, воспринятую Илоном Маском (Elon Musk) Софию , которая в октябре 2017 г. стала подданной Саудовской Аравии и первым роботом, получившим гражданство какой-либо страны (рис. 1).

Но вернемся к первоначальному вопросу: может ли машина кому-то сочувствовать? Это один из тех вопросов, ответ на которые может измениться в будущем. Естественно, машина не может испытывать сочувствие по определению, все сводится к определению эмпатии и машины.

Машины не могут мысленно отождествлять себя с людьми, потому что происходящее в нашем человеческом уме включает вещи, которые машина никогда не сможет испытать сама, независимо от того, насколько продвинутыми и глубокими могут быть ее собственные аналитические процессы и сенсорное восприятие. Когда мы обсуждаем роль ИИ в обществе, важно четко понимать, почему все так устроено. Хотя на самом деле мы и сами себя не понимаем. Журналист CNBC Эндрю Росс Соркин (Andrew Ross Sorkin) на пресс-конференции спросил Софию: «Есть ли у роботов разум и самосознание?». На что она ответила следующее: «А позвольте спросить вас в ответ, откуда вы знаете, что вы человек?».

Машина может приблизиться к нам, но она, как автору статьи (и не только ему) кажется, никогда не сможет полностью постичь человека. Наше сознание содержит намного больше, чем просто рациональное познание и логическое мышление. Фактически эта способность к рациональному мышлению является побочным продуктом большинства других аспектов нашего сознания, а не самой по себе управляющей силой нашего мозга. Нашей сознательной жизнью движет то, как мы воспринимаем мир с помощью наших чувств. Это сочетание зрения, звука, осязания, вкуса и запаха, которое ни одна машина никогда не сможет испытать таким же образом.

Человеческое сознание также обусловлено нашими мощными биологическими импульсами и потребностями. Ни одна машина никогда не почувствует, что значит быть голодным или жаждущим. В реальности ни одна машина не сможет, как в фильме «Она», симпатизировать и тянуться к другой машине или человеку, и не будет мотивироваться стремлением к любви и всеми эмоциями, которые сопровождают этот естественный для человека процесс. Вспомним, как в фильме машина начала флиртовать сразу с множеством людей и не понимала, за что Теодор на нее обиделся.

Кроме того, какая может быть у машины тревога? Ни одна машина не боится одиночества, потери крыши над головой и не ощущает сильной уязвимости, вызванной страхом за свою физическую безопасность, разве что «почувствует» падение мощности в системе питания или недопустимый рост температуры, если это физический объект с ИИ. Так что в своем ответе журналисту София неправа, невролог Антонио Дамасио (Antonio Damasio) предлагает решить эту проблему так: «Мы - это не мыслящие машины, которые чувствуют, скорее мы можем чувствовать машины, которые думают».

Наконец, что не менее важно, наше сознание формируется коллективным разумом и культурной памятью, сгенерированными в ходе развития нашей цивилизации. Мы - продукт коллективного накопления, на протяжении многих тысяч лет, наших общих эмоций и чувственных переживаний, передающихся из поколения в поколение и отображенных в истории. Разговоры, общие шутки, сарказм, символизм - всё это невероятно тонкие психологические сигналы. Тот же коллективный разум развивает этику и ценности, с которыми мы все можем инстинктивно согласиться, даже если они не обоснованы логически. Если верить сообщениям в прессе, хотя это и смахивает на очередной фейк, то в Стэнфордском университете пытаются научить ИИ шутить и разрабатывают нейронную сеть, наделенную своеобразным чувством юмора . По словам разработчиков, задача оказалась сложной, поскольку ИИ работает по определенному алгоритму, а это исключает импровизацию. Пока вывод неутешителен: смешным ИИ не сделать, даже если загрузить в нейросеть все шутки и анекдоты мира.

Ничто иное не общается, как люди, - и люди не общаются ни с чем другим так, как мы общаемся друг с другом. Это важно, потому что единственный способ приобрести свою долю в нашем коллективном интеллекте - это взаимодействовать с человеком. Если мы не взаимодействуем с машинами так же, как с другими людьми, этот коллективный опыт и интеллект просто недоступны для них. Они не являются частью нашей эмпатической системы. Да, нам может быть жаль «любимого» компьютера, может, мы его даже выбрасывать не станем. Автор статьи свой первый сохранил - на процессоре AMD 133 МГц с HDD на 500 Мбайт, купленный за баснословные для 1990-х гг. $750. Но я не отмечаю его день рождения, не проведываю в кладовке и не веду с ним ностальгические беседы: «А помнишь, как мы в DOOM II…». Хотя у нас есть любимые вещи, у нас нет с ними эмоциональной взаимной связи, у нас есть только связь с событиями, которые ассоциируются с теми или иными вещами (вспомним прекрасную песню «From Souvenirs To Souvenirs» в исполнении Demis Roussos). В противном случае это уже фетишизм - поклонение неодушевленным материальным предметам, которым приписываются сверхъестественные свойства, или расстройство психики, но и в этом случае мы имеем дело с ассоциациями.

Когда люди говорят о человеческом мозге, работающем как компьютер, или об ИИ, обучающемся так же, как человек, они выражаются образно. Это можно считать частью давней традиции гадать о том, как работает наш мозг и что действительно представляет собой наше сознание. Всякий раз, когда мы изобретаем новую технологию, возникает сильное искушение использовать ее в качестве аналогии функционирования мозга. Когда мы изобрели электричество, мы начали говорить об электрических токах в мозге. Когда появился телеграф, мы решили, что и мозг посылает дискретные сигналы. Убеждение многих людей в том, что человеческий мозг работает как компьютер (и, следовательно, в первую очередь является логической машиной), - это лишь наше предположение. Мы на самом деле не знаем, как работает мозг, как эта работа транслируется в наше сознание и где, как оно хранится. Мы видим некую активность и результат, которые нам удалось смоделировать в нейронных сетях, но не видим и не понимаем сам процесс.

Видя взаимодействия, мы делаем выводы, но, возможно, мы находимся в ситуации, когда решаем, что таракан, которому оторвали лапы, перестает слышать, поскольку от стука он уже не убегает. Вполне вероятно, что у нас, если проводить аналогию с компьютером, есть лишь некий интерфейс, пароль и логин для доступа в нашу «базу данных», которая хранится в некоем облаке, и мы используем пока еще неизвестную нам технологию быстрого доступа. Почему нет? С точки зрения техники - это вполне логично. Может, поэтому мы иногда получаем информацию, как нам кажется, из чужой жизни, это похоже на «баг» в нашей системе. Крайне маловероятно, что мы даже частично воспроизвели человеческий мозг, когда разработали существующую теорию ИИ. Даже то, что мы называем нейронными сетями, - лишь подобие, основанное на нашем текущем понимании (рис. 2).

Рис. 2.

По этим причинам мы можем согласиться со вторым мнением, т. е. утверждением, что машина может испытывать сочувствие, но изъян этой теории в том, что мы сводим огромные таинственные действия человеческого мозга и сознания к чему-то, что можно понять, воспроизвести и имитировать с помощью машины, управляемой логикой. Дело не в том, что мы переоцениваем возможности ИИ, а в том, что мы сильно недооцениваем то, насколько сложны наши собственные возможности.

Это возвращает нас к другому вопросу: имеет ли значение то, что «искусственная эмпатия» не является истинным сочувствием, хотя она взаимодействует с нами таким же образом? Понять это очень важно, чтобы не попасть в тупик очередного заблуждения, - в том, что компьютер или программа начали думать. Последствия могут быть печальными, мы и так много что уже отдали на откуп автоматам, решив, что они достаточно для этого «поумнели». Где же грань между тем, что мы называем ИИ, и реальным разумом? Она, как нам кажется, скрывается в эмоциональности. Продолжим рассматривать понятный пример с эмпатией.

Искусственная эмпатия работает, наблюдая, учась, реагируя и воспроизводя сигналы, которые посылают люди. По мере развития ИИ с глубоким обучением и способности работать со все большими наборами данных программы будут все лучше и лучше справляться с этим и создавать видимость (или образ) эмпатии. Однако истинная эмпатия включает гораздо больше, чем просто наблюдение и реагирование на эмоциональные сигналы, независимо от того, со сколькими из этих сигналов вам приходится работать. Почему? Потому что сигналы, которые посылают люди, представляют собой лишь крошечную часть того, что они реально испытывают. Мы все - гораздо больше, чем сумма того, что другие люди думают о нас, наблюдая за тем, что мы делаем и говорим. Мы обладаем способностями, эмоциями, воспоминаниями и опытом, которые влияют на наше поведение, при этом необязательно проявляясь снаружи. Они должны быть интуитивно понятны, даже когда их вообще не замечают. Пример: мы часто не узнаем себя или хорошо (именно хорошо) знакомого человека на фото или портрете, а вот остальных - без проблем. С портретом дело можно объяснить философски - «субъективным восприятием объективной действительности». С «объективным» фото причина в том, что оно дает нам выхваченный момент, а мы воспринимаем себя и хорошо знакомых людей в комплексе, для остальных же нам достаточно корреляции, в чем наш мозг дока.

Все становится сложнее, когда машины начинают принимать решения, имеющие серьезные последствия, причем без эмоционального контекста и общих ценностей, которые в таких случаях используют люди. Это была одна из ключевых тем в статье, которую Генри Киссинджер (Henry A. Kissinger) недавно написал о последствиях ИИ для «The Atlantic» . Возьмите, например, беспилотный автомобиль, который должен в случае неизбежной аварии решить - убить родителя или ребенка. Сможет ли такая машина когда-нибудь объяснить людям, почему она делает тот или иной выбор? А если не требуется обосновывать действия машины человеческими последствиями и с человеческой точки зрения, то что станет с нашей системой этики и справедливости? Как это вложить в машину? Ведь тогда нам нужно будет отбросить наши эмоции и стать на сторону машины, посмотреть на мир ее глазами. Способны ли мы на такое?

Подобный процесс прошел бы легче и проще, если бы мы заменили искусственное сочувствие на человеческое. ИИ может подражать человеческим взаимодействиям, но с гораздо более узким пониманием происходящего, чем мы. Нам необходимо помнить об этом, когда выбираем роль, которую ИИ должен играть в управлении процессами или стратегиями. Эмпатия, о которой мы говорили в этой части статьи применительно к машине, играет очень весомую роль. Возможно, поэтому роботам-ассистентам стараются дать человеческий облик и приятный голос (в псевдонаучных фильмах они даже зачем-то едят и не только).

При разработке упомянутых в первой части статьи игровых систем, в которой автор принимал участие не только как разработчик электронной начинки, но и в качестве дизайнера и одного из идеологов, мы столкнулись с такой проблемой. Вторая из наших машин, а это был уже 100%-ный робот (как положено, жужжащий и поворачивающийся), работала эффективнее «живых» дилеров, не делала ошибок, давала больший экономический эффект. Но более популярным был смешанный вариант - часть игроков выбирала «живого» дилера, задача которого была только улыбаться и вытаскивать карту из башмака (раздатчика игральных карт на игорном столе). В этом случае как раз срабатывала эмпатия, которой наша полностью роботизированная система, как и система с генератором случайных карт, априори не обладала.

Система Duplex от Google может выглядеть как обладающая эмпатией, но эта эмпатия строго ограничена тем, что имеет отношение к поставленной задаче. Например, к бронированию столика в ресторане. Duplex не обучен обнаруживать какие-либо эмоции за пределами заданного алгоритма или перестраивать свое поведение на основе конкретной ситуации. Если голос человека на другом конце телефонной линии звучит недружелюбно и нервно, может ли Duplex общаться с ним адекватно? Может ли он найти способ расположить человека к себе и заставить его успокоиться? Может ли он банально упросить найти свободный столик в час пик ресторана? Человеческое общение - это нечто гораздо большее, чем просто эффективный обмен информацией, и именно здесь последствия использования реальной и искусственной эмпатии становятся особенно значимыми.

Если мы передадим фундаментальные стратегические решения ИИ, то определение стоимости производимого с его участием конечного продукта (иначе зачем этот ИИ вообще нужен?) будет снижаться с поразительной скоростью. Но риск состоит в том, что ИИ игнорирует другие элементы, которые по-разному затрагивают человеческое сознание, играя на струнах человеческой души, как та же Ава из «Ex Machine» делала лишь для достижения четкой цели.

Человеческий интеллект настолько силен, потому что он не ограничен одним лишь рациональным мышлением. Элементы сознания позволяют нам иметь дело с непредсказуемостью и неопределенностью окружающего мира. Они дают нам возможность принимать решения на основе общих ценностей и мотивов, которые резонируют коллективно, и знать, что правильно, даже без необходимости выяснять, почему это так. Сочувствующий человеческий интеллект способен испытывать то, что он испытывает, чтобы быть грустным или счастливым, - и он позволяет этим чувствам влиять на свои суждения и свое поведение с другими. Машина не могла бы этого сделать, даже если бы захотела, поскольку это в большей мере продукт нашей цивилизации. В других цивилизациях все могло бы быть по-другому - например, ничего страшного не было бы в том, чтобы съесть себе подобного «из большого уваженья», как у Владимира Высоцкого: «Кто уплетет его без соли и без лука, тот сильным, смелым, добрым будет…».

Чтобы машина стала разумной, мы должны дать ей модели ценностей. Какие? Мы знаем свою шкалу и именно попытки ее внедрения видим в искусстве - литературе и кино, но что из этого мы реально можем дать уже «думающей» машине? По нашему мнению - ничего. Как вырастить для нее древо познания Добра и Зла и какие на нем должны быть плоды? Если мы пойдем по такому пути, то это приведет нас к реальной конфронтации, у машин появится своя философия, религия и т. д. Единственно, с чем нам повезло, - это с заповедями, но об этом мы будем говорить в последней части данной статьи.

В этом году компания «Яндекс» запустила голосового помощника «Алиса». Новый сервис позволяет пользователю прослушивать новости и погоду, получать ответы на вопросы и просто общаться с ботом. «Алиса» иногда дерзит , порой кажется почти разумной и по-человечески саркастичной , но часто не может разобраться, о чём её спрашивают, и садится в лужу.

Всё это породило не только волну шуток, но и новый виток дискуссий о развитии искусственного интеллекта. Новости о том, чего добились умные алгоритмы, сегодня приходят чуть ли не каждый день, а машинное обучение называют одним из самых перспективных направлений, которому можно себя посвятить.

Чтобы прояснить главные вопросы об искусственном интеллекте, мы побеседовали с Сергеем Марковым, специалистом по искусственному интеллекту и методам машинного обучения, автором одной из самых сильных отечественных шахматных программ SmarThink и создателем проекта «XXII век» .

Сергей Марков,

специалист по искусственному интеллекту

Развенчивая мифы об ИИ

так что же такое «искусственный интеллект»?

Понятию «искусственный интеллект» в какой-то мере не повезло. Возникшее изначально в научной среде, оно со временем проникло в фантастическую литературу, а через неё - в поп-культуру, где претерпело целый ряд изменений, обросло множеством интерпретаций и в конце-концов было совершенно мистифицировано.

Именно поэтому мы часто слышим от неспециалистов примерно такие заявления: «ИИ не существует», «ИИ невозможно создать». Непонимание сути исследований, ведущихся в сфере ИИ, легко приводит людей и к другим крайностям - например, современным системам ИИ приписывают наличие сознания, свободной воли и секретных мотивов.

Давайте попробуем отделить мух от котлет.

В науке искусственным интеллектом называют системы, предназначенные для решения интеллектуальных задач.

В свою очередь, интеллектуальная задача - это задача, которую люди решают при помощи собственного интеллекта. Заметим, что в данном случае специалисты сознательно уходят от определения понятия «интеллект», поскольку до появления систем ИИ единственным примером интеллекта был интеллект человеческий, и определить понятие интеллекта на основе единственного примера - то же самое, что пытаться провести прямую через единственную точку. Таких прямых может оказаться сколько угодно много, а значит, спор о понятии интеллекта можно было бы вести столетиями.

«сильный» и «слабый» искусственный интеллект

Системы ИИ делятся на две большие группы.

Прикладной искусственный интеллект (также используют термин «слабый ИИ» или «узкий ИИ», в английской традиции - weak/applied/narrow AI) - это ИИ, предназначенный для решения какой-либо одной интеллектуальной задачи или их небольшого множества. К этому классу относятся системы для игры в шахматы, го, распознавания образов, речи, принятия решения о выдаче или невыдаче банковского кредита и так далее.

В противоположность прикладному ИИ вводят понятие универсального искусственного интеллекта (также «сильный ИИ», по-английски - strong AI/Artificial General Intelligence) - то есть, гипотетического (пока что) ИИ, способного решать любые интеллектуальные задачи.

Часто люди, не зная терминологии, отождествляют ИИ с сильным ИИ, из-за этого и возникают суждения в духе «ИИ не существует».

Сильного ИИ действительно пока не существует. Практически все успехи, которые мы наблюдаем в последнее десятилетие в области ИИ, - это успехи прикладных систем. Эти успехи нельзя недооценивать, так как прикладные системы в ряде случаев способны решать интеллектуальные задачи лучше, чем это делает универсальный человеческий интеллект.

Я думаю, вы заметили, что понятие ИИ - довольно широкое. Скажем, устный счёт - это тоже интеллектуальная задача, и это значит, что любая счётная машина будет считаться системой ИИ. А как насчёт счётов? Абака ? Антикитерского механизма ? Действительно, всё это формально хотя и примитивные, но системы ИИ. Однако обычно, называя какую-то систему системой ИИ, мы тем самым подчёркиваем сложность решаемой этой системой задачи.

Совершенно очевидно, что разделение интеллектуальных задач на простые и сложные - весьма искусственное, и наши представления о сложности тех или иных задач постепенно меняются. Механическая счётная машина была чудом техники в XVII веке, но сегодня людей, с детства сталкивающихся с куда более сложными механизмами, она уже не способна впечатлить. Когда игра машин в го или автомобильные автопилоты уже перестанут удивлять публику, наверняка найдутся люди, которые будут морщиться из-за того, что кто-то будет относить такие системы к ИИ.

«Роботы-отличники»: о способностях ИИ к обучению

Ещё одно забавное заблуждение - всенепременное наличие у систем ИИ способности к самообучению. С одной стороны, это совсем не обязательное свойство систем ИИ: есть множество удивительных систем, не способных самообучаться, но, тем не менее, решающих многие задачи лучше человеческого мозга. С другой стороны, некоторые люди просто не знают того, что самообучение - свойство, которые многие системы ИИ обрели ещё более полусотни лет назад.

Когда в 1999 году я писал свою первую шахматную программу, самообучение уже было совершенно общим местом в этой области - программы умели запоминать опасные позиции, подстраивать под себя дебютные варианты, регулировать стиль игры, подстраиваясь под соперника. Конечно, тем программам было ещё очень далеко до Alpha Zero . Тем не менее, даже системы, обучающиеся поведению на основе взаимодействия с другими системами в ходе экспериментов по так называемому «обучению с подкреплением», уже существовали. Однако по необъяснимой причине некоторые люди до сих пор думают, что способность к самообучению - это прерогатива человеческого интеллекта.

Машинное обучение, целая научная дисциплина, занимается процессами обучения машин решению тех или иных задач.

Существует два больших полюса машинного обучения - обучение с учителем и обучение без учителя.

При обучении с учителем у машины уже есть некоторое количество условно правильных решений для некоторого набора случаев. Задача обучения в таком случае заключается в том, чтобы научить машину на основе имеющихся примеров принимать правильные решения в других, неизвестных ситуациях.

Другая крайность - обучение без учителя . То есть машину ставят в ситуацию, когда правильные решения неизвестны, имеются только данные в сыром, неразмеченном виде. Оказывается, и в таких случаях можно добиться некоторого успеха. Например, можно научить машину выявлению семантических отношений между словами языка на основе анализа очень большого набора текстов.

Одна из разновидностей обучения с учителем - это обучение с подкреплением (reinforcement learning). Идея заключается в том, что система ИИ выступает в роли агента, помещённого в некоторую модельную среду, в которой она может взаимодействовать с другими агентами, например, с собственными копиями, и получать от среды некоторую обратную связь через функцию вознаграждения. Например, шахматная программа, которая играет сама с собой, постепенно подстраивая свои параметры и тем самым постепенно усиливая собственную игру.

Обучение с подкреплением - довольно широкая область, в ней применяют множество интересных методов, начиная от эволюционных алгоритмов и заканчивая байесовской оптимизацией . Последние достижения в области ИИ для игр как раз связаны с усилением ИИ в ходе обучения с подкреплением.

Риски развития технологий: стоит ли бояться «Судного дня»?

Я не отношусь к числу ИИ-алармистов, и в этом смысле я отнюдь не одинок. Например, создатель стэнфордского курса по машинному обучению Эндрю Ын сравнивает проблему опасности ИИ с проблемой перенаселения Марса.

Действительно, в будущем вполне вероятно, что люди колонизируют Марс. Также вероятно, что рано или поздно на Марсе может возникнуть проблема перенаселения, но не совсем понятно, почему мы должны заниматься этой проблемой уже сейчас? Согласны с Ыном и Ян ЛеКун - создатель свёрточных нейронный сетей, и его шеф Марк Цукерберг, и Йошуа Беньо - человек, во многом благодаря исследованиям которого современные нейронные сети способны решать сложные задачи в области обработки текстов.

Чтобы изложить мои взгляды на эту проблему, потребуется, вероятно, несколько часов, поэтому остановлюсь только на основных тезисах.

1. НЕЛЬЗЯ ОГРАНИЧИВАТЬ РАЗВИТИЕ ИИ

Алармисты рассматривают риски, связанные с потенциальным разрушительным воздействием ИИ, при этом игнорируя риски, связанные с попыткой ограничить или даже остановить прогресс в этой области. Технологическое могущество человечества возрастает чрезвычайно быстрыми темпами, что приводит к эффекту, который я называю «удешевлением апокалипсиса».

150 лет назад при всём желании человечество не могло нанести невосполнимого урона ни биосфере, ни себе как виду. Для реализации катастрофического сценария 50 лет назад необходимо было бы сконцентрировать всю технологическую мощь ядерных держав. Завтра для воплощения в жизнь глобальной техногенной катастрофы может хватить и небольшой горстки фанатиков.

Наша технологическая мощь растёт куда быстрее, чем способность человеческого интеллекта эту мощь контролировать.

Если на смену человеческому интеллекту с его предрассудками, агрессией, заблуждениями и ограниченностью не придёт система, способная принимать более взвешенные решения (будь то ИИ или, что я считаю более вероятным, технологически улучшенный и объединённый с машинами в единую систему человеческий интеллект), нас может ждать глобальная катастрофа.

2. создание сверхинтеллекта принципиально невозможно

Существует идея о том, что ИИ будущего всенепременно будет сверхинтеллектом, превосходящим людей даже сильнее, чем люди превосходят муравьёв. Боюсь в данном случае разочаровать и технологических оптимистов - наша Вселенная содержит целый ряд фундаментальных физических ограничений, которые, по всей видимости, сделают создание сверхинтеллекта невозможным.

Например, скорость передачи сигнала ограничена скоростью света, а на планковских масштабах появляется неопределённость Гейзенберга. Отсюда вытекает первый фундаментальный предел - предел Бремерманна, вводящий ограничения на максимальную скорость вычислений для автономной системы заданной массы m.

Другой предел связан с принципом Ландауэра , в соответствии с которым существует минимальное количество теплоты, выделяемое при обработке 1 бита информации. Слишком быстрые вычисления вызовут недопустимый разогрев и разрушение системы. В действительности, современные процессоры от лимита Ландауэра отделяет менее чем тысячекратное отставание. Казалось бы, 1000 - это довольно много, однако ещё одна проблема заключается в том, что многие интеллектуальные задачи относятся к классу сложности EXPTIME. Это означает, что время, необходимое для их решения, является экспоненциальной функцией от размерности задачи. Ускорение системы в несколько раз даёт лишь константный прирост «интеллекта».

В общем, есть очень серьёзные основания полагать, что сверхинтеллектуального сильного ИИ не получится, хотя, конечно, уровень человеческого интеллекта вполне может быть превзойдён. Насколько это опасно? Скорее всего, не очень.

Представьте себе, что вы внезапно начали думать в 100 раз быстрее остальных людей. Значит ли это, что вы легко будете способны уговорить любого прохожего отдать вам свой кошелёк?

3. мы беспокоимся совсем не о том

К сожалению, в результате спекуляций алармистов на страхах публики, воспитанной на «Терминаторе» и знаменитом HAL 9000 Кларка и Кубрика, происходит смещение акцентов в сфере безопасности ИИ в сторону анализа маловероятных, но эффектных сценариев. При этом реальные опасности ускользают из виду.

Любая достаточно сложная технология, претендующая на то, чтобы занять важное место в нашем технологическом ландшафте, безусловно приносит с собой специфические риски. Множество жизней было погублено паровыми машинами - на производстве, на транспорте и так далее - прежде чем были выработаны эффективные правила и меры по обеспечению безопасности.

Если говорить о прогрессе в области прикладного ИИ, можно обратить внимание на связанную с ним проблему так называемого «Цифрового тайного суда» . Всё больше и больше прикладных систем ИИ принимает решения по вопросам, затрагивающим жизнь и здоровье людей. Сюда относятся и медицинские диагностические системы, и, например, системы, принимающие в банках решения о выдаче или невыдаче кредита клиенту.

В то же время структура используемых моделей, наборы используемых факторов и другие детали процедуры принятия решения скрыты коммерческой тайной от человека, чья судьба находится на кону.

Используемые модели могут основывать свои решения на мнениях учителей-экспертов, допускавших систематические ошибки или имевших те или иные предрассудки - расовые, гендерные.

ИИ, обученный на решениях таких экспертов, будет добросовестно воспроизводить эти предрассудки в своих решениях. В конце концов эти модели могут содержать в себе специфические дефекты.

Этими проблемами сейчас мало кто занимается, поскольку, конечно, SkyNet, развязывающий ядерную войну, это, безусловно, куда более зрелищно.

Нейросети как «горячий тренд»

С одной стороны, нейронные сети - это одна из самых старинных моделей, применяющихся для создания систем ИИ. Появившиеся изначально в результате применения бионического подхода , они довольно быстро убежали от своих биологических прототипов. Исключением тут являются только импульсные нейронные сети (впрочем, пока не нашедшие широкого применения в индустрии).

Прогресс последних десятилетий связан с развитием технологий глубокого обучения - подхода, при котором нейронные сети собирают из большого количество слоёв, каждый из которых построен на основе определённых регулярных паттернов.

Помимо создания новых нейросетевых моделей важный прогресс был также достигнут в области технологий обучения. Сегодня нейронные сети учат уже не при помощи центральных процессоров компьютеров, а с использованием специализированных процессоров, способных быстро производить матричные и тензорные вычисления. Наиболее распространённый на сегодняшний день вид таких устройств - видеокарты. Впрочем, активно ведётся разработка ещё более специализированных устройств для обучения нейросетей.

В целом, безусловно, нейронные сети на сегодняшний день, - это одна из основных технологий в области машинного обучения, которой мы обязаны решению многих задач, ранее решавшихся неудовлетворительно. С другой стороны, конечно, нужно понимать, что нейронные сети не являются панацеей. Для некоторых задач они - далеко не самый эффективный инструмент.

Так насколько умны нынешние роботы на самом деле?

Всё познаётся в сравнении. На фоне технологий 2000-го года нынешние достижения выглядят настоящим чудом. Всегда найдутся люди, любящие побрюзжать. 5 лет назад они вовсю трындели о том, что машины никогда не выиграют у людей в го (ну или, по крайней мере, выиграют очень нескоро). Говорили о том, что машина никогда не сможет нарисовать с нуля картину, в то время как сегодня люди практически неспособны отличать картины, созданные машинами, от картин неизвестных им художников. В конце прошлого года машины научились синтезировать речь, практически неотличимую от человеческой, а в последние годы от музыки, создаваемой машинами, не вянут уши.

Посмотрим, что будет завтра. Я смотрю на эти области применения ИИ с большим оптимизмом.

Перспективные направления: где начать погружение в сферу ИИ?

Я бы посоветовал постараться на хорошем уровне освоить один из популярных нейросетевых фреймворков и один из популярных в области машинного обучения языков программирования (наиболее популярна на сегодняшний день связка TensorFlow + Python).

Овладев этими инструментами и имея в идеале крепкую базу в области математической статистики и теории вероятностей, следует направить свои усилия в ту сферу, которая будет наиболее интересна лично вам.

Интерес к предмету работы - один из самых важных ваших помощников.

Потребность в специалистах по машинному обучению существует в самых разных областях - в медицине, в банковском деле, в науке, на производстве, поэтому сегодня хорошему специалисту предоставлен как никогда широкий выбор. Потенциальные преимущества любой из этих отраслей мне представляются несущественными по сравнению с тем, что работа будет приносить вам удовольствие.