В субботу, 7 июня 2014 года, российская программа «Eugene Goostman» ознаменовала революцию в области исследования искусственного интеллекта. В ходе ежегодного теста Тьюринга, состоявшегося в Королевском обществе в Лондоне, альтер-эго компьютера, 13-летний украинский мальчик Евгений смог убедить судей, что они разговаривают с человеком, а не с машиной. Если компьютер принимают за человека более чем в 30% случаев во время серии пятиминутных бесед в чате, она проходит тест. Ни один компьютер никогда не достигал такого результата — до этого момента.

16-7429338

Компьютерная программа «Евгения» была разработана в Санкт-Петербурге. Команда разработчиков включает Владимира Веселова, который родился в России, а теперь живет в Соединенных Штатах, и программиста украинского происхождения Евгения Демченко, который сейчас живет в России.

Профессор Кевин Уорвик, приглашенный профессор в Университете Рединга и заместитель вице-канцлера по исследованиям в Университете Ковентри, заявил: «В области искусственного интеллекта нет более знаковых и противоречивых этапов, чем тест Тьюринга, когда компьютер убеждает достаточное количество исследователей в том, что он не машина, а, скорее, человек. Эта веха войдет в историю как одна из самых захватывающих».

«Некоторые будут утверждать, что тест уже проходили. Подобные слова были применены к результатам подобных соревнований по всему миру. Однако сейчас в это событие вовлечены более совершенные одновременные сравнительные тесты, чем когда-либо прежде, была проведена независимая проверка и, самое главное, разговоры велись без ограничений.

25-1263017

Поэтому мы с гордостью заявляем, что тест Алана Тьюринга был пройден впервые».

«Конечно, эти испытания имеют значение для общества сегодня. Существование компьютера, который может обмануть человека, является тревожным сигналом с киберпреступностью. Тест Тьюринга является жизненно важным инструментом для борьбы с этой угрозой. Важно понять, как именно общение в реальном времени в интернете может заставить человека принимать ложь за истину».

«Евгений» появился в 2001 году, и его первая версия висит в открытом доступена сайте, поговорить с самой человечной программой может любой (правда, сейчас из-за притока восторженных потребителей новостей сервер периодически падает). «Наша главная идея заключалась в том, что он может утверждать, будто ничего не знает, но его возраст также делает его вполне разумным», — говорит Веселов. — «Мы провели много времени над развитием персонажа с правдоподобной личностью. В этом году мы улучшили диалоговый контроллер, который делает разговор гораздо более человекоподобным по сравнению с программами, которые просто отвечают на вопросы. Забегая вперед, мы уже планируем сделать Евгения умнее и продолжать работать над улучшением того, что мы называем «логика разговора».

Долгожданное прохождение компьютером теста Тьюринга особенно примечательно тем, что состоялось в канун 60-й годовщины со дня смерти Тьюринга и всего полгода спустя посмертного королевского помилования ученого, которому не повезло с сексуальной ориентацией в ханжеской Британии начала века.

Когда одного из столпов кибернетики, американского инженера Клода Шеннона спросили, могут ли машины думать, он ответил «Конечно!», и добавил: «Я же думаю, разве не так?». Сейчас у нас есть все основания считать, что на этот вопрос получен окончательный положительный ответ, но уже далеко не юмористический.

36-9848202

Контроль за искусственным разумом ставит перед человечеством новые вызовы и рождает новые угрозы. В ситуации, когда общение в интернете становится одним из основных инструментов коммуникации между людьми, введение в систему нового участника, компьютера, который с легкостью завоевывает доверие партнера, ставит под угрозу сам способ коммуникации.

Британский физик Стивен Хокинг считает, что недооценка угрозы со стороны искусственного интеллекта может стать самой большой ошибкой в истории человечества. «Успешное создание искусственного интеллекта станет самым большим событием в истории человечества», — считает Хокинг. — «К сожалению, оно может оказаться последним, если мы не научимся избегать рисков». Технология, которая превзойдет человека, неизбежно начнет управлять финансовыми рынками, научными исследованиями, людьми и разработкой оружия, недоступного нашему пониманию.

46-1255340

Отец кибернетики Норберт Винер считал возможным создание не только разумной машины, но и машины, которая будет «умнее своего создателя». Не исключал он и бунта машин, полагая, что не только робот, но и любая стратегическая машина способна вызвать катастрофу.

Подобные опасения стали поводом для создания в Кембридже «Центра изучения глобальных рисков», одной из целей которого является определение принципов разработки «безопасного» искусственного интеллекта. Основной причиной опасности ультра-умных машин создатели проекта видят в принципиальном отличии предполагаемого интеллекта от человека.

55-7921106

Основные проблемы возникнут тогда, когда искусственный интеллект обретет возможность улучшать сам себя. Без надлежащей подготовки к этому событию сам вопрос контроля человека над машинами отойдет на второй план. Если мы не можем заставить себя отложить смартфон во время беседы с другим человеком, сможем ли мы удержаться от искушения новыми технологиями, чьи возможности будут многократно превышать наши?  Пока мы не получим однозначный ответ на этот вопрос, само существование человеческой цивилизации будет находиться под угрозой. Впрочем, как и всегда.