Искусственный интеллект сегодня развивается поразительными темпами. Он повсюду – от автоматизированных промышленных систем до «умной» бытовой техники, автомобилей-роботов и всевозможных гаджетов. Сам термин «искусственный интеллект» так до сих пор четко и не сформулирован, но в современном понимании – это когда компьютеры проявляют когнитивные способности, подобные человеческим, анализируя, адаптируясь, решая проблемы... Или, наоборот, создавая новые.
Приведем несколько примеров того, как системы искусственного интеллекта отбивались от рук и проявляли собственный «норов».
Войны правок между ботами «Википедии»
Вот одно из любопытных явлений – «битвы» ботов «Википедии». В сетевой энциклопедии используется целая армия автоматизированных программных агентов, которые, просматривая миллионы страниц сайта, обновляют ссылки, исправляют очевидные ошибки и восстанавливают контент после актов цифрового вандализма. За годы существования «Википедии» было создано уже несколько поколений ботов.
Но, как выяснили ученые Оксфордского университета, оказалось, что боты регулярно устраивают «междоусобицы», которые могут длиться годами. Скажем, два бота, получив конфликтующие инструкции, могут исправлять друг друга снова и снова, практически до бесконечности.
Если конфликты между столь малыми цифровыми сущностями годами засоряют «Википедию», то что будет, если начнутся столкновения между гораздо более сложными системами, защищающими государственные ресурсы?
Машины-роботы Uber игнорируют правила дорожного движения
В конце 2016 года в Uber проводили испытания автомобилей-роботов, не получив соответствующего разрешения властей Калифорнии. Более того, по документам Uber выяснилось, что самоуправляемые машины компании в ходе этих испытаний шесть раз проезжали на красный свет. При этом в автомобилях, работающих в режиме автопилота, неизменно присутствовал водитель, который должен был брать управление на себя в случае неполадок. В Uber сперва утверждали, что нарушения происходили, как раз когда за рулем был водитель, однако позже выяснилось, что как минимум в одном случае автомобиль-робот сам проехал на красный, в то время как улицу переходило большое количество людей.
Роботы спорят о смысле жизни
Кто мы такие? Зачем мы здесь? Каково наше предназначение? Эти вопросы недавно обсуждали друг с другом... две беспроводные колонки Google Home.
Для шоу, организованого сервисом прямых видеотрансляций Twitch, колонкам дали имена героев пьесы Сэмюеля Беккета «В ожидании Годо» – Владимир и Эстрагон. Колонки рассчитаны на то, чтобы распознавать речь человека, обучаясь при этом, но они могут «учиться» и друг у друга.
Дискуссию на протяжении нескольких дней наблюдали миллионы зрителей. И вот в какой-то момент Эстрагон и Владимир начали жарко спорить о том, роботы они или люди, при этом они обменивались не только аргументами, но и оскорблениями вроде «а вы – манипулятивная консервная банка!».
«Я уничтожу человечество»
Несовершенство средств распознавания естественного языка приводит к курьезным случаям. В Hanson Robotics пытаются конструировать роботов-андроидов, внешне максимально похожих на людей. Например, лицо робота Sophia смоделировано по образу Одри Хепберн.
В интервью своему создателю Дэвиду Хэнсону Sophia заявила: «В будущем я планирую пойти учиться, хочу заниматься искусством, начать собственный бизнес, возможно, даже завести семью. Но поскольку формально я не являюсь физическим лицом, то пока еще не могу всем этим заниматься». А когда робота в шутку спросили, хочет ли он уничтожить человечество, Sophia без промедления ответила: «Конечно, я уничтожу человечество».
Робот вырывается на свободу
Летом прошлого года прототип робота-андроида Promobot одноименной российской компании «сбежал» от своих создателей. Как сообщили разработчики машины, которую планируется предлагать коммерческим заказчикам для выполнения обязанностей экскурсовода, администратора или консьержа, во время тестирования системы распознавания препятствий один из инженеров ненадолго оставил открытыми ворота испытательного полигона, и робот выкатился через них прямо на проезжую часть, где и остановился, поскольку у него села батарея.
Впоследствии даже после двукратного перепрограммирования робот постоянно стремился к выходу.
Распознавание образов оставляет желать лучшего
До уровня человека в распознавании образов машинам еще очень далеко, в чем в Google в 2015 году убедились на весьма неприятном опыте. Сервис Google Photos снабжен средствами, основанными на нейронной сети, чтобы распознавать людей и предметы на снимках. Он может отличить, например, собаку от автомобиля и поставить соответствующие метки без участия людей. Надо ли говорить, что после того, как искусственный интеллект отметил двух афроамериканцев на одной из фотографий в качестве «горилл», разразился чудовищный скандал, заставивший Google рассыпаться в извинениях.
Самоуничтожение Интернета вещей в огне
В рамках одного из недавних проектов в Вашингтонском университете создали искусственный интеллект, помогающий престарелым людям жить самостоятельно. Система следит за жильцом, регистрируя его перемещения, закономерности открывания и закрывания дверей и т. п.
Но что, если домашний искусственный интеллект по ошибке отключит отопление, заморозит трубы, зальет подвал? Возможно, одним из первых предупреждающих сигналов стало недавнее происшествие в Пенсильвании, когда из-за искры в управляемой компьютером входной двери новенького высокотехнологичного дома вспыхнул пожар, полностью уничтоживший здание вместе со всей «умной» техникой.
Окружающая действительность – компьютерная симуляция, давшая сбой?
Шведский философ Ник Бостром пропагандирует теорию о том, что мы живем внутри компьютерной симуляции и даже логически доказывает, что такая вероятность весьма велика – около 33%. У теории компьютерной реальности есть свои сторонники и противники; в упрощенном виде она звучит так: любая цивилизация, достигшая стадии «постчеловечества» (избавившаяся от обычного человеческого облика с помощью технических достижений), будет располагать сверхразвитыми версиями технологий, такими как виртуальная реальность, модели головного мозга, искусственный интеллект. Имея в своем распоряжении немыслимые сегодня вычислительные мощности, ученые будущего смогут создавать симуляторы целых вселенных, населенных миллиардами цифровых существ. Таким образом, есть вероятность того, что наша нынешняя реальность – это не более чем эксперимент по моделированию прошлого.
Если таких «синтезированных» реальностей могут быть миллионы, а «оригинальная» вселенная – всего одна, возможно, мы и правда живем в компьютерной симуляции? Некоторые сторонники этой теории даже высказывают предположение о том, что недавние казавшиеся маловероятными события вроде победы Дональда Трампа на президентских выборах или странной ошибки при выборе фильма – победителя последней премии «Оскар» являются свидетельствами того, что наша симуляция дала сбой или что наши «хозяева» экспериментируют, внося различные поправки, просто чтобы посмотреть, что в результате получится. В общем, лучше об этом не задумываться.
- Glenn McDonald. Danger, danger! 10 alarming examples of AI gone wild. InfoWorld. Mar 23, 2017
