Ноябрь ознаменовался очередными громкими заявлениями политиков, ученых, бизнесменов и военных по теме искусственного интеллекта.
Если летом Илон Маск (Elon Musk) и более сотни экспертов в области робототехники и искусственного интеллекта призывали ООН запретить «роботов-убийц», то в этом месяце с подобными же обращениями выступили австралийские и канадские исследователи. Они написали письмо своим премьер-министрам Малкольму Тернбуллу (Malcolm Turnbull) и Джастину Трюдо (Justin Trudeau) накануне встречи ООН по вопросам распространения вооружений. Тоби Уолш (Toby Walsh), профессор в области искусственного интеллекта из Университета Нового Южного Уэльса в Сиднее заявил: «Один программист сможет контролировать целые армии. Роботы — это идеальное оружие для подавления протестов гражданского населения. Если людей надо подталкивать к совершению военных преступлений, то роботы будут бесстрастным расчетливым оружием, которое будет делать то, на что оно запрограммировано». Профессор Уолш уверен, что такие технологии не должны применяться на поле боя и что делегирования решений о жизни и смерти машинам — это путь к катастрофе. По мнению подписавших письмо экспертов, применение искусственного интеллекта и «роботов-убийц» станет причиной эскалации вооруженных конфликтов, увеличит их масштаб и скорость развития, выходя из-под человеческого контроля и понимания.
Стивен Хокинг (Stephen Hawking) в интервью журналу The Wired также снова озвучил свои опасения, что роботы заменят человечество как таковое и превратятся в более эффективную чем люди новую форму жизни. Хокинг предупреждает, что планета стала слишком маленькой для человечества и мы находимся на грани самоуничтожения. Развитие искусственного интеллекта принесет в мир автономные вооружения и средства подавления протестов, что может стать угрозой существованию человека. Хокинг сказал: «Если цели машин не будут совпадать с нашими, придется непросто. А роботы крайне эффективны в достижении запланированного. Человеческий мозг по сути мало чем отличается от современных компьютеров. Проблема не в том, что искусственный интеллект злой и кровожадный. Просто люди не могут больше управлять планетой. Есть большая вероятность, что машины справятся с этой задачей лучше нас. И мы станем для них обузой».
Недавно в Центре новой американской безопасности прошел саммит, посвященный искусственному интеллекту и вопросам глобальной безопасности. На саммите выступил и Эрик Шмидт (Eric Schmidt), председатель совета директоров материнской компании Google Alphabet. «Поверьте мне, китайцы очень хороши в ИИ. И они будут использовать эту технологию как для коммерческих, так и для военных целей со всеми возможными последствиями», — заявил Шмидт. Китай опубликовал свою стратегию развития технологий искусственного интеллекта еще в июле этого года. В стратегии Пекина указывалось, что страна стать мировым лидером в области ИИ к 2030 году. «Все очень просто. К 2020 году они нас догонят, к 2025 году они будут лучше нас, а к 2030 году они будут доминировать в индустриях, связанных с искусственным интеллектом» — отметил Шмидт.
Шмидт также возглавляет Консультативный совет Пентагона по инновациям и в ходе своего выступления обрушился на руководство страны с критикой за недостаточное внимание к искусственному интеллекту и медленное внедрение новых технологий в армии. По его мнению, вооруженным силам США давно пора внедрять алгоритмы в сферу анализа больших данных. Шмидт уверен, что машины, например, без помощи человека могут бесконечно и автоматически вести в режиме реального времени наблюдение за интересующими объектами и людьми и оповещать о важных изменениях в ситуациях, а вместо этого Пентагон использует людей-операторов или часовых.
Шмидт также поднял и вопрос финансирования и найма правильных людей. Пентагон должен платить экспертам в области искусственного интеллекта большие деньги. Сегодня таким экспертам платят миллионы долларов — настолько высоко они ценятся на рынке. Наивно думать, что они пойдут работать на министерство обороны без финансовой мотивации. «Мы находимся в ситуации, когда выпускники Карнеги-Меллон и других вузов пользуются наибольшим спросом, который я когда-либо видел. Они в свои двадцать лет сразу получают многомиллионные предложения. Так ценны эти люди на рынке» — сказал Шмидт.
Еще один важный момент, по мнению Шмидта, это ошибочное мнение американцев, что китайская система образования не может производить таланты в области искусственного интеллекта и программирования. Это предвзятое отношение может стоить дорого для США. Сегодня Шмидт говорит уже о том, что это США надо переманивать специалистов из Китая и Ирана, а не наоборот: «Шокирует то, что некоторые из лучших специалистов живут в тех странах, откуда в Америку не пускают. Иран выпускает самых умных и лучших компьютерных специалистов в мире. Я хочу их видеть здесь. Я хочу, чтобы они работали на Alphabet и на Google. Это просто безумие — не пускать этих людей».
Сетования Шмидта частично компенсируются попытками Пентагона внедрить искусственный интеллект как раз в тех областях, о которых он говорит. Еще в апреле 2017 года Боб Уорк (Robert Work), бывший заместитель министра обороны США, создал специальное подразделение по ведению «алгоритмических боевых действий» (Project Maven), которое должно взять на себя и ускорить внедрение искусственного интеллекта и машинного обучения в вооруженных силах. Каждые три месяца данное подразделение должно отчитываться, как уже на практике оно внедрило те или иные технологии. После внедрения искусственного интеллекта в одной области команда должна начинать работу в другой. Когда весной Уорк создавал это подразделение, он считал, что пора переходить от разовых попыток внедрения новейших информационных технологий и превратить это в беспрерывный процесс во всех вооруженных силах. Для медленной бюрократической машины Пентагона 90 дней на внедрение — это фантастический темп.
Первой задачей нового подразделения Пентагона было использование искусственного интеллекта для анализа данных и видеоизображений, получаемых в Сирии и Ираке. Сегодня до 95% всех данных, поступающих в аналитические военные центры США c беспилотников, идут именно из этих двух стран. Люди в прямом смысле слова не справляются с обработкой и анализом таких огромных массивов информации. До 80% их рабочего времени занимает просто просмотр кадров. Искусственный интеллект в теории должен помочь им определять объекты, выявлять ненормальные последовательности действий на земле и т. п. Искусственный интеллект не будет определять цели для уничтожения, но поможет сделать это людям, хотя сегодня и ведутся разработки по созданию систем, которые бы автономно определяли противника, сверяясь с «библиотекой» целей.
Этой осенью генерал Джек Шенахан (Jack Shanahan) отчитался о работе команды и подготовке к «алгоритмической войне». За это время было привлечено шесть частных компаний, которые могли предложить свои алгоритмы наблюдения и анализа данных. Первые четыре алгоритма были выбраны и будут внедрены в вооруженных силах США к концу года. Шенахан уверен, что искусственный интеллект будет применяться Пентагоном не только для анализа видеоизображений с беспилотников, но что и вообще наступила эпоха, когда вооруженные силы США больше не закупят ни одной технологической платформы, где не внедрен искусственный интеллект. Большие надежды генерал возлагает и на появление квантового компьютера и развитие облачных вычислений. Всего около 130 компаний выказали интерес в сотрудничестве с Project Maven.
О внедрении искусственного интеллекта в сфере оказания помощи ветеранам также задумались в Министерстве по делам ветеранов и Министерстве энергетики США. Через Ирак и Афганистан прошло уже около трех миллионов военнослужащих США. По разным подсчетам, около 20 ветеранов в день сводят счеты с жизнью, а за помощью в лечении посттравматического синдрома обращаются менее 10% ветеранов с этим расстройством, при этом 80% из обратившихся восстанавливают психическое здоровье. Сегодня для диагностики посттравматического синдрома и выбора методов лечения американцы используют суперкомпьютер IBM Watson. Ветераны, участвующие в проекте, предоставляют три раза в неделю свои рассказы о войне и жизни, а искусственный интеллект анализирует голос, содержание, изложение и выдает свои рекомендации по курсу лечения.
Министерство энергетики США в свою очередь готово работать над созданием огромной базы данных по ветеранам в стране, включая все медицинские данные, в том числе и генетические, чтобы с помощью искусственного интеллекта оптимизировать процессы выявления и лечения психологических расстройств, раковых и сердечно-сосудистых заболеваний у бывших и действующих военнослужащих.
