Может ли искусственный интеллект защитить нас от хакеров?
С роботов-автомобилей и роботов-спасателей американское исследовательское агентство Darpa переключило свое внимание на роботов-хакеров.
Какие терминаторы смогут защитить нас от зловредных хакеров? Агентство Darpa, известное в первую очередь благодаря тому, что именно оно познакомило мир с интернетом, время от времени проводит конкурсы новых разработок, цель которых - справиться с очередным "большим вызовом" современности. Соревнования призваны ускорить исследования в областях, требующих первоочередного внимания. Именно идеи Darpa легли в основу серьезных разработок беспилотных автомобилей и роботов, способных трудиться в зонах стихийных бедствий. На очереди - Большой кибертурнир, цель которого - способствовать созданию программного обеспечения, выявляющего и устраняющего уязвимости других программ до того, как их обнаружили и использовали хакеры. "В настоящее время поиском и устранением уязвимых мест в программах занимаются исключительно люди, и это очень медленный процесс", - объясняет Майк Уокер, возглавляющий Большой турнир Darpa. По его словам, это представляет большую проблему в силу сложности современного программного обеспечения и фундаментальных трудностей, с которыми сталкивается один компьютер, пытаясь понять, что делает другой. И проблему эту описал еще пионер компьютерного дела Алан Тьюринг. Агентство Darpa устроило состязания для роботов, способных трудиться в зонах стихийных бедствий Именно он предсказал, что, по мере того как мир будет заполняться миллиардами небольших, соединенных между собой умных машин, будет нарастать необходимость в решении проблемы их взаимопонимания. "Смысл заключается в том, что в какой-то момент эти устройства начнут использоваться в таких масштабах, что без автоматики мы просто не сможем обеспечить эффективную сетевую защиту", - предрек Тьюринг задолго до создания интернета. Кульминацией кибертурнира станет проходящий на этой неделе съезд хакеров Def Con, на котором семь команд вступят в борьбу, чтобы выяснить, чья хакерская программа - самая лучшая. Как взорвать "трояна" Разумеется, автоматизированные системы цифровой защиты представлены не только на турнире Darpa. Во всем мире широко используются автоматические программы для выявления вирусов. По словам главного технолога компании Symantec Даррена Томсона, большая часть работы антивирусных программ должна быть автоматизирована просто потому, что злоумышленники разработали огромное количество компьютерных вирусов. Считается, что в ход уже запущено более 500 миллионов червей, троянов и иных вредоносных программ, и каждый день появляются тысячи новых. На помощь пришлось привлечь автоматические алгоритмы, объясняет Томсон, поскольку традиционные антивирусы плохо справлялись с вредоносными программами, которых не было в их базе. Алан Тьюринг одним из первых занялся исследованием пределов возможностей компьютеров "Эти программы выявляют лишь около 30-40% всего того, от чего мы защищаем пользователей", - поясняет эксперт. В остальном же компании, занимающиеся обеспечением кибербезопасности, всегда полагались на все более усложнявшиеся программы, которые на примере известных им вирусов обучались распознавать новые, неизвестные. К ним добавились алгоритмы, которые следят за работой других программ и оповещают об опасности, если в этой работе происходит что-то неожиданное. Некоторые системы защиты заключают подозрительно ведущие себя программы в виртуальный контейнер и с помощью разных методов пытаются "разорвать" вредоносный код и выявить его намерения. "Мы имитируем нажатие клавиш и взаимодействие программы с пользователем чтобы убедить вирус, что он активизирован", - рассказывает Томсон. Умный код Появление больших объемов информации позволило сделать важный шаг на пути к созданию программ защиты, которые позволяют перехватывать 60-70% вирусов, оставшихся незамеченными традиционными традиционным антивирусным софтом. "Обучающиеся машины позволяют выявить ДНК вирусных семейств, а не просто отдельные вирусы," - говорит основатель и исполнительный директор фирмы SentinelOne Томер Уэйнгартен. Этот подход был почерпнут из мира даталогии, или науки о данных, и, по словам Уэйнгартена, оказался очень результативным благодаря огромной базе, быстро собранной компаниями, которые начали отслеживать поведение зараженных вирусами компьютеров. "Так появился большой объем информации, и информации повторяющейся, - поясняет эксперт. - А это две необходимых составляющих для строительства очень надежного обучающего алгоритма, который может отличить хорошее от плохого. Если вы хотите сделать что-то вредное, вам нужно предпринять какие-то шаги, которые всегда будут отличаться от нормальных". Системы безопасности используют машины, способные отслеживать поток информации в сети Автоматизация выявления таких аномальных шагов необходима потому, что человек, или даже большая группа людей, не сможет выявить их достаточно быстро. И такие обучающиеся машины могут обеспечить защиту не только компьютерам. Когда речь заходит о крупных компаниях и даже правительствах, киберпреступники норовят проникнуть в из закрытые сети в поисках таких лакомых кусков, как базы данных клиентов, образцов новой продукции, контрактов, подробностей переговоров и ставок. Это еще одна ситуация, в которой, по словам директора компании киберразведки и кибербезопасности Dark Trace Джастина Файера, машины заметно опережают своих создателей. "Вы заставляете машину запомнить обширную базу данных, а затем с помощью вычислительной техники высокого уровня находите иголку в стоге сена, которой там не должно быть, - поясняет Файер. - Порой машина может заметить небольшую аномалию, которая укроется от человеческих глаз". Впрочем, предостерегает эксперт, не стоит обольщаться, будто способность машин к обучению - это и есть настоящий искусственный интеллект. Конечно, это шаг вперед, говорит Файер, но для принятия окончательного решения, после того как машина заметила что-то подозрительное, по-прежнему требуется человеческий интеллект. А кроме того, способность машин к обучению могут использовать не только те, кто занимается защитой. "У нас был случай, когда мы выявили вирус, следивший за пользователями и запоминавший их привычки, - поясняет эксперт. - Нам остается лишь прийти к выводу, что этот вирус пытался найти наиболее удобный способ извлечения информации без возбуждения подозрений. Так что, когда обучающиеся машины начнут использовать хакеры, начнется самое интересное".