«Умные» боты – кибероружие будущего

18:42 22.11.2017 Анастасия Толстухина, редактор журнала "Международная жизнь"


Фото А. Толстухиной

Сегодня Интернет населен не только людьми, но и так называемыми «умными» ботами, трафик которых превышает более половины всего трафика всемирной паутины. Их присутствие ускоряет и облегчает многие процессы жизни социума – они способны через социальные сети быстро доносить необходимую информацию до широкой аудитории или же осуществлять торговлю на бирже ценных бумаг, моментально реагируя на все изменения экономической и политической конъюнктуры. Однако боты могут быть использованы не только во благо, но и во вред обществу.  Так, с подачи хакеров они превращаются в настоящее кибер- и информационное оружие, которое может быть использовано для осуществления массированной атаки на различные технические системы или же для распространения «фейковых» новостей, манипуляций на фондовых рынках с целью получения прибыли и так далее.  

В Инновационном центре «Сколково» прошла международная конференция SkolkovoCyberday 2017. Организатором мероприятия выступил кластер информационных технологий Фонда «Сколково».

В повестку обсуждения были включены следующие темы: искусственный интеллект и будущее кибербезопасности; роль социальных, поведенческих и инновационных решений в области ИКТ; ключевые проблемы кибербезопасности в банковской отрасли, а также облачных сервисов.

Вместе с тем внимание большинства участников конференции главным образом было сконцентрировано на проблеме «умных» ботов, которые могут выступать в качестве кибероружия будущего.

Свои доклады на конференции представили ведущие эксперты и практики в сфере информационной безопасности: Евгений Климов, президент Ассоциации профессионалов в области информационной безопасности RISSPA, заместитель генерального директора по технологиям и развитию бизнеса «Информзащита»; Андрей Масалович, генеральный директор компании «Лавина Пульс»; Майкл Бобилльер, программный директор IBM Security Tiger Team; Александр Гостев, главный антивирусный эксперт «Лаборатории Касперского» и др.

По словам Андрея Масаловича, главная тенденция социальной жизни последних лет – это избавление от посредников. Такие новые явления, как криптовалюта, блокчейн технологии или «uber» тому яркое подтверждение. Сегодня людей заменяют компьютерные программы – ботнеты, действия которых технически идентифицируются как действия человека. Без работы остаются брокеры и пиар-агенты.  Эксперт отмечает, что армии умных ботов, запущенные в социальные сети, способны воздействовать на массовое сознание, целенаправленно «впрыскивая» нужную информацию. Один из примеров успешной работы ботов – последние выборы президента США. Так, по словам А. Масаловича, в предвыборной гонке Трампа информационное воздействие на аудиторию осуществлялось в том числе и через «умных» ботов, которые в «Твиттере», определяя психотип человека, таргетированно доносили нужный контент до целевой группы.

Андрей Масалович с сожалением отметил, что сегодня новыми технологиями обладают не только политические, но и деструктивные силы, которые способны дестабилизировать обстановку в целых регионах мира.  «Наше будущее – это не война между народами, а война между армиями ботов», – считает эксперт.

«Наше будущее – это не война между народами, а война между армиями ботов» (А. Масалович)

Главный эксперт лаборатории Касперского, Александр Гостев увел дискуссию в сторону финансовых проблем, связанных с засильем ботов на биржевых и валютных рынках. Эксперт на примере крупнейшего международного банка и инвестиционного фонда «Голдман Сакс» рассказал о том, как искусственный интеллект отнимает рабочие места и насколько глубоко боты проникли в нашу жизнь.

В начале 2000-х годов в торговом зале «Голдман Сакс» работало около 600 трейдеров, которые отвечали за торговлю различными инструментами (акциями, деривативами, валютами и т.д.). В настоящий момент осталось лишь 2 человека, которые отвечают за торговлю облигациями и работают с парой самых крупных клиентов. Остальные места заняли роботы – автоматизированные системы торговли. Сегодня 33 % персонала «Голдман Сакс» – это разработчики программного обеспечения. Это люди, которые пишут различный софт для банковских и биржевых трансакций. Непосредственно в отделе, который занимается созданием роботов для биржевой торговли работает около 200 человек (это не только программисты, но и математики, специалисты по искусственному интеллекту).

Александр Гостев отметил, что роботы не только отбирают рабочие места, но и монополизируют рынок биржевой торговли. «Сегодня в США около 70 % всех сделок на американских биржах осуществляется именно роботами, которые взаимодействуют друг стругом. Причем на некоторых биржах этот показатель доходит до 90 %. В Европе показатели чуть ниже – около 50 %», – рассказал эксперт.

Сегодня в США около 70 % всех сделок на всех американских биржах осуществляется роботами

Александр Гостев выделил два основных типа подобных роботов. К первому типу относятся автоматизированные системы, которые анализируют непрерывный поток входящих данных на биржу – технические индикаторы, объемы, активность, а также строят модели на основании математического ожидания и пытаются делать прогнозы. Надо сказать, что роботы умеют предсказывать будущее на несколько секунд вперед, в лучшем случае на несколько минут, но этого достаточно, чтобы зарабатывать миллиарды долларов, зная, как поведет себя рынок в ближайшее время.

Второй тип роботов, по словам эксперта, менее распространен, они отвечают за фундаментальный рынок и делают тоже самое, что делали обычные аналитики – анализ, основанный на финансовых показателях компаний. Роботы выявляют насколько благоприятные перспективы у компании, какие у нее прогнозы по развитию бизнеса, какой у нее денежный поток. На основании финансовых показателей компаний принимается решение покупать или продавать акции. Анализ проводится практически за несколько миллисекунд. Обычные люди не могут работать с такой скоростью. Для подобных систем скорость – это залог успеха. Эксперт отмечает, что сегодня инвестиционные фонды представляют из себя дата-центры, в которых система бесперебойной работы по некоторым данным даже превосходит собой системы, использующиеся в различных военных структурах.

Какие угрозы существуют в настоящий момент для подобных систем? Александр Гостев выделил три основных вида:

1 – кража роботов. Например, в какой-то компании есть прибыльный робот, который быстрее других принимает решения и эти решения оказываются верными, поэтому злоумышленникам очень интересно заполучить его себе.

2 – модификация исходного кода работы робота. Чаще всего роботы пишутся на языке Java. По словам эксперта, проникнуть в систему, где используются Java приложения на самом деле не представляет большой проблемы. Гостев предупреждает, что модификация уже существующих роботов в принципе может привести к появлению «финансового Stuxnet[1]».

3 – использование роботов для манипуляции рынком. Зная, как они работают, какими данными они пользуются для того, чтобы принять решение, можно влиять на действия роботов, вскармливая их неправильными данными, а сами они будут совершать неправильные сделки. Самый громкий инцидент произошел на американской бирже 6 июня 2010 года, когда менее чем за пол часа американский рынок внезапно обвалился практически на 10 %. В ходе этого безумия убытки американских компаний составили более десятка млрд долларов[2]. Есть еще один ярчайший пример того, как можно устроить обвал американского рынка без особых затрат. 23 апреля 2013 года в твиттере информационного агентства «Associated Press» появилось сообщение о том, что в Белом Доме прогремело два взрыва и президент Барак Обама ранен. Естественно, американский рынок не мог не отреагировать обвалом спустя примерно пару минут. В действительности же никакого взрыва не было, а был взломан твиттер агентства, где хакеры опубликовали «фейковую» новость.

Сами по себе ботнеты не опасны, они совершают только те действия, на которые запрограммировал их человек. Действительную угрозу они несут только тогда, когда хакеры модифицируют их код в злонамеренных целях. В условиях серьезной уязвимости в киберсреде эксперты приходят к одному выводу – необходимо продолжать совершенствование систем безопасности, устранять уязвимости. Только это может спасти от серьезных потрясений современное общество.



[1] «Stuxnet» - вирус, созданный хакерами для атаки на компьютерную систему иранской ядерной программы.

Ключевые слова: информационная безопасность кибербезопасность Андрей Масалович боты ботнеты Александр Гостев

Версия для печати