Компания Facebook разработала платформу, которая имитирует поведение оригинальной социальной сети. Ее населили ботами, чтобы разработчики могли отрабатывать различные сценарии поведения без ущерба для реальных пользователей и оперативнее находили уязвимости. 

Как это работает

Новый проект получил название WES (Web-Enabled Simulation – симуляция, которая включает интернет-ресурсы). В его основу, вероятно, лег разработанный ранее ИИ-инструмент Sapienz – он также моделировал поведение пользователей и использовался для тестирования социальной сети. 

Непосредственно сеть называется Facebook WW (сокращение от WES World – «Мир WES»). Это похоже на отсылку к сериалу Westworld («Мир Дикого Запада») об андроидах, которых не отличить от людей. 

Facebook WW позволяет моделировать взаимодействие пользователя с реальной инфраструктурой Facebook. При этом и пользователь, и боты выступают агентами, которые имеют достаточно широкий набор возможностей.

Разработчики подчеркнули: WES – это исследовательская программа, затрагивающая множество областей. Это, в частности, разработка программного обеспечения на основе поиска, машинное обучение, языки программирования, многоагентные системы, теория графов, применение искусственного интеллекта в играх.

Как боты копируют поведение людей

Копия социальной сети симулирует поведение сообщества пользователей изолированно от основного Facebook. Боты могут создавать посты, ставить лайки, оставлять комментарии и делать репосты. Все как в обычном Facebook: к примеру, один бот может оскорбить другого, тот – пожаловаться в администрацию соцсети или ответить грубостью на грубость и т.п.

Часть ботов получила особые сценарии поведения. Так, в Facebook WW действуют боты-мошенники, которые стремятся обмануть обычных ботов. Есть боты, которые выманивают личную и банковскую информацию, призывают совершить определенные действия. Отдельная категория ботов подталкивает к нарушению регламента социальной сети, к примеру, распространяет запрещенный контент. 

В свою очередь, целевые боты имитируют поведение жертв мошенников и других уязвимых категорий пользователей. Все боты могут обучаться, чтобы точнее копировать поведение реальных людей. 

Разработчики пояснили, что отработка таких сценариев позволит сделать социальную сеть безопаснее, оперативно пресекать мошенничество и бороться с запрещенным контентом. Кроме того, это поможет быстро находить уязвимости в коде и проблемы в архитектуре сети. 

Часть багов, которые обнаружит WES, невозможно найти традиционными способами. Это новый уровень абстракции, который принимает во внимание структуру сообщества пользователей и характер взаимодействий внутри него.