Как сообщил директор по безопасности Facebook Джо Салливан, в популярной социальной сети действуют специальные алгоритмы для ранней профилактики преступлений. Чаты пользователей и другие персональные данные сканируются на предмет подозрительной криминальной активности.

Facebook с помощью специального ПО сканирует чаты на наличие слов и фраз, потенциально указывающих на преступную деятельность. К подозрительным относится, в частности, обмен личной информацией или использование нецензурных или вульгарных выражений.

Особо подчёркивается, что целенаправленным чтением приватной переписки пользователей никто не занимается. Автоматический механизм реагирует на определённые ключевые слова и сочетания факторов, а при обнаружении сомнительных контактов уведомляет об этом особого сотрудника. Салливан уверяет, что такая система характеризуется очень невысокой доле ложных срабатываний.

Мониторинг активности пользователей направлен прежде всего на предотвращение сексуальных преступлений против малолетних. Одна из типичных ситуаций, в которой алгоритм может среагировать, – переписка между двумя пользователями, которые не являются друзьями и не имеют общих знакомых, мало общаются, живут далеко друг от друга и сильно отличаются по возрасту.

В марте 2012 года система мониторинга Facebook привлекла внимание сотрудников к переписке между 30-летним мужчиной и 13-летней девочкой на тему секса. Информация о том, что мужчина собирается встретить свою юную собеседницу на следующий день после школы, была передана в правоохранительные органы, и вскоре предполагаемый педофил был арестован. Правда, признать себя виновным он отказался.