Facebook использует новый алгоритм, чтобы найти пользователей склонных к самоубийству

Количество пользователей Facebook, которые видят сообщение поддержки для предотвращения самоубийств, удвоилось, так как компания включила систему обнаружения людей склонных к суициду.

Джозеф Джераче, шериф Нью-Йоркского округа Чаутаука, видел много самоубийств. В детстве, задолго до его начала работы на государственной службе, отец его лучшего друга покончил с собой

Поэтому, когда Джерас услышал о звонке в июле прошлого года от члена команды безопасности Facebook в Ирландии к диспетчеру в центре 911 в его округе, он сразу же отреагировал. Представитель Facebook призвал предупредить местных чиновников о жителях, которым нужна срочная помощь.

«Это помогает нам в общественной безопасности», - сказал в интервью CNBC Джерас, который работает в правоохранительных органах в течение 39 лет. «Мы не вторгаемся в личную жизнь людей. Мы пытаемся вмешаться, когда есть проблема».

Случай в округе Чаутаука, впервые опубликованный в августе в местном журнале, был связан с Facebook, поскольку компания проинформировала полицию о том, что женщина угрожала причинить вред себе на своей странице в социальной сети.

В течение многих лет компания разрешала пользователям сообщать о суицидальном контенте внутренним рецензентам, которые оценивают его и решают, следует ли предлагать человеку поддержку по горячей линии по предотвращению самоубийств или, в случае крайней необходимости, нужно срочно обращаться в полицию. 

Но это Facebook, социальная сеть, где алгоритмы и искусственный интеллект могут значительно упростить такие задачи. 

Примерно год назад Facebook добавила технологию, которая автоматически помещает сообщения с выражением суицидальных мыслей для анализа специалистов компании. А в ноябре Facebook доказал, что новая система работает.

Facebook теперь говорит, что улучшенная программа отмечает в 20 раз больше случаев суицидальных мыслей для рецензентов по содержанию, и в два раза больше людей получают материалы и необходимую помощь, что может  предотвратить суицид. Компания внедряет обновленную систему на нескольких языках и улучшает профилактику самоубийств в Instagram, хотя инструменты там находятся на более раннем этапе разработки.

Хотя сообщения с суицидальными мыслями очень редки, самоубийство является распространенной угрозой. Это одна из 10 причин смерти в США, и она занимает второе место среди людей в возрасте от 15 до 34 лет, согласно данным американского Центра по контролю и профилактике заболеваний.

Для Facebook, у которого более 2,1 миллиарда активных пользователей в месяц, есть четкая позиция улучшить данную ситуацию.

Все технологические гиганты, в том числе Amazon, Apple, Google и Microsoft, инвестируют в ИИ чтобы улушать работу своих сервисов. Но профилактика самоубийств ранее не была в центре внимания разработчиков. 

Facebook уже более десяти лет занимается поиском мер по предотвращению самоубийств. Это началось с сообщений в справочном центре социальной сети, где люди, которые нуждаются в помощи, могли найти необходимую информацию. Следующим шагом для Facebook стало предоставление пользователям возможности сообщать о суицидальном содержании постов человека для изучения этого вопроса специалистами.

Развитие подобных технологий сможет значительно сократить динамику и количество суицидов, особенно у подростков.