Самоубийства и Facebook AI
Оглавление:
Когда человек умирает от самоубийства, люди в своей жизни часто задаются вопросом, что они могли сделать, чтобы предотвратить это.
Пользователи социальных сетей могут даже сожалеть о том, что что-то беспокоит публикуемое человеком, но ничего не делает.
РекламаРекламаВ попытке помочь Facebook объявила о расширении использования инструментов искусственного интеллекта (AI), чтобы определить, когда кто-то высказывает мысли о самоубийстве или оскорблении себя на веб-сайте социальных сетей.
До этого месяца Facebook использовал только инструменты для некоторых пользователей в Соединенных Штатах. Теперь он доступен большинству 2-миллиардных пользователей сайта, за исключением тех, которые находятся в Европейском союзе, который имеет более строгие законы в области конфиденциальности и Интернета.
Марк Цукерберг, главный исполнительный директор Facebook, говорит, что использование ИИ является позитивным событием.
РекламаНедавно он опубликовал на своей временной шкале Facebook, что «Только за последний месяц эти инструменты AI помогли нам быстрее связаться с первыми респондентами более 100 раз. «
Как именно это делают инструменты?
РекламаРекламаFacebook не раскрывает подробные сведения, но кажется, что инструмент работает, просматривая сообщения или видео и помещая их, когда он поднимает слова, видео и изображения, которые могут указывать на человека. под угрозой самоубийства.
Facebook уже использует AI в подобном деле сканировать и удалять сообщения, которые представляют детской порнографии и другим нежелательным содержанием.
Представитель Facebook сказал Healthline, что инструменты предотвращения самоубийств помогают быстрее обнаруживать контент. ИИ также помогает расставлять приоритеты в отчетах, указывая, какие случаи более серьезны.
Затем обученные члены команды сообщества сообществ Facebook просмотрят содержимое и определите тип помощи для предоставления пользователю.
Эти участники работают по всему миру круглосуточно и просматривают оба отчета от инструментов AI и от заинтересованных пользователей Facebook.
РекламаРекламаОдин из способов, которым инструмент AI обнаруживает суицидальные тенденции, - это побудить пользователей к таким вопросам, как: «Вы в порядке? " "Могу ли я помочь? »И« Вам нужна помощь? «
Группе по работе с сообществом Facebook поручено рассмотреть контент, о котором сообщается как о жестоком или вызывающем беспокойство.
В мае Facebook объявила, что добавит еще 3 000 рабочих в операционную группу, в которой в то время было 4 500 сотрудников.
РекламаПо словам пресс-секретаря Facebook, эта технология помогает выявлять контент и видео, которые люди публикуют в Facebook чаще всего раз быстрее, чем друг или члены семьи могут сообщать материал.
Когда они обнаружены, пользователь Facebook связывается с поддержкой Facebook Live Chat от организаций поддержки кризисов через Messenger и может общаться в режиме реального времени.
РекламаРекламаАдвокаты по самоубийству на борту
При создании ИИ для предотвращения самоубийств Facebook работает с организациями по охране психического здоровья, включая «Спасение». org, Национальная лихорадка предотвращения самоубийств «1-800-273-TALK (8255)» и «Предотвращение самоубийств перед лицом».
Даниэль Дж. Райденберг, PsyD, исполнительный директор Save. org, говорит, что он взволнован тем, что Facebook прилагает все усилия, чтобы помочь продвинуть усилия по предотвращению самоубийств способами, которые раньше не делались.
«Если мы рассмотрим последние 50 или 60 лет - независимо от того, говорите ли вы о достижениях в лечении или лечении для самоубийства и психического здоровья, - мы не видели сокращения или видели, что из-за этого происходит самоубийство, поэтому идея что, возможно, технология может помочь, это лучшая возможность, которую мы имеем сейчас, чтобы попытаться спасти жизни », - сказал Рейденберг Healthline.
РекламаХотя он отмечает, что инструменты AI не могут быть полностью разработаны и могут представлять ложные срабатывания людей, которые подвержены риску, он говорит, что это передовая интервенция для предотвращения самоубийств, которая может занять время, чтобы понять ее эффективность.
«До появления ИИ были ложные срабатывания от людей, которые сообщали об этом Facebook, которые думали, что друг может быть самоубийцей. AI только ускоряет процесс, чтобы помочь устранить некоторые из этих ложных срабатываний и действительно подобрать тех, кто действительно подвержен риску », - сказал Рейденберг.
РекламаРекламаОн добавляет, что люди демонстрируют признаки суицидальных тенденций в социальных сетях и что это не является ни хорошим, ни плохим.
«Социальные медиа - это то место, где люди сегодня живут своей жизнью. Несколько лет назад они жили в парке или в перерыве или писали друг другу заметки, возможно, пообщались по телефону. Поскольку все больше и больше людей живут своей жизнью в социальных сетях, они разделяют как счастливые моменты, так и проблемы, с которыми они сталкиваются », - сказал он.
Изменение, добавляет он, позволяет людям достигать сотен и сотен людей одновременно.
Рейденберг говорит, что если вы заметите кого-то в социальных сетях, которые могут быть в депрессии или подвержены риску причинения себе вреда, обратитесь к ним с помощью сообщения, текста или телефонного звонка, если вы близкие друзья. Facebook даже предлагает предварительно заполненные тексты, чтобы облегчить начало разговора.
Если вам не нравится этот подход, Рейденберг предлагает использовать функцию отчетности в Facebook.
«Это легко и быстро сделать. Технология не может сделать это в одиночку. Нам нужны люди для участия. Не делать что-то самое худшее, что может случиться, - сказал он.
Как насчет вопросов конфиденциальности?
Помимо хорошего намерения, трудно не учитывать вторжение в частную жизнь.
Чарльз Ли Мадд-младший, адвокат по вопросам конфиденциальности и директор Mudd Law, говорит, что сканирование в Facebook по ключевым словам не должно считаться нарушением конфиденциальности, если оно было раскрыто раньше времени.
«Пока Facebook раскрывает, что он просматривает контент, я не вижу реальных проблем с конфиденциальностью», - сказал Мадд Healthline. «Следует понимать, что все, что публикуется в любом месте в Интернете, в том числе через электронную почту - частное или нет - или в социальных сетях, может найти путь к непреднамеренным получателям.По крайней мере, если Facebook сообщит нам, что у него есть роботы, которые читают нашу почту - или, по крайней мере, сканируют ключевые слова или фразы - мы можем приспособить наше поведение, если это необходимо. «
В то время как юридически Facebook может быть в ясной форме, независимо от того, действует ли это этически для обсуждения.
Кешав Малани, соучредитель Powr of You, компании, которая помогает людям зарабатывать деньги на своем цифровом присутствии, говорит независимо от намерений Facebook, каждый человек должен иметь право решать, как их личные данные используются.
"Или же это скользкий скруг на то, что считается« хорошим »и« плохим »использованием личной информации, которую мы разделяем на таких платформах, как Facebook. Кроме того, намерений недостаточно, поскольку искажения в данных могут приводить к недействительным или вредным требованиям даже из базового исторического анализа корреляции », - сказал Малани Healthline.
Он добавляет, что ИИ только хорош, как данные, которые он получает в качестве входных данных.
«Индивидуальные платформы, такие как Facebook, пытающиеся предположить, что они знают вас достаточно хорошо, чтобы делать выводы о вашем благополучии, были бы наивными. Facebook или любой другой медиа-магазин в этом отношении охватывают только небольшую часть нашей жизни и часто рисуют картину, которую мы решили разделить, поэтому делать выводы из такого ограниченного и, возможно, предвзятого источника данных следует делать с особой осторожностью », он сказал.
Тем не менее, Рейденберг говорит, что люди не должны бояться Facebook с помощью ИИ.
«Это не Facebook, преследующий людей или попадающих в дело людей», - сказал он. «Он использует технологии и людей, чтобы попытаться спасти жизнь людей», - сказал он. «Поверьте мне, если у вас в кризисе есть любимый человек, вы хотите, чтобы все было сделано для них, будь вы в реанимации или в Интернете. «
На самом деле, он надеется, что больше технологий может вмешаться в кризис людей.
«Когда кто-то переживает кризис, варианты и альтернативы уходят от них. Они очень сосредоточены на том, что происходит в тот момент, и у них нет инструментов, необходимых для их прохождения », - сказал он.
В любое время технология может помочь дать людям больше возможностей, говорит Рейденберг, тем меньше они будут в кризисе. Он хотел бы, чтобы технология создавала больше способов идентифицировать людей, которым угрожает опасность, прежде чем они рискуют, например, депрессией.
Например, он говорит, что если мы знаем, что, когда мы становимся более подавленными, мы меньше взаимодействуем, изолируем больше, снимаем больше, меньше энергии, говорим и пишем по-другому, тогда технология программирования, чтобы заметить эти изменения, может быть полезной.
«Предположим, вы обычный плакат на Facebook, но потом вы становитесь более подавленным в жизни, и ваша деятельность медленно снижается. Затем вы начинаете публиковать фотографии на Instagram кого-то очень грустного или мрачного дня снаружи. Если мы сможем получить технологии, чтобы понять, что происходит с вами в вашей жизни, основываясь на вашем поведении в Интернете, мы могли бы начать давать вам такие вещи, как ресурсы или поддержку, и, может быть, мы сможем ее развернуть », - сказал Рейденберг.
Цукерберг поделился подобным настроем в своем посте, ссылаясь на планы на будущее использовать ИИ другими способами.
«Мы можем сделать гораздо больше, чтобы улучшить это дальше», - писал он. «В будущем ИИ сможет понять больше тонких нюансов языка, а также сможет идентифицировать различные проблемы помимо самоубийства, в том числе быстро выявлять больше видов издевательств и ненависти. «
