Робот-психолог хочет поговорить с вами об этом

Может ли приложение с психологами-любителями и ботами создать безопасный Интернет? Лампа представляет перевод отличного и массивного лонгрида от автора The Verge Бена Поппера. 


В январе 2016 полиция в Блэксбурге, штат Вирджиния, начала расследование исчезновения 13-летней девочки по имени Николь Лавелл. Родители обнаружили, что дверь дочки забаррикадирована, а окно — открыто. Лавелл была объектом школьных насмешек и родители подумали, что она сбежала.

Девочка-подросток вела активную жизнь в соцсетях. В мессенджере Кик, она написала, что готова убить себя, а также поделилась скриншотом: парень, которому она симпатизировала, сменил свое на имя на «Николь страхолюдина». В Инстаграме есть ее грустное селфи с текстом: «Никому нет до меня дела».

Лишенная поддержки в своем кругу, она искала ее онлайн. Полиция вышла на след переписки в Кик между Лавелл и неким Доктором Надгробие  (Томбстоун). Диалог длиной в несколько месяцев постепенно перерос в романтические отношения. Под ником Томбстоун скрывался первокурсник Вирджинского технического, Дэвид Эйзенхауэр, старше Николь на пять лет. В итоге, история закончилась очень плохо: Эйзенхауэр заманил девочку на встречу с ним, а затем убил ее.

Сотрудники Кик считают, что трагедия стала моментом истины для платформы. На начало 2016 года у приложения было 200 миллионов пользователей и 40% всех подростков в США. В условиях использования было прописано, что для лиц моложе 18 лет необходимо согласие родителей, но это условие можно было запросто обойти. Из-за того, что приложение позволяло юзерам сохранять анонимность, пресса окрестила Кик игровой площадкой для криминала. Юрий Блохин, бывший сотрудник Кик, говорит, что все в компании были повергнуты в шок.

Каждый чувствовал, что должен был сделать больше, было чувство ответственности [за случившееся].

Руководство Кик хотело, чтобы система могла идентифицировать, защитить и предоставить ресурсы для уязвимых пользователей. Но не знало как. Пока инвесторы не познакомили Кик с маленьким стартапом из Нью-Йорка под названием Коко. У них было приложение для айфона, которое позволяло одним пользователям постить сообщения о своих страхах, стрессах и печалях, а другим — предлагать им пути переосмысления своих проблем. Очень простая форма когнитивной поведенческой терапии в оболочке пиринговой (peer-to-peer) сети, показывающая очень положительные результаты. Две компании объединились с простой целью: предоставить поддержку и заботу от Коко нуждающимся пользователям Кик.

Но по мере диалога компаний возникла более амбициозная идея: что если объединить эмоциональный интеллект краудсорсинговой Коко и масштаб огромной социальной сети? Можно ли расширить охват одного приложения на повсеместный, везде, где люди социализируются онлайн и делятся своими эмоциями? В течение всего прошлого года команда Коко разрабатывала систему для этого.


В 1999 году Роберт Моррис, будущий сооснователь Коко, был выпускником психологического факультета Принстона, получавшим хорошие оценки, но не знавшим, в каком направлении двигаться, какую тему взять для диплома.

У меня было несколько пространных и странных идей для исследования и я повсюду носил собой чудные гаджеты, соединенные между собой: микрофоны, сенсоры и провода.

В конце концов, Моррис обрел пристанище в медиа-лаборатории при Массачусетском технологическом институте (МТИ). Начавший кодить Моррис проводил кучу времени на сайте Stack Overflow, ресурсе для помощи программистам. Моррис был поражен способностью сообщества отвечать на его запросы и помогать ему совершенно бесплатно. И он подумал, что такая краудсорсинговая модель может быть применена и к личным вопросам.

Я то и дело боролся с депрессией. Мне нужен был дебаг не только кода, но и мозга.

Для своей дипломной Моррис построил как раз такой проект, под названием Panoply, где было 2 способа общения: запостить сообщение о своем негативном чувстве или отвечать на такие месседжи. Чтобы протестировать платформу, Моррис обратился к Mechanical Turk, предоставлявшему краудсорс за небольшие деньги.

Моррис обучил работников MTurk некоторым основным когнитивно-поведенческим техникам, чтобы они могли отвечать на посты: как проявить эмпатию к человеку в сложной ситуации, как распознать когнитивные искажения, усиливающие влияние жизненных невзгод и как изменить восприятие проблемы на более оптимистичную точку зрения. За каждую выполненную задачу он платил несколько центов.

Чтобы полностью протестировать систему, Моррис набрал несколько сотен волонтеров через объявления в интернете. Субъектов также кратко проинструктировали и выпустили «на свободу», постить свои проблемы и вникать в проблемы других. Это рандомное сборище людей — вероятно, самое последнее место, куда бы вы обратились за помощью. Но в клинических испытаниях Моррис обнаружил, что у пользователей, проведших два месяца в Panoply, снизился стресс, уменьшилась депрессия и повысилась сопротивляемость ей по сравнению с контрольной группой. И наиболее эффективная помощь исходила не от оплачиваемых работников MTurk, а от бесплатных волонтеров.

Исследование вдохновило Морриса, а затем ему позвонил незнакомец. Спустя неделю после защиты диссертации он получил несколько взбудораженных писем от какого Фрезера.

В то самое время как Моррис разрабатывал Panoply, Фрезер Келтон и Карим Куддус, интернет-предприниматели, преследовали ту же идею. Они набирали участников через Твиттер и объединяли их в группы в Ватсапе, а затем одна группа учила другую основам когнитивно-поведенческой терапии. В конце теста 100% участников поблагодарили их за такую возможность и спросили, могут ли они заниматься этим и дальше.

Спустя месяц Келтон наткнулся на работу Морриса и немедленно написал ему. «Мы думали, что у нас блестящая идея, но он взял и перепрыгнул нас, он продвинулся намного дальше, чем мы, у него были клинические тесты, результаты и защищенная диссертация». Келтон, Куддус и Моррис за несколько недель состряпали то, что стало прототипом Коко. Название должно было отражать смысл психологической помощи: показать юзерам проблему с разных перспектив. Коко наоборот — это ок, ок.

Фрезер, разбирающийся в стартап-кухне, связался с инвесторами. Брэд Бернем, партнер из Юнион Сквер Венчерз сказал, что никогда ранее не видел ничего похожего на Коко:

Помогая другим, пользователи помогали сами себе. И это создавало огромный синергетический эффект.

В январе 2015 Коко получило инвестиции в размере 1 млн долларов, а меньше, чем через месяц, была выпущена бета-версия для iOS.


Zelig (ник в Коко) впервые нашла приложение, сидя на парковке в ожидании своих детей.

Ее мягкий и открытый сын с синдромом Аспергера не находил признания вне дома и все больше и больше погружался в изоляцию, характерную для подростков с аутизмом. А у дочери только что диагностировали обсессивно-компульсивное расстройство.

«У меня особые дети и у меня нетипичная жизнь, полная постоянного стресса. Ты прикладываешь все свои усилия, но ничего не получается, и это пугает».

Zelig могла написать пост о своих проблемах и поделиться им со всеми, кто откроет приложение, но решила не делать этого.

Мне было сложно уместить свои огромные проблемы в маленький текст размером с твит.

Так что вместо этого Zelig начала читать посты других людей.

Коко начинается с краткого туториала о переосмыслении. Приложение объясняет, что переосмысление — это не решение проблем, а предложение взглянуть на них с другой стороны. Для иллюстрации используются мемы и мультики: если вы выбрали правильный подход, то милый щенок даст вам лапу.

Приложение проводит новичков через ситуации и потенциальные ответы на них, указывая, какие из них подходят, а какие нет. Инструкцию можно завершить меньше, чем за 5 мин. После этого пользователи уже могут принимать активное участие. Несмотря на минимальное обучение, вопросы, возникающие здесь, очень серьезны: например, кто-то боится сообщать семье, что принимает анти-депрессанты, кто-то стал жертвой школьной травли, кто-то потерял самооценку из-за агрессивного партнера. Коко очень быстро забрасывает вас в самые глубины человеческого отчаяния.

Вы можете написать в ответ что угодно, но Коко также предлагает подсказки: «Более сбалансированным подходом к этой проблеме стало бы…», «Может быть, с другой стороны, это не так уж плохо, потому что…» и т.д. Любой пост и ответ на него премодерируется, чтобы избежать троллей и неадекватных ответов. Раньше эту работу выполняли модераторы, но сейчас компания все больше полагается на ИИ.

Предложения пересмотреть ситуацию и переосмыслить ее помогают пользователям избежать вредных ментальных привычек, не попасть в цикл негативного мышления, который бы усугубил их депрессию и волнение.

В течение нескольких месяцев Zelig не раз ловила себя на том, что печатает что-то пользователям Коко, застыв посреди магазина. А иногда, вспомнив, что надо было сказать, съезжает на обочину, достает телефон и начинает набирать свои советы. Делая это, она почти сразу почувствовала облегчение и то, что начинает контролировать и свою собственную ситуацию. Она начала распознавать в своих собственных мрачных мыслях модели чужих проблем. Особая сила Коко заключалась в том, что помогая другим, пользователи помогают сами себе.


В последние несколько лет наблюдался взрыв стартапов, предлагающих пользователям психологическую помощь. Например, MoodKit и Anxiety Coach предлагают аутотерапию. Другие, как Pacifica, смешивают уроки терапии с онлайн группами поддержки. Talkspace связывает пациентов с профессиональными психотерапевтами, лечащих их с помощью звонков и смс.

Коко — одно из немногих построенных на пиринговой модели. Самые близкие аналоги — Airbnb и Lyft. Зачем платить за гостиницу или машину, если дом или авто соседа могут быть так же хороши? Зачем платить за терапию, если советы чужих людей могут быть полезными и бесплатными?

Исследования показали, что когнитивно-поведенческая терапия может быть такой же эффективной в лечении депрессии и волнения, как и лекарства. С 80-х люди практикуются в аутотерапии с помощью учебников, CD-дисков или интернета, но без вспомогательных девайсов такая терапия вскоре прекращается и забывается.

Коко — это маленькая компания с тремя сооснователями и одним штатным сотрудником. 230 тысяч людей воспользовались приложением и более 26 миллионов сообщений было отправлено за последние полгода. Многие, как и Zelig, используют Коко каждый день более года. Но, как и многие современные приложения, у Коко трудности с расширением аудитории.

Команда всегда знала, что будет трудно монетизировать приложение взимая плату за пользование или размещая рекламу. Звонок от Кик поступил как раз вовремя.

После убийства Николь Лавелл, Кик обратился к инвесторам, которые свели мессенджер с Коко.

Когда вы впервые регистрируетесь в Кик, вашим первым контактом становится чатбот. Он отвечает на вопросы о сервисе, рассказывает об обновлениях и новых функциях. Юрий Блохин, бывший инженер Кика, рассказывает, что люди часто пытались говорить с ботом и на другие темы, вроде развода, депрессии, проблем в школе.

Кик не знал, как реагировать на подобные запросы, зато это знали в Коко. У приложения была база данных из миллионов постов, тщательно отобранных и категоризированных по типам проблем. Они использовали эти данные, чтобы натренировать чатбота: если контент сообщения критически опасен (то есть автор представляет угрозу для себя или для других), то он соединяет пользователя с текстовой кризисной линией, а если проблема решаема, то бот соединяет его с сообществом пользователей Коко. Если же бот решает, что собеседник — тролль, он скрывает пост.

Подход доказал свою эффективность, но Коко пошел дальше. Если пользователь писал о проблеме, которая находится в топе — типа болезни у члена семьи, сложного экзамена, ссора с партнером, — то чатбот автоматически предлагал подходящее переосмысление ситуации. ИИ выступал как звено в цепи peer-to-peer.

Начиная с августа 2016 года любой пользователь Кик мог поделиться своим стрессом с Кокоботом и получить желанный ответ уже через пару минут. Работа с Кик позволила Коко осознать, насколько велика эта открывшаяся возможность для бизнеса.

Откройте Твиттер, Реддит, Тумблер, любую соцсеть и вы увидите, как много пользователей делятся своими проблемами, в надежде получить отзыв.

Команда осознала, что если они могут натренировать ИИ так, чтобы вычислять пользователей, находящихся в стрессовой ситуации, и отвечать им, то они также смогут создать алгоритмы для автоматического распознавания пользователей, находящихся в зоне риска, даже если они сами не просили о помощи.

Коко стал превращаться в инструмент, сканирующий платформы и вступающий в действие по собственной воле. Команда надеялась бесплатно предоставлять этот инструмент онлайн-сообществам, используя отзывы, чтобы дальше тренировать ИИ и однажды продать его цифровым ассистентам типа Сири и Алексы.

Переход в эту область оказался сложным. В прошлом январе команда установила Кокобот на два Реддит форума: r/depression и r/SuicideWatch. Он сканировал посты и писал пользователям сообщения, предлагая свою помощь.

Но сообщество отреагировало не так, как предполагали инженеры Коко: люди были в ярости.

Люди писали: «Я поражен, что для этого они используют бота», «Отвратительно, что эти мерзавцы пытаются извлечь выгоду из людей». Модератор форумов вывесил предупреждение, чтобы пользователи игнорировали Кокобот. «Должен признать, что сама технология интересна», писал модератор, «но если она находится в руках людей, которые так поступают, то это просто нереально бесит».

Команда Коко признала ошибку, что позволила боту отправлять месседжи без предупреждения, без сообщения о том, кто они такие и какую цель преследуют. Но Келтон верит, что фидбек от Реддит демонстрирует, что система может иметь успех. «Помочь модераторам понять и принять сервис — это проблема, которую мы уже почти решили».


В январе 2017 года военные встретились в Пентагоне с топами из Фейсбук, Гугл и Эппл. Темой стало предотвращение суицида в век социальных медиа. Федеральное правительство определило задачу в список высокоприоритетных, поскольку суицид стал главной причиной смертей среди военных ветеранов США. Также это вторая главная причина смерти среди подростков, большинство из которых проводят 6,5 часов в день в смартфонах и планшетах.

На встрече присутствовал Мэтью Нок, профессор психологии в Гарварде и эксперт по прогнозированию и предотвращению суицида. «В научном сообществе пришли к консенсусу, что использование технологий для вычисления и вмешательства в потенциальный акт суицида имеет большой потенциал, но делать выводы пока рано».

Несмотря на сомнения, Нок заинтересован в решениях компаний вроде Коко. «Мы знаем, что когнитивно-поведенческая терапия эффективна в лечении людей с клинической депрессией и нам не хватит сил предложить ее всем, кто в этой терапии нуждается. И несмотря на то, что у людей, использующих приложения, нет квалификации, это лучший вариант из тех, что мы имеем».

Масштабируемость технологии делает ее отличным инструментом для поддержания психологического здоровья, но в этом бизнесе есть свои риски.

Стивен Шуллер, профессор Северо-западного университета, специализирующийся на поведенческих технологиях:

Каждый хочет быть Убером в психологии. Но меня беспокоит то, что нет возможности проверить правильность действий пользователей, чтобы быть уверенным в том, что люди получают качественную помощь. Психотерапия гораздо сложнее вождения автомобиля.

Опыт Коко и Реддит — это не первая неудача компании, пытающейся масштабироваться в сфере оказания психологической помощи. Например, в Talkspace психотерапевты не могли сообщить властям о пациентах, представляющих угрозу для себя или для других. Из-за этого некоторые из них покинули эту платформу. Общественная организация Самаритяне со стажем в 65 лет в оказании помощи находящимся в сложной эмоциональной ситуации, в 2014 году выпустила приложение Samaritan Radar. Радар пытался определить пользователей Твиттер, нуждающихся в помощи. Но все закончилось тем, что на сервис обрушились озлобленные пользователи, считающие, что их приватность нарушена.

Этика использования ИИ стала главным вопросом в этой индустрии. Джон Дрейпер, директор проектов в Национальной линии помощи в предотвращении суицидов, считает, что общество всегда будет стремиться узнать, на что еще способна технология, что может ИИ. Ведь спрос на оказание психологической помощи всегда будет превышать профессиональные предложения.


Марк Цукерберг из Фейсбук недавно отметил, что из-за перехода людей в онлайн, общество стало свидетелем небывалого ослабления связей, ранее обеспечивавших моральную и эмоциональную поддержку.

«Случались разные трагические события — например, суициды, некоторые в прямом эфире, — которые могли быть предотвращены, если бы хоть кто-нибудь осознал, что происходит и сообщил бы об этом раньше. Каждый день случаются оскорбления и травля, которые наша команда должна вычислять. Мы должны найти способ сделать больше. ИИ может помочь нам в этом. Мы разрабатываем системы, которые могут просматривать фото и видео, чтобы отметить потенциальный контент для модерации». В марте Фейсбук начал тестировать систему ИИ, чтобы сканировать уязвимых пользователей и предлагать им помощь. Лампа также писала об аналогичной инициативе Твиттера по предотвращению случаев харрасмента и оскорблений еще до того, как на них поступит жалоба.

У Коко примерно та же цель, но простирающаяся на все соцсети и онлайн-сообщества. Разработчики надеются находить уязвимых людей вроде Николь Лавелл, кричащих о помощи, ищущих сострадание.

Лента Коко трещит от жалоб на отсутствие денег, от одержимости женатым мужчиной, от перспектив ухода за больным родственником, который даже не помнит, как тебя зовут. Под каждым постом 3-4 пользователя предлагают переосмыслить ситуацию.

«То, что заставляло меня снова и снова возвращаться в это приложение, это невероятное ощущение надежды, что несмотря все дерьмо, что происходит в моей жизни, я все еще могу помочь кому-то, могу сделать что-то позитивное», говорит Zelig.

Дети Zelig тоже стали интересоваться, что там мама делает в телефоне. «Они хотят знать, что я делаю. И я спрашиваю их: как вы думаете, это поможет? Как бы вы помогли в такой ситуации? Что послужило причиной проблем этого человека? Это как некая загадка, которую мы сообща пытаемся решить. Эмоциональная, социальная загадка».

Полтора года спустя после загрузки приложения Zelig уже не чувствует себя находящейся в кризисной ситуации. «Жизнь долгое время держала меня и мою семью за горло. Но сейчас у меня появилась способность разглядеть выход к свету».