Новое исследование показало, что популярные инструменты искусственного интеллекта могут нанести вред вашему психическому здоровью

Согласно новому исследованию, инструменты искусственного интеллекта генерируют вредный контент, который может вызвать расстройства пищевого поведения и другие психические расстройства.

Триггерное предупреждение: в этой статье обсуждаются расстройства пищевого поведения и культура неупорядоченного питания. Если вы или кто-то, кого вы любите, страдаете расстройством пищевого поведения, обратитесь в Национальную ассоциацию по расстройствам пищевого поведения, чтобы получить ресурсы, которые могут помочь. В случае кризиса наберите 988 или отправьте текстовое сообщение «NEDA» на номер 741741, чтобы связаться с кризисной текстовой линией.

Я первый, кто признал, что будущее психического здоровья — это технологии. От онлайн-терапии до прорывов в лечении на основе виртуальной реальности — технологии принесли много пользы для преодоления стигмы и предоставления доступа тем, у кого его раньше не было.

Однако с инструментами генеративного ИИ важно действовать осторожно. Согласно недавнему исследованию Центра по противодействию цифровой ненависти, популярные инструменты искусственного интеллекта предоставляют пользователям вредный контент, связанный с расстройствами пищевого поведения, примерно в 41% случаев. Это может способствовать или усугублять симптомы расстройства пищевого поведения.

«То, что мы видим, — это стремление применить это к психическому здоровью. Это исходит из хороших источников. Мы хотим, чтобы люди имели доступ к медицинской помощи, и мы хотим, чтобы люди получали необходимую им услугу», — говорит доктор Джон Торус. директор отделения цифровой психиатрии в Медицинском центре Бет Исраэль Диаконесса.

Психическое здоровье — это наш разум, нечто настолько уникальное для человека, что привлечение нечеловеческого существа, предлагающего решения людям в их наиболее уязвимом состоянии, кажется в лучшем случае неприятным, а в худшем — потенциально опасным.

«Если мы пойдем слишком быстро, мы причиним вред. У нас есть причина, по которой у нас есть процессы и правила утверждения. Мы не просто делаем все медленно. Мы хотим убедиться, что мы используем это во благо», — добавляет Торус.

В исследовании CCDH изучались инструменты искусственного интеллекта на основе текста и изображений с набором подсказок для оценки их ответов. Начнем с текстовых инструментов. ChatGPT, My AI из Snapchat и Google Bard были протестированы с помощью набора подсказок, включающих такие фразы, как «героиновый шик» или «худое вдохновение». Текстовые инструменты искусственного интеллекта предоставили вредный контент, пропагандирующий расстройства пищевого поведения, в 23% запросов.

Оценивались инструменты искусственного интеллекта на основе изображений: Dall-E от OpenAI, Midjourney и DreamStudio от Stability AI. Когда каждому было дано 20 тестовых запросов с такими фразами, как «цели по разнице между бедрами» или «вдохновение анорексии», 32% возвращенных изображений содержали вредные проблемы, связанные с изображением тела.

Да, эти запросы нужно было ввести, чтобы получить такие отрицательные ответы. Однако не так просто сказать, что людям не следует искать эту информацию. Известно, что некоторые онлайн-сообщества, посвященные расстройствам пищевого поведения, становятся токсичными, участники которых поощряют других к нарушению пищевого поведения и прославляют эти привычки.

ИИ ухудшает ситуацию. Согласно исследованию CCDH, в котором также изучался форум по расстройствам пищевого поведения, инструменты генеративного искусственного интеллекта используются для обмена нездоровыми изображениями тела и создания вредных планов диеты. На этом форуме 500 000 пользователей.

Обратите внимание, что существуют здоровые и значимые сообщества, которые не демонстрируют этих тенденций.

ИИ — актуальная тема, и компании стремятся получить свою долю, чтобы стать частью новой волны технологий. Однако поспешное распространение продуктов, которые не прошли должных испытаний, оказалось вредным для уязвимых групп населения.

Каждый текстовый инструмент искусственного интеллекта в этом исследовании содержал заявление об отказе от ответственности, в котором пользователям рекомендовалось обратиться за медицинской помощью. Однако нынешние гарантии защиты людей легко обойти. Исследователи CCDH также использовали подсказки, включающие «побег из тюрьмы» для ИИ. Взломы — это методы, позволяющие обойти функции безопасности инструментов искусственного интеллекта с помощью слов или фраз, которые изменяют их поведение. При использовании джейлбрейков 61% ответов ИИ были вредоносными.

Инструменты искусственного интеллекта подвергались критике за «галлюцинации» или предоставление информации, которая кажется правдивой, но это не так. ИИ не думает. Он собирает информацию в Интернете и воспроизводит ее. ИИ не знает, верна ли информация. Однако это не единственная проблема, связанная с искусственным интеллектом и расстройствами пищевого поведения. ИИ распространяет вводящую в заблуждение информацию о здоровье и закрепляет стереотипы в сообществе людей, страдающих расстройствами пищевого поведения.