По данным UNICEF каждый третий ребенок в мире пользуется интернетом. Интернет для детей - средство общения, источник информации и место для развлечений. Но у технологии есть и обратная сторона: в интернете дети могут столкнуться с опасным контентом или буллингом (травлей). Согласно исследованию школы онлайн-образования “Фоксфорд”, каждый второй ребенок сталкивался с травлей в сети. При этом около 39% опрошенных не рассказывали родителям об этом.
Команда студентов Московского авиационного института разработала сервис по выявлению психологических расстройств у детей «Eliza: и в сети дети под присмотром» . Eliza анализирует контент, которым ребенок делится в социальных сетях Instagram, Вконтакте, TikTok. Нейросеть анализирует текстовую информацию, фото, музыку и видео, чтобы определить, в каких опасных сообществах состоит ребенок, выявить отклонения в поведении и депрессивные настроения (программа определяет депрессию с точностью до 95%).
По результатам анализа Eliza предлагает возможные варианты решения: от простых (общение, инструктаж по поведению в интернете, способы модерации нежелательно контента) до обращения к специалисту.