ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ VS ХЕЙТЕРЫ: «МЕНЬШЕ ЗНАЕШЬ — КРЕПЧЕ СПИШЬ!»

Уже второй день меня не отпускает одна новость. Прочитала на ЯндексКью, что, оказывается, еще несколько лет назад разработано приложение, которое защищает пользователя интернета от хейтинга в соцсетях. Если кто забыл, что такое хейтинг — смотрите ниже, на картинке. Лично я половины этих терминов не знала. А поскольку тема злости и неадеквата в Глобальной сети всегда была для меня интересной, а поведение троллей  (оказывается, правильнее их называть хейтерами) по-прежнему интригует — я с большим вниманием прочитала пост.

Bezimeni-133

Смысл инновации в следующем. Разработана интеллектуальная технология, которая в состоянии «узнавать» эмоциональный негатив. Искусственный интеллект анализирует комментарии в социальных сетях — как смысл слов, так и контекст, в котором они используются. Технология уже работает на YouTube, Instagram, Twitter и Twitch (это сервис, который  специализируется на тематике компьютерных игр). Ну, собственно, оно и логично: столько негатива в комментариях, сколько на YouTube и в Instagram, пожалуй, больше нигде не найдешь, стало быть, это актуальная идея.

Работает приложение так (описываю, как поняла из поста). Пользователь его загружает и выбирает сначала категории, в которых происходит модерация, а потом —  уровень модерации. Категории: оскорбления, сексуальные домогательства, расизм, гомофобия, бодишейминг (т.е. злобные замечания относительно внешнего вида человека — веса, роста, степени ухоженности, степени «спортивности» и т.п.). И после этого приложение самостоятельно сканирует все комменты, некоторые определяет как хейтинг и…  оппля! Заглядываете вы в свой Instagram, а там никакого негатива не видно. Точнее, он там есть, но вы его не видите. Кстати, я так и не поняла из прочитанного — только вы или вообще никто? То есть приложение блокирует хейтинг так, что соответствующие комментарии становятся невидимыми для каждого, кто зашел в аккаунт? Или хозяин аккаунта благодушествует, а все остальные читают злобные нападки на него и удивляются, почему он молчит? Но даже если гадостей хейтера не видит только хозяин аккаунта — все равно, так намного спокойнее: никто не обругал, не укусил, не научил жизни. Несчастный хейтер старается, пишет, а на него не то, что не реагируют — о нем даже не знают!

Работает приложение пока только на английском, французском, итальянском языках. Если надумают делать на русском — думаю, разработчикам таки придется повозиться с нашим великим и могучим.

Ну  а теперь —  о том, что мне покоя не дает. Я хорошо помню выработанную годами формулу общения в интернете: «не корми тролля!». И многократно наблюдала, как тролль / хейтер увядает, когда в ответ на свои старания получает тишину. Да и чувство логики мое говорит о том, что коль скоро нельзя прямо повлиять:

  • ни на самого хейтера (не побежишь же разыскивать человека, чтобы в оффлайне провести с ним разъяснительную педагогическую беседу или вызвать на дуэль);
  • ни на ситуацию, из-за которой он так себя ведет (а от хорошей жизни люди себе подобное не позволяют — это или болезнь, или сплошные хроническое недовольство жизнью и зависть ко всем, кто кажется в чем-то успешнее, или какая-то мерзкая житейская коллизия, от которой ему всеми силами хочется отвлечься);
  • ни на глобальную обстановку в мире (всеобщие неопределенность и стресс из-за пандемии, развитие технологий, изменение культуры человеческой коммуникации)

— то лучше и не знать и не думать обо всем этом, чтобы не расстраиваться.

Но что-то не так в этой логике. Во-первых, как говорится, «незнание не освобождает от ответственности» — можно довольно долго быть не в курсе того, что некто тебя поливает грязью и не париться по этому поводу, но вполне вероятно наступление того момента, когда хейт придется заметить. И есть немалый риск, что такой момент окажется весьма травматичным для жертвы хейтера.

А, во-вторых, еще один важный аспект проблемы. Такое приложение — это ведь паллиатив, то есть временное решение. Но паллиатив, востребованный временем. Конечно, пока, скорее всего, искусственный интеллект допускает много ошибок в процессе модерации, а потому что-то пропускает из хейта или, наоборот, блокирует  нейтральные высказывания. Но он быстро учится и, значит, со временем будет работать лучше. И покупать его станут гораздо активнее. И все больше и больше людей будут жить по модели «Если я не вижу проблемы, значит, ее нет». А это очень опасная модель — и я сейчас уже не о хейтинге, а об отношении человека к своей жизни в целом. Почему? Ведь это все равно, что не задумываться о:

  • состоянии своего здоровья;
  • исправности машины, на которой ездишь;
  • качестве пищи, которую ешь;
  • удовлетворенности работой, которая занимает от половины до трети твоей жизни;
  • квалификации педагогов и учителей, которые занимаются с твоим ребенком,

— сознательно отключая все тревожные сигналы и получая «только хорошие новости».

Я знаю, что сейчас сильно противоречу популярному ныне тренду позитивного мышления —  точнее, тому, что порой понимается под позитивным мышлением — игнорированию плохого. Поэтому прошу не бросаться в меня тапками. Но меня здорово беспокоит такой вопрос. При том, что «Меньше знаешь — крепче спишь» — конечно, проверенная временем истина, хорошо ли для всех нас, что все большее число людей старается не решать проблемы, а не знать об их существовании и стараться хоть как-то изменить ситуацию?

Подпишись на рассылку публикаций!

Понравился пост? Поставь свой Лайк!

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *