Instagram против кибербуллинга и лайкомании

Instagram планирует использовать искусственный интеллект для борьбы с кибер-буллингом - технология будет распознавать потенциально оскорбительный комментарий.
Первоисточник

Сегодня я хочу поговорить о двух важных грядущих изменения в одной из главных социальных сетей мира.
Соцсети, интернет, общество, искусственный интеллект - все мои любимые направления в одной теме, поэтому я не мог упустить такой возможности, как Вы понимаете.

Я очень много думаю о развитии ИИ и то, как от видоизменит наш мир. Наверное, даже слишком много. По сути, даже на уровне программного обеспечения возможности поразительные. А вкупе с роботизацией и вовсе безграничные.

Сейчас ИИ все еще забава для большинства, чтобы состарить себя по фотографии или нацепить фильтр получше, потравить Siri или зажазамить песню. Дело в том, что алгоритмы машинного обучения еще малы и способны на довольно простые операции, причем часто разобщенные: распознавание речи, контента, текста, визуальных данных. Но при объединении и выходе на уровень оперирования понятиями он станет гораздо полезнее, что позволит избавиться миру от многих элементарных видов работ (это благо, кто бы что не возражал). Многим водителям уже давно пора задуматься. Я думаю, через лет 10 это будет одной из самых редких профессий.

Сегодня, благодаря достигнутому уровню развития, ИИ можно использовать как глобального единого непредвзятого модератора во всем Instagram. Если он успешно себя проявит, то будет перенесен в самую крупную и главную социальную сеть - Facebook.

Итак, суть.

Кибер-буллинг, или онлайн-буллинг - это одна из главных проблем соцсетей. А соцсети уже давно очень значимая часть жизни современных людей.

Следовательно, кибербуллинг - одна из главных проблем общества.

Вам, может быть, кому-то стало смешно сейчас, но кроме постоянного влияния на эмоционально-волевую сферу личности негативными комментариями (заметили, как много сегодня говорят о хейтерах?), с каждым годом растет число суицидов, совершенных в результате кибер-буллинга.
Молодое поколение более крепко интегрировано с соцсетями. Для многих из них то, что сказано в интернете = тому, что сказано в реале.
И если в реале ты подвергаешься систематическому буллингу, то это серьезная проблема как для отдельной личности, так и для общества.

Для Инстаграм это тоже проблема. И не потому, что их руководство придерживается идеалистических идей гуманизма, но потому, что неприятный опыт пользователей приложения напрямую отражается на прибыли. Чем приятнее находиться в Insta, тем больше человек будет там проводить, тем выше прибыль соответственно. Обычная мотивация бизнеса.

Так вот ИИ теперь способен распознавать текст. Поэтому Инстаграм внедряет его для снижения уровня токсичности. Добро пожаловать в гораздо более приятный мир).

Как это будет работать?

Ваш комментарий будет распознаваться на наличие оскорбительных слов еще в процессе набора (как это делают поисковики) и перед отправкой будет появляться плашка с предупреждением, что данное сообщение может оскорбить других читателей и запрашивать подтверждение об отправке.

Подчеркиваю: никакой цензуры и тоталитарного контроля. Просто предупреждение и запрос.

В заявлении компании говорится, что проведенное исследование показало, что подобные предупреждения перед отправкой комментария часто заставляют пользователя передумать.
И действительно, ведь большая часть негативных комментариев пишется на аффекте, не сознательно, вследствие моментальных сильных переживаний. Люди желают выразить чувства, внутреннее состояние, что затрудняет работу эмпатийного аппарата, то есть оценку воздействия аффективно-смысловым содержанием собственного комментария на других людей или конкретного адресата.

Далее.
Если человек все же решит отправить свой потенциально оскорбительный комментарий, то адресат (хозяин страницы, под чьим постом оставлен комментарий) не сразу будет его видеть, но лишь спойлер с таким же предупреждением, которое позволит ему ознакомиться с комментарием при желании или проигнорировать, так и не узнав, как именно его оскорбили.

По мне так это шикарно. Все в плюсе от этой функции. И пользователи, и Instagram.

Сейчас эта функция в альфа-версиях, но я уверен, что она необходима, не сложна и позже будет повсеместной. Возможно, поначалу, с выбором отключения в настройках.

Второе грядущее нововведение

Радикальное и более идеологическое. Instagram явно поворачивается лицом к обычным пользователям, а не к инфлюенсерам. Дело в том, что при сегодняшней популярности приложения любой инфлюенсер может монетизировать показатели вовлеченности пользователей.
Главным из них являются лайки.
Instagram превратился в одну огромную торговую площадку. Заметили эту огромную разницу с тем же Facebook? В ФБ никто не пишет по 10 раз в день с предложением купить, накрутить подписчиков и лайки. Крайне мало псевдоинфлюенсеров, лента которых наполовину состоит из рекламы. В принципе акцент на лайках гораздо меньше.

Чтобы изменить ситуацию, Instagram тестирует новую версию приложения, где количество лайков будет видно только автору контента. Вроде так просто, но данное изменение серьезно влияет на отношение к публикациям, их авторам и своему профилю.

И это очень логично. Лайк - как я его некогда назвал - симплифицированный знак одобрения. Я воспринял контент автора - я выразил ему одобрение. Я об этом знаю и он это может узнать и посмотреть.
Прочей аудитории это не обязательно.

Конечно, другие показатели вовлеченности все еще останутся. В первую очередь количество подписчиков, затем просмотры, репосты и комментарии.
Но это значительный шаг по улучшению климата в соцсети.

Кроме того, опять же, у молодых людей возникает невротизм по поводу недостаточного по их мнению количества лайков под фотографиями. Это сопровождается тревожностью, фаббингом, развитием чувства неполноценности, неуверенности в себе. Блин, да и вообще это, по сути, негласный социальный рейтинг. Помните ту серию 3-го сезона "Черного зеркала" ("Нырок")?

[...], где оценки пользователей в социальных сетях («лайки», «пятёрки» и т. д.) получили юридическое значение. Благодаря технологиям дополненной реальности люди способны в непрерывном режиме видеть социальные профили друг друга и выставлять оценки за любой поступок. При этом каждый человек оценивается сообразно своей усреднённой оценке: людям со статусом меньше 3,0 может быть запрещён доступ в некоторые общественные места, «двойки» считаются социопатами, “единички” – маньяками, а люди со статусом 4,5 и выше как более ценные члены общества пользуются различными льготами и преимуществами.

Подобная система существует на уровне коммуникации в молодежных коллективах. А самый изгой знаете кто? Кто не имеет профиля в соцсети. Того вообще считают анормальным, подозрительным и часто неполноценным.


Короче, не думал, что когда-то скажу подобное, но я хвалю Instagram за новшества и жду обновлений. Надеюсь они зададут новый тренд разворота от лайкомании, который, впрочем, они же когда-то и генерализовали.