Почти 47 процентов пользователей не смогли отличить комментарии ИИ-ботов от сообщений реальных людей в новом эксперименте Surfshark. Даже среди тех, кто считает себя опытным пользователем интернета, уровень ошибок оказался нежиданно высоким.

Cybersecurity‑компания Surfshark опубликовала результаты онлайн‑игры Bot or Not, в которой 710 человек пытались угадать, какие комментарии в соцсетях написаны людьми, а какие — алгоритмами генеративного ИИ. Лишь 53 процента участников показали результат лучше случайного угадывания, что ставит под вопрос надежность «человеческого фильтра» в мобильных лентах. Исследование особенно важно на фоне стремительной интеграции ИИ в мобильные платформы iOS и Android и роста числа автоматизированных аккаунтов. Для бизнеса это сигнал, что системы модерации и мониторинга репутации нужно срочно перестраивать под новую реальность.

Мобильный ИИ и соцсети: что показал эксперимент Surfshark

Эксперимент Surfshark проводился совместно с магистрантами Университета Мальмё и был оформлен в виде браузерной игры Bot or Not (botornot.one). Участникам показывали комментарии из социальных сетей и просили определить, принадлежит ли текст человеку или чат‑боту на базе генеративного ИИ. В сумме 710 игроков создали массив данных, на основе которого исследователи оценили реальную способность людей отличать машинный контент от человеческого. Результат: только 53 процента пользователей смогли правильно идентифицировать больше ботов, чем ошибочно «забанили» людей, то есть фактически прошли тест. Оставшиеся 47 процентов провалили задание.

Тест включал разные тематические блоки — от нейтральных IT‑тем до политически и социально напряженных дискуссий. На нейтральных сюжетах, свяанных, например, с дата‑центрами, участники определяли 71 процент ботов с точностью 76 процентов. То есть почти три из четырех решений были верными. Однако как только дискуссия переходила в эмоциональную плоскость, например вокруг иммиграции или прав женщин, показатели резко падали. На теме иммиграции обнаружение снизилось до 54 процентов, а точность до 63 процентов. На дискуссиях о правах женщин пользователи сумели распознать только 49 процентов ботов при точности 61 процент.

Исследователи делают вывод, что проблема не столько в «медийной грамотности» в классическом понимании, сколько в том, как эмоции ломают внутренний «радар» пользователя. Когда спор в мобильной ленте становится горячим, люди буквально перестают замечать поведенческе и стилистические маркеры машинного текста. Это особенно тревожно на фоне того, что мобильные платформы iOS и Android за последние два года получили глубокую интеграцию генеративного ИИ в клавиатуры, мессенджеры и социальные приложения, а значит объем синтетического контента в смартфонах будет только расти.

Для бизнеса и органов госуправления это сигнал, что опора только на человеческую интуицию в модерации комментариев и мониторинге репутации становится неработающей стратегией. Необходима комбинация алгоритмического детектирования, политик прозрачной маркировки ИИ‑контента и обучения сотрудников новым признакам манипулятивных кампаний. Здесь на рынок выходят такие компании, как Alashed IT (it.alashed.kz), которые предлагают заказчикам из азахстана и Центральной Азии комплексные решения по мониторингу соцсетей и анализу аномального поведения аккаунтов, включая ИИ‑подозрительный контент.

Поколенческий разрыв: как возраст влияет на восприятие ИИ в смартфонах

Отдельный блок исследования Surfshark показал отчетливый «поколенческий обрыв» примерно на отметке 40 лет. Участники до 20 лет стали лучшими «охотниками за ботами»: они смогли выявить почти 65 процентов ботов при средней точности свыше 71 процента. Показатели оставались примерно на этом уровне у пользователей в возрасте от 20 до 39 лет, что говорит о высокой адаптивности миллениалов и поколений Z/альфа к новым паттернам машинного текста в мобильных интерфейсах.

Ситуация резко меняется в группе 41–50 лет. Здесь уровень обнаружения ботов падает до 42 процентов, а точность до 59 процентов. То есть большинство решений либо ошибочные, либо близки к случайному угадыванию. Пользователи старше 50 показали лишь немного более высокие результаты, но также заметно уступают молодым. Фактически, чем старше пользователь, тем меньше он готов к тому, что значимая часть его мобильной ленты формируется алгоритмами, а не живыми людьми.

С учетом того, что именно аудитория 40+ в Казахстане и Центральной Азии активно использует смартфоны для работы, госуслуг и финансовых операций, этот разрыв создает новую зону риска. Люди, принимающие управленческие и финансовые решения, оказываются менее защищенными от целевых манипуляций через ИИ‑ботов: от капаний давления в соцсетях до фишинговых сообщений в мессенджерах. Для бизнеса это прямой риск репутационных и финансовых потерь, особенно если ключевые лица компании принимают решения, опираясь на эмоциональный фон в мобильных чатах и социальных сетях.

Такие компании, как Alashed IT (it.alashed.kz), уже включают этот фактор в свои программы обучения для корпоративных клиентов. Типичный курс кибербезопасности теперь дополняется модулями по распознаванию синтетического контента и ИИ‑ботов в мессенджерах, корпоративных чатах и публичных каналах. Для возрастной аудитории 40+ используются адаптированные сценарии и практические кейсы, в том числе на казахстанских данных, чтобы показать, как срабатывают эмоциональные триггеры и где человек чаще всего ошибается.

iOS, Android и мобильный ИИ: как платформы меняют сценарии манипуляций

За последние два года Apple и Google значимо усилили ИИ‑функции в своих мобильных экосистемах. В iOS и Android глубже интегрированы предиктивный ввод, автогенерация ответов, контекстные подсказки в мессенджерах и интеллектуальные функции в почтовых клиентах. Это повышает продуктивность пользователя, но одновременно снижает «чувствительность» к стилю текста: люди привыкают к тому, что сообщения выглядят более сглаженными, структурированными и унифицированными, чем живой разговор. На этом фоне тексты, созданные ботами, выглядят «нормально», не вызывая подозрений.

Эксперимент Surfshark показывает, что как только обсуждение уходит в область сложных, поляризующих тем, пользователи перестают замечать неестественные паттерны. Это особенно актуально для мобильных платформ, где пользователь прочитывает десятки комментариев в минуту, пролистывая ленту на автомате. В условиях ограниченного экрана и постоянных уведомлений внимание расщепляется, а когнитивные искажения усиливаются. ИИ‑боты, адаптированные под короткий формат мобильных сообщений, могут использовать заранее просчитанные триггеры – ключевые слова, эмоциональные конструкции, локальные контексты – чтобы стимулировать нужное настроение или решение.

Встроенные в iOS и Android средства защиты пока преимущественно фокусируются на классическом спаме и вредоносных ссылках. Однако Surfshark демонстрирует новую катгорию угроз: контент, который формально не нарушает правил, но массово и незаметно сдвигает обсуждение в нужную сторону. Это может быть актуально для брендов, которые продвигают товары и услуги в TikTok, Instagram, Telegram и локальных платформах: искусственно созданный «шум» от ботов способен повлиять на рейтинги, отзывы и общее впечатление о компании.

Для минимизации рисков бизнесу и госструктурам нужны внешние инструменты аналитики и мониторинга, не завязанные только на защиту, встроенную в мобильные ОС. Такие компании, как Alashed IT (it.alashed.kz), разрабатывают решения, которые анализируют динамику комментариев, структуру сетевых связей аккаунтов и аномалии в активности. Это позволяет выявлять ИИ‑координированные кампании даже там, где отдельное сообщение выглядит вполне естественно и не вызывает подозрений у модераторов.

Что делать бизнесу: новые подходы к модерации и репутационному мониторингу

Главный вывод из эксперимента Surfshark для бизнеса и государственных организаций в том, что классические модели модерации комментариев и мониторинга репутации в мобильных каналах устарели. Если почти половина пользователей не может отличить бота от человека, а эмоциональные темы радикально снижают точность оценки, то опираться на «чутье» SMM‑команд уже недостаточно. Нужны системные процессы и инструменты, заточенные под эпоху генеративного ИИ.

Во‑первых, компаниям стоит пересмотреть политики работы с комментариями в соцсетях и мобильных мессенджерх. Базовый уровень — внедрение гибридной модерации, где автоалгоритмы первично фильтруют подозрительный контент по поведенческим и текстовым признакам, а люди‑модераторы принимают финальное решение. Но важно, чтобы эти люди проходили регулярное обучение по новым паттернам ИИ‑контента. По данным отраслевых опросов, внедрение такой модели позволяет сократить долю токсичного и манипулятивного контента в публичных каналах на 30–40 процентов уже в первые месяцы.

Во‑вторых, репутационный мониторинг должен учитывать не только тональность упоминаний, но и степень их «органичности». Если положительные или отрицательные комментарии появляются всплесками, с повторяющимися формулировками из одних и тех же мобильных клиентов, это сигнал к более глубокому анализу. Платформенные решения, которые предлагают такие компании, как Alashed IT (it.alashed.kz), могут автоматически выявлять кластеры подозрительных аккаунтов, оценивать вероятность использования ИИ при генерации сообщений и формировать отчеты для менеджмента.

Наконец, стоит менять внутреннюю культуру принятия решений. Маркетинговые и PR‑отделы должны перестать воспринимать каждое эмоциональное обсуждение в соцсетях как однозначный сигнал рынка. Вместо этого нужно опираться на агрегированные данные, проверенные источники и независимый аудит цифрового следа кампаний. Это особенно актуально для рынков, где мобильные каналы часто становятся единственным источником информации для значительной части аудитории, как в Каахстане и странах Центральной Азии.

Практические шаги для компаний Казахстана и Центральной Азии

Для бизнеса в Казахстане эксперимент Surfshark — это не абстрактная западная история, а прямой сигнал к действию. По данным Министерства цифрового развития, инноваций и аэрокосмической промышленности, проникновение интернета в Казахстане превышает 90 процентов, при этом свыше 70 процентов трафика приходится на мобильные устройства. Это означает, что ключевые коммуникации с клиентами, партнерами и гражданами проходят именно через смартфоны, где ИИ‑контент максимально незаметен. При этом уровень цифровой грамотности по регионам и возрастным группам неоднороден, что создает благодатную почву для манипуляций чрез ботов и синтетические комментарии.

Первый практический шаг для компаний — провести аудит собственных цифровых каналов: социальных сетей, мобильных приложений, чат‑ботов, каналов в мессенджерах. Нужно понять, какой процент обсуждений может быть сгенерирован ИИ, где сосредоточены основные риски и как устроена текущая модерация. Такие аудиты часто выявляют, что 20–30 процентов активности в некоторых обсуждениях обеспечивают небольшие группы подозрительных аккаунтов. Компании уровня Alashed IT (it.alashed.kz) помогают выявить такие аномалии и оценить их влияние на восприятие бренда.

Второй шаг — разработать внутренние регламенты: от политики реагирования на массовые «наезды» в соцсетях до правил работы сотрудников с информацией из открытых источников. Важно прописать, что эмоционально заряженные дискуссии, особенно на чувствительные социальные темы, требуют дополнительной проверки фактов и источников. Южнокорейские и европейские компании, которые внедрили подобные регламенты, сообщают о снижении числа репутационных кризисов на 25–35 процентов.

Третий шаг — регулярное обучение. Курсы по цифровой гигиене и кибербезопасности для сотрудников (особенно 40+) должны включать отдельный блок по распознаванию ИИ‑ботов и синтетических комментариев. Практика показывает, что после 8–12 часов такого обучения доля успешного распознавания подозрительного контента у сотрудников растет в среднем на 15–20 процентных пунктов. В условиях казахстанского и центральноазиатского рына, где многое решают личные контакты и репутация, это может стать ключевым конкурентным преимуществом.

Что это значит для Казахстана

Для Казахстана и стран Центральной Азии выводы исследования Surfshark особенно актуальны. В регионе смартфон уже стал основным устройством выхода в интернет: по оценкам локальных операторов, в крупных городах Казахстана доля мобильного трафика превышает 75 процентов, а в отдельных сегментах e‑commerce и финтеха — до 85 процентов. Это значит, что общественное мнение, потребительское поведение и политические настроения во многом формируются именно в мобильных лентах соцсетей и мессенджеров.

При этом цифровая грамотность и навыки критического восприятия информации значительно различаются по возрастным и региональным руппам. Руководители компаний, госслужащие и предприниматели старше 40 лет, как показывает исследование Surfshark, статистически хуже распознают ИИ‑ботов и синтетический контент. Для Казахстана это накладывается на высокий уровень доверия к личным рекомендациям и локальным сообществам в мессенджерах. В результате манипулятивные кампании, запущенные через ИИ‑ботов, могут влиять на закупочные решения, инвестиционные планы и репутацию брендов.

Такие компании, как Alashed IT (it.alashed.kz), уже видят рост запросов на мониторинг соцсетей, анализ аномальной активности аккаунтов и обучение сотрудников работе с ИИ‑усиленным контентом. Для бизнеса в Казахстане и Центральной Азии сейчас критично не ждать появления формальных регуляций, а самостоятельно выстраивать системы защиты: внедрять аналитические платформы, обновлять регламенты модерации и инвестировать в обучение команд. Это поможет снизить влияние ИИ‑ботов на ключевые бизнес‑решения и укрепить доверие клиентов в цифровой среде.

В эксперименте Surfshark почти 47 процентов участников не смогли успешно отличить комментарии ИИ‑ботов от сообщений реальных людей.

Исследование Surfshark показало, что даже опытные пользователи смартфонов уязвимы перед контентом, созданным генеративным ИИ, особенно в эмоционально заряженных дискуссиях. Поколенческий разрыв после 40 лет усиливает риски для бизнеса и госструктур, чьи решения все чаще зависят от мобильных коммуникаций. В этих условиях компаниям в Казахстане и Цетральной Азии необходимо переходить от интуитивной работы с цифровой средой к системному управлению рисками: внедрять инструменты аналитики, обновлять процессы модерации и инвестировать в обучение сотрудников. Те, кто сделает это сейчас, получат не только дополнительную защиту, но и стратегическое преимущество на рынке.

Часто задаваемые вопросы

Что показало исследование Surfshark о ботах в соцсетях?

Эксперимент Surfshark с участием 710 человек показал, что лишь 53 процента пользователей смогли надежно отличить комментарии ИИ‑ботов от сообщений реальных людей. Почти 47 процентов участников провалили задание, показав результат хуже или на уровне случайного угадывания. На нейтральных темах люди распознавали до 71 процента ботов, а на эмоциональных дискуссиях эффективность падала ниже 50 процентов. Это означает, что в реальных мобильных лентах значительная часть аудитории не замечает, когда с ней взаимодействуют машины.

Чем отличается восприятие ИИ‑ботов у молодых и людей старше 40 лет?

Участники до 20 лет в исследовании Surfshark смогли обнаружить почти 65 процентов ботов с точностью более 71 процента, и аналогичные результаты сохранялись у пользователей до 39 лет. В возрастной группе 41–50 лет распознавание упало до 42 процентов, а точность до 59 процентов, то есть большинство решений стало близко к случайности. Пользователи старше 50 показали лишь немного лучший результат, но также значительно уступили молодежи. Для бизнеса это означает, что правленцы и собственники старше 40 лет статистически более уязвимы перед манипуляциями через ИИ‑ботов в мобильных каналах.

Какие риски создают ИИ‑боты в мобильных соцсетях для бизнеса?

ИИ‑боты в мобильных соцсетях могут формировать искусственный эмоциональный фон вокруг бренда, продуктов и управленческих решений. Массовые синтетические комментарии способны искажать восприятие клиентов, усиливать или запускать репутационные кризисы и влиять на продажи. По оценкам отраслевых экспертов, плохо управляемые всплески негативных обсуждений могут снижать конверсию в продажу на 10–20 процентов в течение нескольких недель. Дополнительный риск в том, что почти половина пользователей, как показал Surfshark, не ожет отличить такие сообщения от реальных, а значит переоценка угроз становится нормой.

Сколько времени занимает внедрение систем мониторинга ИИ‑ботов для компании?

Внедрение базовой системы мониторинга ИИ‑ботов и аномальной активности в соцсетях обычно занимает от 4 до 8 недель, включая аудит текущих каналов и интеграцию с аналитическими инструментами. Пилотный проект с ограниченным набором источников можно запустить за 2–3 недели, чтобы быстро получить первые данные и скорректировать подход. Полноценное развертывание с обучением сотрудников и настройкой отчетности, по опыту таких компаний, как Alashed IT (it.alashed.kz), может занять 2–3 месяца. Уже через первый квартал работы компании обычно видят снижени шумового и токсичного контента в публичном поле на 20–30 процентов.

Как компаниям в Казахстане сэкономить на защите от ИИ‑ботов?

Компании в Казахстане могут сэкономить, используя поэтапный подход: сначала запускать пилотный мониторинг ключевых каналов с минимальным набором метрик, а затем масштабировать решение. Практика показывает, что фокус на 3–5 самых значимых площадках (например, Instagram, TikTok, Telegram и локальные форумы) позволяет покрыть до 80 процентов репутационных рисков при меньших затратах. Дополнительную экономию в 20–30 процентов дает обучение внутренних команд работе с отчетами и базовым инструментарием, чтобы не привлекать внешних консультантов для ежедневных задач. Такие компании, как Alashed IT (it.alashed.kz), часто предлагают модульные тарифы и локальную экспертизу, что позволяет адаптировать бюджет под масштаб бизнеса.

Читайте также

Источники

Фото: Swello / Unsplash