Один из ключевых выводов исследования заключается в том, что во всех современных каналах коммуникаций (мессенджеры, социальные сети, поисковики, видеосервисы, маркетплейсы и даже онлайн-игры) ведущую позицию постепенно завоевывают технологии искусственного интеллекта, адаптирующие или имитирующие контент под конкретного пользователя. В противовес этому тренду активно развиваются сервисы по разоблачению разного рода фейков.
В исследовании новые коммуникационные интернет-технологии разделены на две части:
- основные — мессенджеры, социальные сети, музыкальные и видеосервисы, коммуникационные и игровые платформы и другие;
- вспомогательные — поисково-рекомендательные сервисы, а также различные решения для адаптации и генерации контента (в том числе фейкового).
По основным сервисам расклад сил давно сформирован и довольно стабилен, только новые игроки (например, социальная сеть TikTok) в отдельных возрастных группах замещают «ветеранов». Можно отметить расширение функционала и сфер применения различных сервисов. Например, компьютерные игры перестают быть просто развлечением, они трансформируются в новые площадки для коммуникаций и обучения. В Minecraft проходят онлайн-концерты и театральные постановки, ведущие музеи мира организуют свои виртуальные пространства, а в игре Half-Life пользователям дают уроки геометрии. А вот по поисковым и рекомендательным системам, сервисам персонализации, создания и распространения контента ситуация очень динамичная — здесь появляется все больше новых решений с использованием технологий искусственного интеллекта.
Рекомендательные системы, основанные на технологиях глубокого обучения, способны учитывать бесконечное количество самых разных факторов, влияющих на восприятие человека. Продвинутая система предложит музыкальную подборку не только с учетом истории и отметок слушателя о любимых стилях, но также учтет его эмоциональное состояние, интересы в других областях, предпочтения пользователей со схожими интересами (социология малых групп) и другие факторы. В исследовании закономерно делается вывод, что такой глубокий таргетинг, может включать «незаметное» манипулятивное воздействие и касаться не только музыки, но, например, выбора товара или партнера.
С распространением приложений для монтажа, компьютерной графики и других технологий постепенно размывается грань между профессиональным и любительским контентом. Появляются инструменты для автоматизированного создания контента, включая дипфейки. На этом фоне растет спрос на решения, которые позволяют проверять достоверность информации и выявлять фейки. В исследовании приведен подробный анализ большинства существующих методов и средств выявления недостоверного контента, в том числе с применением технологий искусственного интеллекта (например, идентификация значительных изменений видео и изображений, а также анализ метаданных и содержания публикаций, фактчекинг и выявление цепочек распространения дезинформации), а также методов защиты видео и изображений от нежелательных изменений (например, покрытие изображений и видео невидимым фильтром, защищающим от изменений).
По словам авторов, исследование показывает, что технологии искусственного интеллекта все глубже проникают в коммуникации, формируя, а порой ограничивая, контент для пользователя. Самые продвинутые поисковые и рекомендательные сервисы учитывают передовые исследования в области психологии, неврологии и социологии, такие системы способны уже сейчас учитывать даже эмоциональное состояние человека. По сути, можно говорить о появлении сегмента цифровых технологий убеждения и очевидно, что у него огромные перспективы в самых разных сферах жизни.