Размер:
A A A
Цвет: C C C
Изображения Вкл. Выкл.
Обычная версия сайта
Ученые МТУСИ представили ИИ-систему для борьбы ...

Ученые МТУСИ представили ИИ-систему для борьбы с кибербуллингом в соцсетях

Кибербуллинг сегодня — одна из самых острых угроз цифрового пространства. Пользуясь анонимностью, злоумышленники травят пользователей, что часто приводит к тяжелым психологическим последствиям. Существующие методы борьбы, такие как фильтры по спискам запрещенных слов, уже не справляются: они пропускают замаскированные оскорбления и блокируют безобидные высказывания.

Ученые МТУСИ разработали уникальную систему на базе искусственного интеллекта для автоматического распознавания и предотвращения кибербуллинга в социальных сетях. Технология, созданная под руководством доцента кафедры «Информационная безопасность» Александра Большакова, способна анализировать текст и выявлять агрессивный контент с рекордной точностью.

Как работает инновация МТУСИ?

В отличие от традиционных подходов, наши ученые предложили принципиально новое решение — анализ контекста и смысла сообщений с помощью машинного обучения.

  • Глубокая аналитика: Система не просто ищет «плохие» слова, а понимает семантику и контекст высказывания.
  • Самообучение: Алгоритм постоянно совершенствуется и адаптируется к новым формам кибербуллинга по мере поступления новых данных.
  • Высокая точность: Технология была обучена на массиве из почти 250 тысяч реальных комментариях из соцсетей, размеченных по четырем категориям: нейтральный контент, оскорбления, угрозы и смешанные атаки.

Результаты тестирования показали впечатляющую эффективность:

  • Нейтральный контент — 99% точности
  • Оскорбления — 84% точности
  • Угрозы — 75% точности
  • Смешанные атаки — 78% точности

Система способна блокировать подавляющее большинство эпизодов травли, практически не затрагивая легитимные сообщения пользователей.

Разработанная система может быть интегрирована в популярные социальные сети и мессенджеры для автоматической модерации контента. Технология работает в реальном времени, выявляя и блокируя агрессивные сообщения до того, как они будут доставлены жертве.

Разработку прокомментировал ректор МТУСИ Сергей Ерохин:

«Кибербуллинг — серьезная социальная проблема, которая затрагивает миллионы людей, особенно молодежь. Разработка наших ученых предлагает эффективное технологическое решение для защиты пользователей социальных сетей от травли и агрессии. Это важный шаг на пути создания безопасного цифрового пространства для российских пользователей», — отметил Сергей Дмитриевич.

Внедрение данной технологии открывает новые возможности для обеспечения кибербезопасности и создания более здоровой и этичной среды для общения в интернете.

Другие новости

Наш сайт использует файлы cookie.

Мы не идентифицируем вас, а улучшаем работу сайта. Оставаясь, вы даёте согласие на обработку файлов cookie.

Спасибо за обращение,
Ваш запрос был успешно отправлен!

Форма записи

Спасибо за обращение!
В скором времени мы свяжемся с вами.