Ученые МТУСИ разработали уникальную систему на базе искусственного интеллекта для автоматического распознавания и предотвращения кибербуллинга в социальных сетях. Технология, созданная под руководством доцента кафедры «Информационная безопасность» Александра Большакова, способна анализировать текст и выявлять агрессивный контент с рекордной точностью.
В отличие от традиционных подходов, наши ученые предложили принципиально новое решение — анализ контекста и смысла сообщений с помощью машинного обучения.
Результаты тестирования показали впечатляющую эффективность:
Система способна блокировать подавляющее большинство эпизодов травли, практически не затрагивая легитимные сообщения пользователей.
Разработанная система может быть интегрирована в популярные социальные сети и мессенджеры для автоматической модерации контента. Технология работает в реальном времени, выявляя и блокируя агрессивные сообщения до того, как они будут доставлены жертве.
Разработку прокомментировал ректор МТУСИ Сергей Ерохин:
«Кибербуллинг — серьезная социальная проблема, которая затрагивает миллионы людей, особенно молодежь. Разработка наших ученых предлагает эффективное технологическое решение для защиты пользователей социальных сетей от травли и агрессии. Это важный шаг на пути создания безопасного цифрового пространства для российских пользователей», — отметил Сергей Дмитриевич.
Внедрение данной технологии открывает новые возможности для обеспечения кибербезопасности и создания более здоровой и этичной среды для общения в интернете.