Студент ТУСУРа работает над "родительским контролем" нового поколения

Сервис "родительского контроля" нового поколения создает студент Томского госуниверситета систем управления и радиоэлектроники (ТУСУР) Роман Муромцев; по задумке автора, этот сервис сможет выявлять подозрительную переписку через анализ диалогов ребенка с собеседниками в веб-пространстве, сообщила РИА Томск представительница пресс-службы вуза.

"Студент ТУСУРа Роман Муромцев разрабатывает сервис, который поможет родителям обеспечить безопасное общение детей в веб-пространстве. Он не только позволит ограничить переход на ресурсы 18+, но и проанализирует эмоциональную окраску диалогов и отправит уведомление при выявлении подозрительной переписки", – рассказала собеседница агентства.

По ее словам, в основе решения – использование больших языковых моделей для анализа диалогов. Такой подход позволит проводить детальный анализ переписки и выявлять злоумышленников на этапе общения с помощью отправки уведомления о подозрительном собеседнике родителям. Сервис будет называться AI Sentinel. Проект получил поддержку грантовой программы ФСИ "УМНИК".

"Статистика показывает, что 50% детей старше 7 лет уже сталкивались с негативным общением в социальных сетях. Наш сервис предназначен для повседневного использования и призван помочь родителям защитить от нежелательного или опасного общения", – пояснила собеседница агентства. 

Она добавила, что сейчас на рынке нет систем, которые работали бы по такому принципу. Максимум, на что могут рассчитывать пользователи "родительского контроля", это ограничение времени пользования определенными ресурсами и блокировка сервисов с пометкой "18+".

Представительница вуза сообщила, что в ближайший год Муромцев планирует спроектировать и обучить нейросеть, которая сможет анализировать эмоциональную окраску диалогов, и разработать сам сервис. Представить работающую программу пользователям разработчики планируют уже в мае 2025 года.

Источник: Новости РИА Томск