МЕТОДИКА ВИЯВЛЕННЯ ШКІДЛИВОГО КОНТЕНТУ ЗА ДОПОМОГОЮ СЕНТИМЕНТАЛЬНОГО АНАЛІЗУ

Анотація

У статті досліджується проблема виявлення шкідливого контенту в персональних електронних комунікаціях, таких як електронна пошта, повідомлення в соціальних мережах або месенджерах. Сучасні системи фільтрації шкідливого контенту переважно базуються на аналізі ключових слів, структурних особливостей повідомлень та технічних параметрів, таких як IP‑адреси чи домени походження повідомлень. Такі системи мають обмежену ефективність проти сучасних кіберзагроз, що використовують контент повідомлень з емоційними маніпуляціями чи фейковою інформацією. Крім того, ефективність таких підходів є обмеженою, особливо коли йдеться про цільові атаки та новітні методи обходу захисних механізмів, що постійно еволюціонують.

В роботі запропоновано гібридну модель «MaliciousContentDetector», яка поєднує лексичні методи, методи машинного навчання (TF-IDF, Random Forest) та глибинне навчання (BERT) для аналізу сентименту тексту. Модель враховує лінгвістичні особливості української мови та контекстуальні емоційні тригери. Також запропоновану модель реалізовано у вигляді програмного забезпечення з можливістю інтеграції в браузери та інші застосунки для підвищення кіберзахиченості кінцевих користувачів. Розроблену модель було протестована на базі реальних повідомлень в одній із соціальних мереж на прикладі популярного новинного каналу. В ході аналізу 162 дописів модель «MaliciousContentDetector» показала високу ефективність та точність виявлення потенційно шкідливого текстового контенту.