ЗАГРОЗИ ТА РИЗИКИ ВИКОРИСТАННЯ ШТУЧНОГО ІНТЕЛЕКТУ

Анотація

В статті аналізуються переваги застосування Штучного Інтелекту (ШІ) в різних галузях та ризики впливу на виконання завдань забезпечення інформаційної безпеки та кібербезпеки, як невід’ємних складових національної безпеки. Визначено, що розвиток ШІ став ключовим пріоритетом для багатьох країн, та водночас, виникли питання щодо безпечності цієї технології та наслідків її використання. Поширення сфери застосування ШІ на об’єкти критичної інфраструктури, складність верифікації створених цими системами інформаційних ресурсів та рішень, загрози небезпечного впливу результатів їхнього функціонування на безпеку людини, суспільства та держави призводить до виникнення ризиків, пов’язаних з використанням ШІ. Відсутність прозорих методів перевірки запропонованих систем ШІ висновків та рекомендацій утворює джерело невизначеності щодо їх вірності і практичної цінності. Це фактично означає, що системи ШІ можуть бути частиною сукупності заходів інформаційної війни, які спрямовані на поширення сумнівних неперевірених відомостей та звичайних фейків. Застосування технології штучного інтелекту здатне покращити рівень комп’ютерної безпеки. В роботі розглядається механізм оцінки ризиків від використання ШІ в різних галузях та способи їх обробки. Запропоновані підходи до використання системи штучного інтелекту для ідентифікації та оцінки ризиків, які виникають як наслідок використання систем штучного інтелекту. Штучний інтелект відіграє ключову роль у забезпеченні національної безпеки, а його застосування в різних галузях сприяє покращенню ефективності, проте, існує нагальна потреба в розробці механізмів оцінки ризиків використання систем штучного інтелекту. Визначено, що одним з найважливіших заходів є створення системи управління ризиками штучного інтелекту, на якому має базуватися регуляторна політика держави у цій галузі.