Інтерпретації результатів штучного інтелекту під час ідентифікації зображень
Анотація
Ідентифікація зображень є одним із найбільш динамічних напрямів штучного інтелекту, у якому глибинні нейронні мережі демонструють здатність до високоточної класифікації та розпізнавання візуальних об’єктів [1]. Проте разом із ефективністю ці методи приносять і суттєву проблему: користувачі не можуть безпосередньо оцінити логіку прийняття рішення моделлю. Більшість сучасних архітектур – CNN, ResNet, Vision Transformers – працюють за принципом «чорної скриньки», коли рішення є точним, але його причини залишаються непрозорими [1; 4].
Посилання
1. LeCun Y., Bengio Y., Hinton G. Deep learning. Nature. 2015. Vol. 521, № 7553. P. 436–444.
2. Grad-CAM: visual explanations from deep networks via gradient-based localization / R. R. Selvaraju, M. Cogswell, A. Das et al. Proceedings of the IEEE International Conference on Computer Vision (ICCV). 2017. P. 18–26.
3. Ribeiro M., Singh S., Guestrin C. Why should I trust you?: explaining the predictions of any classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. 2016. P. 115–124.
4. An image is worth 16×16 words: transformers for image recognition at scale / A. Dosovitskiy, L. Beyer, A. Kolesnikov et al. Advances in Neural Information Processing Systems. 2020. Vol. 33. P. 58–68.
5. Кульчицька О. Ю., Січко Т. В. Цифрова обробка зображень та відео. Прикладні інформаційні технології: тези доповідей Всеукраїнської науково-практичної конференції (м. Вінниця, 29 квітня 2020 р.). Вінниця, 2020. С. 110–111.