Науковий напрямок “Розробка неконекційних моделей штучних нейронних мереж, методів їх побудови та навчання”

Анотація напрямку

Засновник та керівник напрямку – д.т.н., професор Паржин Юрій Володимирович

Сучасні моделі штучних нейронних мереж (ШНМ) побудовані за коннекційним принципом (коннекціоністська парадигма), яка передбачає зберігання даних у вигляді вагових коефіцієнтів нейронів та зміну значень цих коефіцієнтів в процесі навчання. Цей підхід зумовлений використанням у якості основної моделі штучного нейрону – моделі МакКалока-Пітса, яка, з огляду на сучасний стан досліджень у галузі нейронаук, не є біологічно правдоподібною, та застосуванням концепції побудови ШНМ, визначеної Ф. Розенблатом, яка теж не є біологічно обґрунтованою. Необхідність навчання глибоких коннекційних ШНМ призвела до появи алгоритму зворотного розповсюдження помилки, який вже чітко визначив те, що сучасний розвиток ШНМ йде іншим шляхом, ніж шлях побудови біологічно обґрунтованих моделей. Сучасний напрямок розвитку ШНМ дозволяє будувати універсальні, з точки зору типів вхідної інформації, апроксиматори та класифікатори, які, тим не менш, призначені для виконання лише окремих задач та потребують великих наборів даних, що обумовлено статистичним характером їх навчання. Все це вимагає побудови складних моделей ШНМ та потребує великих часових та обчислювальних ресурсів. Крім того, проблемним стає питання донавчання цих моделей та довіри до результатів їх роботи, з огляду на використання генеративних моделей.

Тому існує науково-технічна проблема побудови нових моделей нейронів, які є більш адекватними біологічним прототипам, та створення на їх основі моделей ШНМ та методів їх навчання. Вирішення цієї проблеми може дозволити подолати існуючі недоліки коннекційних ШНМ та створити основу для побудови загального штучного інтелекту (Artificial General Intelligence, AGI).

Об’єктом досліджень є процес вирішення інтелектуальних задач за допомогою штучних нейронних мереж.

Предметом досліджень є принципи побудови та навчання структурно-детекторних штучних нейронних мереж.

Метою досліджень є підвищення ефективності вирішення задач класифікації та кластеризації зображень на основі застосування моделей, методів та алгоритмів побудови і навчання структурно-детекторних штучних нейронних мереж.

Для досягнення вказаної мети необхідно вирішити такі задачі: аналіз сучасного стану досліджень та розробок у галузі побудови та навчання штучних нейронних мереж, побудова біологічно обґрунтованої моделі нейрона-детектора, розробка та дослідження алгоритму навчання нейрона-детектора, розробка архітектури структурно-детекторної нейронної мережі (СДНМ), розробка та дослідження алгоритму прямого навчання СДНМ, вирішення задач класифікації та кластеризації з використанням СДНМ, розробка програмної моделі побудови архітектури СДНМ для розпізнавання контурних двовимірних зображень, розробка програмної моделі алгоритму навчання СДНМ для розпізнавання двовимірних контурних зображень, дослідження ефективності застосування СДНМ для вирішення задач класифікації та кластеризації.

Отримані результати

Публікації

1. Parzhin Y. Hypotheses of neural code and the information model of the neuron-detector. Journal: ScienceOpen Research – Section: SOR-COMPSCI DOI: 10.14293/S2199-1006.1.SOR-COMPSCI.AP5TO7.v1, 2014. 38с.
2. Паржин Ю.В. Детекторний принцип побудови штучних нейронних мереж, як альтернатива коннекціоністській парадигмі. Системи управління, навігації та зв’язку. Збірник наукових праць. Полтавський національний університет ім.. Юрія Кондратюка. Випуск 4(44) 2017. С 80-101.
3. Parzhin Y., Rohovyi A., Nevliudova V. Detector artificial neural network. Neurobiological rationale. Information systems and innovative technologies in project and program management. Collective monograph edited by L. Linde, I. Chumachenko, V. Timofeyev. ISMA University of Applied Science. Riga (Latvia). 2019. – 349 p. (PP. 331-339).
4. Паржин Ю.В., Солощук М.Н., Любченко Н.Ю. Аналіз інформації в нейроморфних інформаційних моделях нейронів. Вісник Національного технічного університету “ХПІ”. Серія Системний аналіз, управління та інформаційні технології. № 2. 2019. – Харків. НТУ “ХПІ”. С. 55-62.
5. Parzhin Y., Kosenko V., Podorozhniak A., Malyeyeva O., Timofeyev V. Detector neural network vs connectionist ANNs. Elsevier, Neurocomputing Vol. 414 (2020), 13 November 2020, p. 191–203, https://doi.org/10.1016/j.neucom.2020.07.025.
6. Parzhin Y., Galkyn S., Sobol M. Method For Binary Contour Images Vectorization Of Handwritten Characters For Recognition By Detector Neural Networks. Conference proceedings 2022 IEEE khpi Week Kharkiv, Ukraine, October 03 – 07. P 167- 172.
7. Bokhan, K., Degtyarenko, I., Radyvonenko, O., Khomenko, V. Text/shape classifier for mobile applications with handwriting input. International Journal on Document Analysis and Recognitionthis, 2016, 19(4), pp. 369–379.
8. Bokhan, K., Khomenko, V., Shyshkov, O., Radyvonenko, O. Accelerating recurrent neural network training using sequence bucketing and multi-GPU data parallelization. Proceedings of the 2016 IEEE 1st International Conference on Data Stream Mining and Processing, DSMP 2016, 2016, pp. 100–103.
9. Bokhan, K., Kurochkin, A. Generation of memes to engage audience in social media. CEUR Workshop Proceedingsthis link is disabled, 2020, 2566, pp. 10–20.
10. Liubchenko Natalia, Podorozhniak Andrii, Balenko Oleksii, Zhuikov Dmytro. Neural network approach for multispectral image processing. 14th International Conference on Advanced Trends in Radioelecrtronics, Telecommunications and Computer Engineering (TCSET 2018). 2018., pp. 978-981.
11. Liubchenko N, Podorozhniak A., Bondarchuk V. Neural network method of intellectual processing of multispectral images. Advanced Information Systems. Issue 1 (#2), 2017, pp. 39-44.
12. Liubchenko N,Podorozhniak A. Onishchenko D. NDVI based vegetation change detection with neural networks. Інформатика, управління та штучний інтелект: тези 10-ї міжнар. наук.-техн. конф., Харків–Краматорськ–Тернопіль, 10-12 травня 2023 р. –Харків: Impress, 2023.–С. 77.
13. Liubchenko, N., Podorozhniak, A., Onishchenko, D. Development of forestry application using deep learning technology. 2022 International Conference on Innovative Solutions in Software Engineering (ICISSE). pp. – 216.

Наукові гуртки

За цим науковим напрямком на кафедрі працює студентський науковий гурток “Штучний інтелект та машинне навчання“, науковий керівник – професор Паржин Ю.В.

Одним з досягнень цього гуртка є перемога студента гр. КН-М323 Перевозника Кирила Максимовича на Всеукраїнському конкурсі студентських наукових робіт зі штучного інтелекту у 2023 році (3 місце), а також його перемога у 2023 році на змаганні Kaggle Competition від AI-House з напрямку пошуку та визначення дезінформації у складі команди студентів різних ЗВО України.