AI in Aviation Compliance Monitoring: Safety Barriers, Regulatory Gaps and Architectural Conditions for Trustworthy Deployment

Abstract

The integration of artificial intelligence (AI) in the aviation industry is not just another step in digitalization; it is a deep system transformation that affects safety, personnel, and organizational processes in multiple ways. According to the ICAO standard (Doc 9859) [1], any aviation system is based on the interaction of people, processes, and technologies. Still, traditional Safety Management Systems (SMS) focus on deterministic failure patterns and predictable behavior, while AI is probabilistic in nature, depends on the representativeness of data, and is prone to unpredictable ways. This review systematizes the key challenges of AI in aviation compliance systems, focusing on organizational maturity, rethinking safety barrier models, and the regulation issues. The final section describes a hybrid Knowledge Graph and LLM retrieval framework (Graph RAG) that is proposed architectural response to the hallucination problem and traceability assurance and derives a minimum structural condition for responsible AI deployment in compliance-critical environments.

Keywords

Artificial Intelligence (AI), Aviation Industry, Digitalization, Safety Barriers, Regulatory GAPs, Risk Management

Анотація

Інтеграція штучного інтелекту (ШІ) в авіаційну галузь — це не просто черговий крок у цифровізації; це глибока системна трансформація, яка впливає на безпеку, персонал та організаційні процеси різними способами. Згідно зі стандартом ICAO (Doc 9859) [1], будь-яка авіаційна система базується на взаємодії людей, процесів та технологій. Тим не менш, традиційні системи управління безпекою (СУБ) зосереджуються на детермінованих моделях відмов та передбачуваній поведінці, тоді як ШІ має ймовірнісний характер, залежить від репрезентативності даних та схильний до непередбачуваних дій. У цьому огляді систематизовано ключові проблеми ШІ в системах авіаційної відповідності, зосереджуючись на організаційній зрілості, переосмисленні моделей бар’єрів безпеки та питаннях регулювання. В заключному розділі описано гібридну структуру пошуку знань на основі графу знань та LLM (Graph RAG), яка є запропонованою архітектурною відповіддю на проблему галюцинацій та забезпечення відстежуваності, а також виводить мінімальну структурну умову для відповідального розгортання ШІ в критично важливих для відповідності середовищах.

Ключові слова

Штучний інтелект (ШІ), авіаційна галузь, цифровізація, бар’єри безпеки, регуляторні прогалини, ризик менеджмент

Back to Table of Contents No 37 (2026)

Goncharenko K.V. WELL DIGIT LLC, CEO (Ukraine)

ORCID –
Researcher ID
Scopus author id: –
E-Mail:  kseniia.goncharenko@welldigit.com

Bugayko D.О. Doctor of Science (Economics), Professor, Academician of the Academy of Economic Sciences of Ukraine, Corresponding Member of the Transport Academy of Ukraine, Instructor of ICAO Institute, Professor (Full) of the Logistics Department Vice Director for International Cooperation and Education of National University “Kyiv Aviation Institute” (Ukraine)

ORCID – 0000-0002-3240-2501
Researcher ID   ABF-5564-2021
Scopus author id:  57216582348
E-Mail:  bugaiko@kai.edu.ua

1. International Civil Aviation Organization. Safety management manual (Doc 9859, 4th ed.). ICAO; 2018.
2. Part-IS: Information security for aviation organisations. European Union Aviation Safety Agency; 2022.
3. Golabchi H, Pereira E, Lefsrud L, Mohamed Y. Proposal of a safety maturity framework in construction: Implementing leading indicators for proactive safety management. Journal of Safety and Sustainability. 2025.
4. Kirwan B. Human factors requirements for human-AI teaming in aviation. Future Transportation. 2025;5:42. https://doi.org/10.3390/futuretransp5020042
5. Reason JT. Human error. Cambridge University Press; 1990.
6. Shappell SA, Wiegmann DA. The human factors analysis and classification system — HFACS. DOT/FAA/AM-00/7. U.S. Department of Transportation / FAA; 2000.
7. European Parliament. Regulation (EU) 2024/1689 of the European Parliament and of the Council (EU AI Act). Official Journal of the European Union; 2024.
8. NPA 2025-07(B): Proposed DS.AI specifications. European Union Aviation Safety Agency; 2025.
9. National Institute of Standards and Technology. Artificial intelligence risk management framework (AI RMF 1.0). NIST AI 100-1; 2023. https://doi.org/10.6028/NIST.AI.100-1
10. Concept paper: Guidance for level 1 & 2 machine learning applications, issue 02. European Union Aviation Safety Agency; 2024.
11. Franchina F. Artificial intelligence and the just culture principle. Hindsight. 2023;35:39–42. EUROCONTROL.
12. Rasmussen J. Skills, rules, knowledge; signals, signs, and symbols; and other distinctions in human performance models. IEEE Transactions on Systems, Man, and Cybernetics. 1983;3:257–266.
13. McKinsey & Company. The state of AI in 2025. McKinsey & Company; 2025.
14. McKinsey & Company. Technology trends outlook 2025, fifth edition. McKinsey & Company; 2025.
15. International Civil Aviation Organization. Safety intelligence manual (Doc 10159). ICAO; 2025.
16. Madanchian M, Taherdoost H. The impact of artificial intelligence on research efficiency. Results in Engineering. 2025.
17. Miller JK, Zhao Y. Hallucination in domain-specific large language models: An empirical study in aviation safety. Safety Science. 2024;172:106382.
18. Parasuraman R. Humans and automation: Use, misuse, disuse, and abuse. Human Factors. 1997;39:230–253.
19. Parasuraman R, Manzey DH. Complacency and bias in human use of automation: An attentional integration. Human Factors. 2012;52(3).
20. Tversky A, Kahneman D. Judgment under uncertainty: Heuristics and biases. Science. 1974;185:1124–1131.
21. European Parliament. Regulation (EU) 2016/679 (General Data Protection Regulation). Official Journal of the European Union; 2016.
22. Edge D, Trivedi R, Mozafari M. Graph RAG: Unleashing the power of knowledge graphs with large language models. arXiv:2401.15841; 2024.
23. Lewis P, Perez E, Piktus A, et al. Retrieval-augmented generation for knowledge-intensive NLP tasks. Advances in Neural Information Processing Systems. 2020;33:9459–9474.
24. Iyengar A, Tiselska A, Samaraweera D, Liu H. Building trust in the skies: A knowledge-grounded LLM-based framework for aviation safety. arXiv:2604.13101v1; 2025.
25. EASA AI roadmap 2.0. European Union Aviation Safety Agency; 2023.
26. Kharazishvili, Y., Kwilinski, A., Bugayko, D., Hryhorak, M., Butorina, V., & Yashchyshyna, I. (2022). Strategic scenarios of the post-war recovery of the aviation transport sustainable development: The case of Ukraine. Virtual Economics, 5(3), 7–30. https://doi.org/10.34021/ve.2022.05.03(1)