ATM ve ATC Alanlarında XAI (Explainable AI) Neden Önemli?

Hava trafiğinin artan hacmi ve karmaşıklığı, yapay zekayı (YZ) Hava Trafik Yönetimi (ATM) ve Hava Trafik Kontrolü (ATC) ekosistemlerinde bir lüks olmaktan çıkarıp operasyonel bir zorunluluk haline getirmektedir Gelişmiş algoritmalar ve YZ kullanımı; 4D yörünge tahmini, varış/kalkış zamanı hesaplamaları ve sıralamalar, çatışma tespiti ve dinamik rota planlaması gibi görevlerde insan bilişsel kapasitesini aşan hızlarda veri işleyebilmektedir.

Ancak Derin Sinir Ağları gibi gelişmiş modeller yüksek performans sunsa da, yapıları gereği birer "Kara Kutu" (BlackBox) niteliğindedir. Karar mekanizması açıklanabilir olmayan bir sistemin, emniyetin birinci öncelik olduğu havacılıkta doğrudan sahaya sürülmesi mümkün değildir. Hava Trafik Kontrolörlerinin (ATCO) YZ tavsiyelerine güvenebilmesi için sistemin sadece doğru çalışması yetmez; karar gerekçelerini de operasyonel dinamikleri gözeterek açıklaması gerekir. Bu noktada devreye Açıklanabilir Yapay Zeka (XAI) kavramı girmektedir. 

XAI kavramına insan faktörleri bağlamında detaylı olarak bakmadan önce literatürde de sıklıkla birbirinin yerine kullanılan ve anlam genişlemesinden ötürü karıştırılabilen, yorumlanabilirlik, şeffaflık ve açıklanabilirlik terimlerine yakından bakalım.

Şeffaflık (Transparency): Sistemin iç mekanizmasının ve mantığının, ek bir arayüze ihtiyaç duymadan doğrudan incelenebilir olmasıdır. Örneğin, basit bir kural tabanlı sistem veya karar ağacı doğası gereği şeffaftır. Bu sistemlerde, veri girdisinin hangi mantıksal yollardan geçerek sonuca ulaştığı matematiksel olarak kolayca takip edilebilir.

Yorumlanabilirlik (Interpretability): Genellikle bir modelin içsel mekanizmalarının bir insan tarafından ne ölçüde anlaşılabileceği ile ilgilidir. Tabiatıyla modelin yapısının ne kadar basit ve şeffaf olduğuyla yakından bağlantılıdır. Örneğin, katsayıları her bir özelliğin çıktı üzerindeki etkisini doğrudan gösteren basit bir doğrusal regresyon modeli yorumlanabilir kabul edilir. Bu tür modellerin çalışma prensipleri doğrudan anlaşılabilir yapıdadır. Keza “lineer” modeller ve “karar ağaçları” da benzer bir mantıkla çalışır. 

Yorumlanabilirlik fenomeni genellikle model performansıyla ters orantılı çalışır. Karmaşık ve yüksek performanslı derin öğrenme algoritmaları kullanıldığında yorumlanabilirlik seviyesi düşer.

Açıklanabilirlik (Explainability / XAI): Avrupa Havacılık Emniyeti Ajansı'na (EASA) göre açıklanabilirlik, sistemin sonuçlarını nasıl ürettiğine dair doğru zamanda, doğru detayda ve anlaşılır bilgiyi sağlama kapasitesidir. XAI, kendiliğinden şeffaf olmayan karmaşık algoritmalar ile insan operatör arasında köprü kurar. Modelin kendisi yapısal olarak şeffaf olmasa bile, ısı haritaları (heatmap) gibi modellerle ve sonradan eklenen yöntemlerle kararların gerekçelerini insan operatör için görünür kılar.

Şeffaflık doğrudan sistemin yapısal özelliğini ifade ederken; açıklanabilirlik, şeffaf olmayan sistemleri anlaşılır kılmak için sonradan eklenen arayüzleri veya yöntemleri kapsar. Şeffaf bir sistemin iç yapısını doğrudan okuyabiliyorken, açıklanabilir bir sistemde ise sonuçların üretim nedenleri operatöre harici olarak entegre edilen, dışarıdan eklenen bir yöntemle sunulur. Bir sistem şeffaf olmadan açıklanabilir olabilir (derin bir ağın kararlarını görsel arayüzle açıklamak gibi). Hedef, teknik mimariyi göstermek değil, operatörün ihtiyacı olan operasyonel bağlamı sunmaktır.

Şimdi de kullanılan YZ modelini performans ve yorumlanabilirlik ekseninde inceleyelim:

Görseldeki ters orantı, operatörün YZ sistemlerine güveni ile sistem karmaşıklığı arasındaki doğrudan çatışmayı gösterir. Derin öğrenme (Deep Learning) gibi yüksek isabetli modeller "kara kutu" şeklinde çalışır. İnsan zihni, arka plandaki mantığını anlayamadığı bir sisteme kriz anında güvenmez. Bu durum operatörde otomasyon önyargısına (automation bias) veya tam tersi sisteme karşı güvensizlik geliştirerek uyarıları tamamen reddetmesine yol açar.

Rasmussen'in SRK (Yetenek, Kural, Bilgi) modeline göre, operatör bilgi tabanlı bir problem çözerken sistemin şeffaf olmasını bekler. Grafiğin sağ alt tarafındaki Kural Tabanlı (Rule-based) veya Karar Ağaçları (Decision Trees) modelleri insanın zihinsel modeline uyumludur. Bu nedenle karar alma mekanizmasını hızlandırır. Bayes Modelleri gibi grafikte ortalarda yer alan ve hem belirli bir isabet oranı sunan hem de nedensellik barındıran yapılar insan-makine arayüzlerinde daha etkilidir.

Günümüzde kullanılan Kısa Süreli Çatışma İkazı (STCA) veya TCAS gibi sistemler, grafiğin sağ altındaki "Rule-based learning" mantığıyla çalışır. 5 NM yatay, 1000 ft dikey ayırma gibi kurallar kesindir ve yoruma kapalıdır. Yeni nesil ATM sistemlerinde (örneğin varış zamanı tahminleri veya PBN rota optimizasyonları) algoritmalar grafikte sola doğru kayma eğilimindedir. Ancak bir kontrolör, radar ekranında sistemin ürettiği bir çatışma çözüm tavsiyesinin conflict geometrisini ve mantığını anında göremiyorsa o öneriyi uygulamaz. Emniyet kritik operasyonlarda "Model interpretability" (Model yorumlanabilirliği) ekseni, salt isabet oranına feda edilemez. Özetle ATM ve ATC alanlarında isabet oranında marjinal farklar olmadığı sürece yorumlanabilir ve açıklanabilir modeller tercih unsurudur.

XAI Modeller ve ATCO performansı arasındaki ilişki

- XAI (Açıklanabilir Yapay Zeka) modelleri hava trafik kontrolörlerinin bilişsel iş yükünü belirgin şekilde azaltmaktadır; ancak performans üzerindeki etkileri kontrolörün tecrübe seviyesine göre farklılık göstermektedir.

- EEG cihazlarıyla gerçekleştirilen objektif nörofizyolojik ölçümler (frontopariyetal teta ve alfa beyin dalgası indeksleri), Isı Haritası (HeatMap) tabanlı görsel XAI çözümlerinin, açıklama sunmayan "Kara Kutu" (BlackBox) sistemlere kıyasla kontrolörlerin zihinsel iş yükünü istatistiksel olarak anlamlı düzeyde düşürdüğünü göstermiştir.

- İşe yeni başlayan (novice) kontrolörler, yapay zeka ve XAI desteğinin çatışma çözme hızlarına, karar doğruluklarına ve genel iş performanslarına olan olumlu etkisini çok daha yüksek algılamaktadır. Bu durum belki de YZ' ye karşı daha az önyargılarının olmasından veya kendi rutinlerini henüz oluşturmamış olmalarından kaynaklanabilir. Uzman kontrolörler ise yerleşik operasyonel alışkanlıkları sebebiyle YZ'ye temkinli yaklaşırlar. Kendi özgün stratejilerinin ve trafiği yönetme becerilerindeki nüansların YZ tarafından yakalanamadığını düşünmektedirler.

Sonuç:

Havacılık sektöründe yapay zekanın evrimi, sadece kullanılan modelin performansıyla ilişkili değildir; açıklanabilirlik kavramı da emniyetin sağlanması adına son derece önemlidir. Özellikle ATM ve ATC gibi emniyet kritik alanlarda, belirsizlik durumları ve artan karmaşıklık seviyesi de göz önüne alındığında, insan operatörlerin YZ ile takım olarak çalışması (Human-AI Teaming) ve "Human-in-the-Loop" (Döngüdeki İnsan) konsepti gereği karar döngüsünde kalmaları beklenmektedir. Hava trafik kontrolörleri özelinde XAI kavrayışının; zihinsel iş yükünü hafifleten, şeffaflıkla güven inşa eden ve emniyetli bir gökyüzü için insan-makine işbirliğini mümkün kılan güçlü bir araca dönüşmesi beklenmektedir.

Kaynaklar:

- Human Factors Guidance for the Integration of Artificial Intelligence and Machine Learning in FAA Systems, 2025.
- Rasmussen, J. (1983), Skill, rules, and knowledge; signals, signs, and symbols, and other distinctions in human performance models, IEEE Transactions on Systems, Man, and Cybernetics, SMC-13(3), 257–266.

- Cartocci, G. ve ark. (2026), Explainable artificial intelligence in air traffic control: effects of expertise on workload, acceptance, and usage intentions, Brain Informatics. (alert-passed)