Açıklanabilir yapay zekâ, bir yapay zekâ sisteminin ürettiği sonucun insanlar tarafından anlaşılabilir gerekçelerle sunulmasını amaçlayan yöntemler bütünüdür. Kavram, modelin iç işleyişini tümüyle görünür kılmakla aynı değildir: karmaşık bir sistem, belirli bir karar için sonradan oluşturulan yerel bir açıklama verebilir; daha basit bir model ise yapısı gereği yorumlanabilir olabilir.[1]
TEMEL İLKELER
ABD Ulusal Standartlar ve Teknoloji Enstitüsü, açıklanabilirliği dört ilkeyle ele alır: sistem bir açıklama sunmalı, açıklama hedef kullanıcı için anlamlı olmalı, açıklama gerçek işleyişi doğru yansıtmalı ve sistem bilgi ya da yetkinlik sınırları dışında sonuç üretmemelidir. Bu çerçeve tek bir teknik zorunlu kılmaz; özellik önem sıralamaları, örnek karşılaştırmaları veya kural tabanlı özetler farklı kullanım bağlamlarında seçilebilir.[1]
KULLANIM VE SINIRLAR
Açıklamalar hata ayıklama, model denetimi, risk iletişimi ve insan kararını destekleme amacıyla kullanılır. Ancak anlaşılır bir gerekçe, sonucun doğru, adil veya güvenli olduğunu tek başına kanıtlamaz. Açıklamanın ayrıntı düzeyi geliştirici, denetçi ve son kullanıcı için farklı olabilir; NIST bu nedenle açıklanabilirlik ile yorumlanabilirliği ilişkili fakat ayrı özellikler olarak değerlendirir.[2]