Anlatı derlemesi incelemesi

Emniyet Kritik Sistemlerde Çalışma Zamanı Güvencesi: Karmaşık Kontrol Sistemleri İçin Emniyet Filtreleme Yaklaşımlarına Giriş

Emniyet kritik siber-fiziksel sistemlerde yapay zekâ, makine öğrenmesi ve karmaşık otonom kontrol algoritmalarının kullanımı yaygınlaşırken, bu sistemlerin geleneksel çevrimdışı doğrulama ve sertifikasyon yöntemleriyle emniyet güvencesine alınması ciddi bir teknik engel oluşturmaktadır.

Makalenin anahtar kelimeleri

Yazar: Kerianne L. Hobbs et al.
Yayın: IEEE Control Systems
Tarih: 2023-03-24
DOI: 10.1109/mcs.2023.3234380

Makalenin Kapsamı ve Akademik İçeriği

Emniyet kritik siber-fiziksel sistemlerin karmaşıklığı arttıkça, bu sistemlerde kullanılan yapay zekâ ve otonom kontrol algoritmalarının geleneksel çevrimdışı yöntemlerle doğrulanması ve sertifikalandırılması temel bir teknik engel haline gelmiştir. Havacılık, otomotiv ve tıp gibi alanlarda izin verilen hata olasılıklarının son derece düşük olması, karmaşık performans denetleyicilerinin doğrudan doğrulanmasını neredeyse imkânsız kılmaktadır. Çalışma zamanı güvencesi (RTA) sistemleri, bu sorunu aşmak amacıyla emniyet kısıtlarını performans hedeflerinden tamamen ayrıştıran bir mimari sunmaktadır. Doğrulanmamış birincil denetleyiciden gelen komutları anlık olarak denetleyen RTA, sistem emniyeti tehdit edildiğinde müdahale ederek güvenli duruma geçişi garanti etmektedir.

Makalede, RTA sistemlerinin matematiksel ve mimari esaslarını sistematik bir öğretici yaklaşımla açıklamak amacıyla dinamik sistem teorisi ve kontrol teorisine dayalı bir analiz yöntemi izlenmiştir. Sistemler sürekli, ayrık ve hibrit dinamikler altında modellenerek ileriye doğru invaryant kümeler, kontrol bariyer fonksiyonları (CBF) ve Lyapunov metotları çerçevesinde incelenmiştir. RTA yaklaşımları; açık (bölge tabanlı) ve örtük (çevrimiçi yörünge öngörülü) stratejilerin yanı sıra, yumuşak geçiş sağlayan birinci derece türev tabanlı yöntemler (ASIF) ve anahtarlamalı çalışan sıfırıncı derece yöntemler (Simplex) olarak sınıflandırılmıştır. Ayrıca belirsizlik durumunda karma monotonluk ve aralık ulaşılabilirlik analizleri entegre edilmiştir.

Çalışmanın sunduğu temel teknik önermeler, RTA sistemlerinin birincil denetleyicinin iç yapısından tamamen bağımsız (agnostik) çalışabildiğini ve emniyet doğrulama sürecini karmaşık performans hedeflerinden izole ettiğini göstermektedir. Örtük Simplex ve ASIF algoritmaları, yedek denetleyici aracılığıyla çevrimiçi öngörüsel yörüngeler hesaplayarak sistemin geniş bir emniyetli çalışma bölgesinde kalmasını sağlamaktadır. Pekiştirmeli öğrenme süreçlerinde kullanılan zırh (shielding) mekanizmaları ve karaya çarpmayı önleyen Auto GCAS gibi uygulamalar, RTA mimarisinin ampirik başarısını ve karmaşık kara/hava platformlarında emniyet sınırlarını ihlal etmeden yüksek performans elde edilebileceğini kanıtlamaktadır.

Sonuç ve tartışma bölümünde, RTA yaklaşımlarının otonom sistemlerin sertifikasyon süreçlerindeki dönüştürücü rolü vurgulanmakta ve ASTM standartları ile biçimsel doğrulama yöntemlerinin RTA mimarilerine entegrasyonu değerlendirilmektedir. İnsan-makine etkileşiminde yanlış alarmların kullanıcı güveni üzerindeki olumsuz etkilerine dikkat çekilerek, rahatsızlık vermeyen (nuisance-free) emniyet filtrelerinin önemi belirtilmiştir. Literatür taraması açısından bu çalışma, derin öğrenme ve karmaşık denetim algoritmalarının emniyet kritik uygulamalara entegrasyonunda teorik ve pratik bir rehber sunmakta; tez ve makale araştırmaları için biçimsel yöntemler, kontrol teorisi ve yapay zekâ emniyeti alanlarında somut çalışma zeminleri oluşturmaktadır.

Araştırmanın amacı

Bu öğretici makale, emniyet kritik siber-fiziksel sistemlerde karmaşık ve doğrulanmamış birincil denetleyicilerin emniyetli çalışmasını sağlamak amacıyla geliştirilen çalışma zamanı güvencesi (RTA) mimarilerini, matematiksel modelleme çerçevelerini, Simplex mimarisi ile etkin küme invaryans filtreleme (ASIF) yaklaşımlarını ve bu yöntemlerin doğrulama ile sertifikasyon süreçlerindeki rolünü kapsamlı bir biçimde açıklamayı amaçlamaktadır(Hobbs et al., 2023).

İnceleme ve modelleme yöntemi

Çalışmada emniyet kritik siber-fiziksel sistemler için geliştirilen çalışma zamanı güvencesi mimarileri, kavramsal ve matematiksel modelleme çerçevesinde öğretici bir derleme yaklaşımıyla metodolojik olarak çözümlenmiştir(Hobbs et al., 2023).

Kuramsal ve kavramsal çerçeve

Çalışmanın kuramsal çerçevesi, siber-fiziksel sistemlerin dinamik sistemler teorisi kapsamındaki sürekli, ayrık ve hibrit zamanlı matematiksel modellerine dayanmaktadır. İleriye doğru invaryans (forward invariance), kontrol invaryant kümeler, Lyapunov fonksiyonları ve kontrol bariyer fonksiyonları (CBF) emniyetli durum uzaylarının tanımlanmasında temel matematiksel araçlar olarak kullanılmaktadır. RTA mekanizmaları, emniyet kısıtlarının zorlanmasını performans hedeflerinden ayrıştıran bağımsız bir denetim katmanı olarak kuramsallaştırılmıştır.

Makalenin ele aldığı literatür

Makale, geleneksel çevrimdışı yazılım doğrulama standartlarından (DO-178C, DO-278A) otonom uçak, kara araçları ve uzay araçlarında kullanılan güncel RTA uygulamalarına kadar geniş bir literatürü ele almaktadır. Otomatik Karaya Çarpmayı Önleme Sistemi (Auto GCAS) ve Robotarium gibi gerçek dünya test platformlarının yanı sıra, Simplex mimarisi, pekiştirmeli öğrenmede emniyet zırhı (shielded learning) ve karmaşık dinamik sistemlerde kontrol bariyer fonksiyonları temelli aktif küme invaryans filtreleme literatürü ayrıntılı olarak sentezlenmektedir.

Araştırmanın Bulguları

Çalışma zamanı güvencesi sistemleri, karmaşık ve doğrulanmamış birincil denetleyicilerin çıkışlarını çevrim içi doğrulama yöntemiyle filtreleyerek sistem emniyetini kesintisiz biçimde garanti altına almaktadır(Hobbs et al., 2023).

RTA mekanizmaları birincil denetleyicinin iç yapısından tamamen bağımsız olarak tasarlanmakta ve böylece emniyet kısıtlarının uygulanması performans hedeflerinden tamamen ayrıştırılmaktadır(Hobbs et al., 2023).

Açık RTA yöntemleri emniyetli çalışma bölgesini önceden tanımlanmış küme sınırlarıyla kesin olarak belirlerken, örtük RTA yöntemleri emniyet durumunu yedek denetleyici yörüngelerinin çevrim içi simülasyonuyla değerlendirmektedir(Hobbs et al., 2023).

Mandal kilitsiz RTA uygulamalarında denetim mantığı, sınır ihlal koşulu ortadan kalktığı anda kontrol yetkisini derhal ve otomatik olarak birincil denetleyiciye geri devrederek gereksiz müdahaleleri önlemektedir(Hobbs et al., 2023).

Örtük RTA sistemleri emniyeti değerlendirmek için yedek denetleyicinin çevrim içi simülasyonlarına dayandığından, karmaşık kara kutu denetleyiciler dahi RTA yapısı içinde emniyetli biçimde yedek yörünge üreteci olarak kullanılabilmektedir(Hobbs et al., 2023).

Bulguların Tartışılması ve Araştırmanın Sonucu

Bulguların Yazarlar Tarafından Yorumlanışı

Derlemede ortaya koyulan bulgular, çalışma zamanı güvencesi (RTA) mimarilerinin emniyet kritik siber-fiziksel sistemlerde birincil denetleyici ile fiziksel sistem arasında bağımsız bir güvenlik katmanı oluşturduğunu göstermektedir.

Yazarlar bu durumu, RTA mekanizmasının emniyet kısıtlarını performans hedeflerinden tamamen ayrıştırma yeteneğine bağlamaktadır. Bu sayede birincil denetleyici ne kadar karmaşık veya yapay zeka tabanlı olursa olsun, emniyet filtresi müdahale ederek sistemin emniyetli durum uzayında kalmasını temin etmektedir.

Söz konusu yaklaşım, literatürdeki geleneksel çevrim dışı doğrulama ve sertifikasyon yöntemlerinin karmaşık otonom sistemlerde karşılaştığı ölçeklenebilirlik kısıtlarına etkili bir alternatif sunmaktadır. Çalışmada, Simplex ve aktif küme invaryans filtreleme (ASIF) yaklaşımlarının teorik esasları karşılaştırılmıştır.

Sonuç olarak RTA, havacılık, otonom kara araçları ve robotik gibi kritik alanlarda gelişmiş denetleyicilerin güvenle konuşlandırılmasına ve ASTM standartları çerçevesinde sertifikasyon yollarının açılmasına imkân tanıyan kapsamlı bir mimari çerçeve sunmaktadır.

Bulguların Önceki Araştırmalarla Karşılaştırılması

Yazarlar doğrulama kavramını sistemin gereksinimleri karşılayıp karşılamadığını belirleyen bir süreç olarak tanımlarken, bu tanımı yazılım ve sistem doğrulamasına ilişkin standart literatürdeki temellerle ilişkilendirmekte ve RTA'nın geleneksel çevrim dışı doğrulama yöntemlerine kıyasla karmaşık sistemlerde sağladığı esnekliği ve avantajları vurgulamaktadır(Hobbs et al., 2023).

Sonuç Bölümünün Sunduğu Çıkarımlar

Yazarlar, çalışma zamanı güvencesi (RTA) sistemlerinin karmaşık, yapay zeka destekli veya doğrulanmamış birincil denetleyicilerin emniyet kritik siber-fiziksel sistemlere entegrasyonunda temel bir köprü işlevi gördüğü sonuçuna varmaktadır. RTA mimarileri emniyet kısıtlarını performans hedeflerinden ayırarak hem sistem emniyetini teorik ve pratik olarak garanti altına almakta hem de havacılık ve uzay gibi katı standartlara tabi alanlarda sertifikasyon süreçlerini kolaylaştırmaktadır(Hobbs et al., 2023).

Literatür Taraması İçin Sunduğu Çerçeve

Bu çalışma, literatürde karmaşık ve otonom sistemlerin emniyet güvencesini sağlamaya yönelik geliştirilen Çalışma Zamanı Güvencesi (RTA) yaklaşımlarını sistematik bir eğitim çerçevesinde ele alan temel bir referans işlevi görmektedir. Performans odaklı gelişmiş denetleyicilerin karmaşık yapısı sebebiyle çevrimdışı doğrulanamaması sorununa karşılık, emniyet kısıtlarını performanstan ayıran mimariyi tüm yönleriyle teorize eder. Hem Simplex hem de Aktif Küme İnvaryans Filtreleme (ASIF) yaklaşımlarını deterministik, belirsiz ve insan-makine etkileşimi perspektiflerinden birleştirerek literatürdeki kuramsal ve uygulamalı boşlukları doldurmaktadır.

Çalışma, Sha (1995) tarafından ortaya konan klasik Simplex mimarisini ve Ames ve diğerleri (2014, 2017) tarafından geliştirilen Kontrol Bariyer Fonksiyonu (CBF) ile aktif küme invaryans filtreleme yaklaşımlarını temel almaktadır. Önceki çalışmaların genellikle bu iki yaklaşımı ayrı ayrı ele almasına karşın, bu makale iki ana akımı ortak bir RTA çatısı altında birleştirerek teorik bir entegrasyon sunar. Ayrıca geleneksel çevrimdışı formal yöntemlerin otonom sistemlerde karşılaştığı hesaplama darboğazlarını, çevrim içi ileri doğru bakış simülasyonları ve karmaşık kara kutu denetleyicilerin entegrasyonu gibi yenilikçi örtük RTA yaklaşımları ile aşarak literatürü bir adım öteye taşımaktadır.

Bu derleme makalesi, siber-fiziksel sistemler literatüründe emniyet ve performans ikilemine yönelik kapsamlı bir sentez sunarak literatür taraması süreçlerine olağanüstü bir katkı sağlamaktadır. Makale, farklı mühendislik disiplinlerinde (havacılık, otonom araçlar, bipedal robotlar) dağınık halde bulunan emniyet filtreleme yaklaşımlarını ve RTA terminolojilerini (Kalkan, Emniyet Filtresi, Koruyucu) bir araya getirerek ortak bir terminoloji oluşturur. Araştırmacılara hem matematiksel modelleme düzeyinde diferansiyel denklemler sunmakta hem de algoritmik akışlar ve pratik insan-makine arayüzü kısıtları üzerinden sistem tasarımı için bütünsel bir kılavuz sağlamaktadır.

Kaynakça

IEEE. (2004). IEEE Standard for Software Verification and Validation (IEEE Std 1012-2004). IEEE Computer Society.

Tez ve Makale Araştırmalarında Kullanım

Makalenin doğrulanmış yöntemi, bulguları ve kuramsal çerçevesi; tez ve makale çalışmalarında kullanılacağı bölümle birlikte aşağıdaki üç araştırma taslağına dönüştürülmüştür.

Tez veya makalede kullanım · literatüre-review

Karmaşık otonom sistemlerde emniyet kısıtlarının uygulanması, performans hedeflerinden bağımsız bir kontrol katmanıyla gerçekleştirilmelidir.

Bu iddia, çalışmada önerilen ve emniyet kısıtları ile performans odaklı birincil denetleyiciyi birbirinden ayıran RTA mimarisinin temel felsefesiyle desteklenecektir(Hobbs et al., 2023).

Nondeterministik İHA Sistemlerinde Örtük Simplex ve Makine Öğrenmesi Tabanlı Yedek Denetleyicilerin Emniyet Performansı

Araştırma sorusu: Makine öğrenmesi tabanlı bir yedek denetleyici içeren örtük Simplex RTA sistemi, rüzgar bozuntusu altında otonom bir İHA'nın emniyetli uçuş sınırlarını korumada ne ölçüde etkilidir?
Yöntem taslağı: Deterministik olmayan ruzgar bozuntulari altinda IHA ucus modeli oluşturulacaktir. Guclendirilmis simulasyon senaryolarinda, yapay sınır agi tabanlı bir yedek denetleyici ve ortuk Simplex filtresi tasarlanacaktir. Simulasyon sonuçları ile carpisma oranlari ve sınır ihlalleri nicel olarak analiz edilecektir. Katılımci veya örneklem sayisi guc analiziyle belirlenecektir.

Makaleyle bağlantısı: Makalenin Provably Safe RTA with Black Box Backup Controllers bolumunde belirtilen, ortuk RTA sistemlerinde kara kutu niteligindeki yedek denetleyicilerin emniyet garantisi bozulmadan kullanılabilecegi önermesinden yola cikilmistir(Hobbs et al., 2023).

Tez veya makalede kullanım · Kavramsal çerçeve

Çalışma zamanı güvencesi sistemleri, doğrulanmamış denetleyici çıktılarını anlık olarak filtreleyerek sistem düzeyinde emniyet garantisi sunar.

Tez çalışmasında tasarlanan otonom kontrol güvenlik katmanının kuramsal çerçevesini oluşturmak ve sistem düzeyinde emniyet garantisinin nasıl sağlandığını açıklamak için bu kaynaktan yararlanılacaktır(Hobbs et al., 2023).

Mandal Kilitsiz RTA Sistemlerinde Çatırtı (Chatter) Etkisinin Aktüatör Aşınması Üzerindeki Etkileri

Araştırma sorusu: Mandal kilitsiz sıfırıncı derece RTA sistemlerinde karar döngüsü sıklığı ile aktüatör çatırtı (chatter) etkisi arasındaki ilişki aktüatör ömrünü nasıl etkilemektedir?
Yöntem taslağı: Fiziksel bir servo-aktuator test düzenegi kurulacaktir. Farklı örnekleme frekanslarinda mandal kilitsiz Simplex RTA algoritmasi çalıştirilacak, aktuatorun maruz kaldigi yüksek frekansli titresimler ivmeölçerler yardimiyla ölçulerek asinma miktarlari deneysel olarak analiz edilecektir. Veri doygunlugu sağlanana kadar testler tekrarlanacaktir.

Makaleyle bağlantısı: Makalenin Zero-Order and First-Order Methods ile Latched and Unlatched Implementations kisimlarinda tartisilan, sifirinci derece yöntemlerdeki catirti etkisinin gercek sistem aktuatorlerinde aşırı asinmaya yol acabilecegi uyarisindan türetilmistir(Hobbs et al., 2023).

Tez veya makalede kullanım · Tartışma

Örtük RTA yaklaşımları, emniyetli bölgeyi çevrim içi simülasyonlarla belirleyerek açık yaklaşımların yüksek boyutlu sistemlerdeki muhafazakarlık ve ölçeklenebilirlik sorununu aşmaktadır.

Önerilen kontrol mimarisinin deneysel sonuçlarını tartışırken, açık ve örtük emniyet filtreleme yöntemlerinin hesaplama performansı ve sistem esnekliği açısından karşılaştırılmasında bu kuramsal bilgi referans alınacaktır(Hobbs et al., 2023).

Otonom Araçlarda Değişken Risk Toleranslı RTA Sistemlerinin İnsan Sürücü Güveni Üzerine Etkisi

Araştırma sorusu: İki farklı emniyet tamponu moduna (normal ve minimum) sahip bir RTA sisteminin otonom araç sürücülerinin sisteme duyduğu güven ve müdahale süreleri üzerindeki etkisi nedir?
Yöntem taslağı: Surus simulatorunde insan katılımcilarla yurutulecek deneysel bir çalışma tasarlanacaktir. Katılımcilar normal ve minimum RTA modlarinda otonom surus deneyimleyecek; suruculerin guven seviyeleri ölçeklerle, acil durumlara müdahale sureleri ise milisaniye cinsinden kaydedilerek karşılaştırilacaktir. Katılımci sayisi guc analizi ile belirlenecektir.

Makaleyle bağlantısı: Makalenin RTA-Human Interaction altindaki variable risk tolerance tartismasinda, F-16 Auto GCAS test pilotlarinin norm ve min gibi değişken risk modlarina sahip RTA sistemlerine daha cok guvendigi bulgusundan esinlenmistir(Hobbs et al., 2023).