Kuramsal-kavramsal makale incelemesi
Varyasyonel kuantum algoritmaları (VQA), gürültülü orta ölçekli kuantum (NISQ) cihazları için en umut verici kuantum makine öğrenimi yaklaşımlarından biridir. Ancak kuantum modellerinde derinlik arttıkça ortaya çıkan çorak platolar (barren plateaus), gradyanların üstel olarak sönümlenmesine neden olarak eğitilebilirliği engellemektedir.
Varyasyonel kuantum algoritmaları (VQA), klasik yapay sınır ağlarının kuantum dünyasındaki karşılığı olarak gürültülü orta ölçekli kuantum (NISQ) çağında büyük bir heyecan yaratmıştır. Klasik modellerin karmaşık ve konveks olmayan kayıp manzaralarında bile gradyan tabanlı optimizasyon yöntemleriyle son derece başarılı şekilde eğitilebilmesi, kuantum modellerinin de benzer üstün eğitilebilirlik özelliklerini miras alabileceği yönünde güçlü bir beklenti doğurmuştur. Ancak kuantum literatüründeki hakim çalışmalar, derin varyasyonel kuantum devrelerinin 'çorak platolar' adı verilen ve gradyanların problem boyutuyla birlikte üstel olarak yok olduğu bir sönümlenme fenomeni nedeniyle eğitilemez olduğunu göstermiştir. Bu durum varyasyonel modellerin eğitilebilirlik tartışmasını neredeyse tamamen çorak platolar konusuna indirgemiştir. Oysa bu çalışma, platoların bulunmadığı sığ ve yerel devrelerde de eğitilebilirliğin önünde henüz tam olarak keşfedilmemiş çok daha temel engellerin bulunduğuna dikkat çekmektedir.
Bu çalışmanın temel amacı, çorak platolardan muzdarip olmayan sığ ve yerel varyasyonel kuantum algoritmalarının neden eğitilemez olduğunu hem matematiksel olarak kanıtlamak hem de sayısal simülasyonlarla doğrulamaktır. Yazarlar bu doğrultuda iki temel teorik araç seti kullanmışlardır; bunlardan ilki, gürültülü optimizasyon süreçlerinin sınırlarını çizen istatistiksel sörgü (SQ) öğrenme çerçevesidir. İkinci araç ise, yerel olarak rastgele karıştırılan (scrambled) varyasyonel kayıp fonksiyonlarının, 'Wishart hiper-toroidal rastgele alanlar' (WHRF) olarak adlandırılan matematiksel modellere yakınsadığını gösteren yeni bir analitik yaklaşımdır. Bu yöntem sayesinde, sığ kuantum devrelerinin kayıp manzaralarındaki kritik noktaların ve yerel minimumların geometrik dağılımı doğrudan çözümlenmiştir. Çalışma ayrıca teorik iddiaları kuantum evrimsel sınır ağları (QCNN) ve varyasyonel kuantum özdeğer çözücüleri (VQE) üzerinde yürütülen bilgisayar destekli hassas sayısal simülasyonlarla test etmiştir.
Araştırmanın en çarpıcı bulgusu, sığ ve yerel kuantum devrelerinin kayıp manzaralarının küresel optimumdan çok uzak olan ve 'tuzak' olarak nitelendirilen kalitesiz yerel minimumlarla tamamen kuşatılmış olduğunu göstermesidir. Matematiksel ispatlar, yerel minimumların ezici bir çoğunluğunun küresel minimumdan sabit bir enerji mesafesi kadar uzakta yoğunlaştığını ve küresel minimuma yakın olan yerel minimumların oranının süper-polinomiyal düzeyde küçük olduğunu ortaya koymaktadır. İstatistiksel sörgü analizi ise, gürültülü ortamlarda çalışan yaygın gradyan tabanlı veya gradyansız optimizasyon algoritmalarının, kuantum modellerini öğrenebilmek için üstel sayıda sörgüya ihtiyaç duyduğunu ve bunun pratik olarak imkânsız olduğunu göstermektedir. Sayısal deneyler de teoriyi doğrulamış; kuantum konvolüsyonel sınır ağları (QCNN) tabanlı öğretmen-öğrenci modellerinde ve VQE uygulamalarında, kubit sayısı arttıkça optimizasyonun hızla kötü yerel minimumlara takıldığını ve aşırı parametreleştirme sınırına ulaşılana kadar eğitimin başarısız olduğunu kanıtlamıştır.
Elde edilen sonuçlar, kuantum makine öğrenimi literatüründe uzun süredir devam eden 'gradyanlar sıfırdan farklıysa model eğitilebilir' varsayımını kökten sarsmaktadır. Yazarlar, çorak platoların yokluğunun varyasyonel kuantum algoritmalarının başarısı için tek başına yeterli bir kriter olmadığını ve yerel minimum tuzaklarının eğitilebilirliğin önündeki en büyük yapısal engeli oluşturduğunu literatüre kazandırmıştır. Bu çalışma, kuantum algoritmalarının tasarımında genel amaçlı ve Hamiltonyen-agnostik modeller yerine, simetrileri kullanan veya fiziksel sezgilere dayalı parametre ilklendirmeleri sunan probleme özgü yapıların kurulması gerektiğini güçlü bir biçimde savunmaktadır. Böylece, varyasyonel kuantum algoritmalarının pratik faydasını gösterme yolunda literatürdeki arayışları daha gerçekçi ve optimize edilebilir hiyerarşik veya simetrik ansatz tasarımlarına doğru yönlendirerek kuantum yazılım mimarilerine somut ve yapıcı bir kılavuzluk sunmaktadır.
Çalışmanın amacı, çorak platolardan muzdarip olmayan sığ ve yerel varyasyonel kuantum modellerinin, zayıf yerel minimumların yoğunlaşması nedeniyle eğitilemez olduğunu analitik ve sayısal olarak ortaya koymaktır(Anschuetz & Kiani, 2022).
Araştırmada, sığ ve yerel kuantum varyasyonel modellerinin eğitilebilirliğini analiz etmek için hem istatistiksel sörgü (SQ) öğrenme kuramı çerçevesinde gürültü altındaki sınırları belirleyen analitik ispatlar yapılmış hem de gürültüsüz manzaraların yerel minimum dağılımlarını Wishart hiper-toroidal rastgele alanlarına (WHRF) eşleyen istatistiksel fiziksel modeller geliştirilmiş ve bulgular sayısal simülasyonlarla desteklenmiştir(Anschuetz & Kiani, 2022).
Çalışma, istatistiksel öğrenme kuramının bir alt dalı olan istatistiksel sörgü (SQ) öğrenme çerçevesi ve rastgele matris kuramına dayanan Wishart hiper-toroidal rastgele alanlar (WHRF) modeli üzerine inşa edilmiştir. Varyasyonel kuantum optimizasyonu, gürültülü bir kahine yapılan istatistiksel sörgülar dizisi olarak kavramsallaştırılmış ve sığ varyasyonel kayıp manzaraları rastgele alan yaklaşıklığıyla çözümlenmiştir.
Mevcut kuantum makine öğrenimi literatürü, varyasyonel kuantum algoritmalarının başarısızlığını ağırlıklı olarak derin devrelerdeki gradyan sönümlenmesi (çorak platolar) ile açıklamaktadır (Cerezo vd., McClean vd.). Sığ modellerde ise aşırı parametreleştirme (overparameterization) durumunda iyi yerel minimumların ortaya çıktığı gösterilmiş olsa da, bunun pratik olmayan parametre sayıları gerektirdiği bilinmektedir. Bu makale, literatürdeki bu boşluğu doldurarak sığ, yerel ve çorak platolara sahip olmayan devrelerin de zayıf yerel minimumların (tuzakların) egemenliği altında kaldığını ispatlamaktadır.
Gürültü varlığında, sığ varyasyonel devreler tarafından üretilen basit fonksiyon sınıflarını öğrenmek için istatistiksel sörgü (SQ) çerçevesinde üstel sayıda sörgü gerekmektedir(Anschuetz & Kiani, 2022).
Sığ yerel kuantum modellerinin kayıp manzaraları, çorak platolardan muzdarip olmasalar bile, küresel optimumdan uzak yerel minimumların yoğunlaşması nedeniyle eğitilemez niteliktedir(Anschuetz & Kiani, 2022).
Yaklaşık olarak yerel düzeyde karıştırılmış (scrambled) varyasyonel kayıp fonksiyonları, dağılımda Wishart hiper-toroidal rastgele alanlarına (WHRF) yakınsamaktadır(Anschuetz & Kiani, 2022).
Sayısal simülasyonlar, QCNN ve dama tahtası (checkerboard) ansatzlarında kubit sayısı arttıkça optimizasyonun küresel minimum yerine yüksek enerjili kötü yerel minimumlarda takılı kaldığını doğrulamaktadır(Anschuetz & Kiani, 2022).
Makalenin elde ettiği temel bulgular, çorak platoların bulunmadığı sığ ve yerel kuantum varyasyonel modellerinin dahi eğitilemez olduğunu göstermektedir. Bu eğitilemezlik durumu, gradyanların sıfırlanmasından değil, kayıp manzarasının küresel optimumdan çok uzak olan ve sayıca üstel düzeyde bulunan kötü yerel minimumlar ile dolup taşmasından kaynaklanmaktadır.
Yazarlar bu olguyu açıklamak için yaklaşık olarak yerel düzeyde karıştırılmış sığ varyasyonel devrelerin kayıp fonksiyonlarını Wishart hiper-toroidal rastgele alanlarına eşleyen yeni bir analitik yakınsama yöntemi geliştirmiştir. Bu çerçevede, modelin yerel parametre sayısı ile yerel Hilbert uzayı boyutu arasındaki oran, sistemin eğitilebilirliğini belirleyen bir faz geçişine yol açmaktadır ve sığ modeller genellikle bu geçişin eğitilemez tarafında kalmaktadır.
Elde edilen bu sonuçlar, kuantum makine öğrenimi literatüründe eğitilebilirliğin neredeyse sadece çorak platolarla özdeşleştirildiği hakim kabulü sarsmaktadır. Klasik yapay sınır ağlarında yerel minimumların neredeyse tamamının küresel minimuma yakın performans göstermesine karşın, kuantum varyasyonel modellerinin gürültülü veya gürültüsüz koşullarda üstel sayıda sörgü veya parametre olmadan eğitilemeyeceği ispatlanmıştır.
Sonuç olarak araştırma, kuantum algoritmalarının başarısı için genel amaçlı (Hamiltonian agnostic) ansatz tasarımları yerine, problemin fiziksel simetrilerini kullanan (Hamiltonian informed) veya iyi bir parametre başlatma stratejisi sunan özel modellerin geliştirilmesinin zorunlu olduğunu ortaya koymaktadır.
Yazarlar, klasik makine öğreniminde yerel minimumların neredeyse tamamının küresel minimuma yakın fonksiyon değerlerine sahip olduğunu ve bu durumun sığ kuantum varyasyonel modellerindeki kötü yerel minimumların baskınlığıyla taban tabana zıtlık oluşturduğunu belirtmektedir(Anschuetz & Kiani, 2022).
Çalışma, QCNN yapılarının çorak platolardan muzdarip olmadığını gösteren önceki literatürü kabul etmekle birlikte, bu modellerin hala kötü yerel minimumlarla dolu olduğunu ve genel öğrenme görevlerinde eğitilemez kaldığını ortaya koyarak literatüre yeni bir boyut kazandırmaktadır(Anschuetz & Kiani, 2022).
Kuantum varyasyonel modellerinde çorak platoların bulunmamasının tek başına eğitilebilirliği garanti etmediği, sığ ve yerel mimarilerde dahi parametre sayısının yerel Hilbert uzayı boyutuna kıyasla yetersiz kalması durumunda (yerel eksik parametreleştirme) modelin kötü yerel minimumlar ve tuzaklarla dolu bir kayıp manzarasında kilitleneceği sonuçuna varılmıştır(Anschuetz & Kiani, 2022).
Bu çalışma kuantum makine öğrenimi literatüründe çok kritik bir dönüm noktasını temsil etmektedir. Klasik yapay sınır ağlarının nonconvex optimizasyon manzaralarında gösterdiği başarının kuantum sığ devrelerde de tekrarlanabileceğine dair var olan aşırı iyimser yaklaşımı sörgülamaktadır. Kuantum eğitilebilirlik tartışmasını sadece gradyan sönümlenmesi yani çorak platolar sınırından çıkarıp, kayıp manzarasının geometrik yapısına ve zayıf yerel minimumların ezici yoğunluğuna odaklamaktadır. Bu yönüyle sığ kuantum devrelerinin topolojik yapısını matematiksel olarak tanımlayarak alanda yeni bir kuramsal temel inşa etmektedir.
Yazarlar, McClean ve arkadaşlarının 2018 yılında derin devrelerde tanımladığı çorak platolar kavramını ve Cerezo ve arkadaşlarının 2021 yılında yerel maliyet fonksiyonları önerilerini doğrudan genişletmektedir. Önceki çalışmalar çorak platoların aşılmasıyla eğitilebilirliğin sağlanabileceğini varsayarken, bu araştırma yerel maliyet fonksiyonlarına sahip sığ devrelerin dahi eğitilemez olduğunu ispatlayarak önceki kabullerle arasına net bir mesafe koymaktadır. Ayrıca Anschuetzun 2022 yılındaki yerel olmayan modeller için geliştirdiği rastgele matris analizi yöntemlerini sığ yerel sistemlere uyarlayarak Wishart hiper-toroidal rastgele alanları aracılığıyla literatüre yeni bir analitik çerçeve kazandırmaktadır.
Bu makale kuantum algoritmaları literatür incelemelerine iki temel katkı sağlamaktadır. İlk olarak, gürültü varlığında sığ varyasyonel devrelerin eğitilebilirliğini İstatistiksel Sörgü çerçevesinde inceleyerek altüstel sörgü sayılarıyla öğrenmenin imkânsız olduğunu ispatlar ve bu sayede algoritma tasarımcılarına kesin sınır hatları çizer. İkinci olarak, sığ gürültüsüz modellerin yerel minimum dağılımlarını analitik olarak modelleyen bir metodoloji sunarak, literatürdeki gradyan varsa eğitilebilir yanılgısını ortadan kaldırır. Bu yönüyle kuantum makine öğreniminde mimari tasarım ilkelerinin radikal şekilde değişmesi gerektiğini gösterir.
Makalenin doğrulanmış yöntemi, bulguları ve kuramsal çerçevesi; tez ve makale çalışmalarında kullanılacağı bölümle birlikte aşağıdaki üç araştırma taslağına dönüştürülmüştür.
Tez veya makalede kullanım · literatüre-review
Sığ kuantum devrelerinde çorak platoların bulunmaması, modelin başarılı şekilde eğitilebileceğini garanti etmez.
Tez yazımında kuantum yapay sınır ağları tasarımlarında sadece gradyan büyüklüğüne odaklanmanın yetersiz olduğunu savunmak ve sığ mimarilerde bile optimizasyonun zayıf yerel minimumlara takıldığını göstermek için bu çalışmanın teorik ispatları referans gösterilecektir(Anschuetz & Kiani, 2022).
Makaleyle bağlantısı: Yazarlar giriş bölümünde, altyapıdaki poor local minima krizini aşmak için yüksek düzeyde simetri barındıran problem yapılandırmalarının veya özel başlangıç noktası seçimi stratejilerinin potansiyel bir çözüm sunduğunu belirtmiştir(Anschuetz & Kiani, 2022).
Tez veya makalede kullanım · Kavramsal çerçeve
Kuantum varyasyonel modellerinin eğitilebilirlik sorunları klasik yapay sınır ağlarından farklı olarak yerel eksik parametreleştirmeden kaynaklanır.
Tezin kavramsal çerçevesinde, klasik derin öğrenmenin aksine varyasyonel kuantum modellerinin neden yerel parametre sayısı Hilbert uzayı boyutuna kıyasla küçük kaldığında eğitilemez olduğunu analitik WHRF modeli üzerinden açıklamak amacıyla kullanılacaktır(Anschuetz & Kiani, 2022).
Makaleyle bağlantısı: Makale, gürültülü ortamlarda sığ kuantum modellerinin öğrenilmesinin altüstel sörgü sayısıyla imkânsız olduğunu istatistiksel sörgü orakları ve shot noise üzerinden analitik olarak ispatlamıştır(Anschuetz & Kiani, 2022).
Tez veya makalede kullanım · Tartışma
Genel amaçlı kuantum ansatz tasarımları gürültülü veya gürültüsüz ortamlarda eğitilebilirlik açısından ciddi sınırlılıklar barındırmaktadır.
Tez çalışmasında elde edilen deneysel başarısızlıkları veya yakınsama kısıtlarını tartışırken, bu makalenin gürültülü istatistiksel sörgü sınırları ve sığ gürültüsüz modellerdeki yerel minimum tuzakları bulgusu temel bir açıklama modeli olarak sunulacaktır(Anschuetz & Kiani, 2022).
Makaleyle bağlantısı: Makalenin tartışma kısmında, genel varyasyonel yaklaşımlara alternatif olarak kuantum Boltzmann makineleri ve kuantum Gibbs durumlarının eğitilebilirliği gelecek çalışmalar için açık bir kapı olarak gösterilmiştir(Anschuetz & Kiani, 2022).
Kuantum kimyası ve yoğun madde fiziğinde çok elektronlu sistemlerin taban durumu enerjilerini ve elektronik yapı özelliklerini hesaplamak temel bir zorluk teşkil etmektedir. Klasik bilgisayar mimarileri, sistem boyutu büyüdükçe üssel…
Kuantum makine öğrenmesi (QML), kuantum verilerinin ve klasik verilerin yüksek boyutlu Hilbert uzaylarında işlenmesi amacıyla parametrelendirilmiş kuantum devrelerinin varyasyonel olarak eğitilmesini temel alan hızla gelişen bir…
Kuantum bilişim teknolojisi, kuantum kimyası ve kriptografi gibi alanlarda devrim niteliğinde hızlanmalar vaat etse de, kuantum bilgisini taşıyan fiziksel birimlerin çevresel gürültüye ve operasyonel hatalara karşı aşırı hassas olması…