Kısa Süreli Bellek Ağı – Endüstri 4.0 – Ödev Hazırlatma – Tez Yazdırma – Proje Yaptırma Fiyatları – Ödev Örnekleri – Ücretli Proje Yaptırma – Tez Yaptırma Ücretleri
Derin Öğrenme Tekniğinin Uygulanması
Derin öğrenme tekniği, sinyal ve bilgi işlemede dikkate değer ilerleme kaydetmiştir. Araştırmacılar, derin öğrenme algoritmalarını uygulayarak tanıma ve sınıflandırmada çok yüksek doğruluk ve verimlilik elde ediyor. Konuşma tanıma sistemlerinde en çok kullanılan algoritmalar Derin Sinir Ağı (DNN), Tekrarlayan Sinir Ağı (RNN), Uzun Kısa Süreli Bellek Ağı (LSTM) vb.dir. yaklaşık %95 oranında daha iyi doğruluk elde edilebileceği sonucuna varılmıştır.
DNN, verileri yalnızca ileri yönde yayan ileri beslemeli ağlardır. Bu ağlar genellikle gradyan iniş algoritmaları kullanılarak optimize edilir. Geri Yayılım, bu ağlardaki parametreleri güncellemek için bir öğrenme algoritması olarak kullanılır. Derin öğrenme ağları, kullanıldığı amaca göre, yani tanıma veya sınıflandırma için tanımlanır. Birçok farklı derin öğrenme algoritması vardır; bu popüler algoritmalardan ikisi aşağıda tartışılmaktadır.
Tekrarlayan Sinir Ağı
RNN, giriş ve çıkış katmanlarına ek olarak tekrar tekrar bağlanan gizli katmanlara sahip ileri beslemeli bir DNN’dir. Bu, parametreyi ağlarda farklı katmanlar arasında paylaşır. RNN’nin temel amacı, önceki veri örnekleri seti aracılığıyla gelecekteki veri dizisini tahmin etmektir.
Son zamanlarda araştırmacılar, RNN’nin uzun vadeli bağımlılıkları yakalayabildiğini ve sıralı metin karakterleri oluşturabildiğini kanıtladılar. Konuşma ve metin gibi sıralı veri örneklerinin modellenmesinde dikkate değer bir verimlilik gösterir. Bu geleneksel RNN ile ilgili ana problemler, kaybolan gradyanlar ve patlayan gradyan problemleridir. Bu sorunlar, Uzun Kısa Süreli Bellek adı verilen başka bir RNN mimarisi ile ele alınmaktadır.
Kısa Süreli Bellek Ağı
LSTM, keyfi bir süreye sahip değerleri hatırlayabilen akıllı bir ağdır. Bir unutma kapısı, hücreye girdi eklemeden önce hücrenin hafızasını uyarlanabilir bir şekilde unutur veya sıfırlar ve hücrenin durumunu ölçekler.
LSTM mimarileri, birçok çıktı durumuna sahip büyük bir kelime hazinesi konuşma tanıma görevinde DNN’lerden daha iyi performans verir. Ying, Sichuan Lehçesini daha fazla sınıflandırma doğruluğu ile tanımak için HMM-derin tek yönlü LSTM modelini geliştirdi ve geliştirilmiş benzersiz ve özel fonemleri, polifonları ve farklı telaffuzları keşfederek Sichuan Lehçesi için özel bir konuşma korpusu geliştirdi.
Gizli Markov Modelleri (HMM)
HMM, ağırlıklı olarak ASR modellerinde kullanılır. Bu, bu durumlar arasında geçiş olasılıkları olan sonlu bir olası durumlar kümesine sahip olan stokastik bir sonlu durum makinesidir. Bu durumların her biri başlangıç olasılığı ile başlatılır ve çıktı olasılıkları her kelime veya ses birimi için farklı olacaktır.
Bir cümle için HMM, her kelimenin ayrı ayrı eğitilmiş HMM’sini birleştirerek bulunur. Kelime dizisi, sözlük tanımlı ve HMM eğitim süreci, kelimenin otomatik olarak belirlenmesine yardımcı olacaktır. HMM, geniş kelime dağarcığı eğitimi için karmaşıklığı ve zamanı azaltarak dikkate değer bir sonuç vermiştir. Bununla ilgili bazı makaleler bir sonraki bölümde tartışılmaktadır. HMM, sürekli yoğunluk olasılıklarını tahmin ederek tanımak için tasarlandı ve %90’lık bir doğruluk elde edildi.
Kısa süreli bellek
Uzun süreli bellek
Lstm nedir
Uzun Kısa Süreli Bellek
LSTM
Kısa süreli bellek çalışmaları
Kısa süreli bellek zayıflığı
Rnn Nedir
Uzun Kısa Süreli Bellek Ağı (HMM-LSTM)
Diğer veri kümeleriyle karşılaştırıldığında Tamil dilinde birçok ses birimi, özel sözcük ve çok seslilik bulunmaktadır. Bu tür bir veri seti için, daha önceki günlerde akustik modelin oluşturulması için HMM-Gaussian Karışım Modeli (GMM) önerildi. Ancak GMM, olasılık değerlerini bulmak için büyük miktarda veriye ihtiyaç duyar.
Daha sonra GMM, GMM’den daha yüksek doğruluk gösteren DNN ile değiştirildi, ancak bu yöntem yalnızca sabit sayıda önceki veriyi yakalayabilir. Günümüzde DNN yerine, mevcut yöntemlere göre yüksek verim gösteren CNN ve RNN kullanılmaktadır. Özellikle DNN yerine LSTM uygulandığında daha fazla bağlam tanımlanabilir.
Burada, gelecekteki olasılık değerlerini elde etmek için çıktı ertelenir. Ayrıca, gizli katmanların sayısı artırılarak, konuşma verilerinin daha yüksek temsili elde edilebilir.
‘t’ uzunluğunda konuşma özelliği dizisi S = (s1,s2…st), ‘t’ uzunluğunda bir etiket dizisi L = (l1,l2, …. lt) ve karşılık gelen HMM zinciri X = ( Her sözce için x1, x2…. xl) uzunluğu ‘l’ verilir. Tüm geçmiş bilgiler LSTM tarafından sıkıştırılabilir. Bu nedenle, burada akustik model oluşturmak için HMM’yi LSTM ile birleştiriyoruz.
Sesbirimler HMM kullanılarak modellenmiş ve sonsal olasılıklar LSTM yardımıyla p(xi/ s1,s2….st) olarak tahmin edilmiştir. HMM’de fonemlerin bağlamı dikkate alınır, bu nedenle bu fonem modelleme yöntemine Bağlama Bağlı Fonem Eleman Modellemesi (CDPEM) adı verilir. Üç fonemden oluşan bir bağlamı düşünürsek, modele CDTPEM denir. Benzer şekilde, değişen ses birimlerinin bağlamı göz önünde bulundurulur ve akustik model tanımlanır. Geçiş olasılığı p(xi/xj), HMM’nin çıktısıdır.
Konuşma özelliği vektörü S, LSTM ağına girdi olarak verilir. Sonsal olasılık p(lt|s1, s2,…, st) anındaki konuşma özelliği ‘t'(st) ağa girdi olduğunda. Burada, gelecekteki bağlamdan bilgi almak için k adım için çıktıdaki gecikme tanıtılır.
Gecikmeli tek yönlü LSTM arka olasılığı p(lt|s1, s2,…, st+k) tahmin eder. Ayrıca, burada konuşma verilerinin daha yüksek düzeyde temsilini çıkarmak için birden fazla gizli katman istiflenir. SoftMax aktivasyon fonksiyonu, sınıf posteriorlarını tahmin etmek için kullanılır. Kod çözme sırasında, sonsal olasılıklar Bayes denklemleri kullanılarak emisyon olasılıklarına dönüştürülür.
Değerlendirme Metrikleri
Genel olarak, konuşma tanıma sisteminin performansını analiz etmek için üç ölçüm kullanılır. Bunlar Karakter Hata Oranı (CER), Kelime Hata Oranı (WER) ve Cümle Hata Oranıdır (SER).
Mevcut TSRS İle İlgili Tarama
Bu analiz, uygulanan sınıflandırma tekniği için Tamil dilinde çeşitli ifade biçimlerine sahip veritabanlarını ve özelliği çıkarmak için kullanılan teknikle elde edilen doğruluğu vurgulamaktadır. Bunun için alınan numune sayıları artan sıraya göre tablolaştırılmıştır.
Tüm öznitelik çıkarma teknikleri ile karşılaştırıldığında, 24 boyutlu Mel frekansı cepstral katsayısı öznitelik vektörünün daha yüksek doğruluk gösterdiği açıktır. Ayrıca, farklı derin öğrenme sınıflandırıcılarının kullanılmasının analizi, CNN’nin daha yüksek tanıma oranı ile sonuçlandığını ve ardından Olasılıksal Sinir Ağı’nın geldiğini göstermektedir. DNN ve HMM’nin bir melezi de minimum kelime hatası oranıyla tanıma konusunda umut verici sonuçlar gösteriyor.