ݺߣ

ݺߣShare a Scribd company logo
1/26
Birleşik Otokodlayıcı-Regresyon Mimarisi ile
C-MAPSS Veri Kümesi Üzerinde
Kalan Faydalı Ömür Kestirimi
Kürşat İnce
HAVELSAN A.Ş.
kince@havelsan.com.tr​
Uğur Ceylan
Doruk Otomasyon ve
Yazılım A.Ş.
ugrceyln@gmail.com
Yakup Genç
Gebze Teknik Üniversitesi
yakup.genc@gtu.edu.tr​
2/26
Sunum Kapsamı
• Bakım Yaklaşımları ve Kestirimci Bakım
• Kalan Faydalı Ömür Kestirimi
• NASA Turbofan Motoru Bozulma Simülasyonu Veri Kümesi
• Kalan Faydalı Ömür Kestirimi
• Birleşik Otokodlayıcı-Regresyon Mimarisi
• Aşırı Öğrenmeyi Engelleme
• Deneysel Sonuçlar
3/26
Bakım Yaklaşımları
• Bakım: Sistem/makine performansını ve ömrünü artırıcı faaliyetler.
• Arıza Bakımı
• Sistem/makine arızalana kadar çalışır. Daha sonra arızalı parçalar
değiştirilir.
• Periyodik Bakım
• Üreticinin belirlediği zaman/çalışma periyotlarında bakım kılavuzda
belirtilen parçalar değiştirilir.
• Proaktif Bakım
• Arıza/hata ile karşılaştığında üretici ile çalışarak arıza/hata çıkmasını
önleyen tasarım değişiklikleri yapılır.
• Kestirimci Bakım
• Sistem/makinenin durum ve çalışma zamanı verileri kullanılarak arıza
oluşacak zaman tahmin edilir. Bu tahmine göre bakım planlaması yapılır.
4/26
Kalan Faydalı Ömür Kestirimi
Kalan Faydalı Ömür Kestirimi:
• Sistem/makinenin arıza oluşmadan ne kadar süre daha
çalışacağının kestirimi
• Fiziksel Modelleme
• Veriye Dayalı Modelleme
• Hibrit Modelleme
5/26
NASA Turbofan Motoru Bozulma Simülasyonu Veri Kümesi
• CMAPSS Veri Kümesi (2008)
• Termo-dinamik simülasyon yazılımı (CMAPSS) kullanılarak ve
turbofan jet motorlarının gerçek arıza durumu simüle edilerek jet
motorları için çalışma verisi toplanmıştır.
• Sıcaklık, basınç, hız vb. durumları ölçen 21 sensor kullanılarak jet
motorunun çalışma durumu kayıt altına alınmıştır.
• Altı farklı çalışma koşulu simüle edilmiştir.
(Saxena ve Simon, 2008)
7/26
CMAPSS Veri Kümesi – devam
Eğitim Kümesi Özellikleri
Engine ID
Cycle ID
Setting #1
Setting #2
Setting #3
Sensor #1
Sensor #2
…
Sensor #21
Test Kümesi Özellikleri
Engine ID
Cycle ID
Setting #1
Setting #2
Setting #3
Sensor #1
Sensor #2
…
Sensor #21
Arıza oluşana kadar ➔ KFÖ Değeri
9/26
KFÖ Kestirim Yöntemi
KFÖ Atama
Çalışma Koşulu
Atama
Özellik Seçimi
Ölçekleme
Pencereleme
Modelleme
Eğitim Kestirim Skorlama
10/26
KFÖ Atama
• Doğrusal KFÖ Atama
• Parçalı Doğrusal KFÖ Atama
(Zheng vd., 2017)
11/26
KFÖ Kestirim Yöntemi – devam
• Çalışma Koşulu Atama
• Setting #1-Setting #3, veri kümesinde yer alan 6 çalışma koşulunu
tanımlıyor.
• FD001 altkümesi bir çalışma koşulu içeriyor.
• One-Hot-Encoding ➔ [1,0,0,0,0,0]
• Özellik Seçimi
• #1, #5, #6, #10, #16, #18, ve #19 numaralı sensörler veri içermiyor.
• #2, #3, #4, #7, #8, #9, #11, #12, #13, #14, #15, #17, #20, ve #21 numaralı
14 adet sensor verisi kullanıldı.
12/26
KFÖ Kestirim Yöntemi – devam
• Ölçekleme
• StandardScaler() kullanılarak veri ölçeklemesi gerçekleştirildi.
• Pencereleme
• Zaman serisi verisinden özellik çıkarma
• Pencere genişliği = 29 (Genetik algoritma optimizasyonu)
13/26
Birleşik Otokodlayıcı-Regresyon Modeli
InceptionTime
Uzun-kısa süreli bellek
InceptionTime
15/26
Inception Modülü
(C. Szegedy vd., 2017)
(Fawaz vd., 2020)
16/26
InceptionTime Ağı
(Fawaz vd., 2020)
17/26
Modeller
• Temel Model
Aşırı Öğrenmeyi Engelleme
• Gauss gürültüsü ekleme
• Nesne tanıma problemleri (B. Goyal vd., 2020)
• Kodlayıcının önüne ayrı bir katman olarak eklendi.
• Varyans: σ2 = 0,1 ve σ2 = 0,01
• Ağ budama
• Yapay sinir ağlarını küçültme (T. Hoefler vd., 2021)
• Regülasyon etkisi için eklendi.
18/26
Skor Fonksiyonu
𝑆 = ൞
σ𝑖=1
𝑛
𝑒
−
𝑑
𝑎1 − 1, 𝑓𝑜𝑟 𝑑 < 0,
σı=1
𝑛
𝑒
𝑑
𝑎2 − 1, 𝑓𝑜𝑟 𝑑 ≥ 0,
• S, toplam ceza skoru,
• n, jet motor sayısı,
• d = (KFÖhesaplanan – KFÖgerçek),
• a1 = 13, and a2 = 10.
19/26
Temel Otokodlayıcı-Regresyon Modelleri
Genetik Algoritma Parametresi Value
Başlancıç popülasyon sayısı 50
Generasyon sayısı 5
Her generasyondaki
popülasyon sayısı
50
Eşleşme olasılığı 0.5
Mutasyon olasılığı 0.5
Her generasyon için aktarılacak
birey sayısı
5
• Genetik algoritma optimizasyonu ile belirlenmiştir.
20/26
Otokodlayıcı-Regresyon Modelleri
• Gauss Gürültüsü Eklenen Otokodlayıcı-Regresyon Modelleri
• Optimize edilen temel 50 model başlangıç popülasyonu olarak
kullanılarak genetik algoritma ile eniyileştirilmiştir.
• Budama Uygulanan Otokodlayıcı-Regresyon Modelleri
• Gauss gürültüsü ile elde edilen en iyi 50 modele %10 budama uygulandı.
21/26
Otokodlayıcı-Regresyon Sonuçları
TABLO I: TEMEL VE GAUSS GÜRÜLTÜSÜ EKLENMİŞ MODEL SONUÇLARI
22/26
Otokodlayıcı-Regresyon Sonuçları
TABLO II: BUDAMA UYGULANMIŞ MODEL SONUÇLARI
23/26
CMAPSS ile Güncel Çalışmalar
TABLO III: C-MAPSS ÜZERİNDE YAPILAN GÜNCEL ÇALIŞMALAR
24/26
Özet
• Birleşik otokodlayıcı-regresyon mimarisi
• Otokodlayıcı: InceptionTime ağı
• Regresyon: Uzun-kısa süreli bellek
• InceptionTime ağının zaman serisi verisinden özellik çıkarmada
etkili
• Uzun-kısa süreli bellek zaman serisi verisinden kalan faydalı ömür
kestiriminde başarılı
• Mimariye eklenen gürültü katmanı modeldeki aşırı öğrenmeyi
azaltarak model başarımını artırdı.
• İyileştirilen mimari literatürdeki tekniğin bilinen durumuna yakın
sonuçlar üretmiştir.
25/26
Gelecek Dönem Çalışmaları
• Birleşik otokodlayıcı-sınıflandırma mimarisinin geliştirilmesi
• Geliştirilen mimarilerin farklı zaman serisi problemlerinde
uygulanması
26/26
Teşekkürler…

More Related Content

Birleşik Otokodlayıcı-Regresyon Mimarisi ile C-MAPSS Veri Kümesi Üzerinde Kalan Faydalı Ömür Kestirimi

  • 1. 1/26 Birleşik Otokodlayıcı-Regresyon Mimarisi ile C-MAPSS Veri Kümesi Üzerinde Kalan Faydalı Ömür Kestirimi Kürşat İnce HAVELSAN A.Ş. kince@havelsan.com.tr​ Uğur Ceylan Doruk Otomasyon ve Yazılım A.Ş. ugrceyln@gmail.com Yakup Genç Gebze Teknik Üniversitesi yakup.genc@gtu.edu.tr​
  • 2. 2/26 Sunum Kapsamı • Bakım Yaklaşımları ve Kestirimci Bakım • Kalan Faydalı Ömür Kestirimi • NASA Turbofan Motoru Bozulma Simülasyonu Veri Kümesi • Kalan Faydalı Ömür Kestirimi • Birleşik Otokodlayıcı-Regresyon Mimarisi • Aşırı Öğrenmeyi Engelleme • Deneysel Sonuçlar
  • 3. 3/26 Bakım Yaklaşımları • Bakım: Sistem/makine performansını ve ömrünü artırıcı faaliyetler. • Arıza Bakımı • Sistem/makine arızalana kadar çalışır. Daha sonra arızalı parçalar değiştirilir. • Periyodik Bakım • Üreticinin belirlediği zaman/çalışma periyotlarında bakım kılavuzda belirtilen parçalar değiştirilir. • Proaktif Bakım • Arıza/hata ile karşılaştığında üretici ile çalışarak arıza/hata çıkmasını önleyen tasarım değişiklikleri yapılır. • Kestirimci Bakım • Sistem/makinenin durum ve çalışma zamanı verileri kullanılarak arıza oluşacak zaman tahmin edilir. Bu tahmine göre bakım planlaması yapılır.
  • 4. 4/26 Kalan Faydalı Ömür Kestirimi Kalan Faydalı Ömür Kestirimi: • Sistem/makinenin arıza oluşmadan ne kadar süre daha çalışacağının kestirimi • Fiziksel Modelleme • Veriye Dayalı Modelleme • Hibrit Modelleme
  • 5. 5/26 NASA Turbofan Motoru Bozulma Simülasyonu Veri Kümesi • CMAPSS Veri Kümesi (2008) • Termo-dinamik simülasyon yazılımı (CMAPSS) kullanılarak ve turbofan jet motorlarının gerçek arıza durumu simüle edilerek jet motorları için çalışma verisi toplanmıştır. • Sıcaklık, basınç, hız vb. durumları ölçen 21 sensor kullanılarak jet motorunun çalışma durumu kayıt altına alınmıştır. • Altı farklı çalışma koşulu simüle edilmiştir. (Saxena ve Simon, 2008)
  • 6. 7/26 CMAPSS Veri Kümesi – devam Eğitim Kümesi Özellikleri Engine ID Cycle ID Setting #1 Setting #2 Setting #3 Sensor #1 Sensor #2 … Sensor #21 Test Kümesi Özellikleri Engine ID Cycle ID Setting #1 Setting #2 Setting #3 Sensor #1 Sensor #2 … Sensor #21 Arıza oluşana kadar ➔ KFÖ Değeri
  • 7. 9/26 KFÖ Kestirim Yöntemi KFÖ Atama Çalışma Koşulu Atama Özellik Seçimi Ölçekleme Pencereleme Modelleme Eğitim Kestirim Skorlama
  • 8. 10/26 KFÖ Atama • Doğrusal KFÖ Atama • Parçalı Doğrusal KFÖ Atama (Zheng vd., 2017)
  • 9. 11/26 KFÖ Kestirim Yöntemi – devam • Çalışma Koşulu Atama • Setting #1-Setting #3, veri kümesinde yer alan 6 çalışma koşulunu tanımlıyor. • FD001 altkümesi bir çalışma koşulu içeriyor. • One-Hot-Encoding ➔ [1,0,0,0,0,0] • Özellik Seçimi • #1, #5, #6, #10, #16, #18, ve #19 numaralı sensörler veri içermiyor. • #2, #3, #4, #7, #8, #9, #11, #12, #13, #14, #15, #17, #20, ve #21 numaralı 14 adet sensor verisi kullanıldı.
  • 10. 12/26 KFÖ Kestirim Yöntemi – devam • Ölçekleme • StandardScaler() kullanılarak veri ölçeklemesi gerçekleştirildi. • Pencereleme • Zaman serisi verisinden özellik çıkarma • Pencere genişliği = 29 (Genetik algoritma optimizasyonu)
  • 12. 15/26 Inception Modülü (C. Szegedy vd., 2017) (Fawaz vd., 2020)
  • 14. 17/26 Modeller • Temel Model Aşırı Öğrenmeyi Engelleme • Gauss gürültüsü ekleme • Nesne tanıma problemleri (B. Goyal vd., 2020) • Kodlayıcının önüne ayrı bir katman olarak eklendi. • Varyans: σ2 = 0,1 ve σ2 = 0,01 • Ağ budama • Yapay sinir ağlarını küçültme (T. Hoefler vd., 2021) • Regülasyon etkisi için eklendi.
  • 15. 18/26 Skor Fonksiyonu 𝑆 = ൞ σ𝑖=1 𝑛 𝑒 − 𝑑 𝑎1 − 1, 𝑓𝑜𝑟 𝑑 < 0, σı=1 𝑛 𝑒 𝑑 𝑎2 − 1, 𝑓𝑜𝑟 𝑑 ≥ 0, • S, toplam ceza skoru, • n, jet motor sayısı, • d = (KFÖhesaplanan – KFÖgerçek), • a1 = 13, and a2 = 10.
  • 16. 19/26 Temel Otokodlayıcı-Regresyon Modelleri Genetik Algoritma Parametresi Value Başlancıç popülasyon sayısı 50 Generasyon sayısı 5 Her generasyondaki popülasyon sayısı 50 Eşleşme olasılığı 0.5 Mutasyon olasılığı 0.5 Her generasyon için aktarılacak birey sayısı 5 • Genetik algoritma optimizasyonu ile belirlenmiştir.
  • 17. 20/26 Otokodlayıcı-Regresyon Modelleri • Gauss Gürültüsü Eklenen Otokodlayıcı-Regresyon Modelleri • Optimize edilen temel 50 model başlangıç popülasyonu olarak kullanılarak genetik algoritma ile eniyileştirilmiştir. • Budama Uygulanan Otokodlayıcı-Regresyon Modelleri • Gauss gürültüsü ile elde edilen en iyi 50 modele %10 budama uygulandı.
  • 18. 21/26 Otokodlayıcı-Regresyon Sonuçları TABLO I: TEMEL VE GAUSS GÜRÜLTÜSÜ EKLENMİŞ MODEL SONUÇLARI
  • 19. 22/26 Otokodlayıcı-Regresyon Sonuçları TABLO II: BUDAMA UYGULANMIŞ MODEL SONUÇLARI
  • 20. 23/26 CMAPSS ile Güncel Çalışmalar TABLO III: C-MAPSS ÜZERİNDE YAPILAN GÜNCEL ÇALIŞMALAR
  • 21. 24/26 Özet • Birleşik otokodlayıcı-regresyon mimarisi • Otokodlayıcı: InceptionTime ağı • Regresyon: Uzun-kısa süreli bellek • InceptionTime ağının zaman serisi verisinden özellik çıkarmada etkili • Uzun-kısa süreli bellek zaman serisi verisinden kalan faydalı ömür kestiriminde başarılı • Mimariye eklenen gürültü katmanı modeldeki aşırı öğrenmeyi azaltarak model başarımını artırdı. • İyileştirilen mimari literatürdeki tekniğin bilinen durumuna yakın sonuçlar üretmiştir.
  • 22. 25/26 Gelecek Dönem Çalışmaları • Birleşik otokodlayıcı-sınıflandırma mimarisinin geliştirilmesi • Geliştirilen mimarilerin farklı zaman serisi problemlerinde uygulanması