Dolar 9,3183
Euro 10,8303
Altın 528,91
BİST 1.418
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
İstanbul 16 °C
Sağanak Yağışlı

Sembolik regresyon için yeni derin öğrenme çerçevesi

20.03.2021
184
Sembolik regresyon için yeni derin öğrenme çerçevesi

Lawrence Livermore Ulusal Laboratuvarı (LLNL) bilgisayar bilimcileri, sembolik regresyon problemleri için derinlemesine pekiştirmeli öğrenmeyi güçlendiren yeni bir çerçeve ve eşlik eden bir görselleştirme aracı geliştirdi ve kıyaslama problemlerinde temel yöntemlerden daha iyi performans gösterdi.

Makale kısa süre önce, dünyanın en iyi makine öğrenimi konferanslarından biri olan Uluslararası Öğrenme Temsilleri Konferansı’nda (ICLR 2021) sözlü sunum olarak kabul edildi. Konferans neredeyse 3-7 Mayıs’ta gerçekleşecek.

Makalede, LLNL ekibi, istenen bir özelliği optimize etmek için belirli bir sırada veya konfigürasyonda birleştirilmesi gereken ayrı “yapı blokları” ile ilgilenen ayrık optimizasyona derin pekiştirmeli öğrenmeyi uygulamayı açıklıyor. Ekip, sembolik regresyon adı verilen ayrı bir optimizasyon türüne odaklandı – bir deneyden toplanan verilere uyan kısa matematiksel ifadeler buldu. Sembolik regresyon, fiziksel bir sürecin altında yatan denklemleri veya dinamikleri ortaya çıkarmayı amaçlar.

“Ayrık optimizasyon gerçekten zordur, çünkü gradyanlarınız yoktur. Lego tuğlalarıyla oynayan, belirli bir görev için bir mekanizma monte eden bir çocuğu hayal edin – bir Lego tuğlasını değiştirebilirsiniz ve birdenbire özellikler tamamen farklı olur,” diye açıkladı Brenden Petersen. “Ancak gösterdiğimiz şey, derin pekiştirmeli öğrenmenin, bu ayrık nesnelerin uzayını verimli bir şekilde aramak için gerçekten güçlü bir yol olduğudur.”

Petersen, derin öğrenme birçok karmaşık görevi çözmede başarılı olsa da sonuçları büyük ölçüde insanlar tarafından yorumlanamaz. “Burada, küçük modellerin alanını (yani kısa matematiksel ifadeleri) aramak için büyük modeller (yani sinir ağları) kullanıyoruz, bu nedenle her iki dünyanın da en iyisini elde ediyorsunuz. Derin öğrenmenin gücünden yararlanıyorsunuz, ancak Gerçekten istediğinizi elde etmek, bu çok kısa ve öz bir fizik denklemidir. ”

Petersen, sembolik regresyona tipik olarak makine öğreniminde ve yapay zekada evrimsel algoritmalarla yaklaşıldığını söyledi. Evrimsel yaklaşımlarla ilgili sorun, algoritmaların ilkeli olmaması ve çok iyi ölçeklenmemesidir, diye açıkladı. Ortak yazarlar, LLNL’nin derin öğrenme yaklaşımının farklı olduğunu, çünkü teori destekli ve gradyan bilgisine dayandığını, bu da onu bilim adamları için çok daha anlaşılır ve kullanışlı hale getirdiğini söyledi.

LLNL ortak yazarı Mikel Landajuela, “Bu evrimsel yaklaşımlar rastgele mutasyonlara dayanmaktadır, bu nedenle temelde günün sonunda, rastgelelik doğru cevabı bulmada büyük bir rol oynar,” dedi. “Yaklaşımımızın özünde, ayrı nesnelerin manzarasını öğrenen bir sinir ağı var; sürecin bir belleğini tutuyor ve izlenecek iyi bir yönü belirlemek için bu nesnelerin bu devasa alanda nasıl dağıtıldığına dair bir anlayış geliştiriyor. Bu algoritmamızın daha iyi çalışmasını sağlayan şey — bellek ve yön kombinasyonu geleneksel yaklaşımlarda eksiktir. ”

Manzaradaki olası ifadelerin sayısı çok fazla olduğundan, ortak yazar Claudio Santiago, çözüm olmadığı bilinen ifadeleri hariç tutan algoritma için farklı kullanıcı tanımlı kısıtlama türleri oluşturmaya yardımcı olarak daha hızlı ve daha verimli aramalara yol açtı.

Santiago, “DSR çerçevesi çok çeşitli kısıtlamaların dikkate alınmasına izin vererek arama alanının boyutunu önemli ölçüde azaltır” dedi. “Bu, kısıtlamaları verimli bir şekilde değerlendiremeyen evrimsel yaklaşımlardan farklıdır. Genel olarak, kısıtlamaların, evrimsel işleçleri uyguladıktan sonra, büyük alanlar için önemli ölçüde verimsiz oldukları için onları engelleyeceğini garanti edemez.

Makale için ekip, algoritmayı bir dizi sembolik regresyon problemi üzerinde test ederek, ticari yazılım altın standartları da dahil olmak üzere birçok ortak kriterden daha iyi performans gösterdiğini gösterdi.

Ekip, bunu ümit verici sonuçlar verdiği ince film sıkıştırma gibi gerçek dünyadaki fizik problemleri üzerinde test ediyor. Yazarlar, algoritmanın yalnızca sembolik regresyona değil, her türlü ayrık optimizasyon problemine geniş çapta uygulanabilir olduğunu söylediler. Son zamanlarda, aşı tasarımı için patojenlere gelişmiş bağlanma için benzersiz amino asit dizilerinin oluşturulmasında uygulamaya başladılar.

Petersen, çalışmanın en heyecan verici yönünün fizikçilerin yerini alması değil, onlarla etkileşim kurma potansiyeli olduğunu söyledi. Bu amaçla, ekip bir etkileşimli görselleştirme uygulaması fizikçilerin gerçek dünyadaki problemleri çözmelerine yardımcı olmak için kullanabilecekleri algoritma.

Petersen, “Bu çok heyecan verici çünkü bu yeni çerçeveyi gerçekten açtık” dedi. “Onu diğer yöntemlerden gerçekten ayıran şey, alan bilgisini veya önceki inançları çok ilkeli bir şekilde doğrudan birleştirme yeteneği sağlamasıdır. Birkaç yıl sonra, bunu bir araç olarak kullanan bir fizik yüksek lisans öğrencisini hayal ediyoruz. daha fazla bilgi veya deneysel sonuç alırlar, algoritma ile etkileşime girebilirler ve doğru yanıtlara odaklanmasına yardımcı olacak yeni bilgiler verirler.”


Bilim adamları, kuantum algoritmasını eğitmek için pekiştirmeli öğrenmeyi kullanıyor.


Daha fazla bilgi:
Derin sembolik regresyon: Risk arayan politika gradyanları aracılığıyla verilerden matematiksel ifadeleri kurtarma. openreview.net/forum?id=m5Qsh0kBQG

Lawrence Livermore Ulusal Laboratuvarı tarafından sağlanmıştır.

ZİYARETÇİ YORUMLARI - 0 YORUM

Henüz yorum yapılmamış.