Bir makinenin yüzünüzü nasıl tanıyabildiğini veya ne söylediğinizi nasıl anlayabildiğini merak ettiyseniz, cevabı insan beynine duyulan hayranlıkta yatıyor. Bu biyolojik yapılar, şunlardan oluşur: elektrik sinyallerini ileten birbirine bağlı nöronlarBunlar, günümüzde yapay sinir ağları olarak bildiğimiz, temelde karmaşık matematiksel bulmacaları çözmek için tasarlanmış algoritmaların oluşturulmasında bir şablon görevi görmüştür.
Günümüz dünyasında, yapay zekâyı süper bilgisayarlar ve muazzam enerji tüketimiyle eş anlamlı hale getirmeye alıştık. Ancak, yapay zekânın süper bilgisayarlar ve muazzam enerji tüketimiyle eş anlamlı olmasını hedefleyen çok ilginç bir eğilim ortaya çıkıyor... enerji verimliliğini optimize edinBasit bir cevaba ulaşmak için gerçekten milyonlarca çarpma işlemi yapmamız gerekip gerekmediğini sorgulayarak, kendi beynimizin enerji verimliliğini taklit ediyoruz.
Klasik mimari: Perceptron'dan Derin Öğrenmeye
Nereye gittiğimizi anlamak için nereden geldiğimizi bilmemiz gerekir. Temel bir sinir ağı tipik olarak üç seviyeye ayrılır. Her şey şuradan başlar: giriş katmanıSistemin dışarıdan veri aldığı, analiz ettiği ve ileriye gönderdiği yer burasıdır. Ardından şunlar gelir: gizli katmanlarBu, tek bir tane veya düzinelerce olabilir; asıl işleme burada gerçekleşir ve her aşamada bilgi iyileştirilir.
Sonunda oraya vardık. çıkış katmanıBu da bize nihai kararı verir. Ne aradığımıza bağlı olarak, evet veya hayır cevabı için tek bir düğümümüz (ikili sınıflandırma) veya sorun daha karmaşıksa ve birden fazla kategori arasında seçim yapmayı gerektiriyorsa birden fazla düğümümüz olabilir.
Biz konuşurken Derin ÖğrenmeBurada, birçok gizli katmana ve milyonlarca bağlantıya sahip ağlardan bahsediyoruz. Bu modelde, nöronlar arasındaki ilişki şu şekilde tanımlanır: ağırlık olarak adlandırılan sayısal değerSorun şu ki, bu ağlar veri ve enerji tüketimi açısından çok fazla kaynak tüketiyor ve hatalardan kaçınmak için milyonlarca örneğe ihtiyaç duyuyor.
Eğitimin özü: İleri ve Geri Yayılım
Bir ağın öğrenmesi için öncelikle tahmin etmeye çalışması gerekir. Bu süreç, İleri Yayılım Temelde soldan sağa doğru bir yolculuktur: veriler gelir, ağırlıklarla çarpılır, sapma adı verilen bir düzeltme eklenir ve nöronun "ateşlenip ateşlenmeyeceğine" karar vermek için bir aktivasyon fonksiyonundan (Sigmoid veya ReLu gibi) geçer.
Ancak ağ başlangıçta hiçbir şey bilmediği için feci şekilde başarısız olacaktır. İşte burada devreye giriyor... Geri yayılımİşte sihir burada gerçekleşiyor. Algoritma şimdi sağdan sola doğru ilerleyerek elde edilen sonuç ile gerçek sonuç arasındaki hatayı hesaplıyor. Kullanarak matematiksel türevlerAğ, bir sonraki yinelemede bu hatayı en aza indirgemek için ağırlıkları ayarlar.
Bu süreçteki önemli bir ayrıntı şudur: öğrenme oranıEğer maliyet fonksiyonu çok yüksekse, ağ hızlı öğrenir ancak doğru sonuç vermez; eğer çok düşükse, süreç sonsuz hale gelir. Nihai hedef, maliyet fonksiyonunun küresel minimumuna ulaşmak ve böylece ağın bilgiyi doğru bir şekilde genelleştirmesini sağlamaktır.
Ağırlıksız sinir ağlarının devrimi
İşte işler burada heyecan verici bir hal alıyor. Profesör Lizy K. John ve ekibi, ezber bozan bir öneriyle karşımıza çıkıyor. ağırlıksız sinir ağlarıGeleneksel yapay zeka milyarlarca çarpma işlemi gerçekleştirmeye dayanırken (donanım için çok pahalı bir işlem), bu yaklaşım farklı bir yöntem kullanıyor. birbirine bağlı arama tabloları.
Karmaşık bir aritmetik işlem hesaplamak yerine, ağ basitçe ikili girdilere dayalı olarak depolanmış bir cevaba başvurur. Bu, insanların nasıl düşündüğüne çok daha benzeyen bir sistemdir: sola mı yoksa sağa mı yürüyeceğimize karar vermek için kafamızda sayıları çarpmayız, bunun yerine aktivasyon sinyallerini işliyoruz.
Sonuçlar gerçekten de şaşırtıcı. Tıbbi izleme (EKG veya EEG) veya anahtar kelime tanıma gibi görevlerde bu ağlar şu alanlarda etkili olabilir: bin kat daha küçük ve daha verimli17 megabaytlık bir modelden sadece 14 kilobaytlık bir modele geçmeyi hayal edin. Bu, yapay zekanın doğrudan sensörün içinde yer almasını sağlar. Kenar Hesaplama Verileri buluta göndermeye gerek kalmadan, bu da bir Gizlilik lehine bir nokta kullanıcı.
Sürdürülebilir ve hafif bir yapay zekaya doğru
Mesele sadece kilo vermekle ilgili değil; aynı zamanda şu eğilim de var... hafif sinir ağlarıBunlar, aşağıdaki gibi teknikler kullanılarak mümkün olan en az enerji ve bellek tüketimini sağlamak üzere tasarlanmıştır: seyrek eğitim veya budamaBu, nihai sonuca hiçbir katkı sağlamayan bağlantıların ortadan kaldırılmasından oluşur.
Bu yaklaşım, tüketimi optimize etmenin büyük önem taşıdığı bina enerji yönetimi veya veri merkezi soğutması gibi sektörlerde hayati öneme sahiptir. %30'a varan enerji tasarrufuAmaç açık: Yapay zekanın iklim sorunu değil, çözümün bir parçası olması ve düşük maliyetli cihazların geliştirilmesini sağlaması. ARM Cortex mikrodenetleyicilerAkıllı görevleri gerçek zamanlı olarak gerçekleştirin.
Modern sohbet robotlarına güç veren transformatörlerden, görüntü odaklı evrimsel sinir ağlarına (CNN'ler) kadar, verimliliğe giden yol şuradan geçiyor: hesaplama karmaşıklığını azaltmakKlasik algılayıcıdan üretken yapay zekaya geçiş, veri ve güç açısından muazzam bir sıçrama oldu, ancak gerçek anlamda en ileri nokta artık çok daha az kaynakla daha fazlasını yapmayı hedefliyor.
Yoğun, çarpma işlemlerine dayalı mimarilerden ikili arama ve budanmış modellere dayalı sistemlere geçiş, yapay zekanın küçük cihazlarda uygulanabilir hale gelmesini sağlıyor. Enerji verimliliği ve matematiksel basitleştirmenin entegrasyonuyla, veri işleme önemli ölçüde daha hızlı ve sürdürülebilir hale geliyor ve artık düzgün çalışması için büyük GPU'lara ihtiyaç duymayan yerel, özel bilgi işlem için yol açıyor.
