Grafik Sinir Ağları Nedir?
İki teknoloji birleştiğinde, yeni ve harika bir şey yaratabilirler – tıpkı akıllı telefonları oluşturmak için cep telefonları ve tarayıcıların birleştirilmesi gibi.
Günümüzde geliştiriciler, her türden veri noktası arasındaki ilişkiler hakkında bilgi depolayan devasa grafik veritabanlarına yapay zekanın kalıp bulma yeteneğini uyguluyorlar. Birlikte, grafik sinir ağları adı verilen güçlü ve yeni bir araç üretirler.
Grafik Sinir Ağları Nedir?
Grafik sinir ağları, nesneleri ve bunların ilişkilerini bir grafikte çizgilerle birbirine bağlanan noktalar olarak gösteren zengin veri yapılarına derin öğrenmenin tahmin gücünü uygular.
GNN’lerde, matematiksel olarak ifade edilen öğelerle çizgilerle (kenarlar olarak adlandırılır) bağlanan veri noktalarına düğüm adı verilir, böylece makine öğrenimi algoritmaları düğümler, kenarlar veya tüm grafikler düzeyinde yararlı tahminler yapabilir.
GNN’ler Ne Yapabilir?
Genişleyen bir şirket listesi, ilaç keşfi, dolandırıcılık tespiti ve öneri sistemlerini iyileştirmek için GNN’leri uyguluyor. Bu uygulamalar ve daha pek çoğu, veri noktaları arasındaki ilişkilerde örüntüler bulmaya dayanır.
Araştırmacılar, bilgisayar grafikleri, siber güvenlik, genomik ve malzeme biliminde GNN’lerin kullanım örneklerini araştırıyorlar. Yakın tarihli bir makale GNN’lerin varış zamanı tahminlerini iyileştirmek için ulaşım haritalarını grafikler olarak nasıl kullandığını bildirdi.
Birçok bilim ve endüstri dalı, değerli verileri grafik veritabanlarında zaten saklıyor. Derin öğrenme sayesinde, grafiklerinden yeni içgörüler ortaya çıkaran tahmine dayalı modeller eğitebilirler.
AWS’de kıdemli bir baş bilim adamı olan George Karypis, “GNN’ler, derin öğrenme araştırmalarının en sıcak alanlarından biridir ve artan sayıda uygulamanın performanslarını iyileştirmek için GNN’lerden yararlandığını görüyoruz” dedi. Bir konuşma bu senenin başlarında.
Diğerleri aynı fikirde. Stanford’da doçent olan Jure Leskovec, GNN’lerin “geleneksel sinir ağlarının yapamayacağı bir şey olan karmaşık ilişkileri modelleme esnekliği nedeniyle ateş yakıyor” dedi. son bir konuşmaburada onlardan bahseden AI kağıtlarının aşağıdaki grafiğini gösterdi.
Grafik Sinir Ağlarını Kimler Kullanır?
Amazon rapor edildi 2017’de dolandırıcılığı tespit etmek için GNN’leri kullanan çalışmaları hakkında. 2020’de halka arz edildi GNN hizmeti başkalarının dolandırıcılık tespiti, öneri sistemleri ve diğer uygulamalar için kullanabileceği.
Amazon Search, müşterilerinin yüksek güven düzeyini korumak için kötü niyetli satıcıları, alıcıları ve ürünleri tespit etmek için GNN’ler kullanır. NVIDIA GPU’ları kullanarak, eğitim süresini 24 saatten beş saate düşürürken on milyonlarca düğüm ve yüz milyonlarca kenar içeren grafikleri keşfedebilir.
Biyofarma şirketi GSK, makine dili modellerinin çoğunda kullanılan yaklaşık 500 milyar düğüm içeren bir bilgi grafiği sürdürüyor, şirketin küresel yapay zeka başkanı Kim Branson, konuyla ilgili olarak şunları söyledi: bir panel de bir GNN atölyesi.
Şirkette kıdemli yazılım mühendisi Jaewon Yang, LinkedIn’in sosyal tavsiyelerde bulunmak ve insanların becerileri ile iş unvanları arasındaki ilişkileri anlamak için GNN’leri kullandığını söyledi. başka bir panel atölyede.
NVIDIA’da GNN’lere hızlandırılmış bilgi işlem uygulayan bir ekibe liderlik eden seçkin bir mühendis olan Joe Eaton, “GNN’ler genel amaçlı araçlardır ve her yıl onlar için bir sürü yeni uygulama keşfediyoruz” dedi. “GNN’lerin neler yapabileceğinin yüzeyini bile çizmedik.”
GNN’lere olan ilginin bir başka işareti olarak, videolar Leskovec’in Stanford’da öğrettiği bir kurs 700.000’den fazla izlendi.
GNN’ler Nasıl Çalışır?
Bugüne kadar, derin öğrenme temel olarak görüntü ve metinlere, kelime dizileri veya piksel ızgaraları olarak tanımlanabilecek yapılandırılmış veri türlerine odaklandı. Grafikler, aksine, yapılandırılmamış. Herhangi bir şekil veya boyutta olabilirler ve resimler ve metinler dahil her türlü veriyi içerebilirler.
GNN’ler, mesaj iletme adı verilen bir işlemi kullanarak, grafikleri makine öğrenimi algoritmalarının kullanabilmesi için düzenler.
İleti geçişi, komşuları hakkında her düğüme bilgi yerleştirir. AI modelleri, kalıpları bulmak ve tahminler yapmak için gömülü bilgileri kullanır.
Örneğin, öneri sistemleri, müşterileri ürünlerle eşleştirmek için GNN’lere gömülü bir düğüm biçimi kullanır. Dolandırıcılık tespit sistemleri, şüpheli işlemleri bulmak için uç yerleştirmeleri kullanır ve ilaç keşif modelleri, birbirlerine nasıl tepki verdiklerini bulmak için moleküllerin tüm grafiklerini karşılaştırır.
GNN’ler diğer iki yönden benzersizdir: Seyrek matematik kullanırlar ve modellerde tipik olarak sadece iki veya üç katman bulunur. Diğer AI modelleri genellikle yoğun matematik kullanır ve yüzlerce sinir ağı katmanına sahiptir.
GNN’lerin Tarihçesi Nedir?
2009 tarihli bir kağıt İtalya’daki araştırmacılardan grafik sinir ağlarına adını veren ilk kişi oldu. Ancak Amsterdam’daki iki araştırmacının, grafik evrişimsel ağ olarak adlandırdıkları bir değişkenle güçlerini göstermeleri sekiz yıl aldı (GCN), günümüzün en popüler GNN’lerinden biridir.
GCN çalışması Leskovec’e ve Stanford lisansüstü öğrencilerinden ikisine GraphSage, mesaj iletme işlevinin çalışabileceği yeni yolları gösteren bir GNN. 2017 yazında, baş bilim adamı olarak görev yaptığı Pinterest’te test etti.
Bunların uygulanması, Adaçayıo zamanki diğer AI modellerinden daha iyi performans göstermek için 3 milyar düğüm ve 18 milyar kenar içeren bir öneri sistemiydi.
Pinterest bugün bunu şirket genelinde 100’den fazla kullanım örneğinde uygulamaktadır. Şirkette kıdemli bir makine öğrenimi mühendisi olan Andrew Zhai, “GNN’ler olmadan, Pinterest bugün olduğu kadar ilgi çekici olmazdı” dedi. çevrimiçi bir panel.
Bu arada, grafik tekrarlayan ağlar ve grafik dikkat ağları dahil olmak üzere başka varyantlar ve melezler ortaya çıktı. GAT’ler, GNN’lerin en çok ilgi çeken veri kümelerinin bölümlerine odaklanmasına yardımcı olmak için transformatör modellerinde tanımlanan dikkat mekanizmasını ödünç alır.
Grafik Sinir Ağlarını Ölçeklendirme
İleriye dönük olarak, GNN’lerin tüm boyutlarda ölçeklenmesi gerekir.
Halihazırda grafik veritabanlarına sahip olmayan kuruluşlar, bu karmaşık veri yapılarını oluşturma işini kolaylaştırmak için araçlara ihtiyaç duyar.
Grafik veritabanlarını kullananlar, bazı durumlarda tek bir düğüm veya uçta gömülü binlerce özelliğe sahip olacak şekilde büyüdüklerini biliyorlar. Bu, depolama alt sistemlerinden ağlar aracılığıyla işlemcilere büyük veri kümelerini verimli bir şekilde yüklemenin zorluklarını sunar.
Eaton, “Bu veri yükleme ve ölçekleme sorunlarını çözmek için hızlandırılmış sistemlerin belleğini ve hesaplama bant genişliğini ve verimini en üst düzeye çıkaran ürünler sunuyoruz” dedi.
Bu çalışmanın bir parçası olarak NVIDIA, GTC’de artık PyTorch Geometric’i desteklediğini duyurdu (PyG) Derin Grafik Kitaplığına ek olarak (DGL). Bunlar, en popüler GNN yazılım çerçevelerinden ikisidir.
NVIDIA için optimize edilmiş DGL ve PyG kapsayıcıları performansa göre ayarlanmış ve NVIDIA GPU’lar için test edilmiştir. GNN’leri kullanarak uygulama geliştirmeye başlamak için kolay bir yer sağlarlar.
Daha fazlasını öğrenmek için izleyin Bir konuşma AWS’de uygulamalı kıdemli bir bilim adamı olan Da Zheng tarafından DGL ve GPU’larla GNN’lerin hızlandırılması ve ölçeklendirilmesi hakkında. Ek olarak, NVIDIA mühendisleri, GNN’leri hızlandırma konusunda ayrı görüşmelere ev sahipliği yaptı. DGL ve PyG.
Bugün başlamak için erken erişim programımıza kaydolun: DGL ve PyG.
Kaynak : https://blogs.nvidia.com/blog/2022/10/24/what-are-graph-neural-networks/