Yapay zeka veri merkezlerini nasıl dönüştürüyor, CPU’ların GPU’lara karşı rolü ve sürdürülebilir tasarım: Intel’den Sandra Rivera

uzman

Active member
Katılım
25 Eyl 2020
Mesajlar
52,494
Puanları
36
Çoğu insan veri merkezlerini gerçekten düşünmez, ancak hepimiz internete bağlı uygulamalar, akış hizmetleri ve büyük miktarda bilgiyi işlemeye ve depolamaya dayanan iletişim araçlarını kullanırız. Dünya daha bağlantılı hale geldikçe ve büyük miktarlarda veri oluşturmak ve dağıtmak daha kolay hale geldikçe, tüm bu verileri işlemek için gereken sistemler ve süreçler sürekli olarak gelişmektedir. Intel Başkan Yardımcısı ve Veri Merkezi ve Yapay Zeka Grubu Genel Müdürü Sandra Rivera kısa süre önce Bengaluru’daydı ve Gadgets 360, onun mevcut trendlere bakış açısı ve gelecek vizyonu hakkında daha fazla bilgi edinme fırsatı buldu. Salgının bir sonucu olarak çok şey değişti ve elbette yapay zeka geleceğin önemli bir parçası.

İlk olarak, size Intel’in Hindistan’da devam eden çalışmaları ve şirketin burada yaptığı her şey hakkında Sandra Rivera’nın yorumlarını getirdik. Donanım ve yazılım yeniliği, veri merkezi evrimi ve Nvidia ile rekabet hakkındaki o konuşmadan bazı alıntıları burada bulabilirsiniz.

Veri merkezleri nasıl daha önemli hale geliyor ve yakın geçmişte işler nasıl değişti:

Sandra Rivera:
Tüm yeniliklerimiz ve ürünlerimiz açıkça müşterilerimiz tarafından yönlendirilmektedir. Büyük ve büyüyen bir TAM içindeyiz [Total Addressable Market] Ve ilerledikçe, bu hiçbir yerde, hayatımızın her bölümünün dijital dönüşüm ve dijitalleşmenin gerçekleştiği Hindistan’dan daha belirgin değil. Daha fazla bilgi işlem gücüne ihtiyacımız var; Daha fazla veri oluşturuyoruz. Sıkıştırılmalı, güvenli hale getirilmeli, bir ağ üzerinden teslim edilmeli ve saklanmalıdır. Hizmet edilmeli ve bundan değerli içgörüler elde edilmelidir ve tabii ki yapay zekanın devreye girdiği yer burasıdır.

Korona krizi sırasında meydana gelen ilginç şeylerden biri, hepimizin mücadele ettiği tedarik zinciri kısıtlamaları nedeniyle müşterileri kendilerine sunulan altyapıdan daha fazla yararlanmaya zorlamamızdı. AI, ağ iletişimi ve güvenlik, en son yeniliklere ve çözümlere çok aç, ancak web katmanının çoğu; Bulut altyapısı üzerinde çalışan ofis uygulamaları; ERP sistemleri; muhasebe sistemleri; vb. aslında çok kullanım odaklıdır.

Büyümenin çoğu, ağın sözde ucunda veya şirket içinde gerçekleşiyor. Bilgi işlem gücü, veri oluşturma ve tüketme noktasına ulaşıyor. Bizim için en büyük zorluk, bu verileri işlemek üzere şirket içi uygulamaların dağıtımını basitleştirmek için OEM’lerimizle birlikte çalışmaktır. makine öğrenimi, yapay zeka, veri analitiği, ağ iletişimi ve güvenliği çalıştırmak için. Bu, hem donanımda hem de elbette yazılımda çok fazla iş demektir.

Bu, burada, Hindistan’da da geçerlidir. [Some of it] enerji kısıtlamaları tarafından belirlenir. Dolayısıyla, bu son teknoloji uygulamalar ve altyapı için güç sağlayabilirlerse ve ardından daha yaygın uygulamalar için gücü sınırlayabilirlerse, bu, enerji bütçesinin akıllıca kullanılmasıdır ve bu büyük bir meseledir.

Ar-Ge açısından Hindistan bizim için çok önemliydi; Yani, onlarca yıldır buradayız. Ayrıca hükümetin dijital dönüşüm ve altyapıya yaptığı tüm yatırımlarla Hindistan’ın da bizim için çok büyük bir tüketici pazarı olacağını görüyoruz. Burada daha fazla altyapı, daha fazla veri merkezi, daha fazla iş çözümü, yazılım ekosistemi çözümü ve hizmeti oluşturma olasılığı çok heyecan verici. Burada sadece iş gücüne değil, pazar fırsatlarına da yatırım yapmaya devam ediyoruz.

GPU’lar talep edilmesine rağmen CPU’ların devam eden önemi ve bunun veri merkezi tasarımını nasıl etkilediği:

Sandra Rivera:
5G’nin sürekli benimsenmesinin yanı sıra güvenlik ve depolamanın yönlendirdiği yapay zeka ve ağ oluşturma gibi yüksek büyüme oranına sahip iş yükleri var. Piyasada gördüğümüz dinamiklerden biri, yakın gelecekte hızlandırılmış hesaplamaya, yani GPU’lara ve AI hızlandırıcılara çok fazla ilgi gösterilmesidir.

Müşteriler sermaye harcamalarının bir kısmını GPU’lara kaydırmak istiyor. CPU denklemin bir parçasıdır, ancak kısa vadede bu CAPEX’in daha büyük bir kısmı GPU’lara gidecektir. Bunun kalıcı bir piyasa koşulu olduğuna inanmıyoruz. CPU, birçok AI iş yükü için maliyet, performans ve programlanabilirlik açısından oldukça iyidir. Çoğu durumda müşterilerin zaten bir Xeon CPU’su vardır ve dolayısıyla yapay zeka makine öğrenimi gerçekleştirme yeteneği vardır. [with that] işimiz için kuyruk rüzgarı.


Intel AI Sürekliliği

[All that] Bugünlerde herkes üretken yapay zeka ve büyük dil modellerinden bahsediyor ama yapay zeka bundan çok daha fazlası, değil mi? AI, model eğitilmeden önce gerçekleşen tüm veri hazırlığıdır. Veri yönetimi, filtreleme ve temizleme ile ilgilidir. Yani bir kedi kimliklendirme uygulaması yapmaya çalışıyorsanız, [for example] Bu resimlerde köpek istemiyorlar. Tüm bunlar CPU ile önceden gerçekleşir ve bugün neredeyse yalnızca Xeon ile gerçekleşir. Bu, AI iş akışının bir parçasıdır. Ardından gerçek model eğitim aşamasına geçersiniz. CPU, küçük ve orta ölçekli modelleri (10 milyar veya daha az parametre) veya makine öğrenimi veya veri analizinin daha büyük bir uygulamanın parçası olduğu karma iş yüklerini işlemek için çok iyi konumlandırılmıştır. CPU çok esnektir ve yüksek oranda programlanabilir ve muhtemelen halihazırda CPU’larınız vardır.

100, 200, 300 milyar parametreli en büyük modellerden bahsediyorsanız, bir GPU’nun sunduğu daha paralel bir mimariye ihtiyacınız var ve ayrıca Gaudi’de sahip olduğumuz gibi özel derin öğrenme hızlandırmasından yararlanıyorsunuz. Modeli eğittikten sonra, çıkarım veya devreye alma aşaması olarak bilinen aşamaya geçersiniz. Genellikle sitede bulunuyorsunuz. Bir perakende kuruluşunda veya bir fast food restoranındaysanız, bunu genellikle bir CPU veya daha az güç tüketen, daha düşük maliyetli bir hızlandırıcı üzerinde çalıştırırsınız. Çıkarım aşamasında, CPU’larımız ve bazı küçük GPU’larımız ve hızlandırıcılarımızla çok etkili bir şekilde rekabet edebiliriz.

Şu anda bu en büyük dil modellerine ve üretken yapay zekaya çok fazla ilgi var. Bazı GPU özelliklerine sahip olduklarından emin olmak istediklerini söyleyen daha fazla müşteri görüyoruz. İvme görsek de, pazar uzun vadede karmaşıktır. Büyüyor. AI’nın ilk günlerindeyiz. Portföyümüzde sahip olduğumuz yeteneklerin genişliğinden yararlanmak için çok iyi bir fırsata sahip olduğumuza inanıyoruz. Dolayısıyla, üretken yapay zekanın küçük olduğunu düşündüğümden değil; ancak yalnızca büyük bir GPU ile adreslenemez.

Intel, Nvidia’yı nasıl görüyor ve nasıl rekabet etmek istiyor?

Sandra Rivera:
Nvidia’nın GPU’ları pazara sunma konusunda harika bir iş çıkardığını herkes biliyor. Dev bir oyuncu. Bunu perspektife koyayım. Gaudi 2, günümüzde en yaygın kullanılan GPU olan Nvidia A100’den daha iyi performans sunuyor. Şu anda H100’e kıyasla daha fazla güce sahip değil, ancak aslında paranın karşılığı açısından çok iyi konumlandırılmış. Gaudi 2 donanımının desteklediği veri formatlarından biri de FP8’dir ve onu destekleyecek yazılım önümüzdeki çeyrekte piyasaya sürülecektir. Çok iyi bir performans bekliyoruz, ancak bekleyip Kasım ayında ne yayınlayacağımızı görmeniz gerekecek. Gelecek yıl, Nvidia yol haritasında H100 ve hatta yeni nesil ile çok etkili bir şekilde rekabet edecek olan Gaudi 3’ü piyasaya süreceğiz. Tahminlerimiz çok iyi görünüyor. Fiyatlarımız çok agresif. Müşteriler alternatif istiyor ve biz kesinlikle pazardaki en büyük oyuncuya alternatif olmak istiyoruz. Önemli olan ne söylediğimiz değil, ne yaptığımızdır.

Sürdürülebilir veri merkezleri oluşturmak için Intel’in yol haritası.

Sandra Rivera:
Dünya çapındaki tüm üretimimizde yüzde 90’ın üzerinde ve bazı durumlarda yüzde 100’ün üzerinde yenilenebilir enerji kullanıyoruz. Yenilenebilir enerji ve ürünlerimizi üretmenin genel karbon ayak izi açısından rakipsiziz. Rakipler, dünyanın çoğu gibi, ürünlerini Tayvan veya Kore’deki dökümhanelerde üretiyorlar. Tabii ki, Tayvan en büyük ülke, ancak yenilenebilir enerji ayak izi aslında oldukça küçük. Bu bir ada; Her şey dizel yakıtla taşınır. Kendi fabrikalarımız ve bilişim altyapımız için kendi kurduğumuz veri merkezlerine bakacak olursak yine yüzde 90 ve daha fazlası yenilenebilir enerji. Ayrıca yeşil ve yenilenebilir enerji çevresinde optimizasyona yardımcı olmak için OEM’lerimiz ve bulut hizmeti sağlayıcılarımızla çok yakın çalışıyoruz.

4. Nesil Xeon ile, boşta kalma sürelerinde çekirdekleri akıllıca kapatarak ve işlemciyi optimize ederek gerçekte yüzde 20 daha az enerji kullanabileceğiniz, gücü optimize edilmiş bir modu kullanıma sunduk. Bunu yüzde 5’in altında çok küçük bir performans artışıyla yapabildik ve müşteriler işlemcinin her zaman tam güçte çalışmasına ihtiyaç duymadıkları için bu onlara çok fazla enerji tasarrufu sağlıyor.

Veri merkezlerinde nöromorfik ve kuantum hesaplamanın mevcut durumu ve gelecekteki potansiyeli

Sandra Rivera:
Nöromorfik ve kuantum bilgi işlem en son teknolojilerdir. En az on buçuk yıldır kuantum yatırımcısıyız. Silikon fotoniğine yatırım yaptık. Optik ağlar ve ara bağlantılar, özellikle bu çok üst düzey, büyük ölçekli bilgi işlem platformları ile giderek daha ilginç hale geliyor. Depolama teknolojilerinin gelecek için çok önemli olacağını biliyoruz. Ortaklarımızla ve kendi başımıza depolama teknolojilerine yatırım yaptık. Bu teknolojilerin ticari uygulanabilirliği bazen 10 ila 20 yıl uzaktadır, ancak inovasyon şirketimizin can damarıdır. Intel Labs ile olağanüstü yeteneklere sahibiz. Çok fazla Üyemiz, Kıdemli Üyemiz ve endüstri devimiz var. Proses mühendisliği, dünyadaki en karmaşık ve mükemmel mühendislik başarılarından biridir.

İnovasyon bakış açısıyla liderlik etmeye devam edeceğiz. Ekonomik karlılık, piyasaların ne kadar hızlı değiştiğine bağlıdır. Yapay zekanın yıkıcı olduğuna inanıyoruz ve bu teknolojilerden bazılarının da yıkıcı olması muhtemel. [developed] hızlandırılmış bir hızda, özellikle ağ ve bellek. Elektrik ve termik alanında birçok yenilik var; Bu çipler ve sistemler giderek büyüyor ve ısınıyor. Zamanın doğru olduğunu söylemek her zaman kolay değildir
. Bu teknolojilerden bazıları ticari başarıya sahip olmayabilir, ancak ondan parçalar alıp başka alanlara yönlendiriyorsunuz. Bence bu inovasyon işi ve tarihimizle gurur duyuyoruz. Bu [teams] Çok eğlenceli şeyler yapabilirler ve çok enerjiktirler.

Bazı cevaplar kısaltılmış ve netlik için biraz düzenlenmiştir.

Açıklama: Intel Muhabirin Bengaluru etkinliği için yaptığı uçuşlara sponsor oldu.

Ortaklık bağlantıları otomatik olarak oluşturulabilir – ayrıntılar için Etik Beyanımıza bakın.
 
Üst