Yapay Zeka (AI) PC Nedir? Detaylı Anlatım
Günümüzde yapay zekâ hızla gelişiyor. Her ne kadar 2024 yılı henüz bitmemiş olsa da, bu yılın teknoloji sektöründe “yapay zeka (AI)” yılı olduğunu söylemek çok kolay. Büyük teknoloji şirketlerinin hemen hepsi yeni ürünlerinde şu ya da bu şekilde yapay zekayı kullanmak istiyor. Önceden de söylediğimiz gibi, “AI PC” terimini çok duyacaksınız. Biz de teknolojinin geleceğinin çok önemli bir parçası olan yapay zeka ve yapay zekalı bilgisayarlara daha yakından bakmak istedik.
Firmalar yapay zekayı kullanarak işleri kolaylaştırmak ve daha verimli hale getirmek için çabalıyor. Bazı sektörlerde bu teknolojiler sayesinde çalışanların işlerini kaybedeceği bile fısıldanıyor. Örneğin bir müşteri temsilcisiyle görüşmek istediğinizde karşınıza çıkan yapay zeka destekli bir robotu ele alalım. Diğer yandan insanlar da yeni çözümler kullanarak üretkenliklerini artırmanın, yeni fikirler üretmenin ve rekabet avantajı elde etmenin yollarını arıyor.
Tabii ki PC üreticileri de pastadan büyük bir dilim almak için çok çalışıyorlar. Firmalar, ürünlerinin gelişmekte olan yapay zeka dünyasına açılan ana kapı olduğunun farkındalar. Bu yeni dalgadan herkes önemli gelirler elde etmek istiyorsa, “AI PC” en ön sırada yer alıyor.
Bu çerçevede Microsoft’un perde arkasında tanımlamaya çalıştığı bir ‘AI PC’ tanımı var gibi görünüyor. Hatta bu bilgisayarlar raflarda yerini almaya başladı bile. Aslında teknoloji devinin tanımı bir teknik özellikler listesine ve bilgisayarlarınızı süsleyecek bir etikete dayanıyor.
Endüstride “yapay zekâ bilgisayarları “ndan bahsedildiğinde, basitçe “yapay zekâ iş yüklerini daha hızlı çalıştırabilen” bir bilgisayardan bahsediliyor. Ancak, donanım oyuncuları bunu farklı yorumlayabilir ve kendi taraflarını tutabilirler. Örneğin Microsoft gibi şirketler Windows Copilot örneğini izleyerek bunu “yapay zekaya” erişebilen bir bilgisayar olarak tanımlamaya çalışıyor. Ancak AMD, Intel ve Qualcomm gibi çip üreticileri yapay zekanın mikroişlemciler aracılığıyla bilgisayarınızda yerel olarak işlenmesi gerektiğine inanıyor. Bilgisayar satıcıları ne olacak? Satışlarını arttırmak için tüketicilerin ilgisini çekecek kendi tanımlarını ortaya koyacaklardır.
Herneyse, lafı daha fazla uzatmadan gelin yeniliklere adım adım bir göz atalım. Yapay zekâ bilgisayarı ve NPU nedir? Yapay zeka özellikli bir bilgisayar (şimdilik dizüstü bilgisayar) satın almak gerekli mi? Bu sorularınıza yanıt vermeye çalışacağız.
YZ PC nedir?
Öncelikle kısa bir tanımla başlayalım. Birkaç ekstra özelliğe sahip, yapay zeka ve makine öğrenimi görevlerini yerine getirmek için doğru donanım ve yazılım çözümleriyle desteklenen bir kişisel bilgisayardır.
Yapay zeka ve makine öğrenimi görevleri. Burada amaç, bazı durumlarda yoğun olan yapay zeka ve makine öğrenimi iş yüklerini hızlandırmak ve gereksinimleri karşılamaktır.
YZ iş yükleri nelerdir? Kararlı Difüzyon gibi üretken YZ yazılımları, yerel dil modelleriyle desteklenen akıllı sohbet robotları, derin veri analitiği, YZ modellerinin eğitimi ve karmaşık simülasyonlarla sofistike YZ odaklı uygulamaların çalıştırılması dahil olmak üzere çok çeşitli iş yükleri vardır.
Şu ana kadar, sistemlere çoklu işlemci gücü veren güçlü işlemcilerden (CPU’lar) ve grafik görevlerinin yanı sıra birçok alanda işleri daha da hızlandıran grafik kartlarından (GPU’lar) bahsettik. Ayrıca RAM ve hızlı depolama seçenekleri de önemliydi. Gelecek nesil bilgisayarlar tamamen yeni bir şey içeriyor: yapay zeka görevlerini olabildiğince hızlı gerçekleştirmek için özel olarak tasarlanmış sinir işleme birimleri (NPU’lar).
Bir yapay zeka bilgisayarını tanımlamak için bir araya gelen Intel ve Microsoft, bir bilgisayarın CPU, GPU ve NPU’nun yanı sıra klavyede fiziksel bir Microsoft Copilot tuşuna sahip olması gerektiğine karar verdi. Böylece Windows 11’de yerleşik olarak bulunan yapay zeka robotu Copilot hızlı bir şekilde kullanılabilecek.
Basın ve sektörün büyük bir bölümü Microsoft’un, Intel’in Core Ultra “Meteor Lake” işlemcilerini tanıttığı yapay zekalı bilgisayar geliştirme programında paylaştığı tanım etrafında toplanmış görünüyor. Bu tanıma göre üç gereklilik söz konusu:
- Bilgisayarlarda en yeni NPU’lar, CPU’lar ve GPU’lar bulunmalıdır.
- Bilgisayarlar Microsoft Copilot ile birlikte teslim edilmelidir.
- Klavye üzerinde bir Copilot tuşu olması.
Birazdan NPU detaylarına geri döneceğiz. Özel çiplerin, bu çip ile donatılmış bilgisayarların “yapay zekalı PC” kategorisine dahil edilebilmesi için belirli bir performans seviyesine ulaşması gerekiyor. Burada amaç, yapay zeka görevlerini yerine getirmek için daha hızlı, daha enerji verimli sistemler oluşturmak ve verilerin işlenmek üzere bulut tabanlı yapay zeka sunucularına gönderilmesi ihtiyacını ortadan kaldırmak. Bu yaklaşım ile sistemlerin internet bağlantısından bağımsız olarak çalışabilmesi umuluyor ve verilerin bilgisayarda yerel olarak depolanarak güvenilirliğin artırılması planlanıyor.
NPU’lara neden ihtiyacımız var?
En başından başlayalım. Suni zeka kullanan araçların insan gücüne de ihtiyacı var. Bilişim gereksinimleri ve ihtiyaçları sektöre, kullanım alanına ve yazılıma bağlı olarak değişiyor. Verimli yapay zeka kullanım durumlarına yönelik artan talep, özellikle yapay zeka için tasarlanmış yenilenmiş bir bilgi işlem mimarisi gerektiriyor.
Tüm yapay zeka görevleri için merkezi işlem birimi (CPU) ve grafik işlem birimine (GPU) ek olarak nöral işlem birimi (NPU) adı verilen çipler sıfırdan tasarlanmıştır. Bir NPU ile birlikte uygun bir işlemci kullanıldığında, kullanılan uygulamaların performansını ve verimliliğini en üst düzeye çıkararak yeni ve gelişmiş üretken yapay zeka deneyimlerini kullanmak mümkündür. Üstelik bu süreçte güç tüketimi azaltılırsa pil ömrü de iyileştirilmiş olur.
NPU nedir?
Makine öğrenimi algoritmalarını çalıştırmak için tasarlanmış özel bir işlemcidir. NPU’lar, geleneksel CPU ve GPU’ların aksine, sinir ağlarının ayrılmaz bir parçası olan karmaşık matematiksel hesaplamaları gerçekleştirmek için optimize edilmiştir. Özgün olarak tasarlanmış nöral işlemciler, büyük miktarda veriyi paralel olarak işleme konusunda mükemmel bir iş çıkarabilir. Bu sayede görüntü tanıma, doğal dil işleme ve diğer yapay zeka görevleri kolaylaşır. Örnek olarak, GPU’ya bir GPU entegre edilmiş olsaydı, NPU nesne algılama veya görüntü hızlandırma gibi belirli bir görevden sorumlu olabilirdi.
Nöral ağ işleme ve yapay zeka görevlerini hızlandırmak için tasarlanan nöral işlem birimi, ayrı olmak yerine CPU’lara ve SoC’lara entegre edilmiştir. NPU’lar, CPU ve GPU’ların aksine veri odaklı paralel hesaplama için optimize edilmiştir. Video ve görüntü gibi büyük multimedya verilerinin işlenmesinde ve sinir ağları için veri işlemede çok etkilidirler. Ses tanıma, video görüşmelerinde arka plan bulanıklaştırma ve nesne algılama gibi fotoğraf/video düzenlemede özellikle faydalı olacaklardır.
Yonga Üzerinde Sistem (SoC) nedir?
Ayrıca NPU bir entegre devredir, ancak ASIC’lerden (tek işlevli entegre devreler) farklıdır. Her ne kadar ASIC’ler tek bir kullanım için tasarlanmış olsa da (bitcoin madenciliği gibi), NPU’lar ağa bağlı bilgi işlemin çeşitli gereksinimlerini karşılamak için daha fazla karmaşıklık ve esneklik sunar. Bu da, sinir ağı bilişiminin benzersiz gereksinimlerine göre uyarlanmış yazılım veya donanımda özel programlama yoluyla elde edilir.
Tüketicilerin çoğu bunun farkında olmasa da, bilgisayarları yakında yapay zeka desteğine sahip olacak. NPU’lar genellikle Intel Core/Core Ultra serisinde veya dizüstü bilgisayarlar için yeni AMD Ryzen 8040 işlemcilerde olduğu gibi işlemciye entegre edilecektir. Ancak, büyük veri merkezlerinde ya da daha uzmanlaşmış endüstriyel operasyonlarda NPU farklı bir form alabilir. Anakart üzerinde diğer işlem birimlerinden ayrı, tamamen ayrı bir işlemci bile olabilir.
NPU, başından itibaren düşük güç tüketimiyle yapay zeka çıkarımını hızlandırmak için tasarlanmıştır. YZ iş yükleri temel olarak skaler, vektör ve tensör matematiğinden oluşan sinir ağı katmanlarının hesaplanmasından ve ardından doğrusal olmayan bir aktivasyon fonksiyonundan oluşur. İleri düzey NPU tasarımı ile her türlü zorlu iş yükünün üstesinden gelmek mümkündür.
Potansiyel NPU uygulamaları
Her tüketicinin sorduğu en önemli soru şudur: Yeni YZ bilgisayarlar benim için ne anlama geliyor, ne yapacaklar? Teknolojinin ilk günlerinde, bir YZ bilgisayarı ile normal bir bilgisayar arasında çok az fark olacaktır. Hatta tüm bilgisayarlar internet üzerinden üçüncü taraf YZ uygulamalarına erişebilecek. En büyük fark, YZ bilgisayarının bu bilgileri yerel olarak depolayacak ve işleyecek olmasıdır. Zaman içinde kullanımları yaygınlaştıkça ve daha fazla insan YZ çözümlerini kullandıkça, NPU’lar GPU’lar ve CPU’lar kadar önemli hale gelecektir.
- Teknoloji şirketlerinin YZ bilgisayarları için öne çıkardığı bazı temel özellikler şunlardır:
- Metinden görüntü üreten araçlar.
- Cihazınız için yapay zeka tabanlı güvenlik özellikleri.
- Akıllı pil yönetimi.
- Geliştirilmiş fotoğraf ve video düzenleme özellikleri.
- Metin girişi, kodlama, otomatik düzeltme ve tahmin için bir yapay zeka asistanı.
Pek çok özellik internete sürekli erişim gerektirecek, ancak AI asistanı gibi bazı uygulamalar çevrimdışı olarak kullanılabilecek. Yapay zekalı bilgisayarların arkasındaki mevcut fikir, bilgisayarınızdaki programları hızlandırmak ve optimize etmek için yapay zekayı kullanmak ve kullanıcılara fayda sağlayacak yeni yaşam kalitesi özellikleri sunmaktır. Bu bazı uygulamalar için çok faydalı olsa da, hiçbir şekilde devrim niteliğinde değil. Yani en azından şimdilik. İleride ne olacağını göreceğiz.
NPU’ların rolü nedir?
Her sistem için geçerli olmasa da, NPU bir yardımcı işlemci olarak nitelendirilebilir. CPU ve GPU’ların işlevlerini tamamlamak üzere tasarlanmışlardır. İşlemciler çok çeşitli görevleri yerine getirirken ve GPU’lar ayrıntılı grafikler oluşturma konusunda üstünlük sağlarken, NPU’lar yapay zeka görevlerinin hızlı bir şekilde yürütülmesinde uzmanlaşmıştır. Bunun sonucunda, sistemin farklı iş yükleri ayrı bölgelere ayrılıyor ve GPU ile CPU farklı iş yüklerini ele alırken yeteneklerini tam olarak kullanamıyor.
Mesela, video görüşmeleri sırasında bir NPU arka planı bulanıklaştırma görevini verimli bir şekilde yerine getirerek GPU’yu daha yoğun görevlere konsantre olması için serbest bırakabilir. Aynı şekilde, fotoğraf veya video düzenlemede NPU’lar nesne algılama ve yapay zeka ile ilgili diğer işlemleri gerçekleştirerek genel iş akışı verimliliğini artırabilir.
NPU’lar ileride daha önemli olacak
2024’ten itibaren NPU’lar daha yaygın hale gelmeye başladı ve gelecekte her işlemci bir NPU’ya sahip olabilir. İlk adımı Intel, Meteor Lake yongaları ile attı. Ryzen 8040 mobil işlemcileri ile AMD fitili ateşledi.
NPU’ların ön planda olduğu yapay zekâ uygulamalarına olan talebin artması kaçınılmaz. Dolayısıyla nöral işlem birimleri giderek daha önemli hale gelecek. Yapay öğrenme görevleri için optimize edilmiş özel mimariler, NPU’ların bilgi işlem dünyasında ilerlemesini sağlıyor. GNPU’lar ve makine öğrenimi algoritmalarındaki ilerlemelerin birleşimi, şüphesiz teknolojiyi ilerletecek ve dijital ortamımızı yeniden şekillendirecek benzeri görülmemiş gelişmeleri tetikleyecektir.
NPU şu anda önemsiz görünebilir ve bunda bir sorun yok. Ama gelecekte yapay zeka işlevleri yavaş yavaş tüm işletim sistemlerine ve uygulamalara girecek. Dolayısıyla işlem birimleri daha önemli hale gelecek.
TOPS nedir? Peki yapay zekanın performansını nasıl ölçüyoruz?
Eskiden donanım performansını bazen teraflop (TFLOP) cinsinden ifade ederdik. Her ne kadar bu tam olarak aynı şey olmasa da, yapay zekanın performansı benzer bir şekilde “TOPS” terimiyle ifade edilir. Bu terim Tera Operations Per Second teriminin kısaltmasıdır. Buradaki tera trilyonlar anlamına gelmektedir.
Bu performansın sadece işlemcilerin NPU’ları sayesinde elde edilmeyeceğini unutmayalım. Belirli iGPU’lar (entegre GPU’lar) ve harici GPU’lar da yapay zeka açısından ciddi performans sunabilir. Mesela GeForce RTX 4090 toplamda yaklaşık 1.321 TOPS elde edebiliyor.
Bir bilgisayarın performansını eskiden sentetik sonuçlar veya gerçek sonuçlar kullanarak ölçerken, yapay zeka bilgisayarları ve yeni NPU’lar ile performans değerlendirmesi daha soyut hale geliyor.
Tekrar yapay zeka bilgisayarlarına ve NPU’lara dönecek olursak, Qualcomm’un Snapdragon X Elite çipi 45 TOPS hızında çalışan bir NPU içeriyor. Birinci seri Intel Core Ultra çipleri CPU, GPU ve NPU kombinasyonunu kullanarak 34 TOPS’a kadar performans sunuyordu.
Windows 12’de son durum nedir?
Bir süredir söylentiler sessizliğini korusa da, Windows 12 ismi teknoloji dünyasında birçok kez anıldı. Tüketiciler ve işletmelerin donanımlarını güncellemeleri için Windows 12 ideal bir yol olabilir. Şu anda işletmelerin ellerini ovuşturduğunu düşünüyoruz.
Eğer söylentiler doğruysa, yapay zeka Windows 12 işletim sistemine tamamen entegre edilecek. Yeni Windows sürümünün temel taşı yapay zeka olacak. Ancak Microsoft’un Windows Copilot’a daha fazla işlevsellik sağlaması ve Windows ile Apple’ın macOS’u arasındaki boşluğu doldurması için bir yol olacak. Hatta Windows 12’yi kullanmak için donanımsal yapay zeka desteği bile gerekebilir. Zaman gösterecek.
Henüz Windows 12’nin sistem gereksinimleri hakkında resmi bir açıklamamız yok. Ancak, yapay zeka bilgisayarlarının Microsoft’tan alınan geri bildirimlerle geliştirildiğinden emin olabilirsiniz. YZ PC’lerle birlikte Windows 12’nin 2024 yılında geleceği söyleniyordu. Bu beklentiler henüz gerçekleşmedi, ancak bu bir sonraki yapay zeka dalgasında bunun gerçekleşmeyeceği anlamına gelmiyor.
Kim yapay zeka özellikli bilgisayarlar üretiyor?
Şu anda yapay zeka ile uyumlu işlemciler Intel, AMD ve Qualcomm tarafından üretiliyor. Ayrıca Dell, Lenovo ve HP gibi büyük OEM’ler de yapay zeka çiplerini sistemlerine entegre ederek pazara sunuyor.
Yakın zamanda Microsoft Copilot PC’lerde yerel olarak çalışacak
Yakın zamanda Microsoft’un Copilot AI hizmeti bulut yerine bilgisayarlarda yerel olarak çalışacak. Teknoloji devi bunu yapmak için işlemcilerde minimum 40 TOPS performansa ihtiyaç duyacak. Konuyla ilgili olarak Intel’in İstemci Bilişim Grubu Başkan Yardımcısı Todd Lewellen şunları söyledi:
” Bir süreklilik ya da evrim olacak ve daha sonra NPU’da 40 TOPS gereksinimi ile yeni nesil yapay zeka bilişimine geçeceğiz. Bu kategoride yer alacak yeni nesil bir ürünümüz var.
Yeni nesle geçtiğimizde, tıpkı Copilot’u istemcide yerel olarak çalışan daha fazla Copilot öğesiyle çalıştıracakları gibi, daha fazla şeyi yerel olarak çalıştırmamıza olanak tanıyacak. Bu durum Copilot’taki her şeyin yerel olarak çalışacağı anlamına gelmiyor, ancak NPU üzerinde çalıştığını göreceğiniz pek çok temel özelliğe sahip olacaksınız.”
Copilot’un hesaplamaları şu anda bulutta gerçekleştiriliyor, ancak iş yükünü yerel olarak çalıştırmak gecikme, performans ve gizlilik açısından avantajlar sunacak. Lewellen, yeni platformlarla Microsoft’un müşteri deneyimine odaklandığını açıkladı. Ayrıca Microsoft, Copilot’un pil ömrü üzerindeki etkiyi en aza indirmek için GPU yerine NPU üzerinde çalıştığında ısrar ediyor.
NPU’lar ise Windows Görev Yöneticisi tarafından izlenecek
AMD, XDNA NPU’ların çok yakında bilgisayar sürücüsü şablonu aracılığıyla Windows Görev Yöneticisi’nde kullanılabileceğini doğruladı. Şimdilik Windows 11 yalnızca Intel’in yeni Core Ultra Meteor Lake CPU’larındaki NPU’ları izleyebiliyor, ancak güncellemeler geldiğinde bu durum değişecek.
Microsoft, Windows 11’in AMD’nin XDNA NPU’sunun kullanımını takip edebilmesi için Microsoft Bilgisayar Sürücü Modeli’ni (MCDM) kullanacak. Microsoft’un Windows Ekran Sürücüsü Modeli’nin (WDDM) bir parçası olan MCDM, NPU gibi sadece işlem yapan mikroişlemciler için özel olarak tasarlanmıştır. Yine AMD’ye göre MCDM, Windows’un güç yönetimi ve zamanlama da dahil olmak üzere NPU’yu CPU ve GPU ile aynı şekilde yönetmesini sağlıyor.
Çok yakında NPU üzerinde aynı anda birkaç uygulama çalışacak. Dolayısıyla Windows tarafından donanım izleme süreci daha önemli hale gelecektir.