Yayınlanma tarihi: 14 Mayıs 2024, Son güncelleme: 16 Ekim 2024
Web'de yapay zeka modelleriyle özellik geliştirirken genellikle daha büyük modeller için sunucu tarafı çözümlere güveniriz. Bu durum, özellikle en küçük modellerin bile ortanca web sayfası boyutundan bin kat daha büyük olduğu üretken yapay zeka için geçerlidir. Bu durum, modellerin 10 ila 100 megabayt arasında değişebileceği diğer yapay zeka kullanım alanları için de geçerlidir. Bu modeller web siteleri arasında paylaşılmadığından her sitenin sayfa yüklendiğinde bunları indirmesi gerekir. Bu durum geliştiriciler ve kullanıcılar için pratik değildir.
Büyük dil modelleri (LLM'ler) dahil olmak üzere yapay zeka modellerini doğrudan tarayıcıya entegre etmek için tasarlanmış web platformu API'leri ve tarayıcı özellikleri geliştiriyoruz. Bu kapsamda, Gemini LLM ailesinin en verimli sürümü olan ve en modern masaüstü ve dizüstü bilgisayarlarda yerel olarak çalışacak şekilde tasarlanmış Gemini Nano da yer alır. Yerleşik yapay zeka sayesinde web siteniz veya web uygulamanız, kendi yapay zeka modellerini dağıtmak veya yönetmek zorunda kalmadan yapay zeka destekli görevleri gerçekleştirebilir.
Yerleşik yapay zekanın avantajlarını, uygulama planımızı ve bu teknolojiden nasıl yararlanabileceğinizi keşfedin.
Erken önizleme yapın
API'leri şekillendirmek, kullanım alanlarınızı yerine getirmekten emin olmak ve standartlaştırma için diğer tarayıcı tedarikçileriyle görüşmelerimizi bilgilendirmek için görüşlerinize ihtiyacımız var.
Erken aşamadaki yerleşik yapay zeka fikirleri hakkında geri bildirim sağlamak ve yerel prototip oluşturma yoluyla devam eden API'leri test etme fırsatlarını keşfetmek için erken önizleme programımıza katılın.
Yeni API'ler kullanıma sunulduğunda bildirim almak için Chrome AI geliştirici herkese açık duyurular grubuna katılın.
Yerleşik yapay zekanın web geliştiricileri için avantajları
Yerleşik yapay zeka sayesinde tarayıcınız temel ve uzman modelleri sağlar ve yönetir.
Yerleşik yapay zeka, kendi istemci tarafı yapay zekayı oluşturmaya kıyasla aşağıdaki avantajları sunar:
- Dağıtım kolaylığı: Tarayıcı, modelleri dağıtırken cihazın kapasitesini dikkate alır ve modeldeki güncellemeleri yönetir. Bu, büyük modelleri ağ üzerinden indirmekten veya güncellemekten sorumlu olmadığınız anlamına gelir. Depolama alanı tahliyesi, çalışma zamanı bellek bütçesi, yayınlama maliyetleri ve diğer zorlukları çözmeniz gerekmez.
- Donanım hızlandırmaya erişim: Tarayıcının yapay zeka çalışma zamanı, GPU, NPU veya CPU'ya geri dönme gibi mevcut donanımdan en iyi şekilde yararlanacak şekilde optimize edilmiştir. Bunun sonucunda, uygulamanız her cihazda en iyi performansı elde edebilir.
İstemci tarafında çalıştırmanın avantajları
Yerleşik bir yapay zeka yaklaşımıyla, yapay zeka görevlerini istemci tarafında gerçekleştirmek çok kolay hale gelir. Bu da aşağıdaki avantajları sunar:
- Hassas verilerin yerel olarak işlenmesi: İstemci tarafı yapay zeka, gizlilik hikayenizi iyileştirebilir. Örneğin, hassas verilerle çalışıyorsanız uçtan uca şifreleme özelliğine sahip kullanıcılara yapay zeka özellikleri sunabilirsiniz.
- Hızlı kullanıcı deneyimi: Bazı durumlarda, sunucuya gidiş dönüşü iptal etmek neredeyse anında sonuçlar sunabileceğiniz anlamına gelir. İstemci tarafı yapay zeka, uygulanabilir bir özellik ile optimal olmayan bir kullanıcı deneyimi arasındaki fark olabilir.
- Yapay zekaya daha fazla erişim: Kullanıcılarınızın cihazları, özelliklere daha fazla erişim karşılığında işlem yükünün bir kısmını kaldırabilir. Örneğin, premium yapay zeka özellikleri sunuyorsanız bu özellikleri istemci tarafı yapay zeka ile önizleyebilirsiniz. Böylece, potansiyel müşteriler ek maliyet ödemeden ürününüzün avantajlarını görebilir. Bu karma yaklaşım, özellikle sık kullanılan kullanıcı akışlarındaki çıkarım maliyetlerini yönetmenize de yardımcı olabilir.
- Çevrimdışı yapay zeka kullanımı: Kullanıcılarınız internet bağlantısı olmadığında bile yapay zeka özelliklerine erişebilir. Bu sayede siteleriniz ve web uygulamalarınız çevrimdışıyken veya değişken bağlantıyla beklendiği gibi çalışabilir.
Karma yapay zeka: İstemci tarafı ve sunucu tarafı
İstemci tarafı AI çok çeşitli kullanım alanlarını işleyebilir ancak sunucu tarafı desteği gerektiren belirli durumlar vardır.
Sunucu tarafı yapay zeka, büyük modeller için mükemmel bir seçenektir ve daha geniş bir platform ve cihaz yelpazesini destekleyebilir.
Aşağıdakilere bağlı olarak karma bir yaklaşımı değerlendirebilirsiniz:
- Karmaşıklık: Belirli ve kolayca anlaşılabilen kullanım alanlarının cihaz üzerinde yapay zeka ile desteklenmesi daha kolaydır. Karmaşık kullanım alanları için sunucu tarafı uygulamayı göz önünde bulundurun.
- Dayanıklılık: Varsayılan olarak sunucu tarafını kullanın ve cihaz çevrimdışıyken veya bağlantısı zayıfken cihaz üzerinde kullanın.
- Sorunsuz yedekleme: Yerleşik yapay zeka içeren tarayıcıların benimsenmesi zaman alacaktır. Bazı modeller kullanılamayabilir ve eski veya daha az güçlü cihazlar tüm modelleri optimum şekilde çalıştırmak için gereken donanım gereksinimlerini karşılamayabilir. Bu kullanıcılar için sunucu tarafı yapay zeka sağlayın.
Gemini modelleri için arka uç entegrasyonunu (Python, Go, Node.js veya REST ile) kullanabilir veya web uygulamanızda yeni Web için Google AI istemci SDK'sını uygulayabilirsiniz.
Tarayıcı mimarisi ve API'ler
Chrome'da yerleşik yapay zekayı desteklemek için cihaz üzerinde yürütme için temel ve uzman modellerine erişecek altyapı oluşturduk. Bu altyapı, Yazmama yardım et gibi yenilikçi tarayıcı özelliklerini zaten destekliyor.
Yerleşik yapay zeka özelliklerine öncelikle Translator API veya Summarizer API gibi görev API'leriyle erişebilirsiniz. Görev API'leri, atama için en iyi modele göre çıkarım yapmak üzere tasarlanmıştır.
Chrome'da bu API'ler, hassas ayar veya uzman modeli ile Gemini Nano'ya karşı çıkarım yürütmek için tasarlanmıştır. Çoğu modern cihazda yerel olarak çalışacak şekilde tasarlanan Gemini Nano, özetleme, yeniden ifade etme veya sınıflandırma gibi dil ile ilgili kullanım alanları için idealdir.
Ayrıca, yerel olarak deneme yapabilmeniz ve ek kullanım alanları paylaşabilmeniz için Prompt API gibi keşif amaçlı API'ler de sağlıyoruz.
Gelecekte, modelin ağırlıklarını ayarlayarak yerleşik modelin performansını iyileştirmek için keşif amaçlı bir LoRA API'si sunabiliriz.
Yerleşik yapay zeka ne zaman kullanılır?
Yerleşik yapay zekanın size ve kullanıcılarınıza sağlayabileceği bazı avantajlar şunlardır:
- Yapay zeka destekli içerik tüketimi: Özetleme, çeviri, kategorilendirme, karakterleştirme ve bilgi sağlayıcı olarak dahil edilir.
- Yapay zeka destekli içerik oluşturma: Yazma yardımı, gözden geçirme, dil bilgisi düzeltme ve yeniden ifade etme gibi özellikler.
Sırada ne var?
Yerleşik AI API'lerimizle denemeler yapmak için erken önizleme programımıza katılın.
Language Detector API, daha fazla test için artık kaynak deneme sürümünde kullanılabilir.
Google AI JavaScript SDK'sı için hızlı başlangıç kılavuzumuzda, Google'ın sunucularında web siteleriniz ve web uygulamalarınızla birlikte Gemini Pro'yu nasıl kullanacağınızı öğrenin.