Windows AI Foundry ile Yerel GPT Desteği

Microsoft, OpenAI tarafından geliştirilen yeni açık kaynak yapay zeka modelini Windows kullanıcılarına sundu. GPT-OSS-20B modeli, artık Windows AI Foundry platformu üzerinden indirilebiliyor. Bu gelişme, yapay zeka teknolojilerinin yerel cihazlara taşınmasında önemli bir adım olarak öne çıkıyor.

Bu model, OpenAI’ın kısa süre önce tanıttığı GPT-OSS serisinin optimize edilmiş sürümü olarak tanımlanıyor. Özellikle yerel geliştirme ortamlarında yapay zeka kullanmak isteyen geliştiriciler için ideal bir çözüm sunuyor. Ayrıca modelin açık lisansla (Apache 2.0) sunulması, ticari projeler için özgür kullanım imkânı tanıyor.

Güçlü Donanımlar için Yerel Performans

GPT-OSS-20B modeli, yalnızca güçlü donanımlarda çalışacak şekilde tasarlandı. Microsoft’un açıklamasına göre modelin stabil çalışabilmesi için en az 16 GB VRAM bulunan bir ekran kartı gerekiyor. Bu da NVIDIA RTX 30/40 serisi ya da yüksek bellek kapasiteli AMD Radeon kartlarını zorunlu kılıyor.

Modelin performansı, özellikle araç kullanımı, kod yürütme ve metin temelli görevlerde dikkat çekiyor. Bununla birlikte, model yalnızca metin çıktıları üretebiliyor; sesli ya da görsel üretim desteği bulunmuyor. Ancak yerel çalıştırma özelliği sayesinde düşük bant genişliği koşullarında dahi sorunsuz bir deneyim sağlanabiliyor.

macOS Desteği ve Yeni Cihazlar Yolda

Microsoft, yalnızca Windows kullanıcılarını hedeflemekle kalmıyor. Şirketin yaptığı açıklamada, macOS desteğinin de yolda olduğu belirtildi. Henüz kesin bir çıkış tarihi verilmemiş olsa da, yeni sürümün kısa süre içinde kullanıcılarla buluşması bekleniyor.

Ayrıca, Copilot Plus PC’ler gibi özel yapay zeka donanımına sahip cihazlara özel sürümler üzerinde çalışıldığı bildirildi. Bu, yapay zekanın donanım destekli cihazlarda daha verimli çalışmasını sağlayacak bir adım olarak değerlendiriliyor.

GPT-OSS Modellerinin Özellikleri

OpenAI’ın yayınladığı GPT-OSS modelleri iki farklı sürümden oluşuyor:

• GPT-OSS-120B: Büyük ölçekli sistemler için geliştirilmiş model.

• GPT-OSS-20B: Yerel cihazlarda çalışacak şekilde optimize edilmiş sürüm.

Her iki model de Apache 2.0 lisansı ile sunuluyor ve geliştiricilere ticari kullanım hakkı tanıyor. Bu sayede, özel projelerde özelleştirme yapılabiliyor. Ayrıca, modellerin kod yazımı, web arama, temel akıl yürütme gibi konularda başarılı olduğu vurgulanıyor.

Ancak bu modellerin daha kompakt yapıda olması, halüsinasyon oranlarını artırabiliyor. Yani modelin zaman zaman hatalı ya da mantıksız çıktılar üretmesi olası. Görsel ya da sesli üretim gibi multimodal yeteneklere sahip değiller.

Değerlendirme

Microsoft’un GPT-OSS-20B modelini Windows kullanıcılarına açması, yapay zekanın yerel cihazlarda kullanılabilirliğini artırıyor. Özellikle güçlü donanıma sahip geliştiriciler için bu model, veri gizliliği ve performans açısından önemli avantajlar sunuyor. Açık lisanslı yapısı ise ticari uygulamalar için esneklik sağlıyor. macOS desteği ve donanım entegrasyonu gibi genişleme planları, yakın gelecekte daha fazla kullanıcıya ulaşılacağının işareti.

Sık Sorulan Sorular (SSS)

GPT-OSS-20B modeli hangi sistemlerde çalışır?
En az 16 GB VRAM’e sahip ekran kartları bulunan bilgisayarlarda sorunsuz çalışabilir.

Bu model internet bağlantısı olmadan kullanılabilir mi?
Evet. Yerel çalışacak şekilde optimize edildiği için internet bağlantısı gerektirmez.

GPT-OSS modelleri sesli veya görsel içerik üretebilir mi?
Hayır. Yalnızca metin tabanlı çıktılar üretme yeteneğine sahiptir.