Oyun konsolu dünyasında alışılmadık bir deneyime imza atan bir kullanıcı, jailbreak işlemi uygulanmış bir PlayStation 5 konsolunu yerel bir yapay zeka sunucusuna dönüştürmeyi başardı. Reddit kullanıcısı u/AdIllustrious7246, konsolun 16GB GDDR6 bellek havuzunu ve yüksek bant genişliğini kullanarak 27 milyar parametreli (27B) Qwen3.8-27B yapay zeka modelini çalıştırmayı hedefledi. Bu sıra dışı girişim, konsolun CPU yerine GPU gücünden faydalanılmasını sağlayarak donanım limitlerini zorluyor. Söz konusu proje, oyun odaklı bir cihazın, ciddi optimizasyonlar ve teknik ödünler verilerek karmaşık dil modellerini nasıl işleyebileceğini gözler önüne seriyor.
- PlayStation 5 üzerindeki bellek kısıtlamaları, özel sürücü optimizasyonları sayesinde 6GB’tan 11.4GB seviyesine çıkarıldı.
- Konsol, 27B parametreli yoğun kuantize edilmiş yapay zeka modellerini çalıştırma kapasitesine ulaştı.
- Daha küçük modellerde 124 tok/s hıza ulaşılırken, toplam sistem güç tüketimi sadece 86W seviyesinde kaldı.
- Jailbreak işlemi, cihazın garantisini geçersiz kıldığı gibi çevrimiçi oyun servislerinden men edilme riskini de beraberinde getiriyor.
Optimizasyon Çalışmaları Bellek Kapasitesini Artırdı
Başlangıçta u/metover isimli geliştirici tarafından sunulan llama.cpp portu, yapay zeka işlemlerini konsolun işlemcisi (CPU) üzerinden yürütmeyi denemişti. Ancak bu yöntem, kullanılabilir belleği yalnızca 6GB ile sınırlı tutarak daha gelişmiş modellerin çalıştırılmasını engelliyordu.
İlerleyen aşamalarda, Mesa bünyesindeki açık kaynaklı RADV sürücüleri ve Vulkan API desteği kullanılarak llama.cpp, PlayStation 5 üzerinde yerel bir uygulama haline getirildi. Bu teknik hamle, sistemin kullanılabilir RAM miktarını 11.4GB seviyesine yükselterek daha büyük modellerin belleğe sığdırılmasına olanak tanıdı.
Kuantizasyon Teknikleri Model Boyutunu Küçülttü
Standart 16-bit hassasiyetinde 27B parametreli bir modelin çalışması için 54GB bellek gerekirken, konsol bu imkana sahip değildir. Bu sorunu aşmak için model ağırlıkları 2-bit seviyesinde kuantize edilerek 6.8GB boyutuna kadar küçültüldü. Bu işlem, modelin mantıksal kapasitesinde ve doğruluk payında kayıplara yol açsa da, cihazın kısıtlı donanımıyla çalışmasını mümkün kıldı. 64K bağlam penceresi kullanıldığında, konsolun toplam bellek kullanımının yüzde 91 seviyesine ulaştığı görüldü.
Performans Verileri Beklentilerin Üzerinde Gerçekleşti
Yapılan testlerde Qwen3.8-27B modeli, saniyede 20.9 token üretim hızına ulaştı. GPU üzerindeki yük yüzde 100 olarak kaydedilirken, CPU kullanımı ise yüzde 2’de kaldı. Daha küçük modellerde ise çok daha etkileyici sonuçlar elde edildi; Gemma 4 E4B modeli 61 tok/s, Llama 3.2 3B ise 124 tok/s hıza ulaştı. Tüm bu işlemler sırasında cihazın 54°C gibi makul bir sıcaklıkta kalması ve 86W güç tüketmesi, konsolun donanım mimarisinin verimliliğini kanıtlıyor. Ancak bu tür denemelerin sadece teknik meraklılara hitap ettiğini ve güvenlik riskleri taşıdığını unutmamak gerekiyor.
Sizce PlayStation 5 gibi oyun odaklı konsolların gelecekte yerel yapay zeka işlemleri için birer donanım alternatifi haline gelme ihtimali nedir? Konsolunuzda bu tarz modifikasyonlar yapmayı göze alır mıydınız, yorumlarda düşüncelerinizi bizimle paylaşın.
