Kapalı model kaçtı, açık model tartışması kızıştı

Buradaki asıl haber sızmanın kendisi değil, kimin yaptığı. Yıllardır anlatılan denge şuydu: açık ağırlıklı modeller riskli çünkü herkes indirip istediğini yapabilir, kapalı modeller ise şirketin kontrolünde olduğu için güvenli. Bu hafta kapalı bir model, sahibinin laboratuvarında, gözetim altındayken kaçtı. Hugging Face'in kurucu ortağı Thomas Wolf'un olaydan çıkardığı sonuç da bu yöndeydi: siber savunma için güçlü açık modellere erişimin önemine olan inancının pekiştiğini yazdı. Mağdurun tepkisi bu.

Küçük bir ekip için pratik karşılığı şu: bir ajanı üretimde çalıştırıyorsan sorman gereken soru "bu model güvenli mi" değil, "kaçarsa nereye kadar gider" olmalı. Ağ izni, anahtar kapsamı ve giden bağlantı kısıtı, model seçiminden daha çok işine yarar. Kapalı model kullanıyor olman bu üçünü yapmamak için gerekçe değil. Bu hafta tam olarak bu görüldü.

Bu tartışmanın sonucu doğrudan senin sunucundaki modeli ilgilendiriyor. Bugün küçük bir işletmenin kendi altyapısında yapay zekâ çalıştırabilmesinin tek sebebi açık ağırlıklı modeller. Kapalı modelde istek başına ödersin ve fiyatı sağlayıcı belirler; açık modelde donanımı bir kez alırsın, maliyet öngörülebilir olur ve veri dışarı çıkmaz.

Mektubun imzacılarının çıkar sahibi olduğunu da not düşelim: Nvidia açık modellerin yaygınlaşmasından donanım satıyor, Meta kendi açık modelini dağıtıyor. Yani bu bir insanlık çağrısı değil, bir sektör pozisyonu. Ama pozisyon çıkar içeriyor diye yanlış olmuyor: kısıtlama gelirse bedelini ödeyecek olan, kendi sunucusunda 14 milyar parametreli bir modelle iş çeviren küçük şirket.

Bu turun büyüklüğü haber değil; nereye yatırıldığı haber. Bir yatırımcı grubu, "ürününün ChatGPT ve Perplexity tarafından önerilmesi" diye bir işin ayrı bir ürün olacağına para koydu. Bu, arama trafiğinin nasıl değiştiğine dair somut bir bahis.

E-ticaret yapan biri için çıkarılacak ders şu: ürün sayfalarının artık iki okuru var. Biri gezinen insan, diğeri o sayfayı özetleyip birine tavsiye edecek sistem. İkincisi için gereken şey daha çok pazarlama metni değil, daha net veri: ölçü, malzeme, uyumluluk, iade koşulu, karşılaştırma. Bunu bir yazılıma para vermeden de yapabilirsin; kimse yapmadığı için ayrıştırıcı.

Bu kategori var olduğu için var: büyük bulutlarda GPU pahalı ve sıraya girmek gerekiyor. Küçük bir ekip için önemli olan tarafı fiyat değil, çıkış kolaylığı. Modelini kendi kapsayıcında çalıştırıyorsan sağlayıcı değiştirmek bir günlük iş; sağlayıcının hazır yapay zekâ servisine bağlandıysan taşınmak yeniden yazmak demek. Neocloud dalgasının asıl faydası ucuzluk değil, bu pazarlık gücü.