22 megabaytlık bir dosya boyutuna koskoca bir yapay zekâ modelinin sığdırılabileceğini söyleseler muhtemelen şaka yapıldığını düşünürdüm. Akıllı telefonlarımızda yer kaplayan basit bir fotoğrafın bile birkaç megabayt tuttuğu bir dönemde, telefonun kendi hafızasında çalışan bu kadar küçük bir sistem duymak gerçekten şaşırtıcı.
Ne oldu
Donanımhaber’de karşılaştığım habere göre Cactus Compute şirketi, yalnızca 22 MB boyutundaki yeni yapay zekâ modeli Mirage’ı tanıttı. Bu modelin en dikkat çekici tarafı, uzak sunuculara veya güçlü bulut altyapılarına ihtiyaç duymadan doğrudan akıllı telefonlar üzerinde yerel olarak çalışabilmesi. Telefon cihazının kendi donanımında bağımsız bir şekilde işleyen Mirage, kullanıcıların çeşitli günlük görevlerini yerine getirebilecek şekilde tasarlanmış.
Neden önemli
Bugün günlük hayatımızda kullandığımız yapay zekâ araçlarının neredeyse tamamı arkalarında devasa veri merkezleri tutuyor. Telefonumuzdan sorduğumuz basit bir soru veya istediğimiz bir analiz bile internet üzerinden kilometrelerce uzaktaki bir sunucuya gidiyor, orada işlenip yanıt olarak ekranımıza dönüyor. Bu süreç hem kesintisiz bir internet bağlantısı gerektiriyor hem de veri gizliliği açısından sürekli bir soru işareti yaratıyor.
Sadece 22 MB boyutundaki bir yapay zekâ modelinin doğrudan telefon hafızasında çalışabilmesi, bu yapıyı kökten değiştirebilecek bir potansiyele sahip. İnternet erişiminin çekmediği yerlerde bile yapay zekâ desteği alabilmek, kişisel verilerin cihaz dışına çıkmaması sayesinde gizliliği korumak ve veri alışverişi nedeniyle telefon şarjını hızlı tüketmemek, sıradan bir kullanıcı için oldukça değerli avantajlar.
Benim yorumum
Haberdeki detayları okuduğumda beni hem heyecanlandıran hem de düşündüren bir tablo ortaya çıktı. Sektördeki dev şirketlerin trilyonlarca parametreli devasa modeller yarıştığı bir ortamda, 22 MB gibi ufak bir alana nasıl bir yetenek sığdırıldığı gerçekten merak konusu. Muhtemelen bu boyuttaki bir modelden uzun makaleler yazmasını veya karmaşık mantık yürütmesini bekleyemeyiz; ancak cihaz içi hızlı aramalar, basit metin komutları ve çevrimdışı asistan görevleri için gayet yeterli olabilir.
Bana göre bu gelişme, yapay zekâ geleceğinin sadece devasa sunucu merkezlerinden ibaret olmayacağını gösteriyor. Gelecekte muhtemelen karmaşık işler için bulut modellerini, anlık ve gizlilik gerektiren pratik işler için ise Mirage gibi küçük yerel modelleri bir arada kullanacağız. Bu küçük modellerin gerçek hayat performansını ve telefon kaynaklarını ne kadar verimli kullandığını zamanla hep birlikte göreceğiz.
İnternet bağlantısına muhtaç kalmadan cebimizde çalışan akıllı yardımcıların fikri bile heyecan verici. Önümüzdeki dönemde bu hafif modellerin telefon deneyimimize nasıl yansıyacağını merakla takip etmeye devam edeceğim.