Bugün okuduğum teknoloji başlıklarının neredeyse tamamı, yapay zekaya duyduğumuz kontrolsüz güvenin günlük hayattaki somut sonuçlarına işaret ediyordu. İnternette gezinerken Sözcü ve MSN kaynaklarında rastladığım bir haber ise bu durumu adeta bir uyarı çanı gibi önüme koydu. Bir sohbet botunun verdiği tavsiyeyi yetkili bir hukukçu görüşü zannederek hayatını değiştiren kararlar alan bir adamın hikayesi, teknolojinin hayatımıza ne kadar hızlı ve bazen bilinçsizce sızabildiğini gösteriyor.
Ne oldu
Sözcü’nün aktardığı habere göre ABD’de yaşayan 60 yaşındaki Klaus Elmfelt Aerenlund, ev sahibiyle yaşadığı bir anlaşmazlık üzerine bir yapay zeka uygulamasından hukuki tavsiye almaya karar vermiş. Yapay zeka uygulamasının yönlendirmesine güvenen Aerenlund, sistemin tavsiyesi doğrultusunda kira ödemelerini tamamen durdurmuş.
Fakat bir sohbet botunun ürettiği tavsiye gerçek dünyadaki yasal prosedürlerle örtüşmeyince süreç beklenmedik bir şekilde ilerlemiş. Kira ödemesini bırakan adam hakkında ev sahibi tarafından yasal tahliye süreci başlatılmış. Yasal adımların ardından evinden çıkartılan 60 yaşındaki adam, iki köpeğiyle birlikte otomobilinde yaşamak zorunda kalmış. Tek bir tavsiyeyle başlayan bu tablo, yapay zeka çıktılarının sorgulanmadan kabul edilmesinin acı faturasını sergiliyor.
Neden önemli
Bu haber, yapay zeka araçlarının gündelik yaşantımıza ne kadar entegre olduğunu ama kullanıcıların bu araçların sınırlarını henüz tam kavrayamadığını açıkça gösteriyor. Son dönemde pek çok kişi tıp, hukuk, finans ya da kriz anlarındaki kararlarında bir uzmana danışmak yerine doğrudan bir yapay zeka botuna soru sorup aldığı yanıtı mutlak doğru kabul etme eğilimi gösteriyor.
Oysa yapay zeka sistemleri hukuki bir sorumluluk taşımıyor, yerel mevzuatların inceliklerini veya gerçek hayattaki süreçleri her zaman hatasız değerlendiremiyor. Uzman süzgecinden geçmeyen bir bilgiyi doğrudan eyleme dönüştürmek, sırf ekranda kendinden emin bir dille yazıldı diye o bilginin doğru olduğunu varsaymak son derece riski yüksek bir yaklaşım. Yaşanan bu olay, dijital okuryazarlık ile yapay zeka okuryazarlığının lüks değil, doğrudan hayati bir gereksinim haline geldiğini kanıtlıyor.
Benim yorumum
Benim bu haberi okurken zihnimde beliren ilk soru şu oldu: Ekran karşısında son derece akıcı ve ikna edici konuşan bir sistem gördüğümüzde neden eleştirel düşünmeyi bir kenara bırakıyoruz? Yapay zeka modelleri yapısı gereği şüpheci veya kararsız bir ton kullanmıyor; hatalı bir bilgi sunarken bile bunu sanki evrensel bir doğruymuş gibi aktarabiliyor.
Bana göre temel mesele, insanların yapay zekayı bir “fikir alma ve taslak hazırlama yardımcısı” olarak görmek yerine, bir “otorite” veya “yanılmaz rehber” mertebesine oturtması. Hukuk gibi her ülkenin, eyaletin hatta şehrin kendi iç kurallarına tabi olduğu hassas bir alanda bir sohbet botunun adımlarıyla hareket etmek büyük bir kumar. Yapay zekaya danışmayı ben de merakla takip ediyorum ve kullanıyorum; ancak bunu hiçbir zaman nihai bir karar mercii olarak değerlendirmiyorum.
Hayatımızı doğrudan etkileyecek yasal ya da sağlıkla ilgili adımlarda gerçek bir uzmanın görüşüne başvurmak veya resmi kanallardan teyit almak zorundayız. Aksi halde sanal dünyadaki ikna edici bir paragraf, gerçek dünyada barınma hakkını kaybetmeye kadar varan ağır sonuçlar doğurabiliyor. Zamanla kullanıcıların bu sistemlerin yanılabileceğini ve tavsiye veremeyeceğini daha net idrak edeceğini umuyorum.
Teknoloji hayatımızı kolaylaştırsa da kişisel mantığımızın ve eleştirel süzgecimizin yerini alamaz. Yapay zekadan fikir alırken arkasında sorumluluk üstlenecek gerçek bir insan olmadığını her zaman hatırlamakta fayda var.