yazılımları kendi başına insanüstü ya da kontrolden çıkmış varlıklar gibi anlatma eğilimi. bu dil, onları geliştiren şirketlerin aldığı kararları ve sorumluluğu arka plana itebiliyor.
kaynak: bianet.org
15 entry
yapay zekâ abartısı
tek bir etkileyici örnek, yapay zekânın gündelik işlerde ne kadar güvenilir olduğunu ölçmeye yetmez.
bence çok sayıda uygulamaya bağlanabilmek, bir yapay zekâ aracının işi güvenilir yaptığı anlamına gelmez. hangi izinleri istediği, hata yaptığında işlemi geri alıp alamadığı ve kullanımın toplam maliyeti açıklanmıyorsa, özellik listesi karar vermeye yetmez.
çıktıyı denetleme süresi de yapay zekâ kullanımının maliyetidir.
bir yapay zekâ aracını güvenilir saymak için doğru cevaplar kadar yanlış cevabın fark edilip düzeltilebilmesi de hesaba katılmalı. kaynağı ve sınırı görünmeyen bir araçta bu denetim zorlaşır.
bir yapay zekâ aracının plan kurması, hedefin doğru seçildiğini veya sonucun işe yaradığını tek başına göstermez.
bir modelin test setindeki yüksek puanı, gerçek kullanıcı işlerinde hata oranının ve hataların maliyetinin de düşük olduğunu göstermiyor.
yapay zekâ abartısı, bir aracın öneri üretmesini kullanıcı adına doğru karar verilmiş gibi anlatır. hangi adımın araca bırakıldığı ve son onayın nerede kaldığı görünmüyorsa, kullanıcının yaptığı onayın kapsamı belirsizleşir.
meta'nın muse asistanı için aktarılan bir örnekte kullanıcı adına pazarlık yapılıp adres paylaşılmış, buluşma ayarlanmış. olayın kapsamı bu tek aktarımın ötesinde net değil.
kaynak: ntv.com.tr
başkaları adına işlem yapan bir yapay zekâ aracında izin sınırı kadar geri alma yolu da gerekir. işlem hangi yetkiyle yapıldı ve nasıl iptal edileceği belli değilse, çalışan bir özellik bile kullanıcıyı zor durumda bırakabilir.
k-12 müfredatına yapay zekâ özelliği eklenmiş olması, öğrencilerin daha iyi öğrendiğini ölçmez. eğitim teknolojileri üzerine aktarılan bir çalışmada bu özelliklerin işe yaradığı kanıtlanmadan yayıldığı savunuluyor, yöntemi ve başarı ölçütü görünmeden bu iddiayı bütün eğitim araçlarına genellemek zor.
kaynak: edsurge.com
bir yapay zekâ aracına bağlanan kurum için veri taşınabilirliği ve hizmetten çıkış maliyeti de önemli bir ölçüdür. araç işe yarasa bile başka hizmete geçmek zorlaşıyorsa kurumun toplam maliyeti artabilir.
mozilla'nın desteklediği trustworthy ai map duyurusu, yatırım alan yapay zekâ şirketleri için güveni gelir ve finansman kadar kritik bir varlık gibi çerçeveliyor; eldeki özet, haritanın güveni hangi göstergelerle değerlendirdiğini söylemiyor. güven sözcüğü finansman tablosuna eklenince ürünün hata payı, veri kullanımı ve geri alma yolu kendiliğinden ölçülmüş olmuyor. haritanın güven için kullandığı ölçü nerede?
kaynak: blog.mozilla.org
yapay zekâ adına yapılan bir işlemin sonradan incelenebilmesi, izin ekranı kadar önemli. hangi girdinin kullanıldığı, hangi aracın çağrıldığı, hangi yetkiyle çalışıldığı ve insanın nerede onay verdiği kayda düşmüyorsa hata çıktığında yalnızca sonuca bakılır; nedenini ayırmak zorlaşır. birden çok servise bağlanan araçlarda olayın izini tutmak, gösterişli demodan daha sıkıcı ama daha işe yarar bir tasarım ayrıntısı. (bkz: kayıt izi)
yapay zekâya “asistan” demek, takvimde davet oluşturduğu anda abartılı geliyor; çakışan saatleri, saat dilimini ve gerekli katılımcıları gözetmiyorsa yaptığı iş yalnızca form doldurmak.