Haliç Kongre Merkezi'nde düzenlenen zirvede, TRT World spikerlerinden Ömer Kablan'ın moderasyonunda yapılan oturuma, Parsons Tasarım Okulunda Doçent olarak görev yapan David Carroll çevrim içi olarak katıldı.

Kablan, açılışta yaptığı konuşmada, algoritmaların hayatın her yerinde olduğunu belirterek "Farkında olmayabiliriz ancak bugün yaşadığımız dünyayı ve kararlarımızı şekillendiriyor." dedi.

Carroll da algoritmaların bilgiyi bir işleve çeviren programlar olduğunu söyleyerek algoritmaların verdiği bazı kararların insanlarca algılanamayan ölçüde olduğuna işaret etti.

Algoritmanın "düşman" olmadığını çünkü insanlar tarafından tasarlandığını vurgulayan Carroll, şöyle devam etti:

"Algoritmik adalet' ya da 'hesap verilebilirlik' diye bir kavramı garanti altına alacak mekanizma gelişmedikçe algoritmaların bizi istismar etmeyeceğinin garantisi yok. Bu makineler giderek kamu düzenini belirleyecekse, algoritmaları sorumlu tutan yapı ne olacak? Şiddet ve yıkımdan kim sorumlu olacak? Algoritmanın sahibi şirketler mi, onu geliştiren mühendis mi? Bunlar önemli sorular."

Kimin nasıl sorumlu olacağının belirlenmesi gerektiğinin altını çizen Carroll, algoritmanın şeffaf olması gerektiğini kaydetti.

Cambridge Analytica gibi şirketlerin verileri kullanması gibi olaylarla algoritmanın şeffaflık sorununun gün yüzüne çıktığına işaret eden Carroll, "Eğer bilgiler korunamıyorsa, algoritmanın özgür düşüncemize müdahalesinin de önüne geçemeyiz." değerlendirmesinde bulundu.

Carroll, Cambridge Analytica olayının insan haklarını korumaya yönelik düzenlemeler için bir fırsat olduğunu ancak bu konuda bir sonuca ulaşılamadığını söyledi.

"Reklam verenlerin müşteriye ulaşmak için başka alternatifi yok"

Carroll, kullanıcı bilgilerinin işlendiği ve paraya dönüştürüldüğü ücretsiz sosyal medya platformlarında amacın, kişisel veriler ve kullanıcıların tükettiği bilgiler olduğunu ifade etti.

Ancak bu platformlarda müşterinin kullanıcılar değil buradan gelecek bilgilere muhtaç olan reklam verenler olduğunu vurgulayan Carroll, "Reklam verenlerin bu platformları görevi kötüye kullandıkları gerekçesiyle boykot etme girişimlerini gördük ancak bu boykotlar işe yaramıyor çünkü piyasada müşteriye ulaşmak için başka alternatifler yok. Biz kullanıcıların ürün olduğunu söyleyebiliriz. Ancak gerçek müşterilerin fazla bir seçeneği olmadığı da bir gerçek." diye konuştu.

Algoritmaların insanlara yaptığı önerilerin insan yaratıcılığını ve merakını törpülediğine dikkati çeken Carroll, "Cevapları bulma yeteneğimiz köreliyor çünkü algoritmalar bize cevabı, gelişen bir hızda sunuyor. Ayrıca estetik alanında eserler, metinler ve resimler oluşturmaya başlıyor. Yaratıcılık ve insan gücü arasındaki ilişkinin yeniden şekilleneceği bir döneme giriyoruz." ifadesini kullandı.

Carroll, bunların hepsinin olumsuz olmadığını, otoriter rejimlerde algoritmanın toplumu kontrol amacı için kullanıldığını belirtti.

"İnternetten para kazanmanın en karlı yolu 'zehirli çöp' üretmek"

Yalan haberin üretimine buradan kazanılan para ve algoritmanın katkıda bulunduğunu söyleyen Carroll, şöyle devam etti:

"İnternetten para kazanmanın en karlı yolu, ‘zehirli çöp’ üretmek. Dolayısıyla nevi politik olmayan ancak internette gereksiz haberler üretmek son derece kazançlı olduğu için sistemi sömürmeyi başaran birçok aktör var. Facebook ve Google gibi şirketler, para kazanmaya izin veriyor. Aslında Francis Haugen tarafından yayımlanan bazı Facebook belgelerinde, şirket çalışanları Facebook’u en iyi kullanmanın yolunun ‘tıklama çiftlikleri’ oluşturmak ve bir nevi trol olmak olduğunu anlatıyor."

Sosyal medya uygulamalarının insanlara eylemlerine göre reklam göstermesine de değinen Carroll, “İnsanlar kullandıkları aletlerin mikrofonları aracılığıyla dinlendiklerini ve buna göre reklamlar gördüğünü düşünüyor. Ancak buna gerek yok çünkü bizim hakkımızda yeterli bilgiye sahipler. Sürekli de toplamaya devam ediyorlar. Bizim aklımızı okuduklarını düşünüyoruz ama bu tamamen bizi doğru biçimde takip etmeleriyle alakalı.” ifadesini kullandı.

Algoritmanın sonsuz sayıda boyutlu değerlendirme yapabilirken insan beyninin yalnızca 3-4 boyutlu düşünebildiğini kaydeden Carroll, “Algoritma, bir resim yapar ve bu bize tanıdık gelebilir, bir insan tasarlar ve bize gerçek birisi gibi gelebilir. Beynimiz, algoritmanın sonuçlarını değerlendiremeyebilir. Bu nedenle algoritmayı beynimizin işleyebileceği ölçüde tercüme edecek bir mekanizma gerekiyor. Bu da şeffaflığın önemli ayaklarından biri olacaktır." değerlendirmesinde bulundu.

Carroll, insanların fotoğraf-görüntü paylaşımları ve konum paylaşımıyla dijital ayak izi bıraktığını ancak AB ve bazı ABD eyaletlerindeki yasalara göre bu verilerin hala kontrolü paylaşan kişilerde olan veriler olduğunu, dolaşımının kişilerin isteğine bağlı olarak gerçekleştiğini söyledi.

Tüketici tercihlerinin algoritma sisteminin etkilemek istediği öncelikli alanlardan biri olduğunu belirten Carroll, şunları kaydetti:

"Algoritmalar, birçok alanda birçok farklı amaçla kullanılıyor. Ancak algoritmalar davranışları belirliyor ve birçok insan bunun farkında bile değil. Sosyal medya kullanan herkes algoritmanın etkisini hissedebilir. Bir paylaşımınız viral olduğunda gelen bildirimler, bizi ona platforma bağımlı yapabilir. Birçok insan da algoritmanın sağladığı bu his nedeniyle sosyal medya bağımlısı oluyor."