Dünyayı Robotlardan Önce Algoritmalar mı Yönetecek?

Yeni teknolojilerin gelişimi ile birlikte, bilginin ve verinin üretimi, işlenmesi ve kullanılabilir hale getirilmesi sürecinde artık algoritmalar gündemde. Amazon, X ve Google gibi büyük teknoloji

şirketleri bilgi akışını yönlendirmek, bilgi içeriğini yapılandırmak, ürün reklamlarını stratejik olarak

yerleştirmek ve tüm bunları gelecekteki teknolojik süreçleri tahmin etmek için algoritmik işlemler ön plana çıkıyor.

Bir problemin çözümü için gerekli girdilerin nasıl elde edileceğini, nasıl işleneceğini ve bu girdilerden

nasıl çıktı alınacağına yönelik tanımlanan algoritmalar ile ilgili iki temel tartışma konusu bulunuyor.

Bunlardan ilki ‘algoritmaların tarafsızlığı ve nesnelliği’ , diğeri ise ‘algoritmik sistemlerin sorumluluğu. Akademisyenler ve alan uzmanlarına göre bu tür algoritmalar ne tarafsız ne de nesneldir; potansiyel olarak bilinçli veya bilinçsiz ayrımcılığa ve önyargıya yol açan seçimlerin, sınıflandırmaların, öznel

yorumların ve kararların sonucudur. Buradan çıkacak sonuç, tüm bunlar çok farklı yönlendirmeler için kullanılabilir.

Algoritmik Hesap Verebilirlik Mümkün Mü?

İnsanların eylemleri ve deneyimleri giderek daha fazla algoritmik süreçler tarafından tanımlanıyor ve algoritmik sistemler bu işlemlere aracılık ediyor. Bu sebeple, ‘algoritmik sistemlerin sorumlu

tutulmasının’nın yollarının bulunması da büyük önem taşıyor. Bununla birlikte, şeffaflığı artıran ve

çevrimiçi aracıların otomatik karar verme prosedürlerini sorumlu kılan, ‘algoritmik hesap verebilirliği’ sağlamak birkaç nedenden dolayı zor bir girişim olarak değerlendiriliyor. Bunların başında ise ‘gizlilik sorunu’ geliyor. Algoritmik formüllere ilişkin yapılacak detaylı açıklamaların, kötü niyetli kullanıcılar ve rekabet açısından olumsuz sonuçlar doğurabileceği düşünülüyor. Dolayısıyla insanların yerine karar alan sistemlerin kontrolü konusu büyük önem taşıyor. Bir sistemin tercihlerinizi belli verilere ve sürece dayalı olarak da olsa otomatik olarak karşınıza çıkarması pek çok alanda kararlarımızın kontrol altında tutulabileceği ve bilinçli yönlendirmelerin olanaklı olabileceğini gösteriyor. Bu nedenle bunların kontrolü meselesinin esas önemi hangi amaçlarla kullanılabileceği sorusundan

kaynaklanıyor.

‘Hesap Verebilirlik’ Algoritmik Sistem Tasarımının İlk Aşamasından İtibaren Düşünülmeli

Algoritmaların iyileştirilmesi, hesap verebilir ve şeffaf süreçlerin sağlanması ve algoritmaların yönetimi için kontrol mekanizmalarına odaklanılması büyük önem taşıyor. Bu tür yapay zeka

teknolojilerinin gelişmesi elbette çok önemli ve desteklenmeli. Her şeyden önce tüm kaynakların etkin kullanımını sağlayacak, insanın yaşam kalitesini artıracak olanaklar sağlıyor. Bununla birlikte kontrol edilmez, gerekli düzenlemeler yapılmazsa bir o kadar da risk içeriyor. Bu noktada Dünyayı robotlardan önce algoritmaların yöneteceği olasılığını hiç de yabana atmamak lazım.