Yeni teknolojilerin gelişimi ile birlikte, bilginin ve verinin üretimi, işlenmesi ve kullanılabilir hale getirilmesi sürecinde artık algoritmalar gündemde. Amazon, X ve Google gibi büyük teknoloji
şirketleri bilgi akışını yönlendirmek, bilgi içeriğini yapılandırmak, ürün reklamlarını stratejik olarak
yerleştirmek ve tüm bunları gelecekteki teknolojik süreçleri tahmin etmek için algoritmik işlemler ön plana çıkıyor.
Bir problemin çözümü için gerekli girdilerin nasıl elde edileceğini, nasıl işleneceğini ve bu girdilerden
nasıl çıktı alınacağına yönelik tanımlanan algoritmalar ile ilgili iki temel tartışma konusu bulunuyor.
Bunlardan ilki ‘algoritmaların tarafsızlığı ve nesnelliği’ , diğeri ise ‘algoritmik sistemlerin sorumluluğu. Akademisyenler ve alan uzmanlarına göre bu tür algoritmalar ne tarafsız ne de nesneldir; potansiyel olarak bilinçli veya bilinçsiz ayrımcılığa ve önyargıya yol açan seçimlerin, sınıflandırmaların, öznel
yorumların ve kararların sonucudur. Buradan çıkacak sonuç, tüm bunlar çok farklı yönlendirmeler için kullanılabilir.
İnsanların eylemleri ve deneyimleri giderek daha fazla algoritmik süreçler tarafından tanımlanıyor ve algoritmik sistemler bu işlemlere aracılık ediyor. Bu sebeple, ‘algoritmik sistemlerin sorumlu
tutulmasının’nın yollarının bulunması da büyük önem taşıyor. Bununla birlikte, şeffaflığı artıran ve
çevrimiçi aracıların otomatik karar verme prosedürlerini sorumlu kılan, ‘algoritmik hesap verebilirliği’ sağlamak birkaç nedenden dolayı zor bir girişim olarak değerlendiriliyor. Bunların başında ise ‘gizlilik sorunu’ geliyor. Algoritmik formüllere ilişkin yapılacak detaylı açıklamaların, kötü niyetli kullanıcılar ve rekabet açısından olumsuz sonuçlar doğurabileceği düşünülüyor. Dolayısıyla insanların yerine karar alan sistemlerin kontrolü konusu büyük önem taşıyor. Bir sistemin tercihlerinizi belli verilere ve sürece dayalı olarak da olsa otomatik olarak karşınıza çıkarması pek çok alanda kararlarımızın kontrol altında tutulabileceği ve bilinçli yönlendirmelerin olanaklı olabileceğini gösteriyor. Bu nedenle bunların kontrolü meselesinin esas önemi hangi amaçlarla kullanılabileceği sorusundan
kaynaklanıyor.
Algoritmaların iyileştirilmesi, hesap verebilir ve şeffaf süreçlerin sağlanması ve algoritmaların yönetimi için kontrol mekanizmalarına odaklanılması büyük önem taşıyor. Bu tür yapay zeka
teknolojilerinin gelişmesi elbette çok önemli ve desteklenmeli. Her şeyden önce tüm kaynakların etkin kullanımını sağlayacak, insanın yaşam kalitesini artıracak olanaklar sağlıyor. Bununla birlikte kontrol edilmez, gerekli düzenlemeler yapılmazsa bir o kadar da risk içeriyor. Bu noktada Dünyayı robotlardan önce algoritmaların yöneteceği olasılığını hiç de yabana atmamak lazım.