YAPAY ZEKANIN HANGİ YÖNE EVRİLECEĞİ KESTİRİLEMİYOR. GİDİŞAT KONTROL ALTINA ALINMAZSA DEMOKRASİ VE BİREYSEL HAKLAR BALTALANABİLİR.

Daron Acemoğlu 2021’de yayınlanan“Redesigning AI: Work, Democracy, and Justice in the Age of Automation: Yapay Zekayı Yeniden Tasarlamak: Otomasyon Çağında İş, Demokrasi ve Adalet”başlıklı Türkçe’ye de çevrilen yeni kitabında yapay zekanın gelişimi hakkıda düşüncelerini ve kaygılarını konu uzmanları ile yazılı forum şeklinde tartışmaya açmış ve forum yanıtlarını okuyucuları ile paylaşmıştır.

Bu yazıda, içeriğine tamamen katıldığım kitap hakkında, kişisel görüşlerimi de ekleyerek, kısa bir özet vermeye çalışacağım..

Acemoğlu okuyucuyu rahatlatmak için sonradan söyleyeceğini önceden söyleyerek özetle şu saptamayı yapmıştır:

“Yapay zeka (AI: Artificial Intelligence) muhtemelen insanları gereksiz hale getirmeyecektir. Yakın zamanda da bir süper zeka yaratmayacaktır. Ancak, yapay zekanın gelişim yönü önceden belirlenememektedir. Kontrol edilmesi şarttır.”

Yapay zeka teknolojileri ve akıllı sistemler, önümüzdeki 20 yıl içinde tıpta, ulaşımda, dil, iletişim ve görme alanında, eğlence sektöründe devrim yaparak meslekleri ve piyasaları dönüştürerek, pek çok yeni ürün ve aracı devreye sokacaktır.

Ancak, yapay zeka teknolojilerinin mevcut kontrolsuz gidişine izin verilirse, en az iki sebeple toplumsal karışıklıklar yaratması muhtemeldir.

Bazı işlerin aşırı otomasyonuna yol açarak, istihdam ve verimliliğe yapılacak yatırımların azalmasına sebep olacaktır.

İnsana yatırım yapımadığında da beklenen verimlilik artışı da sağlanamayacak ve uygulanan teknolojiye güven azalacaktır.

Özellikle hizmetler sektöründe ve sanayide rutin ve çok tekrarlı işlerde, lise ve altı eğitimlilerin işlerini kaybetmelerine, ya da daha düşük ücretle çalışmalarına yol açılacaktır.

Diğer taraftan, sosyal medya ve diğer mecralarda yapay zeka destekli algoritmalar kanalıyla kişiler hakkında derlenen özel bilgilerin kötüye kullanımı söz konusu olacaktır.

Yapay zeka kontrollü sosyal medya, siyasi iletişim ve tartışmaları yönlendirebilmekte kişiye özel mesaj ve reklamlarla kullanıcılar istenilen yönde etkileyebilmektedir.

Bu nedenle yapay zekanın gidişatından endişelenmek için ciddi sebepler vardır.

Cambridge Analytica skandalı bu tehlikelere bir örnektir.

Bu şirket 2014 yılında toplamaya başladığı yaklaşık 270 000 facebook kullanıcsının paylaştığı verilerden yararlanarak yapay zeka algoritmaları yardımıyla 50 milyon civarında kişinin özel bilgilerini elde etmiştir.

Daha sonra da bu bilgiler, Brexit referandumunda ve ABD Başkanlık seçiminde kişiye özel ve amaca yönelik siyasi reklamlar tasarlamalk için kullanılmıştır.

Yapay zeka destekli sosyal medya yanlış bilgilerin yayılmasını kolaylaştırarak kutuplaşmayı, kişilere ve kurumlara karşı siyasi kini artırmaktadır.

Toplumsal fay çatlaklarını büyütmektedir.

Yapay zekayı kimler kontrol etmektedir?

Görünüşte yapay zeka araştırmalarını tek başına kimse kontrol etmemektedir.

Teknolojik gelişimin yönünü belirleyecek herhangi bir uluslararüstü bir örgütlenme de yoktur.

Gerçekte ise, değişimin yönünü büyük teknolji şirketleri belirlemektedir.

Yapay zeka destekli “patron yazılımları” ile göz izleme, tuş kaydı, konum izleme ve diğer otomasyon yöntemleri ile çalışanları göz hapsine alınabilmektedır.

Yapay zekanın endişe verici diğer kullanımları ise; işe alımda, kredi taleplerinin değerlendirilmesinde,fiyatlama ve benzeri birçok alanda kişiselleştirmelerin söz konusu olabilmesidir.

Yapay zeka destekli yüz tanıma yazılımları ırk, cinsiyet ve hatta cinsel eğilim belirlemede ve göçmenlerin izlenmesi ve sınırdışı edilmesinde bazı ülkelerde kolluk kuvvetleri tarafından yasal olmayan bir şekilde kullanılabilmektedir.

Diğer taraftan casus yazılımlarla muhalifler, gazeteciler izlenebilmekte ve pek çok özel ya da kamusal sistemlere yetkisiz olarak sızılabilmektedir.

Örneğin, NSO Group ’un (İsrail) Pegasus yazılımı ile Amazon teknoloji şirketinin kurucusu ve sahibi Jeff Bezos’un telefonu hacklenebilmiştir.

İtalyan Hacking Team şirketinin geliştirdiği Da Vinci ve Galileo platformları gibi casus yazılımlar ile binlerce kilometre uzaktaki kişilerin şifrelerini kırılarak verilerine müdahale edilebilmekte, özel iletişimleri izleyebilmektedir

Bu tip programların el altından ticarileştirilmektedir.

Benzer algoritmek karar alma süreçlerinde bilinçli ya da sistem kaynaklı ayrımcılık durumları da endişelere yol açmaktadır.

Daron Acemoğlu gibi bu tehlikeli gelişmelere dikkat çekenlerden biri de Elon Musk’dır.

Elon Musk, davetli konuşacı olduğu National Governors Association 2017 Summer Meeting toplantısında yaptığı konuşmada:

Hükümetler yapay zeka konusuna el atmalıdır. Büyük şirketler pazarda liderlik ve öncülük gibi hedefler uğruna riskleri yeteri kadar kontrol etmeksizin bir yarış içerisindedir. Hükümetlerin burada devreye girerek “herkes çalışmalarına bir ara versin ve yapılanların güvenli olup olmadığını kontrol etsin” demesi gerekiyor.

Musk'ın asıl büyük çekincesi ise, ağda yaşayan bir yapay zekanın insanlığa verebileceği zararlarla ilgilidir. Bu konudaki uyarısı"Ağda yaşayan bir yapay zeka, sahte haberler yaparak, e-mailleri taklit ederek, sahte basın bültenleri yayınlayarak yani sadece 'bilgi' manipüle ederek gerçek bir savaş başlatabilir." Şeklindedir.

Konunun bazı uzmanları Musk’ı bilgisizlik ve sorumsuz açıklama yapmakla suçlamışlardır.

Oysa Elon Musk kurduğu Neuralink şirketi ile, bir taraftan Parkinson ve Alzheimer gibi nörolojik rahatsızlıklara çözüm aramakta, diğer taraftan da bilgisayarlara yüklenen yazılımlar gibi insan beynine doğrudan bilgi yüklenerek insanları en az yapay zeka sistemleri kadar zeki hale getirmeye çalışan bilimsel çalışmaları finanse etmektedir.

Aslında bu tip çalışmalar da masum değildir.

Yapay zeka konusunda en önemli sorunlardan biri de, yapay zeka uygulama ve araştırmalarının tamamen algoritmik otomasyona odaklı olarak, Google (Alphabet),

Meta (Facebook), Amazon, Microsoft, Netflix, Ali Baba ve Baidu gibi bir avuç teknoloji şirketin elinde taplanması ve onlar tarafından finanse edilmesidir.

Bu dev teknoloji şirketleri yanında devlet araştırma harcamaları çok sönük kalmaktadır.

Akademik araştırmaları yönünü de bu teknoloji şirketleri belirlemektedir.

Bu şirketlerin karizmatik CEO’ları kurumlar üzerindeki güçlerini kullanarak ciddi söz sahibi olabilmektedir.

Genç startuplar, filiz şirketler ve başarılı üniversite mezunları ve stajyer öğrenciler bu devlerle çalışmayı tercih etmektedir.

Yapay zekada endişe verici eğilimlerden biri de akademi dünyasından teknoloji şirketlerine olan beyin göçüdür.

Kuzey Amerika’da yapay zeka alanında doktora yapanlardan teknoloji şirketleri ve endüstriye geçenlerin oranı 2010 yılında %44,4 iken, bu oran 2019’da %65 olmuştur..

En önemlisi de gelişmelerin uluslararası boyutta kontrol altına alınabilmesinin güçlüğüdür.

Diyelim ki bir ülkede yapay zekanın yanlış gelişimine karşı toplumsal bir bilinç geliştirilerek demokrasi ve kişisel haklara vereceği zarar kontrol altına alınabildi . Aynı kontrol, diğer ülkelerde nasıl sağlanabilecektir?

Acemoğlu’nun bu kitabında ısrarla vurguladığı gibi yapay zekanın tehlikeli yönlere evrimesini önlemek için uluslararası koordinasyon şarttır.

Yapay zeka bize hükmetmeden bizim ona hükmetmeyi öğrenmemiz yirmi birinci yüzyılın en önemli görevlerinden biridir.

Küresel iklim değişikliğini önleme olduğu gibi, yapay zekanın kontrolü ve yönlendirilmesinde de Birleşmiş Milletler Örgütü kapsamında küresel bir işbirliğine acilen ihtiyaç vardır. 20.07.2022.

Prof.Dr.Yusuf Zeren

Kaynak:

Daron Acemoğlu,2022. Yapay Zekayı Yeniden Tasarlamak: Otomasyon Çağında İş, Demokrasi ve Adalet.