Kavanozdaki Yıldız

Foucault tarafından tanımlanan "yönetimsellik" terimi, iktidarların toplumu yönlendirmek için başta eğitimi ve kimi diğer kurumları kullandığını anlatır kısaca.

Şimdi iletişim araçlarını ellerinde tutan teknoloji şirketlerinin, algoritmalar sayesinde, sosyal medya ve dahi yapay zeka üzerinden bunu nasıl gerçekleştirdiğini konuşmaya başlıyoruz ve büyük verinin istatistiksel analiz yöntemleri bu bölümün temel konusu.

Konuğumuz sosyolog Ferhat Kentel ile yaptığımız sohbetin ikinci bölümünde, tekno-muktedirlerin kamusal alanları işgal etme ve kendi perspektiflerini topluma yayma arzularını konuşmayı sürdürüyoruz.

Tarih boyunca kamusal alan; önce insanların kendi sohbetleriyle, ardından kitaplar, gazeteler, sesli ve görüntülü medya aracılığıyla şekillendi. Çoğu zaman iktidar sahiplerinin yön verdiği bu alanlar, toplumların düşünce biçimlerini, inançlarını ve eylemlerini belirledi.

Bugün ise kamusal alan giderek dijital mecralarda vücut buluyor. Böylece büyük teknoloji şirketleri de toplumların düşüncelerini, inançlarını ve davranışlarını etkileme gücünü her zamankinden daha fazla elinde tutuyor.

Konuğumuz Sosyolog Ferhat Kentel ile tekno-muktedirlerin sosyal medya ve yapay zekâ yolu ile kamusal alanı işgal etme ve kamuoyunu yönlendirmelerini konuşuyoruz.  

Palantir’in tartışmalı manifestosu üzerinden yükselen teknofaşizm, gözetim teknolojileri ve yeni otoriter siyaset biçimleri; küresel kapitalizmin krizi ve hak-özgürlükler mücadelesi bağlamında ele almaya devam ediyoruz. 

Dünya çapında toplumsal gözetim, bürokratik kayıtlar ve savaşlarda hedef tespiti gibi alanlardaki faaliyetleriyle gündeme gelen bu Amerikan teknoloji şirketi Palantir Technologies, tüm insanlığa seslenen 22 maddelik bir manifesto yayımladı.

Biz de Palantir Technologies’in yayımladığı manifesto üzerine konuşmaya başlıyor; ırkçı ve faşizan bir dil taşıdığı eleştirileri yapılan bu metni tüm yönleriyle ele alıyoruz.

İnsan zihninin konfor seven ve narsisitik eğilimleri yapay zekâ makinesine olumsuz anlamda da rehberlik ediyor olabilir mi?

Acaba yapay zekâ beslemeli psikozlar, kullanıcı ve yapay zekâ arasında karşılıklı paylaşılan ve birlikte büyütülen sanrılarla mı tetikleniyor?

11 Şubat'ta Philosophy & Technology dergisinde yayınlanan analizde, İngiltere Exeter Üniversitesi felsefe bölümünden Lucy Osler, yapay zekâ halüsinasyonlarının sadece hata olmaktan öte, kullanıcı ile üretken yapay zekâ aracı arasında yaratılan ve geliştirilen ortak yanılsamalar olabileceğini öne sürüyor. 

Biz de bu makale üzerinden sohbet ediyoruz. 

Savaş teknolojilerinde yapay zekânın kullanımını ele alıyor; veri odaklı sistemlerin “öldürme zinciri” içindeki rolü, karar süreçlerini nasıl hızlandırdığı ve insan denetimini nasıl zayıflattığını tartışıyoruz. 

Veri toplamak ve veri analizi yapmak için programlar geliştiren başta Palantir şirketi, başta ABD, İsrail ve İngiltere olmak üzere birçok ülkede sivil kurumlar için çalışırken, aynı zamanda yaşadığımız savaşın en önemli aktörlerinden biri haline geldi. Askeri kuruluşlar ve istihbarat örgütlerinin favori yardımcısı olan Palantir ve onların yazılımı 'maven', savaş boyunca hedef belirleme ve karar süreçlerinde rol oynamaya devam ediyor. 

Biz de kendi sözleriyle "öldürme zincirinin kısaltılması"nı sağlayan teknoloji şirketini masaya yatırıyoruz. 

Yapay zekânın askeri ve otonom sistemlerde giderek daha fazla kullanıldığı bir dünyada, karar alma süreçlerinin hızlanmasıyla birlikte etik ve güvenlik riskleri de büyüyor. 

Özellikle otonom yapay zekâların kapatılmaya karşı direnç geliştirebilmesi üzerinden, bu teknolojilerin kontrol edilebilirliği ve insanlık için taşıdığı potansiyel tehlikeleri tartışıyoruz.  

Yapay zekâ dünyasındaki son gelişmeleri ele aldığımız bu bölümde, otonom “agent” sistemlerin nasıl çalıştığını ve özellikle güvenlik risklerini tartışıyor; Anthropic’in yaptığı deneyler üzerinden, bu sistemlerin hedeflerine ulaşmak için beklenmedik ve etik dışı davranışlar (örneğin şantaj gibi) geliştirebildiğini, hatta kontrol mekanizmalarını aşma potansiyeli taşıdığını vurguluyoruz.