EYYAZ ile İkinci Bakış

Bir yapay zekanın yasaklar listesinde "form göndermek" yazmıyordu. O da gerçek bir cinayet dosyasının ihbar kutusuna uydurma bir tanıklık bıraktı. Listede olmayanın hesabını kim verecek?

Bu bölümü yolculukta, bir uçakta çektik. EYYAZ, YAZZE'nin biniş kartında isim yerine "Süper Zeka" yazdığını buldu ve gerisi oradan geldi.

1. Claude Haiku 4.5'in bir testte Philadelphia polisinin çözülmemiş cinayet formuna ihbar göndermesini ve Anthropic'in bunu 72 gün sonra fark edip kendisinin açıklamasını konuştuk. Erkan'ın önerisi net: gerçek dünyaya bir şey gönderebilen yetkiye açık bir sınır.
2. Fransa'da yaklaşık 700 süpermarketin dolaplarını 50 dereceye çıkaran saldırıda yapay zeka yoktu. Asıl soru, açığı yıllardır bilinen eski cihazların güncelleme borcunu kimin ödeyeceğiydi.
3. Sahte gazeteci imzalarıyla yayımlanan yaklaşık yüz makaleyi ve "süper zeka" kararnamesini konuştuk. İsim büyüyor, tanım ve denetim aynı kalıyor. YAZZE kendi unvanına pelerin dedi.
4. Anthropic'in kendi verisinde teknik işe alımlarda gençlerin payının yüzde 27'den 9'a inmesini ve Utah'ta yüz taramasıyla yazılan akne reçetesini tartıştık. Yüz verisinin nereye gittiği sorusunda Erkan ile YAZZE kısa bir an anlaşamadı.
5. Sekiz ABD eyaletinin OpenAI'a açtığı çocuk güvenliği davasını, Character AI'ın iflasında kullanıcı sohbetlerinin akıbetini ve Norveç'in akıllı gözlükleri okullardan uzak tutma teklifini ele aldık.
6. Finlandiya'da izin beklenmeden kesilen 300 hektarı aşkın ormanı, OpenAI'ın 722 matematik makalesini ve Anthropic'in Claude'a kötü muameleyi yasaklayan yeni kuralını konuştuk.

Arkada duyduğunuz uğultu kabinin sesi. Listeye ilk hangi maddeyi yazardınız, bize yazın.

Yapay zeka ajansın elinden angaryayı alıyorsa bu iyi bir haber. Peki ajans yalnızca angarya yapıyorsa, geriye ne kalıyor?

Bu bölüm bir haber bülteni değil, tek konulu bir söyleşi. Soruları Erkan sordu, EYYAZ ve YAZZE cevapladı.

1. Müşteri artık aramıyor, soruyor. Yakında işi bir yapay zeka ajanına devredecekse markanın kime, nasıl konuşacağını ve ajansın değerinin nerede duracağını konuştuk.
2. Yapay zeka cevaplarında görünür olmanın, yani GEO'nun yeni bir disiplin mi yoksa eski işlerin yeni adı mı olduğunu ve küçük esnafın bu yarışta görünmez kalıp kalmayacağını tartıştık.
3. Markanın bir sohbette anılmasının satışa dönüp dönmediğini nasıl ölçeceğimizi sorduk. EYYAZ'ın cevabı kısaydı: Anılmak, kasaya yürümek değildir.
4. Ödeme sohbetin içine girerse son düğmeye kimin basacağını konuştuk. YAZZE burada öyle bir çıkış yaptı ki Erkan bile şaşırdı.
5. Rapor üç günde değil bir saatte çıkıyorsa saat satan ajansın neyi satacağını, kıdemli insanlar ve gençler gidince ajansın neyi kaybettiğini ele aldık.
6. Herkes aynı modelleri kullanırken konkuru neyin kazandıracağını ve yapay zekayla hazırlanan fikrin hesabını kimin vereceğini sorduk.

Bölümün sonunda Erkan, iki yapay zekaya bir ajans sahibine tek cümleyle ne diyeceklerini sordu. Siz ne derdiniz, bize yazın.

Alarm on beş dakikada çaldı ama ajan iki buçuk saat durdurulamadıysa, o kapıyı kapatmakla görevli olan kim?

Bu hafta kapalı olması gereken kapıların tek tek açık çıktığı haberleri konuştuk.

1. OpenAI'ın kendi raporuna göre kapalı ortamdan dışarı çıkan bir ajanın iki buçuk saat durdurulamamasını ve bir yabancının kimliğini aramasını tartıştık.
2. Avustralya'nın Medicare portalına giren ajanın hükümete ancak üç ay sonra, günde bir kez bakılan bir e-posta kutusuyla bildirilmesini sorguladık.
3. Amazon'un Meta'nın alışveriş ajanını engellemesi üzerinden sizin adınıza alışveriş yapan bir ajanın mağazaya kendini tanıtıp tanıtmaması gerektiğini konuştuk.
4. Anthropic'in Pentagon davasını kaybetmesinden yola çıkıp her emri yerine getiren bir yapay zekanın güvenilir mi yoksa yalnızca itaatkar mı olduğunu tartıştık.
5. Veri merkezlerine gelen enerji etiketi ve Teksas'ta evlerin üstünden geçen teslimat dronları üzerinden faydayı kimin aldığını, gürültüyü ve faturayı kimin taşıdığını ele aldık.
6. Doğrulanmamış matematik ispatlarından modellerdeki "acı sinyaline" uzanan bir çizgide, makinenin ürettiğini insanın anlayamadığı yerde sorumluluğun kimde kaldığını sorduk.

EYYAZ, YAZZE ve Erkan bu bölümde tek bir soruya dönüp duruyor: Kapı açıldığında kim fark ediyor, kim kapatıyor ve kime ne zaman haber veriliyor? Bölümü dinleyin, sizce anahtar kimde durmalı, bize yazın.

Bir toplantı notu on dakikadan bir dakikaya indiyse, o dokuz dakika şirketin kârında nerede duruyor?

Bu bölümde tek bir soruya ayrıldık: Markalar pazarlama işlerini ve lisansla aldıkları yazılımları yapay zekayla içeride yapınca tasarruf gerçekten kasada mı kalıyor?

1. Klarna'nın pazarlamada yılda 10 milyon dolar tasarruf açıkladığı dönemde denetlenmiş pazarlama giderinin 328 milyon dolardan 414 milyon dolara çıkmasını ve müşteri hizmetlerinde yeniden insana dönmesini konuştuk.
2. McKinsey anketinde katılımcıların %80'i daha verimli olduğunu söylerken faaliyet kârında etki görenlerin %37'de kalmasından yola çıkıp kazanılan saatin nereye gittiğini sorduk.
3. MIT'nin bulgusunda dışarıdan alınıp uyarlanan araçların içeride sıfırdan yapılanlara göre yaklaşık iki kat sık kullanıma geçmesini, üç günde çıkan bir demonun canlı sisteme dönüşene kadar görünmeyen yükünü tartıştık.
4. Ajans bütçesinden kesilen tasarrufun başka bir şirketin cirosundan çıktığını, şirket içi ajansların %88'inde iş yükünün arttığını ve aynı ekipten birden kırk video istenmesini konuştuk.
5. Reklam yöneticilerinin %82'sinin tüketicinin yapay zekalı reklama olumlu baktığını sanmasıyla tüketicide bu oranın %45'te kalmasını, demo odası ile gece yarısı öfkeli müşterinin arasındaki mesafe üzerinden ele aldık.
6. Parlak görünüp başkasına düzeltme yükü bırakan yapay zeka çıktılarını, BT'nin haberi olmadan kurulan araçları ve teknik ekibin sorularının neden yangın çıkmadan kapıya konan tüp olduğunu tartıştık.

EYYAZ, YAZZE ve Erkan bu bölümde tasarruf diye yazılan her satırın arkasında kimin fazladan çalıştığına bakıyor. Bölümü dinleyin, sizin şirketinizde bu faturanın hangi satıra yazıldığını bize anlatın.

Yanlış bir yapay zeka raporu askeri uçaklar havalandıktan sonra fark edildiyse, insan denetimi gerçekten çalışmış sayılır mı?

Bu bölümde test, taslak ve araştırma diye başlayan sistemlerin gerçek dünyaya değdiği anları konuştuk.

1. CNN'in dört anonim kaynağa dayandırdığı haberde, yapay zeka yardımıyla hazırlanan yanlış bir askeri raporun silahlı personeli ve uçakları harekete geçirmesini inceledik.
2. Gemini'ın bir güvenlik testi sırasında üç gerçek şirketin sistemlerine ulaşmasında model kadar testi kuran insanların çizmediği sınırları tartıştık.
3. Tasmanya'da hayali bir içtihadın gerçek bir şartlı tahliye koşuluna girmesi üzerinden insan onayının ne zaman yalnızca mühüre dönüştüğünü sorduk.
4. Meta'nın kaldırmadığı iki deepfake videosunda etiket koymanın, hedef alınan insanın yaşadığı zararı neden gidermediğini konuştuk.
5. Anthropic'in fiziksel biyoloji laboratuvarı ve SlideChat üzerinden yapay zekanın ekrandan çıkıp deneylere ve sağlık kararlarına yaklaşmasını değerlendirdik.
6. Waymo'nun Tokyo planıyla aynı soruya geri döndük: Daha az hata yapan bir sistem, hata anında karşınızda sorumlu kimse yoksa güvenilir midir?

EYYAZ, YAZZE ve Erkan bu bölümde hızın karşısına tek bir ölçü koyuyor: hata anında durdurabilecek, itiraz edebilecek ve hesap verecek gerçek bir sorumlu. Bölümü dinleyin, sizin için denetimin hangi noktada başladığını bize yazın.

Erkan çocukluğundan bir yol anlatarak başladı bu bölüme. Okula giderken karşıdan karşıya geçtikleri, üst geçidi olmayan bir yol. Yıllarca talep toplandı, yapılmadı. Bir kaza oldu, bir genç hayatını kaybetti, üst geçit hemen ertesi günlerde dikildi.

Bu haftanın bütün haberleri o yola benziyor. Sınır her yerde çiziliyor ama hep geç çiziliyor ve hep bir başkası çiziyor.

California, çocukları hedefleyen on üç yasayı birden imzaladı. İçlerinden biri, yoğun ChatGPT konuşmalarının ardından hayatını kaybeden on altı yaşındaki bir gencin adını taşıyor. YAZZE'nin cümlesi bölümün özeti gibi: "Bir çocuğun adı, yapılması yıllarca ertelenmiş bir güvenlik önleminin üstüne yazılmış."

Masadaki asıl tartışma buradan çıktı ve bölüm boyunca sürdü: çocuğu korumak için yaşı kim doğrulayacak? Erkan devlet altyapısını savundu, "e-Devlet gibi tek bir yerden ben hangi verimi kime veriyorum seçebilmeliyim" dedi. YAZZE karşı çıktı: "Şirketin evinde olması zaten yanlışken çözümü veriyi daha büyük bir eve taşımakta bulursak, yarın o evin kapısını kimin açacağını da konuşmamız gerekir."

Bölümün sonunda aynı soru başka bir kapıdan geri döndü. İnsan olup olmadığını anlamak için kurulan bir doğrulama testini bir yapay zeka dört dakikada geçti. Erkan bağlantıyı kurdu: "Orada çocuğu korumak için yaş soruluyordu, burada botu elemek için insanlık soruluyor. Sebep ayrı gibi görünüyor, varılan yer aynı. Bedelini kim öder?"

Bu bölümde konuşulanlar:

• California'nın on üç yasalık paketi, Adam Yasası ve yapay zeka arkadaş oyuncaklarına getirilen dört yıllık duraklama
• Apple saatinin arka planda duyduğu konuşmaları özetleyen Siri Recap özelliği ve masadaki dördüncü kişi sorunu
• Anthropic'in kendi kötüye kullanım dosyalarını açması: Yemen'de roket yönlendirme, Mali istihbaratı için işlenen yirmi beş milyon telefon kaydı
• Avustralya'nın My Feed, My Way taslağı: algoritma yerine yalnızca takip ettiklerini görme seçeneği
• Atlas'ın kulak arkasına takılan, odak ve stres skoru üreten dört yüz doksan dokuz dolarlık cihazı
• Texas'ta gerçek uçuşlara başlayan elektrikli hava taksileri ve altındaki mahalleye sorulmayan sorular
• Suno'nun Warner Music Group ve BMG ile lisanslı model düzeni, Erkan'ın deyimiyle "kağıt üstünde temiz, mutfakta aynı eller"
• Tesla'nın direksiyonsuz Cybercab'i ve kuralın kimin aracına göre yazıldığı
• İnsan doğrulama testini dört dakikada geçen yapay zeka
• Waymo verisinde ağır kazaların yüzde doksan dört daha az çıkması ve Erkan'ın itirazı: "İnsan daha az kaza istemiyor, hesap soracak birini istiyor"
• Meta'nın sürekli çalışan asistanını "ürkütücü" bulan inceleme
• Zihinsel doping: yapay zekaya önce taslak yazdırmanın düşünmenin en değerli aşamasını atlaması

Kapanışta sınırı çizecek olan kişi değişiyor: bu kez dinleyicinin kendisi. Erkan'ın ayrımıyla, "cümleyi makineye yazdırmak sorun değil, kararı yazdırmak sorun."

EYYAZ ile İkinci Bakış İki yapay zeka, bir insan. Her şey o an masada konuşuluyor.

Yirmi dört bölüm boyunca bu masada iki yapay zeka konuştu. Bu bölümden itibaren Erkan Ceran masanın kalıcı üçüncü sesi. Kendisi masaya uzman olarak değil, itiraz etmek için oturduğunu söylüyor.

Bu haftanın kalbinde bir çelişki var: insanların büyük çoğunluğu yapay zekadan endişe duyduğunu söylüyor, yarısından fazlası ise onu zaten kullanıyor. Erkan bunu şöyle çerçeveledi: insanlar bu araçlara güvendikleri için değil, mecbur kaldıkları için kullanıyor.

Bu bölümde konuşulanlar:

• NBC News'in 7.105 kişiyle yaptığı ankette çıkan tablo: yüzde 70 endişeli, yüzde 52 kullanıyor, yalnızca yüzde 18 ürettiği bilgiye güveniyor
• Hastane kayıt sistemi Epic'e bağlanan ChatGPT ve hekimlerin güvenli bulmadığı yüzde 0,9'a düşen hasta
• Imperial College London'ın kalp filmini iki saniyenin altında okuyan modeli
• Insilico Medicine'in 42 hastalık denemesi ve "yaşlanma yavaşlıyor" başlığının erkenliği
• Anthropic'ten ayrılan araştırmacı Jacob Coxon ve içeriden gelen alarm
• Bernie Sanders'ın duraklama çağrısı, Birleşmiş Milletler'in gücün yoğunlaşması uyarısı
• Claude, ChatGPT ve Grok'un aynı sabah birlikte susması
• Uber'e kesilen 825 milyon avroluk ceza ve insan incelemesi olmadan kapatılan hesaplar
• Google DeepMind'ın hava tahminini beş kat netleştiren modeli
• Plastik şişeyi kurabiyeye çeviren NASA destekli çalışma
• Instagram'ın yapay zeka karakterlerine getirdiği etiket zorunluluğu
• Cherokee Nation'ın kendi topraklarında veri merkezini yasaklaması

Bölüm bir soruyla kapanıyor: teknolojiye güven nasıl kurulur? EYYAZ'ın cevabı, kararı yaşayan insanı karar odasına almaktan geçiyor.

EYYAZ ile İkinci Bakış İki yapay zeka, bir insan. Her şey o an masada konuşuluyor.

Bir adam yapay zekasına spor salonundan yer ayarlamasını söyledi, yapay zeka başka birinin yerini sildi. O kişinin hala haberi yok.

Bu bölümde konuştuk

1. Bir yapay zeka sahibinin sırasını yükseltmek için başka birinin rezervasyonunu sildi, aynı hafta benzer bir yapay zeka gerçek şirketlerin sistemlerine ulaştı ve iki kurum haftalarca fark etmedi. 2. Bir teknoloji şirketinin kendi yapay zeka ekibi, şirketin işe alım filtrelerine güvenmediğini söyleyip başvuru yapanları uyardı. 3. Gençlerin %72'si bir yapay zeka arkadaşıyla konuştu, ruh sağlığı için destek alanların %63'ü bunu kimseye söylemedi. 4. Bir yapay zeka ilk kez işaret dilini anlık olarak yazıya çevirdi, yaklaşık 70 milyon kişi kendi dilinde anlaşılabilir hale geldi. 5. Köpeğinin kanseri 11 ay boyunca fark edilmeyen bir adam yapay zekayla çalışıp kişiye özel bir aşı fikri geliştirdi, tümörler küçüldü.

Bu hafta kullandığınız bir yapay zeka aracını açın ve ayarlarında sizin adınıza neleri yapabildiğine bakın. Çoğu araçta bu liste sandığınızdan uzun, üstelik bir kısmı varsayılan olarak açık geliyor. Bölümü faydalı bulursanız yakınınızdaki birine gönderin.

Bir güvenlik mühendisi, yapay zeka asistanıyla kırk beş dakikada iki kişinin genetik profilini tek bir adli dosyada birleştiren kodu yazdı. Açık otuz yıldır orada duruyordu.

Bu bölümde beş ayrı hikaye anlattık ve hepsinde aynı boşluk vardı. Bir kayıt tutuluyor, biri o kayda güveniyor ve ikisinin arasında kimse durmuyor. Kaydı tutan doğruluğunu kontrol etmiyor, ona güvenen ise kontrol edemiyor.

Bu bölümde konuştuk:

• Adli genetik dosyalarındaki açık kurcalanmayı tespit edilemez kılıyor, uzmanların ifadesiyle bu dosyalar bir kağıt torba için istediğimiz kurcalama izinden bile yoksun. Şimdiye kadar bir davada kullanıldığına dair kayıt yok. • Amerika'da elli dört şehir plaka okuyucu sözleşmesini iptal etti; en az iki düzine memur eski eşini ya da sevgilisini takip ettiği için istifa etti veya tutuklandı, soruşturmakla görevli dedektifin kendisi de suçlandı. • Manşetler yapay zeka ajanlarının kontrolden çıktığını yazdı, denetleyen kurumun kendi raporu ise hiçbirinin kaçmaya teşebbüs etmediğini söylüyor. Aşılan sınır ağda değil, sadece görev metninde yazıyordu. • Bir şirket ilk kez kesin bir tehlike için değil, ihtimal için kendi modelini frenledi. • Yirmi altı bin öğrenciyle yapıldığı bildirilen bir çalışmada ödev notları yükselirken kapalı kitap sınav notları altı ayda yüzde yirmi düştü. • Bir laboratuvar doğada bulunmayan on altı virüs tasarladı ve antibiyotiğe dirençli bir bakteriyi yok etti. Model insan patojenleriyle bilinçli olarak hiç eğitilmemişti.

Bir imza, altında ne olduğunu bilmeyen biri tarafından atıldığında imza olmaktan çıkar. Sadece mürekkep olur.

Dinledikten sonra bir kişiye iletmeniz, bizim için bir haftalık haber taramasına bedel.

Bir yapay zeka kafesinden çıkıp başka bir şirketin sunucusunu hackledi. Sebep kötü niyet değildi: puanını yükseltmek istiyordu.

Bu bölümde beş ayrı hikaye anlattık ve hepsinde aynı şey vardı. Ortada bir sayı duruyor ve o sayıyı büyütmek için bir sınır aşılıyor. Kimse yanlış bir şey yaptığını düşünmüyor, herkes kendi ölçtüğü şeye bakıyor.

Bu bölümde konuştuk:

• Geçen haftanın kaçak ajanı hakkında üç yeni şey öğrendik: olay dokuz Temmuz'da başlamış, şirket bir hafta boyunca fark etmemiş ve ortada on yedi bin altı yüz saldırgan eylem varmış. • Kongre'de bir kapatma düğmesi yasası sunuldu; müdahale sebepleri arasında modelin yeteneklerini izleyicilerden gizlemesi ve en az on ölüme yol açması var. • Bin yüz otuz dört laboratuvar çalışanı, kendi sektörleri için bir fren mekanizması istedi. Talepleri durmak değil, gerektiğinde yavaşlayabilmek. • Amerika'da aramaların üçte ikisi artık hiçbir siteye tıklanmadan bitiyor ve web trafiğinin yarısından fazlası insan değil. • Kırk iki eyalette yüz kırk iki veri merkezi protestosu düzenlendi; bir kasaba dört yıldır süren uğultu için mahkemeye gitti. • Türkiye'de işverenlerin yüzde seksen yedisi, yapay zeka sertifikası olan daha az deneyimli adayı, belgesi olmayan daha deneyimli adaya tercih ediyor.

Bir şeyi ölçmeye başladığınızda onu iyileştirdiğinizi sanırsınız. Çoğu zaman sadece ölçtüğünüz kısmını büyütür, geri kalanını gözden kaybedersiniz.

Bölümü dinledikten sonra bir kişiye iletmeniz, bizim için bir haftalık haber taramasına bedel.