İnternetin Üçte Biri Yapay Zeka Yazdı, Derinlik mi Eridi?

Bu hafta önümden geçen bir rakam kafamda takılı kaldı.

Originality.ai ve Graphite’ın ayrı ayrı yayınladığı raporlar, web’de yeni yayınlanan içeriğin üçte birinden fazlasının büyük dil modelleriyle üretildiğini söylüyor. Bazı raporlar bu oranı yüzde elliye kadar çıkarıyor, çünkü hangi metnin AI ürünü sayılacağı ve hangi örneklemin taranacağı rapordan rapora değişiyor. Tek bir kesin sayı yok ortada. Ama yön belli: eğri yukarı gidiyor, hem de hızlı gidiyor.

Böyle bir rakam çıktığında insanlar hızla iki kampa bölünüyor. Bir taraf “internet çöpe döndü, kaliteli içerik bitti” diyor. Diğer taraf “AI da bir araç, üretilen şey yine içerik, fark yok” diyor. Ben ikisine de katılamıyorum, çünkü ikisi de yanlış şeye bakıyor. Mesele üretilenin AI mı insan mı olduğu değil, üretim hızlanırken neyin hızlanmadığı.

Rakamın Arkasında Ne Var

Bir metnin AI tarafından yazılıp yazılmadığını tespit etmek, iddia edildiği kadar kolay değil. Detector araçları çoğunlukla dil kalıplarına, cümle uzunluğu dağılımına, kelime tekrarına bakıyor. Bir insan AI gibi yazarsa yakalanmıyor, bir AI insan gibi düzenlenirse de kaçıyor. Yani yüzde otuz üç ya da yüzde elli, hangisini alırsak alalım, bu bir ölçüm değil bir tahmin.

Ama tahminin kendisi bile bir şey söylüyor. 2022 sonunda ChatGPT çıkmadan önce böyle bir soru sorulmuyordu, çünkü sormaya değecek bir fark yoktu. Şimdi büyük teknoloji şirketleri kendi raporlarında GitHub’da yazılan kodun önemli bir kısmının Copilot ya da benzeri asistanlarla üretildiğini açıkça yazıyor. İçerik tarafında da benzer bir şey oluyor. Üretim maliyeti, hem yazıda hem kodda, sıfıra doğru iniyor.

Burada durup asıl soruyu sormak gerekiyor. Üretim ucuzladıysa, ucuzlayan şeyin karşılığı olan başka bir maliyet nereye gitti?

Üretim Ucuzladı, Doğrulama Ucuzlamadı

Bir cümle yazmanın maliyeti neredeyse sıfırlandı. O cümlenin doğru olduğunu bilmenin maliyeti aynı kaldı, hatta arttı.

Bunu kendi pratiğimde de görüyorum. Bir AI aracına bir blog yazısının taslağını yazdırmak dakikalar sürüyor. O taslaktaki bir tarihin, bir rakamın, bir isim yazımının doğru olup olmadığını kontrol etmek aynı süreyi almıyor, çoğu zaman daha uzun sürüyor. Çünkü AI özgüvenle yanlış yazabiliyor, cümlenin tonu hep aynı kalıyor, doğru ile yanlış aynı sesle çıkıyor. Eskiden bir yazarın emeği metnin kendisindeydi. Şimdi emek, metni doğrulamaya kaydı.

Aynı şey kod için de geçerli. Bir fonksiyonu yazdırmak hızlı. O fonksiyonun neden o şekilde yazıldığını, hangi kenar durumu için öyle davrandığını anlamak yavaş. Review süresi kısalmadı, tam tersine bir katman daha eklendi: “bunu ben mi yazdım, model mi yazdı, hangisi olursa olsun neden doğru” sorusu her satırın üstüne oturdu.

Bu makas, hacim ile muhakeme arasındaki makas, kapanmıyor. Tam tersine açılıyor. Üretim eğrisi dikleşirken doğrulama eğrisi aynı yatay çizgide kalıyor.

Kod Tarafında Aynı Hikaye: AI Borcu

Teknik borç kavramını herkes biliyor: hızlı ve kirli bir çözüm bugün zaman kazandırır, yarın faiziyle geri gelir. AI borcu da aynı mantıkla çalışıyor, sadece kaynağı farklı.

Bir AI aracının yazdığı bir bileşeni düşünün. Çalışıyor, testten geçiyor, demo’da sorunsuz görünüyor. Ama o kodu kimse baştan sona okumadı, çünkü okumak yazmaktan uzun sürüyor ve zaman baskısı var. Altı ay sonra o bileşende bir hata çıktığında, ekipte kimse “bunu neden böyle yazdık” sorusuna cevap veremiyor. Çünkü cevap veren bir insan yoktu, bir model vardı ve model hatırlamıyor.

Bu, otomasyonun döngüsel doğasıyla da ilgili bir mesele. Döngü mühendisliği üzerine yazdığım yazıda anlattığım gibi, bir sistemi otomatikleştirmek onu anlamaktan vazgeçmek anlamına gelmiyor, tam tersini gerektiriyor. AI borcu tam da bu noktada birikiyor: otomasyonun hızını alıp anlamanın sorumluluğunu bırakınca.

Mimari karar kayıtları, yani bir kararın neden alındığını yazılı bırakma pratiği, tam bu yüzden şimdi daha kritik. AI’nın ürettiği gürültünün içinde insan kararının izini bırakmak, bir çapa görevi görüyor. O iz olmadan, altı ay sonra kimse hangi kodun neden orada olduğunu bilemiyor.

Derinlik Kaybolmuyor, Gürültüde Kayboluyor

1545’ti. İsviçreli doğa bilimci Conrad Gessner, Bibliotheca Universalis adlı eserinde bir şikayeti kayda geçirdi: matbaanın çoğalttığı kitap sayısı öyle bir noktaya varmıştı ki, bu bolluk artık kafa karıştırıcı ve zararlı hale gelmişti. Gessner tek başına on binlerce eseri listelemeye çalışıyordu, bir insan ömrünün bunların onda birini bile okumaya yetmediğini biliyordu. Matbaa bilgiyi ucuzlattı ama hangi kitabın okunmaya değer olduğunu bilmek hiç ucuzlamadı. Beş yüz yıl önce kağıt ve mürekkeple yaşanan şey, bugün token ve API çağrısıyla tekrar ediyor.

Burada asıl tezimi netleştireyim: derinlik erimiyor. Derinlik hala üretiliyor, insanlar hala uzun uzun düşünüp yazıyor, mühendisler hala kararlarını tartıyor. Ama o derinlik artık çok daha kalabalık bir gürültünün altında kalıyor, tıpkı Gessner’in on binlerce kitabın içinde birkaç değerli eseri arayışı gibi.

Bir arama sonucunda on yazı varsa ve bunların sekizi hızlı üretilmiş, yüzeysel, birbirinin varyasyonu ise, geriye kalan iki derin yazı bulunmakta zorlanıyor. Arama motorları da, okuyucular da, hangi metnin gerçekten düşünülmüş olduğunu ayırt etmekte zorlanıyor. Bu bir kalite sorunu değil, bir keşfedilebilirlik sorunu. İyi içerik var ama sinyali gürültüden ayıracak bir mekanizma yok.

Aynı şey kod tabanlarında da oluyor. Bir repoda AI’nın eklediği gereksiz soyutlama katmanları, aşırı test dosyaları, “çalışıyor ama kimse neden çalıştığını bilmiyor” fonksiyonlar birikince, gerçekten düşünülmüş mimari kararlar da bu yığının içinde görünmez oluyor. Kod okuma pratiği zorlaşıyor, çünkü artık hangi satırın bir kararın sonucu, hangisinin otomatik doldurma olduğunu ayırt etmek gerekiyor.

Bunun basit bir testi var, hem yazı hem kod için işliyor: bunu üreten biri, ürettiği şeyi savunabiliyor mu? Bir cümleyi neden öyle kurduğunu, bir fonksiyonu neden öyle yazdığını anlatabiliyor mu? Savunulamayan üretim, biriktiği yerde borç oluyor, ister içerik ekonomisinde ister kod tabanında olsun.

Sonuç Yerine: Hız Değil, Sorumluluk

Ben hıza karşı değilim. Kendi yazılarımı da, kendi kodumu da AI ile hızlandırıyorum, bunu saklamanın anlamı yok. Karşı olduğum şey, hızın kendisinin bir amaç haline gelmesi.

Asıl soru “ne kadar hızlı ürettin” değil, “ürettiğini savunabiliyor musun” olmalı. İnternetin üçte biri AI ile yazılmış olabilir, bu sayı büyümeye de devam edecek. Ama bir yazının ya da bir kod satırının değeri, kimin yazdığından değil, arkasında birinin durup durmadığından geliyor.

Sen bugün ürettiğin bir şeyi, yarın birine neden öyle yaptığını anlatabilir misin? Cevabın hayırsa, orada büyüyen şey içerik değil, borç.