'Computer' Bir Zamanlar Bir İnsandı

1962. John Glenn, Friendship 7 kapsülünün içinde, Dünya’nın yörüngesine çıkacak ilk Amerikalı olmayı bekliyor. Uçuşun her sayısı, her yörünge açısı, o güne kadarki en güçlü makine tarafından hesaplanmış: yeni IBM 7090. Ama Glenn kalkıştan önce tuhaf bir şey istiyor. “Kızı çağırın,” diyor, “sayıları o kontrol etsin. O ‘tamam’ derse giderim.”

O “kız”, Katherine Johnson’dı. NASA’da bir “computer”, yani bir hesaplayıcıydı. Çünkü o yıllarda “computer” bir makine değil, bir meslekti. Uzun masalarda oturup yörüngeleri elle, kâğıt üstünde hesaplayan insanlar, çoğu kadın. Glenn, milyonlarca dolarlık makineye değil, o makinenin çıktısını kalemle doğrulayan bir insanın muhakemesine güvendi.

Bu sahne gerçek, ve güzel bir filme de konu oldu: 2016 yapımı Gizli Sayılar (Hidden Figures). Katherine Johnson ve yanındaki hesaplayıcıları anlatır. Görmediyseniz, bu yazının borcu olsun, listenize ekleyin.

Birkaç yıl içinde o meslek yok oldu. “Computer” artık masada oturan bir insan değil, masanın üstünde duran bir kutuydu. Ama dikkat: kaybolan şey, hesaplama becerisiydi. Katherine Johnson’ın asıl yaptığı, neyin hesaplanacağını bilmek, çıkan sonucun mantıklı olup olmadığını sezmek, yanlışın kokusunu almaktı. O beceri kaybolmadı, yukarı taşındı: önce programlamaya, sonra mühendisliğe.

Bir unvan, bir sınır çizgisi

“Computer” bir unvandı ve tek bir işi vardı: insanla makine arasındaki sınırın o an nerede olduğunu tarif etmek. Sınır kımıldadıkça unvan da değişti. Bu yeni bir hikâye değil. Bugün aynı film, çok daha hızlı sarılıyor.

Bu hızı anlamak için iki eski fikri yan yana koymak gerekiyor.

Birincisi Moravec Paradoksu. Robotik araştırmacısı Hans Moravec, 1988’de tuhaf bir gözlem yaptı: Bir makineye satranç oynatmak, teorem ispatlatmak, zekâ testi çözdürmek kolaydı. Ama bir yaşındaki çocuğun yaptığını, bir odayı görüp anlamayı, yürümeyi, “şu bardağı bana ver” cümlesini kavramayı yaptırmak neredeyse imkânsızdı. Ters gibi duruyor ama mantığı şu: Bizim en zor sandığımız beceriler (soyut akıl, matematik) evrimsel olarak en yeni olanlar, birkaç bin yıllık. En kolay sandıklarımız (görmek, sezmek, dengeyi bulmak) ise milyonlarca yıllık. Ve tam da eski oldukları için o kadar derine işlemişler ki kopyalanmaları zor.

İkincisi Lindy Etkisi. Bir şeyin gelecekte ne kadar yaşayacağı, şimdiye kadar ne kadar yaşadığıyla orantılıdır. Kırk yıldır ayakta olan bir fikir muhtemelen kırk yıl daha yaşar; kırk günlük bir trend, kırk gün sonra unutulur. Eski dayanıklıdır, yeni kırılgan.

Bu ikisini üst üste koyunca net bir şey çıkıyor: Moravec Paradoksu, aslında becerilerin Lindy Etkisi’dir. Bir beceri ne kadar yeni ve ne kadar “adı konmuş, adım adım tarif edilebilir” ise, o kadar kolay otomatikleşir ve o kadar kırılgandır. Ne kadar eski, örtük ve tarif etmesi zorsa, o kadar dayanıklıdır. Yapay zeka da tam bu eğim boyunca ilerliyor: önce en tarif edilebilir, en yüzeydeki işi alıyor.

Son üç yılın meslekleri

Şimdi son dönemin unvanlarına bak. Prompt engineering: doğru kelimeleri yazıp modelden iyi çıktı almak. Sonra context engineering: modele doğru bağlamı, doğru veriyi vermek. Sonra loop engineering: tek tek komut yazmak yerine, ajanı hedefe süren döngüyü tasarlamak. Aralarında kabaca birer yıl var.

Bunlar Moravec eğiminin en tepesi: en yeni, en tarif edilebilir katman. “Doğru sihirli sözü söyle” kadar prosedürel bir işin uzun ömürlü bir unvana dönüşmesini beklemek gerçekçi değil. Nitekim dönüşmüyor da. Loop engineering daha adını yeni almışken, araçlar “/goal” gibi komutlar ekleyip o döngüyü kendi içlerine gömmeye başladı bile. “Bu aslında yeniden adlandırılmış otomasyon” diyen kuşkucular da bir doğruyu söylüyor.

Ama bunlar çöp değil

İşte tam burada çoğu kişi yanlış sonuca atlıyor: “Madem bir yılda eskiyorlar, o zaman boş şeyler, takmayayım.”

Değiller. Bu unvanların bu kadar hızlı gelip gitmesi bir gürültü değil, bir ölçüm. Her biri, insanla makine arasındaki sınırın o an nerede durduğunu işaretleyen bir kilometre taşı. Üst üste dizildiklerinde sana tek bir şey söylüyorlar: sınır ne kadar hızlı hareket ediyor. Prompt’tan loop’a bir yılda geçtiysek, bu, arabanın hız göstergesinin 200’ü göstermesi gibidir. Göstergeyi küçümsemek hızı yok etmez.

Ama bir tuzağı var ve iktisadın eski bir yasası tam bunu tarif ediyor. Goodhart Yasası: bir ölçü hedefe dönüştüğü an, iyi bir ölçü olmaktan çıkar. Unvanı bir sinyal olarak okursan sana sınırın hızını gösterir; onu bir hedef yapıp “loop engineer olacağım” dersen, o unvan artık gerçeği değil, senin kovaladığın şeyi ölçer. Sinyali sinyal olarak tutmanın tek yolu onu kol mesafesinde tutmaktır: örüntüyü fark edecek kadar yakın, oyunu bozacak kadar uzak.

Aynı ilke küçük ölçekte de işliyor. Bir modelle çalışırken harcadığın token’lar, eskiden hiçbir yerde iz bırakmayan zihinsel emeğini ilk kez görünür kılıyor, kişisel bir termometre gibi. Ama termometre ısıyı gösterir, yemeğin pişip pişmediğini değil. Token sayını da, unvanını da hedef yaptığın an ikisi de bozulur. İçeride token, dışarıda unvan: ikisi de okunacak birer gösterge, kovalanacak birer madalya değil.

İki tuzak

Ortada iki tuzak var ve ikisi de aynı hatanın yüzleri.

Birincisi kovalamak: Her yeni unvana kimliğini bağlamak, profil başlığını üç ayda bir değiştirmek, en son terimi biliyor olmayı ustalıkla karıştırmak. Bu, göstergeye o kadar yakından bakmaktır ki arabayı sürmeyi unutursun.

İkincisi reddetmek, ve asıl sinsi olan bu: “Bunlar sürekli değişiyor, o yüzden hiçbirine yatırım yapmam, öğrenmem.” Kulağa olgun, sabırlı, hatta ‘Lindy’ci geliyor. Değil. Bu bir dayanıklılık değil, gizli bir yavaşlıktır. Sınır senin iznini beklemeden hareket ediyor. Sen “ben bunları ciddiye almam” derken, sınırı okumayı öğrenenler seni geçiyor. Üstelik bu duruş sürdürülebilir de değil: Bir kere “yeniyi anlamama” alışkanlığını edindin mi, her yeni dalgada biraz daha geriden başlarsın.

Reçete: derinde yavaş, yüzeyde hızlı

Peki doğrusu ne? Moravec ve Lindy birlikte aynı reçeteyi veriyor.

Derinde, eski ve tarif edilmesi zor olana yatır. Muhakeme. Neyin önemli olduğunu bilmek. Bir sonucun “yanlış koktuğunu” sezmek, tıpkı Katherine Johnson gibi. Sentez, damak tadı, insanları okumak. Bunların hiçbirinin bir unvanı yok, bir sertifikası yok. Dahası, o token defterinde bile görünmüyorlar: analizini, denemeni, hata avını bir sayaç artık yakalayabiliyor, ama yürürken kurduğun cümleyi, “burada bir terslik var” sezgisini, hangi işi hiç yapmaman gerektiğine dair kararı hiçbir sayaç yakalayamıyor. En değerli kısım, tam da hiçbir tabloda görünmeyen kısımdır. Ve bir şey ne kadar görünmezse, makinenin onu kopyalaması o kadar zordur; Moravec’in kırk yıl önce söylediği de buydu. Senin dayanıklı sermayen bu.

Yüzeyde ise hızlı ol. Her yeni unvanı öğren ama onunla evlenme. Prompt’u da, context’i de, loop’u da, sıradakini de birer hafta sonu projesi gibi tanı, ne olduklarını anla, sınır hakkında ne söylediklerini not et, sonra bırak. Kökler yavaş büyür, yapraklar her mevsim değişir. Sağlıklı ağaç ikisini birden yapandır.

Ve daha tuhafları geliyor

Şundan emin ol: Bugünküler son garip unvanlar değil. Önümüzdeki birkaç yılda bugün gülünç gelecek isimler duyacağız. Bir kısmı üç ay yaşayacak, bir kısmı yeni bir mesleğin çekirdeği olacak. Hangisinin hangisi olduğunu önceden bilemezsin. Ama şunu bilebilirsin: Onları okumayı bilen ama hiçbirine yapışmayan biri olursan, hangi isim gelirse gelsin hazır olursun.

Katherine Johnson bir “computer” olarak işe başladı. O meslek öldü, ama o ölmedi. Çünkü onun asıl işi hesaplamak değildi; sayıların doğru olup olmadığını bilmekti. O beceri, masanın üstüne hangi kutu konursa konsun, hâlâ birinin işi.