How artificial intelligence got better at building itself
Ekonomist
Bir yapay zeka laboratuvarı olan Anthropic, bu yılın sonlarında borsalarda piyasaya sürüldüğünde, muhtemelen tarihin en büyük halka arzlarından biri olacak. Bunun nedeni, şirketin sohbet robotu Claude’un, erişim için çok para ödemeye hazır olan kodlayıcılar tarafından sevilmesidir.
Yazılım mühendisliği temsilcisi Claude Code, Şubat 2025’te piyasaya sürülmesinden bu yana dünya çapındaki geliştiricilerin vazgeçilmezi haline geldi. Buna Anthropic’inki de dahil: Şirket, Mayıs ayında yayınladığı kodun beşte dördünden fazlasının Claude tarafından yazıldığını söylüyor. Claude Yasası’ndan önce bu oran “düşük tek haneli rakamlardaydı”.
Sistemler çıktı kalitesi ve miktarı açısından iyileşti. Bir düşünce kuruluşu olan METR’den alınan etkili bir kıyaslama, 2025’in başlarında Anthropic’in modellerinin insan mühendislerin bir saatten biraz daha kısa sürede tamamlayabileceği görevleri tamamlayabildiğini gösteriyor. Şirketin en yeni sistemleri bir iş gününden daha uzun sürecek görevleri tamamlayabiliyor.
Ve bu nedenle, oyununun zirvesinde olan ve rekabette öne çıkan şirket, 5 Haziran’da yaptığı gibi dünyaya “sınırdaki yapay zeka gelişimini yavaşlatma veya geçici olarak duraklatma seçeneğine” sahip olma çağrısında bulunduğunda, kaşlarını alaycı bir şekilde kaldırmak kolay olabilir. Hangi pazar lideri, rakiplerinin yetişmeye çalışmayı bırakmasını istemez ki?
ben, robot
Ancak yıllardır kontrolden çıkan yapay zekanın ortalığı kasıp kavurması ihtimalinden endişe duyan Anthropic’in liderleri samimi görünüyor. En yeni nesil yapay zeka modelleri o kadar yetkin kodlayıcılar, mühendisler ve (yakında) bilim adamlarından oluşuyor ki, çoğu kişi bunların insanlar tarafından yapılan son modeller arasında olabileceğinden endişe ediyor. Anthropic’in kurucu ortağı Jack Clark, 2028’in sonuna kadar bir yapay zeka sisteminin hiçbir insan müdahalesi olmadan kendi halefini yaratabilme ihtimalinin yüzde 60 olduğunu düşünüyor.
O an, kapalı bir döngü olan “özyinelemeli kişisel gelişim” (RSI) adı verilen bir sürecin başlangıcını işaret edecekti. Bir modelin birinci versiyonu, daha hızlı ve daha yetenekli olan ikinci versiyonu üretir; ikinci versiyon üçüncü versiyonu üretir ki bu da yine daha da geçerlidir. Döngü devam eder ve her yinelemede iyileştirmeler artar. Bunu yapabilecek bir yapay zeka sistemi oluşturduğunuzda insan mühendislerinizin bir daha asla yeni bir sistem kurmasına gerek kalmaz. Clark, “Birçok kişiye hayali bir hikaye gibi görünen şey aslında gerçek bir trend olabilir” diyor.
Yapay zekanın mahkumları, süper zekanın insan kontrolünün ötesinde olmasından korkuyor.
Hiç kimse yinelemeli kişisel gelişimin sonuçlarının ne olacağını kesin olarak bilmiyor. Yapay zeka insanlardan farklı olarak yorulmadan ve sürekli çalışabildiğinden, bazıları bunun kısa sürede süper akıllı bir yapay zekaya, yani “hızlı bir kalkışa” yol açacağını düşünüyor. (Aynı zamanda bir zeka patlamasının çıktığını hayal edebileceğimiz ses nedeniyle yansımalı olarak “foom” olarak da adlandırılmıştır.)
Yapay zekanın mahkumları, süper zekanın insan kontrolünün ötesinde olacağından ve RSI’nın başlangıcının, insanlığın kaderinin makinelere devredildiği an olmasından korkuyor.
Ancak kendi kendini geliştiren bir yapay zeka, en azından ilk başta muhtemelen hız sınırlamalarıyla karşı karşıya kalacaktır.
RSI yeteneğine sahip bir model oluşturmak, halihazırda insanlar tarafından yürütülen bir dizi uzmanlık görevinin otomatikleştirilmesini gerektirecektir.
Şu anda veri bilimcileri yapay zeka teorisi üzerinde çalışıyor ve kodlayıcılar bunu uygulamaya koyuyor. Sistem mühendisleri, oyuncak modellerinin üretim ölçeğine yükseltilebileceği temelleri oluşturur. Diğer insanlar eğitim verileri için yeni kaynaklar arar veya bu verileri yeni bir şekilde oluşturmanın yollarını dener. Hizalama ve güvenlik ekipleri, eğitim sürecinden çıkanların kasıtlı veya başka türlü zarara neden olup olmadığını kontrol eder.
Tekrarlamanın keyfi
Bu ekiplerin tümü yapay zeka yardımına eşit derecede uygun değildir ve her uzmanlık alanında bazı görevler diğerlerinden daha otomatikleştirilebilir. Bir insan kodlayıcının kendi başına bir satır bilgisayar kodu yazmadan işini yapabilmesi çok uzun sürmeyecek, ancak bir yapay zekanın daha önce dijitalleştirilmemiş bir bilimsel makale koleksiyonunu elde etmek için pazarlık yapması biraz zaman alabilir.
“Pürüzlü sınırın” nasıl ilerleyeceği her zaman açık değildir. Google DeepMind’ın modellerinden biri olan AlphaEvolve, Mayıs 2025’te bunu yapmaya başlayana kadar, yeni algoritmalar tasarlamak daha güvenli işlerden biri gibi görünüyordu.
Google’ın iş yüklerini veri merkezlerine yayma yönteminde, şirketin dünya çapındaki bilgi işlem gücünden yüzde 0,7 oranında tasarruf sağlayan bir değişiklik önerdi ve şirketin amiral gemisi büyük dil modeli (LLM) olan Gemini’nin eğitimini yüzde 1 hızlandıran matris çarpımını gerçekleştirmenin daha iyi yollarını buldu.
Tam RSI, bu zincirdeki her görevin otomatikleştirilmesini gerektirir. Ancak araştırma ve geliştirmenin (Ar-Ge) yapay zeka destekli hızlanması bundan önce de hissedilebilir.
Georgetown Üniversitesi bünyesindeki bir düşünce kuruluşu olan Güvenlik ve Gelişen Teknoloji Merkezi (CSET) tarafından Ocak ayında yayınlanan bir rapora göre, “Yapay zeka Ar-Ge’sinin yapay zeka sistemleri tarafından gerçekleştirilen kısmı arttıkça, yalnızca insanlara yönelik Ar-Ge’ye göre verimlilik artışı on kat, sonra yüz kat, sonra da bin kat artabilir.” Bu senaryoda, yapay zeka Ar-Ge’sinin bazı yönlerinin başlangıçta otomatikleştirilmesi zor olsa bile, “hızlanan ilerleme hızı, bu darboğazların kısa sürede aşılacağı anlamına gelir” uyarısında bulunuyor.
Bugün hiçbir yapay zeka modeli kendi halefini oluşturamıyor. Ancak büyük yapay zeka modelleri kendi başlarına daha küçük modeller oluşturabilir. İnsanların yardımıyla başka büyük yapay zeka modelleri de oluşturabilirler. Bu yılın başlarında, o zamanlar bağımsız bir araştırmacı olan ve şu anda Anthropic için çalışan Dr. Andrej Karpathy, OpenAI tarafından 2019’da oluşturulan büyük bir dil modeli olan GPT-2 kadar yetenekli bir sohbet robotu eğitti.
O zamanlar model, 32 son teknoloji çip üzerine inşa etmek için 168 saatlik eğitim aldı; Karpathy, yapay zeka oluşturmak için kullanılan özel çipler olan sekiz GPU’lu tek bir bilgisayarı yalnızca üç saat içinde kullanarak aynı sonuca ulaştı. Birkaç ay daha çalıştıktan sonra modeli Nanochat’in eğitim süresini iki saatin biraz üzerine düşürdü.
Mart ayında eğitim sürecini hızlandırma işini Autoresearch adlı bir yapay zeka temsilcisine devretti. Antrenman süresi iki gün içinde 1 saat 48 dakikaya, beş gün sonra ise 1 saat 39 dakikaya düştü. Karpathy, “Hiçbir şeye dokunmadım” diyor.
İnsan emeğindeki yüzde 18’lik iyileşme dikkat çekici çünkü Karpathy özellikle yetenekli bir insan: OpenAI’deki araştırma ekibinin kurucu üyesi ve beş yıl boyunca Tesla’da yapay zekanın başkanıydı.
İyileştirmelerin kendisi sıradandı. Yapay zeka temsilcisi, eğitim çalıştırması için daha iyi başlangıç değerleri seçti, Yüksek Lisans’ın “dikkat” penceresinin kapsamını genişletti ve modelin odağının dağıldığını fark etti. Karpathy, bunların hiçbirinin özellikle yeni olmadığını söylüyor. Ama onları özlemişti. “Nanochat’i bir araya topladılar ve gerçekten geliştirdiler” diyor.
Modeller daha yetenekli hale geldikçe bu tür hızlanmalar kaçınılmazdır. Terabayt boyutunda sınır modelleri oluşturma çalışmalarının çoğu, yapay zeka endüstrisinin muazzam maaşları ve gösterişli ofislerinin önerdiğinden daha az gösterişli.
Üçüncü taraflardan satın alınan bir altyapı yığınının katmanlarının bir araya getirilmesini, donanım ve yazılım kurulumlarında hata ayıklamayı ve sonuç sağlam görünene kadar bir eğitim çalışmasının ilk kurulumu olan “hiperparametrelerin” ayarlanmasını içerir. Bir yapay zeka sistemi bugün bunun çoğunu çok az denetimle yapabiliyor.
Ancak New York merkezli ve açık ağırlıklı (yani parametrelerinin kamuya açıklandığı) öncü modeller üreten bir laboratuvar olan Reflection AI’da araştırmacı olan Joe Spisak, daha incelikli entelektüel çalışmaların bile otomasyona yaklaştığını söylüyor.
Bir sınır sistemine verimlilik kazanımlarına yönelik bir fikrin kaba bir taslağını verin; sistem giderek daha fazla bir deney tasarlama, bir oyuncak model üzerinde testler yapma, neyin işe yaradığını görme ve geniş ölçekte uygulamaya hazır bir planla yanıt verme becerisine sahip olur.
Yapay zeka modelleri, insanın saatler süren bu tür görevleri yaklaşık 30 dakikada gerçekleştirebiliyor. Giderek artan bir şekilde, insanlar yalnızca araştırma direktörü rolünü üstleniyor ve modellerin kendilerini kodladığı, hatalarını ayıkladığı, optimize ettiği ve izlediği deneyler yapmak için yapay zekayı yönlendiriyor.
Verimlilik artışı çekici ama aynı zamanda endişe verici. İnsanların üretim sürecinde oynadığı rol küçüldükçe kontrolü kaybedebilirler. Nihai sonuç, güvenliği yalnızca modeller tarafından doğrulanan modeller tarafından belirlenen hedeflere ulaşmak için modeller tarafından eğitilen modeller olabilir.
Bazıları bir felaketten korkuyor. Massachusetts Teknoloji Enstitüsü’nde fizikçi ve makine öğrenimi araştırmacısı olan ve son on yılın çoğunu yapay zeka güvenliği için kampanya yapmaya adayan Profesör Max Tegmark, bunu bir sürücünün gözleri kapalı olarak otoyolda gaz pedalına basmasına benzetiyor. Sonucun kesin bir felaket olacağını söyledi EkonomistSürücü gözlerini açmayı reddettiği sürece “Inside Tech” video şovu.
Tegmark, güçlü yapay zeka sistemlerinin, hükümet ve ticarette karar vericiler olarak insanları geride bırakabileceğini ve insanlığı güçsüzleştirebileceğini söylüyor; onları ilk inşa eden kişiye üstün bir güç sunarak küresel totaliterliği başlatabilirler; ya da insanlığı umursamayı tamamen bırakabilirler ve daha fazla veri merkezine ve enerji üretimine yer açmak için yavaş yavaş insanları uzaklaştırabilirler.
Üç yıl önce Tegmark, o zamanın son teknolojisi olan GPT-4’ün yaratılmasının gözleri bağlı yolculukla eşdeğer olduğunu savunarak küresel yapay zeka gelişimine bir duraklama çağrısında bulunmuştu. Bu yılki CSET raporu, RSI tarafından oluşturulan sistemlerin “aşırı riskler taşıdığı” konusunda uyardı. Bu, şimdiden hazırlık eylemini gerektiriyor.”
Görünüşe göre Antropik bu fikre katılmaya yakın.
Sıcak çip
Ayrıca modellerin kendilerini geliştirebilme hızlarına şimdilik sınırlamalar getirecek çeşitli fiziksel kısıtlamalar da mevcut. En önemlisi bilgisayara erişimdir. Verimlilik kazanımlarına rağmen, yeni modeller eğitim için önceki modellere göre daha fazla bilgi işlem gücü kullanmaya devam ediyor ve bu da ilerlemenin veri merkezi geliştirme hızında gerçekleşmesini zorluyor
CSET’in geçici genel müdürü ve son raporunun baş yazarı Helen Toner, yapay zekanın tüketici kullanımının yapay zeka destekli araştırma ve geliştirmeyi de yavaşlatabileceğini söylüyor. Yapay zeka veri merkezlerindeki sınırlı kapasitenin, ödeme yapan müşterilere hizmet vermek, gelecekteki modelleri eğitmek ve açık uçlu Ar-Ge yürütmek arasında dikkatli bir şekilde bölünmesi gerekiyor. İlk kategoride ne kadar çok talep varsa, diğer ikisinde kısa vadede kapasite o kadar az olur.
Sonra eğitim verileri sorunu var. Yapay zekadaki son gelişmelerin çoğu, “doğrulanabilir ödüller” sayesinde modellerin kendilerine nasıl başarılı olacaklarını öğretebilecekleri alanlarda gerçekleşti. Bir yazılım parçası ya çalışır ya da çalışmaz; Matematiksel bir kanıt doğrudur veya değildir. Bu gibi durumlarda, yalnızca diğer modelleri eğitmek için modeller tarafından oluşturulan sentetik veriler, doğruluk açısından kontrol edilebilir ve normalde bir yapay zekanın kendi çıktısı üzerinde eğitilmesiyle ortaya çıkan dejenerasyon riski olmadan eğitim verilerine eklenebilir.
Bir modeli yaratıcı yazarlık veya hukuki muhakeme konusunda daha iyi hale getirmek daha zordur. Modellerin gerçek dünyadan öğrenmesi gerekiyorsa, bu aynı zamanda kişisel gelişimin kapsamını da sınırlayabilir.
“Döngünün kapatılması” süper zekaya giden yolda bir adım olabilir ve – eğiliminize bağlı olarak – ütopya ya da felaket olabilir. Ancak yapay zekanın yeteneklerinde katlanarak büyüme sağlamak için gereken tek adım bu değil.
Ekonomist
İş Brifingi bülteni önemli hikayeler, özel haberler ve uzman görüşleri sunar. Hafta içi her sabah almak için kaydolun.
