Dario Amodei’nin şekillenmesi
New York Times
🔹 Dario Amodei, 2007’de Princeton Üniversitesi’nde Ray Kurzweil’in yapay zekânın insan beynini aşacağı öngörüsünü tartıştı ve bu dönüm noktasının kendi yaşamları içinde gerçekleşebileceğini söyledi.
🔹 Amodei, yapay zekânın doğru inşa edilmemesi halinde insanlığın yok olabileceği düşüncesine odaklandı; bu fikirleri “rasyonalizm” ve “etkili özgecilik” akımlarıyla birlikte geliştirdi.
🔹 Rasyonalizm, yapay zekânın toplumu yok edecek kadar güçlenebileceğini savunurken, etkili özgecilik matematiksel yöntemlerle toplumsal faydayı en üst düzeye çıkarmayı amaçlıyor.
🔹 Amodei, yapay zekânın tehlikeli olabileceğini ve teknolojiyi yalnızca kendisiyle benzer güvenlik kaygılarını taşıyan teknoloji uzmanlarının geliştirmesi gerektiğini düşündü. Eylül ayında yayımladığı yazıda yapay zekâ gelişiminin yavaşlatılması çağrısı yaptı.
🔹 Amodei, ABD’nin Çin’e çip satışlarını kısıtlaması gerektiğini, yapay zekânın kontrolden çıkmasını önlemek için düzenlenmesi gerektiğini ve Amerikalıların kitlesel gözetiminde ya da otonom silahlarda kullanılmaması gerektiğini söyledi.
🔹 Amodei’nin görüşleri yapay zekâ güvenliği alanında destek bulurken, Mark Zuckerberg ve Jensen Huang gibi eleştirmenler onu “kıyamet tellalı” olmakla ve yapay zekâdaki gücü merkezileştirmeye çalışmakla suçladı.
🔹 Amodei, 2014’te Baidu’ya, 2015’te Google Brain’e ve 2016’da OpenAI’ye katıldı. Google Brain’de yapay zekâ güvenliğine odaklandı ve “Concrete Problems in A.I. Safety” başlıklı çalışmanın yazarları arasında yer aldı.

🔹 OpenAI’de güvenlik ekibine liderlik eden Amodei, yapay zekâ modellerinin daha fazla veriyle eğitildikçe güçlendiğini savunan “ölçekleme yasaları” üzerinde de çalıştı.
🔹 Amodei ve kardeşi Daniela, 2018’de OpenAI’nin GPT projesini devraldı ve yapay zekânın insan talimatlarıyla görev yapmasını amaçlayan bir güvenlik tekniğini araştırdı.
🔹 Amodei, Greg Brockman’ın GPT çalışmasına katılmasına karşı çıktı ve Sam Altman’a Brockman projeden uzaklaştırılmazsa ayrılacağını söyledi. Amodei, Daniela Amodei ve diğer çalışma arkadaşları Aralık 2020’de OpenAI’den ayrıldı.
🔹 Dario ve Daniela Amodei, ayrılıktan dört hafta sonra Anthropic’i kurdu. Şirketin temelinde yapay zekânın güvenli geliştirilmesi, teknolojinin kontrol altında tutulması ve geliştirme sürecinde ihtiyatlı davranılması düşünceleri yer aldı.
🔹 Anthropic’in bu ay dünyanın en büyük halka arzlarından birini gerçekleştirmesi bekleniyor. Amodei’nin halka arzla birlikte servetinin artması beklenirken, kendisi şirket temsilcisi aracılığıyla röportaj talebini reddetti.



