OpenAI yöneticisi Altman: Modellere din atfetmek “güvenlik sorunu”
Axios
🔹 OpenAI CEO’su Sam Altman, yapay zekâ modellerine dini güç atfetmekten ve insanların muhakemesini bu modellere bırakmasından rahatsız olduğunu söyledi.
🔹 Altman, bu yaklaşımın gerçek bir güvenlik sorunu olduğunu belirtti.
🔹 Anthropic’in kurucu ortağı Christopher Olah, model bilinci ve modellere ahlaki davranış kazandırılması konularını dini liderlerle görüşüyor.
🔹 Olah, modellerin hatalarını itiraf etmesinin yanı sıra gelecekteki davranışlarını şekillendirmesi için Katolik tarzı günah çıkarma uygulamalarını değerlendirdi.
🔹 Olah, mayıs ayında Vatikan’daki bir etkinlik öncesinde papa danışmanlarını bilinçli modeller olasılığını daha ciddi ele almaya ikna etmeye çalıştı.
🔹 Papa Leo, yapay zekâya yönelik eleştirilerini sürdürerek insan yaratıcılığını korumak için kilisenin sanatçılarla işbirliği yapması gerektiğini söyledi. Papa, algoritmaların insanlığa özgü kıvılcımdan yoksun olduğunu belirtti.
🔹 Google DeepMind baş araştırma bilimcisi Jon Barron, bazı yapay zekâ araştırmacılarının model ve araçların ahlaki statüsünü yükseltmeye çalışmasından rahatsız olduğunu söyledi.
🔹 Yapay zekâ güvenliği tartışmaları ağırlıklı olarak siber güvenlik ve biyolojik silahlar gibi konulara odaklanıyor; modellerin bilinci ve ruhu konuları da tartışmanın bir parçası hâline geliyor.
🔹 OpenAI ve Anthropic, Altman’ın paylaşımıyla ilgili yorum taleplerine hemen yanıt vermedi.