Yapay zekâ yakında biyolojiye hâkim olacak ve yeni güvenlik risklerini ortaya çıkaracak, Tencent’in yapay zekâ yöneticisi uyardı
South China Morning Post
🔹 Tencent’in baş yapay zekâ bilim insanı ve eski OpenAI araştırmacısı Vinces Yao Shunyu, yapay zekâ modellerinin yakında biyolojiye hâkim olacak kadar güçlenebileceğini söyledi.
🔹 Yapay zekânın tıp ve biyolojide kullanılması yeni ilaçların ve tedavilerin keşfini hızlandırabilir. Kötü niyetli kişiler ise teknolojiyi biyolojik silah üretmek veya yeni bir pandemiyi başlatmak için kullanabilir.
🔹 Yao, yapay zekâ modellerinin siber ve biyolojik yeteneklerinin zarar vermenin mümkün olduğu bir eşiğe yakında ulaşabileceğini söyledi ve Çin’deki tüm açık model şirketlerini güvenlik konularında sorumlu davranmaya çağırdı.
🔹 Tencent, bilimsel araştırmaları uçtan uca yürütecek “otonom bilim laboratuvarları” kurmayı planlıyor. Bu sistemler, ters protein katlanması gibi karmaşık deneyleri yapay zekâ ile gerçekleştirebilir.
🔹 Tencent’in Hy4 modeli Çin’de geliştirilen modeller arasında performans açısından ikinci sırada yer aldı. Şirket, modelin siber saldırı yeteneklerini eğitim sırasında ilgili verileri filtreleyerek kaldırdığını, siber savunma yeteneklerini ise koruduğunu açıkladı.
🔹 Tencent, Hy4’ün biyolojik yeteneklerinin yüksek risk eşiğinin oldukça altında kaldığını açıkladı; model temel biyolojik bilgiyi uygulanabilir protokollere dönüştüremiyor.
🔹 Yao, yapay zekânın biyolojik yeteneklerini yönetmenin siber yeteneklere kıyasla daha karmaşık olabileceğini söyledi. Biyoloji alanındaki saldırı ve savunma yeteneklerinin birbirinden ayrılmasının daha zor olabileceğini belirtti.

🔹 Çin’in açık ağırlık yaklaşımında model ağırlıkları yeterli donanıma sahip herkes tarafından indirilebiliyor ve değiştirilebiliyor. ABD’deki OpenAI ve Anthropic gibi şirketler ise öncü yapay zekâ modellerinin toplumsal zararları önlemek için kapalı tutulmasını savunuyor.
🔹 Yao, açık ve kapalı modellerin birlikte kullanılmasının en uygun yol olabileceğini söyledi; açık modellerin savunma amacıyla teknolojiye erişimi artırabileceğini belirtti.
🔹 Tencent, Huawei Technologies ve Alibaba Group Holding’in katkıda bulunduğu bir rapor, yapay zekânın patojen tasarımı gibi görevlerde artan yeteneklerinin önemli halk sağlığı riskleri yaratabileceğini belirtti.
🔹 Tencent, Hy4 modelinin ağırlıklarını ve siber ile biyolojik güvenlik değerlendirmelerini içeren kapsamlı sistem kartını önümüzdeki günlerde yayımlamayı planlıyor.
🔹 Pekin, siber saldırı yeteneklerinde kritik eşikleri aşan yapay zekâ sistemlerine daha sıkı kısıtlamalar getiren yeni ihracat kontrolleri öneriyor. Çin’in silahsızlanma işleri büyükelçisi Li Chijiang, yapay zekânın biyolojik ve kimyasal teknolojilerle bütünleşmesinin terör saldırılarının önündeki engelleri azalttığını söyledi.
🔹 Çin Devlet Başkanı Şi Cinping ile ABD Başkanı Donald Trump’ın bu ay Shenzhen’deki Asya-Pasifik Ekonomik İşbirliği zirvesinde yapacağı görüşmede yapay zekânın gündemin üst sıralarında yer alması bekleniyor.
