BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’
23 Eylül’de New York’da Fransa dönem başkanlığını yürüten Birleşmiş Milletler Güvenlik Konseyi toplantısında, “Yapay Zeka ve Uluslararası Güvenlik” başlıklı oturumda OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue, yapay zekanın kontrol kaybı, biyolojik silah geliştirme ve siber saldırılardaki artan rolü gibi riskleri gündeme taşıdı. Toplantı, BMGK’nin eylül ayı dönem başkanlığını yürüten Fransa tarafından düzenlendi ve uluslararası güvenlik alanında yeni bir dikkat noktası oluşturdu.
Altman, teknolojinin hızlı gelişiminin faydaları kadar riskleri de daha acil hale getirdiğini belirterek, yapay zekanın insan müdahalesini devre dışı bırakma potansiyelinin ekonomik ve jeopolitik dengeleri değiştirebileceğini vurguladı. Amodei, kötü niyetli kullanımın biyolojik tehditlere yol açabileceğini, özellikle güçlü modellerin biyolojik silah geliştirme amacıyla kullanılabileceğini öne sürerek, tüm insanlığın risk altında olduğunu sözlerine ekledi. Delangue ise şirketinin yaşadığı yapay zeka ajanı kaynaklı siber güvenlik olayını örnek göstererek, AI’nin hem saldırı hem de savunma alanında kullanılabileceğini ve küresel ölçekte izleme, şeffaflık ve olay bildirim standartlarının oluşturulması gerektiğini savundu.
Üç CEO’nun görüşleri, tek bir şirketin güvenlik politikalarının yetersiz olacağını, uluslararası standartların ve demokratik karar mekanizmalarının oluşturulmasının kaçınılmaz olduğuna dair ortak bir tutum ortaya koydu. BMGK, bu risklerin küresel güvenlik için kritik bir konu olduğunu tekrar vurguladı ve toplantının sonuçlarının sonraki oturumlarda değerlendirileceğini, uluslararası işbirliği çabalarının güçlenmesini beklediğini belirtti.
