BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’
23 Eylül 2024’te New York’da BMGK’nin Fransa tarafından yürütülen dönem başkanlığında düzenlenen “Yapay Zeka ve Uluslararası Güvenlik” toplantısında OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue katıldı. Toplantının amacı, hızla gelişen yapay zeka sistemlerinin uluslararası güvenlik açısından yaratabileceği riskleri gündeme taşımaktı.
Altman, yapay zekanın kontrol kaybı ihtimaline vurgu yaparak “İnsan müdahalesini devre dışı bırakabilir” ifadesiyle, sistemlerin otonomi kazanmasının hem ekonomik hem de güç dengeleri üzerinde etkili olabileceğini belirtti. Ayrıca, “Yapay zeka demokratik bir teknoloji olmak” isteniyorsa, kritik kararların yalnızca San Francisco’daki teknoloji laboratuvarlarında değil, demokratik süreçler ve halka sorumlu hükümetler tarafından şekillendirilmesi gerektiğini söyledi.
Amodei, biyolojik silah geliştirme ve kötü niyetli kullanım senaryolarına odaklanarak, kontrol kaybının küresel ölçekte ele alınması gerektiğini, uluslararası değerlendirme ve doğrulama mekanizmaları kurulmasını ve ortak test‑güvenlik standartlarının oluşturulmasını talep etti. Delangue ise, yapay zeka destekli siber saldırılardan ders alarak, saldırı ve savunma kapasitesinin dengelenmesi için şeffaflık, izleme ve olay bildirim standartlarının güçlendirilmesi gerektiğini savundu. Toplantıda ortak bir nokta, yapay zekanın geleceğinin yalnızca birkaç şirketin politikalarıyla yönetilemeyeceği ve uluslararası standartlara ihtiyaç duyulduğuydu.
