Yapay zekâ şirketlerinin güvenlik tartışmaları büyürken Bill Gates de daha sıkı kurallar isteyen isimler arasına katıldı. Microsoft’un kurucu ortağı, yapay zekâ şirketlerinin kendi kendilerini denetlemesinin yeterli olmadığını ve devletlerin devreye girmesi gerektiğini söyledi.
NBC News’in Meet the Press programına katılan Gates, yapay zekâ sistemlerinde güvenlik önlemleri ve izleme araçlarının zorunlu hale gelmesini istedi. Gates’e göre şirketlerin bu konuda kendi kararlarını vermesine izin vermek yeterli değil.
Yapay zekâ sektöründe bağımsız denetim konusunda da yeni adımlar geliyor. Anthropic ve Accenture, gelişmiş yapay zekâ modellerinin güvenliğini bağımsız biçimde değerlendirmek için yeni bir çalışma başlattı. Accenture bünyesindeki ekipler, Anthropic’in modellerini güvenlik ve risk açısından inceleyecek.
“Kapatma düğmesi” tek başına çözüm değil
Kaliforniya Valisi Gavin Newsom kısa süre önce gelişmiş yapay zekâ modelleri için bir tür acil kapatma sistemi üzerinde çalışılmasını istedi. Plan, tehlikeli davranış gösteren bir yapay zekâ sistemini gerektiğinde durdurmayı amaçlıyor. Newsom’un 18 Eylül’de yayımladığı karar, bu sistemin bağımsız kuruluşlar tarafından düzenli olarak kontrol edilmesini de gündeme getiriyor.
Bill Gates ise böyle bir sisteme karşı çıkmadığını ancak bunun tek başına yeterli olmayacağını düşünüyor. Gates’e göre bugün daha yakın bir tehlike var: Kötü niyetli kişilerin gelişmiş yapay zekâ araçlarını kullanması.
Gates özellikle biyolojik saldırılar, siber saldırılar ve büyük çaplı mali dolandırıcılık gibi alanlara dikkat çekiyor. Gelişmiş modellerin bu tür saldırıları gerçekleştirmek isteyen kişilerin işini kolaylaştırabileceğini düşünüyor.
Gates’e göre asıl risk kötü niyetli kullanıcılar
Gates, yapay zekânın kendi başına kontrolden çıkmasından önce insanların bu teknolojiyi zararlı amaçlarla kullanmasına odaklanılması gerektiğini savunuyor. Ona göre güçlü yapay zekâ araçlarının kötü niyetli kişilerin eline geçmesi ciddi sonuçlar doğurabilir.
Bu nedenle Gates, gelişmiş modellerin nasıl kullanıldığının takip edilmesini ve güvenlik sistemlerinin zorunlu tutulmasını istiyor. Şirketlerin gönüllü olarak uyguladığı kuralların yeterli olmayacağını belirten Gates, yasa koyucuların ve güvenlik kurumlarının da sürece katılması gerektiğini söylüyor.
Yeni kurallar yapay zeka yarışını yavaşlatır mı?
Gates, zorunlu güvenlik kontrollerinin şirketlere ek yük getireceğini kabul ediyor. Ancak bu kuralların yapay zekâ çalışmalarını ciddi ölçüde yavaşlatacağını düşünmüyor.
Bu yaklaşım, yapay zekâ sektöründe son dönemde büyüyen bağımsız denetim tartışmalarıyla da örtüşüyor. Anthropic ve Accenture gibi şirketlerin attığı adımlar, gelişmiş modelleri şirket dışındaki ekiplerin de test ettiği bir sisteme doğru geçişin işaretlerini veriyor.
Kaynak: Sancaktepe Eczane
