Musk davasında tanık olan Stuart Russell, AGI silahlanma yarışından kaygılı

Elon Musk’ın OpenAI’ye karşı açtığı davada ifade veren tek yapay zekâ uzmanı olan Stuart Russell, öncü laboratuvarlar arasında hızlanan AGI yarışının ciddi riskler taşıdığını söylüyor. Russell, uzun yıllardır yapay zekâ güvenliği konusunda en bilinen akademisyenlerden biri.

TechCrunch’ın aktardığına göre Berkeley Üniversitesi’nden Russell, jüriye ve yargıç Yvonne Gonzalez Rogers’a yapay zekânın siber güvenlik tehditlerinden uyumsuzluk sorunlarına kadar farklı riskler barındırdığını anlattı. Ona göre temel gerilim, yapay zekâ güvenliği ile yapay genel zekâya ilk ulaşma yarışı arasında.

Russell, 2023’te yapay zekâ araştırmalarına altı aylık ara çağrısı yapan açık mektubu imzalayan isimlerden biri olmuştu. Musk da aynı mektuba imza atmıştı; ancak aynı dönemde kendi kâr amaçlı AI girişimi xAI’yi büyütüyordu.

OpenAI tarafının itirazları üzerine mahkeme Russell’ın ifadesinin bir kısmını sınırlasa da, dava dosyasında onun sözleri şirketlerin kâr motivasyonu ile güvenlik söylemi arasındaki gerilimi yeniden görünür kıldı. Russell, devletlerin frontier laboratuvarları daha sıkı düzenlemesi gerektiğini de savunuyor.

Davada şimdi gözler, hem şirketlerin geçmiş güvenlik vaatlerine hem de AGI yarışının nasıl çerçeveleneceğine çevrilmiş durumda. Yargılamanın ilerleyen oturumlarında uzman tanıklıklarının etkisi daha net görülecek.

Kaynaklar

• Ana kaynak: TechCrunch