Başkan Biden, yapay zekâ emniyeti hakkında yönetici emri çıkardı!

ABD Başkanı Joe Biden, yapay zeka modelleri geliştiren şirketlerin federal hükümete bildirimde bulunması ve tüm güvenlik testlerinin sonuçlarını test edilmeden önce paylaşması gereklilikleri de dahil olmak üzere, yapay zeka emniyeti ve güvenliği için “yeni standartlar” oluşturmayı amaçlayan bir idari emir yayınladı.

Biden Yönetimi, yapay zekâ güvenliğine odaklanıyor ve OpenAI, Google, Microsoft, Meta ve Amazon gibi büyük yapay zekâ geliştiricilerinden ” gönüllü taahhütler ” alıyor. Ancak bugün duyurulan idari emir daha başlangıç.

Kararı incelediğimizde şu çarpıcı ifade ile karşılaşıyoruz, “Yapay zekânın yetenekleri büyüdükçe, Amerikalıların güvenliği ve emniyeti üzerindeki etkileri de artıyor” ve bu karar ile birlikte “Amerikalıları yapay zekâ sistemlerinin potansiyel risklerinden korumayı” amaçladığı belirtiliyor. Ayrıca kararda, “Bu önlemler, şirketler onları halka açmadan önce yapay zekâ sistemlerinin güvenli, emniyetli ve güvenilir olmasını sağlayacak” ibaresi de yer alıyor.

Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), teknolojilerin piyasaya sürülmeden önce “kapsamlı kırmızı takım testleri için” yeni standartlar geliştirmekle görevlendirildi. Bu tür testler, örneğin yapay zekâ ve kritik altyapıyla ilgili riskleri ele alan Enerji ve Ulusal Güvenlik Bakanlıkları ile birlikte genel olarak uygulanacak.

Hükümetler yapay zekâya yönelik tedbirlerini artırmaya devam ederken geçtiğimiz hafta, Birleşmiş Milletler (BM) yapay zekâ yönetişimini araştırmak için yeni bir kurul açıklarken, Birleşik Krallık bu hafta Bletchley Park’ta yapay zekâ yönetişimi üzerine küresel zirveye ev sahipliği yapacak ve ABD başkan yardımcısı Kamala Harris bu etkinlikte konuşmacı olarak yer alacak.

Sonuç olarak bu karar ile birlikte, tehlikeli biyolojik materyallerin mühendisliğinde yapay zekâ kullanımının risklerine karşı koruma sağlamak ve bunlarla sınırlı olmamak üzere bir dizi yeni direktif, standardın desteklenmesine de hizmet ediyor. Yapay zekâ destekli dolandırıcılık ve aldatmaya karşı koruma ve kritik yazılımlardaki güvenlik açıklarını gidermek için yapay zekâ araçları üzerine bir siber güvenlik programı oluşturmayı hedefliyor.

Kaynak : Techcrunch

Fotoğraf :Anadolu Ajansı

Bizi takip edin: