DOLAR 32,2369 0.31%
EURO 35,0781 0.28%
ALTIN 2.447,990,78
BITCOIN 2194852-2,93%
İstanbul
18°

PARÇALI AZ BULUTLU

02:00

İMSAK'A KALAN SÜRE

Önde gelen yapay zeka şirketleri, yapay zeka sistemlerinin ve diğer güvenlik taahhütlerinin dışarıdan test edilmesini taahhüt eder
  • Akhisar Gündem
  • Siyaset
  • Önde gelen yapay zeka şirketleri, yapay zeka sistemlerinin ve diğer güvenlik taahhütlerinin dışarıdan test edilmesini taahhüt eder

Önde gelen yapay zeka şirketleri, yapay zeka sistemlerinin ve diğer güvenlik taahhütlerinin dışarıdan test edilmesini taahhüt eder

ABONE OL
Temmuz 22, 2023 21:39
Önde gelen yapay zeka şirketleri, yapay zeka sistemlerinin ve diğer güvenlik taahhütlerinin dışarıdan test edilmesini taahhüt eder
0

BEĞENDİM

ABONE OL



CNN

Beyaz Saray, Microsoft, Google ve diğer önde gelen yapay zeka şirketlerinin Cuma günü yeni yapay zeka sistemlerini halka açıklanmadan önce dış testlerden geçirme ve yapay zeka tarafından üretilen içeriği açıkça etiketleme taahhüdünde bulunduğunu duyurdu.

Taahhütler, Kongre ve Beyaz Saray hızla büyüyen endüstriyi yönetmek için daha kapsamlı düzenlemeler geliştirirken, AI sistemlerini ve ürünlerini daha güvenli ve daha güvenilir hale getirmeyi amaçlayan Beyaz Saray ve yedi önde gelen AI şirketi tarafından kabul edilen bir dizi gönüllü taahhüdün parçası. Başkan Joe Biden Cuma günü Beyaz Saray’da yedi şirketin üst düzey yöneticileriyle bir araya geldi.

Cuma günü yaptığı bir konuşmada Biden, şirketlerin taahhütlerini “gerçek ve somut” olarak nitelendirdi ve bunların “Amerikalılara karşı topluma fayda sağlayan ve değerlerimizi ve ortak değerlerimizi destekleyen güvenli, emniyetli ve güvenilir teknolojiler geliştirme konusundaki temel yükümlülüklerini” yerine getirmeye yardımcı olacaklarını ekledi.

“Önümüzdeki 10 yılda, hatta önümüzdeki birkaç yılda, son 50 yılda gördüğümüzden daha fazla teknoloji değişikliği göreceğiz. Bu şaşırtıcı bir açıklama oldu,” dedi Biden.

Beyaz Saray yetkilileri, bazı şirketlerin taahhütlerden bazılarını zaten yürürlüğe koyduğunu kabul ediyor, ancak bunların bir bütün olarak “yapay zekanın emniyet, güvenlik ve güven standartlarını” yükselteceğini ve “düzenlemeye köprü” görevi göreceklerini savunuyor.

Yapay Zeka politika sürecini yöneten Beyaz Saray Özel Kalem Başkan Yardımcısı Bruce Reed bir röportajda, “Bu bir ilk adım, gitmemiz gereken yere giden bir köprü” dedi. “Sektörün ve hükümetin yapay zekanın güvenli ve emniyetli olduğundan emin olma kapasitelerini geliştirmesine yardımcı olacak. Ve bu teknoloji daha önce gördüğümüz her şeyden daha uzağa ve daha hızlı hareket ettiği için çok hızlı hareket etmeye çalıştık.”

Şirketlerin çoğu hâlihazırda dahili “red-teaming” tatbikatları yürütürken, taahhütler, sistemlerini halka açıklanmadan önce dışarıdan uzmanların sistemlerini test etmelerine izin verme taahhüdünde bulundukları ilk sefer olacak. Kırmızı ekip tatbikatı, belirli bir teknolojide neyin yanlış gidebileceğini (siber saldırı veya kötü niyetli aktörler tarafından kullanılma potansiyeli gibi) simüle etmek için tasarlanmıştır ve şirketlerin eksiklikleri proaktif olarak belirlemesine ve olumsuz sonuçları önlemesine olanak tanır.

Reed, harici kırmızı ekip oluşturmanın “hükümet gözetimi ve düzenlemesinin önünü açmaya yardımcı olacağını” ve potansiyel olarak bir devlet düzenleyicisi veya lisans veren tarafından gerçekleştirilecek harici test için zemin hazırlayacağını söyledi.

Taahhütler ayrıca, sahtekarlık ve yanlış bilgilendirme ile mücadele amacıyla yapay zeka tarafından oluşturulan sesli ve görsel içeriğin yaygın şekilde damgalanmasına yol açabilir.

Şirketler ayrıca, özellikle yapay zeka sistemlerinin dayandığı bilgi tabanı olan yapay zeka model ağırlıklarını korumak için siber güvenliğe ve “iç tehdit önlemlerine” yatırım yapmayı taahhüt etti; üçüncü tarafların sistem güvenlik açıklarını bildirmesi için sağlam bir mekanizma oluşturmak; AI’nın toplumsal riskleri üzerine araştırmalara öncelik verilmesi; ve Beyaz Saray’a göre “toplumun en büyük zorluklarını ele almaya yardımcı olmak için” yapay zeka sistemlerini geliştirmek ve dağıtmak.

CNN’den Jake Tapper Friday tarafından yapay zeka söz konusu olduğunda sahip olduğu endişeler sorulduğunda, Microsoft Başkan Yardımcısı ve Başkan Brad Smith, teknolojiyle “insanların, kötü aktörlerin, bireylerin veya ülkelerin ne yapacağına” işaret etti.

“Bunu seçimlerimizi baltalamak için kullanacaklarını, bilgisayar ağlarımıza sızmak için kullanacaklarını. İşimizin güvenliğini baltalayacak şekillerde kullanacaklarını biliyorsunuz” dedi.

Ancak Smith, “Bu sorunları çözmenin en iyi yolu onlara odaklanmak, onları anlamak, insanları bir araya getirmek ve çözmektir. Ve bence AI ile ilgili ilginç olan şey, bunu yaptığımızda ve yapmaya kararlı olduğumuzda, AI’yı bu sorunlara karşı bugün yapabileceğimizden çok daha etkili bir şekilde savunmak için kullanabiliriz.

Binlerce yazar tarafından imzalanan yakın tarihli bir mektupta listelenen AI ve tazminat endişeleri konusunda Tapper tarafından baskı altına alınan Smith, şunları söyledi: “Bunun, kimsenin yaratarak, yazarak geçimini sağlama becerisini baltalamasını istemiyorum. Hepimizin tutturmak istemesi gereken denge bu.”

Tüm taahhütler gönüllülük esasına dayalıdır ve Beyaz Saray yetkilileri, şirketlerin taahhütlere bağlı kalmasını sağlayacak herhangi bir yaptırım mekanizması olmadığını kabul etti ve bunların bir kısmı da spesifiklikten yoksundur.

Bir çocuk internet güvenliği kuruluşu olan Common Sense Media, Beyaz Saray’ı yapay zeka korkulukları oluşturmak için attığı adımlar için övdü, ancak “tarih, birçok teknoloji şirketinin aslında sorumlu davranmak ve güçlü düzenlemeleri desteklemek için gönüllü bir taahhütle yürümediğini gösterecek” konusunda uyardı.

Common Sense Media CEO’su James Steyer yaptığı açıklamada, “Son on yıldan ve sosyal medya yönetişiminin tamamen yanlış yönetilmesinden bir şey öğrendiysek, o da birçok şirketin sözde çok fazla hizmet sunduğudur” dedi. “Ve sonra kârlarına o kadar öncelik veriyorlar ki, ürünlerinin Amerikan halkını, özellikle çocukları ve aileleri nasıl etkilediğinden kendilerini sorumlu tutmayacaklar.”

Federal hükümetin sosyal medya şirketlerini başlangıcında düzenleme konusundaki başarısızlığı – ve bu şirketlerin direnişi – son aylarda potansiyel AI düzenlemeleri ve yürütme eylemleri oluşturmaya başladıkları için Beyaz Saray yetkilileri için büyük önem kazandı.

Reed, “Şirketlerle yaptığımız görüşmelerde vurguladığımız ana şey, bunu mümkün olduğunca sağlam hale getirmemiz gerektiğiydi” dedi. “Teknoloji endüstrisi on yıl önce her türlü gözetimi, mevzuatı ve düzenlemeyi savuşturmakla hata yaptı ve bence yapay zeka bundan daha da hızlı ilerliyor ve bu köprünün düzenlemeye sağlam olması önemli.”

Taahhütler, Mayıs ayında bir grup AI yöneticisinin Biden, Başkan Yardımcısı Kamala Harris ve Beyaz Saray yetkilileri ile görüşmek üzere Beyaz Saray’a gelmesiyle başlayan, AI şirketleri ile Beyaz Saray arasında bir ay süren bir gidip gelme sırasında hazırlandı. Beyaz Saray ayrıca sektör dışı AI güvenlik ve etik uzmanlarından girdi istedi.

Beyaz Saray yetkilileri, gönüllü taahhütlerin ötesine geçmek için çalışıyor ve ilkinin bu yaz açıklanması beklenen bir dizi icra eylemi hazırlıyor. Yetkililer ayrıca AI’yı düzenlemek için daha kapsamlı mevzuat geliştirmek için Capitol Hill’deki milletvekilleriyle yakın bir şekilde çalışıyor.

“Bu ciddi bir sorumluluk. Doğru yapmalıyız. Ters yönde de muazzam, muazzam bir potansiyel var” dedi Biden.

Bu arada Beyaz Saray yetkilileri, şirketlerin gönüllü taahhütleri “hemen” uygulamaya başlayacaklarını ve gelecekte diğer şirketlerin imza atmasını umduklarını söylüyor.

“Diğer şirketlerin de emniyet, güvenlik ve itimat standartlarını karşılama yükümlülükleri olduğunu görmelerini bekliyoruz. Ve bir Beyaz Saray yetkilisi, bu taahhütlere katılmayı seçebilirler ve seçmelerini memnuniyetle karşılarız” dedi.

Bu hikaye ek ayrıntılarla güncellendi.

Bu yazı yorumlara kapatılmıştır.

Veri politikasındaki amaçlarla sınırlı ve mevzuata uygun şekilde çerez konumlandırmaktayız. Detaylar için veri politikamızı inceleyebilirsiniz.