AI gelişimine ara verilmesi çağrısında bulunan Musk imzalı açık mektup, alıntı yaptığı araştırmacılar tarafından eleştirildi.
Bu haftanın başlarında, Future of Life Institute’un (FLI) yakın zamanda piyasaya sürülen Chat GPT-4’ten “daha güçlü” AI sistemlerinin eğitimine altı aylık bir ara verilmesi çağrısında bulunan açık mektubunu bildirdik. Mektup, Elon Musk, Steve Wozniak ve Stability AI kurucusu Emad Mostaque gibi kişiler tarafından imzalandı. Gardiyan (yeni sekmede açılır) Ancak, mektubun tam da alıntı yaptığı kaynaklardan sert eleştirilerle karşı karşıya olduğunu bildiriyor.
“Stokastik Papağanların Tehlikeleri Üzerine (yeni sekmede açılır)“, Chat GPT gibi büyük dil modellerinin çevresel maliyetlerini ve içsel önyargılarını eleştiren etkili bir makaledir ve makale, geçen haftaki açık mektupta atıfta bulunulan birincil kaynaklardan biridir. Daha önce etik AI araştırmasına başkanlık eden ortak yazar Margaret Mitchell Google’da, Reuters’e şunları söyledi: “Pek çok şüpheli fikri veriliymiş gibi ele alan mektup, bir dizi önceliği ve yapay zeka hakkında FLI destekçilerine fayda sağlayan bir anlatıyı öne sürüyor.”
Mitchell devam ediyor, “Şu anda aktif zararları görmezden gelmek, bazılarımızın sahip olmadığı bir ayrıcalık.”
Çalışmalarına FLI mektubunda da atıfta bulunulan Connecticut Üniversitesi’nden yardımcı doçent Shiri Dori-Hacohen de benzer şekilde sert sözler söyledi. Reuters’e iklim değişikliği gibi varoluşsal zorluklara atıfta bulunarak, “Yapay zekanın bu riskleri şiddetlendirmek için insan düzeyinde zekaya erişmesine gerek yok” dedi ve ayrıca şunları ekledi: “Gerçekten, gerçekten önemli olan var olmayan riskler var, ancak dikkate almayın. Hollywood düzeyindeki aynı ilgiyi görmüyorum.”
Future of Life Enstitüsü 3.531.696 € (o sırada 4.177.996 $) aldı. Musk Vakfı’ndan finansman (yeni sekmede açılır) 2021’de listedeki en büyük bağışçısı. Bu arada Elon Musk’ın kendisi, tarafından bildirildiği üzere 2018’de şirketten kötü koşullarda ayrılmadan önce Chat GPT yaratıcısı Open AI’yi kurdu. Forbes (yeni sekmede açılır). gelen bir rapor yardımcısı (yeni sekmede açılır) Meta’nın baş yapay zeka bilimcisi Yann LeCun ve Çin Devlet Başkanı Xi Jinping de dahil olmak üzere FLI mektubunu imzalayan birkaç kişinin sahte olduğunun ortaya çıktığını not ediyor? FLI o zamandan beri her yeni imza sahibini doğrulamak için bir süreç başlattı.
Mitchell, dilbilim profesörü Emlily M. Bender, bilgisayar bilimcisi Timni Gebru ve dilbilimci Angelina McMillan-Major’un da aralarında bulunduğu “On the Dangers of Stokastik Papağanlar” kitabının yazarları 31 Mart’ta bir resmi cevap (yeni sekmede açılır) etik AI araştırma enstitüsü DAIR aracılığıyla FLI açık mektubuna. Mektubun özetinde, “Sözde yapay zekanın zararları gerçektir ve mevcuttur ve otomatik sistemler kullanan kişi ve şirketlerin eylemlerinden kaynaklanmaktadır.” “Düzenleyici çabalar şeffaflığa, hesap verebilirliğe ve sömürücü emek uygulamalarını önlemeye odaklanmalıdır.”
Araştırmacılar, FLI mektubunun önerdiği bazı önlemleri kabul ettiklerini kabul ediyor, ancak “bunların, söylemi ‘insan-rekabetçi zeka’ ile hayali ‘güçlü dijital beyinlerin’ risklerine yönlendiren korku tellallığı ve yapay zeka aldatmacasının gölgesinde kaldığını belirtiyor. Yapay zeka teknolojisinin daha acil ve acil tehlikelerinin şunlar olduğunu savunuyorlar:
Stokastik Papağan yazarları, FLI’nin son yıllarda Silikon Vadisi aydınları arasında son derece popüler hale gelen “uzun vadeli” felsefe okuluna üye olduğuna işaret ediyor; aslında günümüzün yaşayan insanları.
Bu terime, çöken kripto borsası FTC ve gözden düşmüş lideri Sam Bankman-Fried’in devam eden destanından aşina olabilirsiniz. (yeni sekmede açılır)Tekillik ve benzerleriyle uğraşmak zorunda kalacak olan geleceğin insanları için “etkili özgecilik” savunuculuğunda sözünü sakınmayan biri. MS 5402’deki Dyson Kürelerinin bir nanobotla karşılaşmamasını sağlamak zorundayken neden iklim değişikliği ve küresel gıda arzı konusunda endişelenelim?gri yapışkan (yeni sekmede açılır)“kıyamet senaryosu!
Stokastik Papağan yazarları, mektubun sonuna doğru durumlarını etkili bir şekilde özetliyor: [FLI letter’s] Görünüşte önceden belirlenmiş bir teknolojik geleceğe ‘uyum sağlamamız’ ve ‘yapay zekanın neden olacağı dramatik ekonomik ve politik kesintilerle (özellikle demokraside)’ başa çıkmamız gerektiği şeklindeki anlatıya rağmen, rolümüzün önceliklerine uyum sağlamak olduğu konusunda hemfikir değiliz. birkaç ayrıcalıklı birey ve inşa etmeye ve çoğaltmaya karar verdikleri şey.”
Bunun yerine mektup yazarları, “Toplumu makinelerce okunabilir ve yazılabilir hale ‘uyarlamak’ yerine bizim için çalışan makineler yapmalıyız. Giderek daha büyük ‘Yapay zeka deneyleri’ne doğru mevcut yarış, tek seçeneğimizin olduğu önceden belirlenmiş bir yol değil. ne kadar hızlı çalışılacağı değil, daha çok kar güdüsünün yönlendirdiği bir dizi karardır.”
Kaynak : https://www.pcgamer.com/that-musk-signed-open-letter-calling-for-a-pause-on-ai-development-is-getting-blasted-by-the-very-researchers-it-cites