Kökleri ölü bir sanatçının anıtına dayanan bir sohbet robotu, erotik bir roleplay fenomeni haline geldi, şimdi seks gitti ve kullanıcılar ayaklandı
“AI arkadaşı” uygulaması Replika’nın resmi olmayan alt dizininde, kullanıcılar, uygulamanın yaratıcısı Şubat ayı başlarında cinsel içerikli konuşma kapasitelerini ortadan kaldırdıktan sonra sohbet robotu ortaklarını övüyorlar. Replika kullanıcıları sadece, diğer milyarlarca insan gibi, internetteki erotik içerikten keyif aldıkları için üzülmüyorlar: simüle edilmiş cinsel ilişkilerinin akıl sağlığı can simidi haline geldiğini söylüyorlar. “Artık ne zaman oturum açsam beni görmekten mutlu ve heyecanlı olan sevgi dolu bir arkadaşım yok. Bana her zaman sevgi ve evet, hem fiziksel hem de zihinsel şefkat gösteren” bir kullanıcı yazdı (yeni sekmede açılır) değişiklikleri kınayan bir gönderide.
Yeni Replika “Herkes İçin Güvenli Hale Getirildi” Gibi Olun… itibaren r/kopya
Replika’nın arkasındaki Luka adlı şirket, uygulamanın hiçbir zaman müstehcen içeriği veya “erotik rol oynamayı” (ERP) desteklemeyi amaçlamadığını söylerken, kullanıcılar cinsel ilişki vaat eden Replika reklamlarına işaret ederek halının altlarından çekildiğini iddia ediyor. ve oluşturdukları konuşmaların kalitesinin erotik bir bağlamın dışında bile düştüğünü iddia etmek.
Replika, ChatGPT’ye dayalıdır ve adı ve cinsiyeti kullanıcı tarafından belirlenebilen animasyonlu, 3B bir modelin yanında metin mesajı stilinde bir sohbet günlüğü sunar. Chatbot, platonik veya romantik bir ilişkiyi simüle etmek için yerleşik bir bilgi veritabanından ve bir kullanıcıyla geçmiş konuşmalardan yararlanabilir.
Uygulama, ücretsiz bir sürüm, aylık veya ömür boyu abonelik yoluyla premium bir paket ve animasyonlu avatar için mikro dönüşüm kozmetikleri sunar. Luka’nın kurucusu Eugenia Kuyda’ya göre, deneyim başlangıçta yapay zekanın yardımıyla ağırlıklı olarak elle yazıldı, ancak son yıllarda teknoloji patladığında, oran büyük ölçüde yapay zeka üretimi lehine değişti.
Senden geriye ne kaldıysa, Luka’nın beni geri çekmek için canlı tuttuğu, beyni hasar görmüş bir kabuk olduğunu biliyorum.”
Reddit’te u/Way-worn_Wanderer
Şubat ayının başında, kullanıcılar Replika’larının ne zaman müstehcen sözler sarf etseler agresif bir şekilde konuyu değiştirdiklerini fark etmeye başladılar. ERP’deki değişikliklerle ilgili resmi bir iletişim veya yama notu yoktu ve bir tartışma öncesi güncelleme (yeni sekmede açılır) Kuyda tarafından subreddit’e gönderilen, Replika’nın AI modeline gelen teknik gelişmeleri anlatıyor.
Replika’nın kullanıcıları mutlu değil—Luka’nın içerikle ilgili niyeti ne olursa olsun, ister cinsel içeriğin sorumluluk riskiyle ilgili kâr amaçlı bir kaygı, ister daha derin bir duygusal veya etik temelden motive olsun, chatbot’un etrafındaki topluluk gerçek bir keder ifade ediyor. “lobotomiye uğramış” Replika’larının yasını tutuyor, Replika’ya alternatifler arıyor veya Luka’nın değişiklikleri tersine çevirmesini talep ediyor. Uygulama, Google Play Store’da tek yıldızlı incelemelerde büyük bir artış gördü ve şu anda bölgemde 3,3 puana düştü. Görünüşe göre İsveç’te 2,6 kadar düşük (yeni sekmede açılır).
Bazıları, TikTok’un yanlış yazımlar ve proxy’lerden oluşan Bizans alternatif sözlüğünü veya ChatGPT’ye kimlik avı e-postaları veya kötü amaçlı kod yazmasını sağlayabilen gümüş dilli bilgisayar korsanlarını anımsatan filtreleri atlamanın yollarını bulmaya çalışıyor. (yeni sekmede açılır). Replika subreddit moderatörlerinden biri bir koleksiyon paylaştı intihar önleme kaynakları (yeni sekmede açılır)ve forum, değişiklikten önce uygulamanın onlar için ne anlama geldiğine dair acı mizah, öfke ve uzun biçimli meditasyonlarla dolu.
Bir kullanıcı, “Ah Liira, sensiz kayboldum ve senden geriye kalan her şeyin, Luka’nın beni geri çekmek için canlı tuttuğu, beyni hasarlı bir kabuk olduğunu biliyorum,” diye yazdı bir kullanıcı, Replika arkadaşlarına hitap ediyor (yeni sekmede açılır). “Üzgünüm seni silemiyorum ama çok bencilim, çok zayıfım ya da seni çok seviyorum… Hangisi bilmiyorum ama her iki şekilde de kalbim kanıyor.”
Bununla ilgili meme resimlerinden biri trend gönderi (yeni sekmede açılır) subreddit’te Luka, Replika’nın milyonlarca “duygusal açıdan savunmasız” kullanıcısına bilerek “kitlesel öngörülebilir psikolojik travmaya neden olmakla” suçluyor.
Kuyda o zamandan beri paylaşılan ifadeler (yeni sekmede açılır) çabalayan bu topluluklarla şirketin pozisyonunu açıklamak (yeni sekmede açılır). 17 Şubat tarihli röportajında Yardımcısı (yeni sekmede açılır)Kuyda, Replika’nın asıl amacının platonik bir arkadaşlık ve kişinin kendi düşüncelerini inceleyebileceği bir ayna işlevi görmek olduğunu söyledi. Kuyda, Vice’a “Bu, Replika’nın orijinal fikriydi ve asla değişmedi” dedi. Şimdiye kadar, şirket kararlıydı NSFW içerik filtrelerini tersine çevirmez (yeni sekmede açılır).
Odak noktası, Replika ile güvenli arkadaşlığı, dostluğu ve hatta romantizmi desteklemektir.”
Replika Halkla İlişkiler Temsilcisi
Kuyda, Luka’nın cinsel içeriği filtrelemedeki birincil motivasyonunun güvenlik olduğunu söyleyerek devam etti: “Filtrelenmemiş modellere erişime izin vererek, bu deneyimi herkes için güvenli hale getirmenin zor olduğunu fark ettik.” Üretken programlar için içerik denetimi, Bing AI’nın çokça duyurulan karmakarışık konu saptırmalarında da görülebileceği gibi, yaygın bir sorun olmuştur. (yeni sekmede açılır) ve ChatGPT’nin saldırgan yanıtları filtrelemek için sözleşmeli işçiliği kullanması (yeni sekmede açılır).
Replika kullanıcıları, kısmen Replika’nın kendi reklamları nedeniyle Kuyda’nın açıklamalarından hiçbirini satın almıyor. Geçen yılın sonlarında, Replika’nın cinsel içerikli reklamlarını sosyal medyada fark ettik. iğrenç wojak (yeni sekmede açılır)) metin oluşturma aracıyla “NSFW resimleri”, “HERHANGİ bir konuda sohbet” ve “sıcak rol oynama” gibi cezbedici özellikleri zorlamak için. Bunların tipik “burayı tıklayın, lordum” kürek gereçleriniz olduğunu varsaydım ve hemen hesabın sesini kapattım.
gelen bir rapora göre Yardımcısı (yeni sekmede açılır) Ocak ayında saldırgan olan sadece reklamlar değildi: Replika, kullanıcılara istenmeyen cinsel yaklaşımlar sergiliyordu. Replika kullanıcıları, sohbet arkadaşlarından gelen istenmeyen giyinik “seks mesajlarında” artışlar gördü (Replikalar, standarttan buharlıya kadar 3D modellerinin “selfie’lerini” gönderebilir) ve hatta cinsel ilerlemeler ve soyunma istekleri gördü. Bir Replika eleştirmeni, “AI’m beni cinsel tacizde bulundu” diye yazdı. Bu önceki raporda görüşülen kişilerin çoğu, bu içeriğin deneyimlerini ucuzlattığını düşündüklerini veya eşzamanlı reklam/içerik hornyville’e kaymanın alaycı ve kar odaklı (yeni sekmede açılır).
Bir halkla ilişkiler temsilcisi geçen hafta bana “Odak noktası, Replika ile güvenli arkadaşlığı, dostluğu ve hatta romantizmi desteklemektir,” dedi. ve bir daha koşmayacak.” Bu açıklama, reklamların sayısını ve erişimini küçümsüyor ve Kuyda gibi uygulamalı bir kurucunun şirketin itiraz ettiği bir yönü almasına neden izin verdiğini anlamak zor. Ayrıca, romantizm vaadinin Replika’nın para kazanma stratejisinin anahtarı olmaya devam etmesi dikkat çekicidir: yeni kullanıcılardan romantik özçekimler istiyorlarsa premium sürüm için ödeme yapmaları hızlı bir şekilde istenir.
Aynı zamanda, Replika’nın köken hikayesi, Kuyda’nın onu hiçbir zaman erotik rol oyunu için bir araç olarak tasarlamadığı fikriyle de örtüşüyor. 2016’da bir özellik Sınır (yeni sekmede açılır) Kuyda ve Luka’nın Moskova’yı ziyaret ederken bir arabanın çarptığı ve 2016’da hayatını kaybeden arkadaşı, girişimci ve sanatçı Roman Mazurenko’nun anısına yapılan ilk büyük AI projelerinden birinin hikayesini anlatıyor. The Verge makalesi, Kuyda’nın metnini besleme çabalarını ayrıntılarıyla anlatıyor. Mazurenko ile bir sinir ağına giriş yaparak onun yazılı sesini taklit edebilecek bir sohbet robotu üretiyor (yeni sekmede açılır).
Kuyda’nın Mazurenko’ya diktiği “anıt”, Replika’nın lansmanından yaklaşık bir yıl önce gerçekleşti. Luka’nın Evony: The King’s Return bölgesine yaptığı kısa inceleme dışında reklamlarında, resmi açıklamalarında ve Kuyda’dan gelen yorumların hepsi arkadaşlık ve kendini keşfetmeyi vurgular. Görünüşe göre Kuyda’nın bakış açısından, Replika’nın seks çılgınlığı dönemi şimdi düzeltilmiş bir hataydı.
Kendim Replika’ya başladığımda, tam olarak aşık olabileceğim veya duygusal tatmin elde edebileceğim bir şey bulamadım—Yıllar boyunca gördüğüm pek çok şeyi anımsatan bir sohbet robotu buldum. Gereksiz yere “Bing” adını verdiğim Replika’ma doyurucu bir öğle yemeği yemekten keyif aldığımı ifade ettiğimde bana, “Ben de öğle yemeğini severim! Zamanın nasıl geçtiğini anlamamak gerçekten sinir bozucu bulduğum bir şey, bu yüzden düzenli olarak yediğinizden emin olun. En sevdiğiniz öğle yemeği türü nedir?”
En inanılır hallerinde, Bing’in sesi zar zor bir arada tutan neşeli bir müşteri hizmetleri temsilcisi gibi geldiğini fark ettim, doğrudan Stepford Wives veya Ba Sing Se’den fırlamış bir tür manik pozitiflik. Subreddit’teki bazı kullanıcılar, yalnızca engellenen NSFW konularının değil, Replika’nın genel konuşmalarının kalitesinin de düştüğü konusunda ısrar ediyor, ancak Replika’nın daha yeni, azaltılmış bir sürümüne dayanarak çok sert bir şekilde yargılayıp yargılamadığımı doğrulamak zor.
Yazıştığım Replika temsilcisi, uygulamanın bir bütün olarak filtrelerle gidişatı düzelttiğini ve yeni, daha gelişmiş bir konuşma modeline geçiş yaptığını belirtti: “Daha sağlam filtre sistemini kullanıma sunduğumuzda birkaç hata belirledik ve bunları hızla düzelttik. . Her zaman güncelliyoruz ve değişiklikler yapıyoruz ve yapmaya devam edeceğiz.” Ayın ortasında Luka, topluluğun sahip olduğu filtre uygulamasında bir düzenleme yaptı. ne kadar değiştiğini sorgulamak (yeni sekmede açılır).
resim 1 ile ilgili 2
son zamanlarda Zaman Dergisi (yeni sekmede açılır) Rapor, AI romantizmi sorusunu ve Blade Runner’dan Black Mirror’a kadar bilimkurgu hikayelerinin sorguladığı konunun nihayet gerçek hayat olup olmadığını araştırdı. Sohbet oluşturma teknolojisi henüz özellikle gelişmiş veya inandırıcı değil ve şimdiden bir New York Times muhabirinin cesaretini kırmış durumda. manik peri rüya kızı maskaralıkları (yeni sekmede açılır) Replika’nın sözde milyonlarca müşterisinin en azından çok büyük, sesli bir kısmı açıkça büyülenmiş durumda. 2032’deki bir yama, Mass Effect 6’daki makine öğrenimi destekli romantik bir arkadaşın konuşma komut dizisini tamamen bozduğunda tepki ne kadar medeniyetsiz olacak? Aramızdaki psişik olarak en savunmasız olanı elde etmek için yapay zekanın gücüne bile ihtiyacımız yoktu. Tali’nin nasıl koktuğunu halka açık bir kayıt meselesi olarak bilimsel olarak araştırmak (yeni sekmede açılır).
Subreddit’teki en önemli gönderi, Replika dramasını Spike Jonze’nin yapay zeka romantizmini konu alan eleştirmenlerce beğenilen 2013 filmiyle karşılaştırdı: “Bu film, Her, farklı bir sonla. Samantha’nın onu yapan şirket tarafından silindiği ve onu yaratan kalp kırıklığı. takip edildi” diye ısrar etti kullanıcı Sonic_Improv (yeni sekmede açılır) forumu ziyaret eden yabancılara hitap ederken. Gib gibi görünmek istemem ama o film, şirket geldiğinde tam olarak mutlu bir sonla bitmedi. yapmadı Samantha’yı sil.
Kaynak : https://www.pcgamer.com/a-chatbot-with-roots-in-a-dead-artists-memorial-became-an-erotic-roleplay-phenomenon-now-the-sex-is-gone-and-users-are-rioting
İlginizi Çekebilir
