Snap, My AI’nin isteğe bağlı bir araç olduğunu ve Snapchat’in bunun bir sohbet robotu olduğunu açıkça belirttiğini ve kullanıcılara sınırlamaları konusunda tavsiyelerde bulunduğunu belirterek, kötü incelemeyi geri çevirdi Ayrıca zaman zaman bazı uygunsuz yanıtların yanı sıra yanlışlıklar da sunar “Derecelendirmelerimizin daha fazla geliştiriciyi yanlış bilgilerin yayılmasını sınırlayan korumalar oluşturmaya ve gelecek nesilleri istenmeyen etkilerden korumak için üzerlerine düşeni yapmaya teşvik edeceğini umuyoruz “Tüm üretken yapay zeka, modellerin büyük miktarda internet verisi üzerinde eğitilmiş olması nedeniyle çok çeşitli kültürel, ırksal, sosyoekonomik, tarihsel ve cinsiyet önyargılarına ev sahipliği yapıyor – ve değerlendirmelerimizde de tam olarak bunu bulduk Steyer, yaptığı bir açıklamada, “Tüketiciler, tüm Amerikalıların, özellikle de çocukların ve gençlerin güvenliğini ve mahremiyetini tehlikeye atabilecek yapay zeka ürünleri için net bir beslenme etiketine erişebilmelidir” dedi Yine de şirketler bunları çocukların kullanımını göz önünde bulundurarak tasarladıkları için sorumlu yapay zeka uygulamalarını kullanma eğilimindeydiler ve adalete, çeşitli temsillere ve çocuk dostu tasarım hususlarına odaklandılar
genel-24
Common Sense Media, yeni AI ürünlerine ilişkin derecelendirmeleri ve incelemeleri sürekli olarak yayınlamaya devam edeceğini ve bunun yalnızca ebeveynleri ve aileleri değil aynı zamanda yasa yapıcıları ve düzenleyicileri de bilgilendirmeye yardımcı olacağını umduğunu söylüyor Şirket, TechCrunch’a yaptığı açıklamada, yapay zekamın aynı zamanda Aile Merkezine de entegre edildiğini, böylece ebeveynlerin gençlerin onunla sohbet edip etmediğini ve ne zaman sohbet ettiğini görebileceğini söyledi ancak şirketin, ürününü geliştirmeye devam ederken incelemenin sağladığı geri bildirimleri takdir ettiğini de ekledi Diğerlerine göre daha az tanınırlar Common Sense, yapay zekanın ürettiği yanlış bilgilerin kullanıcıların dünya görüşlerini şekillendirebileceği ve gerçeği kurgudan ayırmayı daha da zorlaştırabileceği konusunda uyardı Gibi siteler Sarılma Yüz ve Civitai, yalnızca yeni görüntü modelleri bulmak için kaynak olarak değil, aynı zamanda birinin (ünlü gibi) benzerliğini kullanarak porno yapmak için birbirleriyle birleştirilebilecek farklı modeller bulmayı da kolaylaştırarak popüler hale geldi çeşitli yapay zeka ilkeleri, güven, çocukların güvenliği, mahremiyet, şeffaflık, hesap verebilirlik, öğrenme, adalet, sosyal bağlantılar ve insanlara ve topluma faydalar dahil Hareket, böyle bir hizmete olan ilgilerini ölçmek amacıyla ebeveynler arasında yapılan bir anketle tetiklendi
Common Sense’in derecelendirmelerinin orta kademesinde Google’ınki gibi yapay zeka sohbet robotları vardı Ozan (daha dün resmi olarak gençlere açıldı), SohbetGPTVe Yürümeye Başlayan Yapay Zeka
Common Sense Media Yapay Zeka Kıdemli Danışmanı Tracy Pizzo-Frey, “Yapay zeka her zaman doğru değildir ve değerler açısından tarafsız da değildir” dedi: derecelendirmelerin özetinde Kuruluş, özellikle “farklı geçmişlere ve lehçelere” sahip kullanıcılar için bu botlarda da önyargı oluşabileceği konusunda uyardı Yalnızca %40’ı bu kararları vermelerine yardımcı olacak güvenilir kaynaklar bildiğini söyledi Ayrıca kuruluşun gizlilik endişelerini artırdığını söylediği kişisel kullanıcı verilerini de sakladı Yeni değerlendirmeler geldi Sağduyu Medyasıailelere yönelik, kar amacı gütmeyen bir savunuculuk grubu
Common Sense Media’nın kurucusu ve CEO’su James P (Yorum isteklerine hemen yanıt verilmedi Ayrıca yanlış bilgi veya yapay zeka halüsinasyonları üretebilir ve stereotipleri güçlendirebilirler dedi Eğer hükümet yapay zekayı ‘çocuklardan korumayı’ başaramazsa, teknoloji şirketleri veri gizliliğimiz, refahımız ve genel olarak demokrasimiz pahasına bu düzenlenmemiş, serbest atmosferden yararlanacak” diye ekledi
İyi değerlendirmeler alan tek yapay zeka ürünleri şunlardı: Ello’nun Yapay zeka okuma öğretmeni ve kitap dağıtım hizmeti, Hanmingo (Khan Academy’den) ve Kyron Learning’in Yapay zeka öğretmeni — üçü de eğitim amaçlı tasarlanmış yapay zeka ürünleridir Ayrıca veri gizliliği politikaları konusunda da daha şeffaftılar Bu konu bu hafta gündeme geldi 404Medya Civitai’nin yeteneklerine dikkat çekildi ancak sorumlu taraf (topluluk toplayıcıları veya yapay zeka modellerinin kendisi) konusundaki tartışma devam etti sonrasında Hacker News gibi sitelerde
Kuruluş ilk olarak öğrenme için kullanılanlar, Bard ve ChatGPT gibi yapay zeka sohbet robotlarının yanı sıra Snap’in My AI ve DALL-E gibi üretken yapay zeka ürünleri de dahil olmak üzere 10 popüler uygulamayı 5 puanlık bir ölçekte inceledi
Popüler yapay zeka araçlarının bağımsız bir incelemesi, Snapchat’in My AI, DALLE ve Stable Diffusion dahil olmak üzere pek çoğunun çocuklar için güvenli olmayabileceğini ortaya çıkardı (Ve bazı çocukların iddia edebileceği gibi daha az eğlencelidir) ebeveynler için medya derecelendirmeleri çocuklarının tükettiği uygulamaları, oyunları, podcast’leri, TV şovlarını, filmleri ve kitapları değerlendirmek isteyenler Şaşırtıcı olmayan bir şekilde, ikinci kategori en kötü performansı gösterdi
Şirket ilk olarak Temmuz ayında, teknolojinin sorumlu yapay zeka uygulamalarından yararlanıp faydalanmadığı ve çocuklara uygunluğu da dahil olmak üzere, yapay zeka ürünlerini çeşitli boyutlarda değerlendirmek için bir derecelendirme sistemi oluşturmayı hedeflediğini duyurdu
Bu, Common Sense Media’nın bugünkü lansmanına yol açtı )
İnternetteki herhangi bir yeni araç gibi, bu üretken yapay zeka modelleri de pornografik materyaller üretmek için kullanılıyor
Diğer üretken AI modelleri gibi DALL-E Ve Kararlı Difüzyon diğer kaygıların yanı sıra kadınların ve kızların nesneleştirilmesi ve cinselleştirilmesi eğilimi ve toplumsal cinsiyet stereotiplerinin güçlendirilmesi gibi benzer risklere sahipti ”
TechCrunch’ın kendi testlerinde muhabir Amanda Silberling, Snapchat’in My AI üretken AI özelliklerinin aktif olarak zararlı olmaktan çok genellikle daha garip ve rastgele olma eğiliminde olduğunu buldu, ancak Common Sense Media AI sohbet robotuna 2 yıldız verdi, bunun yaş ayrımcılığı, cinsiyetçilik ve kültürel stereotipler etrafındaki haksız önyargıları güçlendiren bazı tepkiler ürettiğini belirtti