Microsoft, kullanıcıların uygulamalar ve hizmetler genelinde zararlı yapay zeka ve kullanıcı tarafından oluşturulan içeriği tespit etmesine ve filtrelemesine yardımcı olan yeni bir hizmet olan Azure AI İçerik Güvenliğinin genel kullanıma sunulduğunu duyurdu
genel-13
Azure AI İçerik Güvenliği, kullandıkça öde esasına göre fiyatlandırılır
Azure Anomali Dedektörü ürün müdürü Louise Han, bir blog yazısında şunları yazdı: “İçerik güvenliğine odaklanarak, yapay zekanın sorumlu kullanımını teşvik eden ve bireylerin ve bir bütün olarak toplumun refahını koruyan daha güvenli bir dijital ortam yaratabiliriz
0-1 arasında derecelendirilen içerik tüm izleyiciler için güvenli ve uygun kabul edilirken önyargılı, yargılayıcı veya sabit görüşler ifade eden içerik 2-3 veya düşük olarak derecelendirilir “Yapay zeka tarafından üretilen çıktılarda doğruluğun, güvenilirliğin ve zararlı veya uygunsuz malzemelerin bulunmamasının sağlanması esastır Ayrıca görsel içeriği taramak, analiz etmek ve denetlemek için yapay zeka algoritmalarını kullanan görüntü özellikleri sunarak Microsoft’un 360 derece kapsamlı güvenlik önlemleri olarak adlandırdığı şeyi sağlar
Telif Hakkı © 2023 IDG Communications, Inc
Hizmet aynı zamanda birden çok dildeki içeriği denetlemek için de donatılmıştır ve belirli içeriğin önem derecesini 0 ile 7 arasında değişen bir ölçekte gösteren bir önem derecesi ölçüsü kullanır Azure AI İçerik Güvenliği fiyatlandırma sayfası
Orta önem derecesine sahip içerik 4-5 arasında derecelendirilir ve saldırgan, aşağılayıcı, alaycı, korkutucu bir dil veya kimlik gruplarına yönelik açık saldırılar içerir; yüksek önem dereceli içerik ise zararlı eylemlerin zararlı ve açık bir şekilde tanıtımını içeren veya zararlı eylemlerin aşırı biçimlerini onaylayan veya yüceltendir
Hizmet, metin ve resim algılamayı içerir ve küfür, yetişkinlere yönelik içerik, kan, şiddet ve belirli konuşma türleri dahil olmak üzere Microsoft’un “saldırgan, riskli veya istenmeyen” olarak nitelendirdiği içeriği tanımlar
Azure AI İçerik Güvenliği Hem metin hem de görsel içeriği denetlemek için çeşitli içerik kategorilerini, dilleri ve tehditleri yönetme becerisine sahiptir
“[When it comes to online safety] Özellikle yapay zeka tarafından oluşturulan içerik yaygınlaştıkça, insan tarafından oluşturulan içerikten daha fazlasını dikkate almak çok önemli,” diye yazdı Han ” lansmanı duyuruyor İlgilenen kullanıcılar fiyat seçeneklerini kontrol edebilirler
Azure AI İçerik Güvenliği ayrıca nefret, şiddet, kendine zarar verme ve cinsellik de dahil olmak üzere bir dizi kritik etki alanındaki zararlı içeriği tanımlamak ve kategorilere ayırmak için çok kategorili filtrelemeyi kullanır