Herkesin Kullandığı Lensa AI, Kadınları Nesne Yapıyor

Önemli ilerlemeler kaydeden yapay zeka teknolojileri son dönemde oldukça popüler hale geldi. DALL-E, Midjourney gibi sistemlerle oluşturulan çalışmalar internet ortamlarını esir almıştır. Ayrıca insanların avatarlarını oluşturan uygulamalarda patlama yaşanıyor ve hangi platformu ziyaret edersek edelim yapay zeka temelinde ortaya çıkan bu görüntüleri görüyoruz.

Prisma Labs tarafından düzenlendi Lensa AI ve onlardan biri. Uygun fiyatlara kullanılabilen bu uygulamanın adı ‘Sihirli Avatarlar’. ‘ ‘Sihirli Avatarlar’ adlı bir özelliği vardır. Bu, kullanıcıların gerçekten büyülü olarak tanımlanabilecek avatarlar oluşturmasına olanak tanır. Ancak bu durum bize bir yapay zeka sorununu da göstererek bazı sorunların ortaya çıkmasına neden oluyor. Şimdi bu bahise bir göz atalım.

Her şeyden önce, bu Lensa AI nedir? Nasıl çalışıyor?

Lensa AI, bahsettiğimiz gibi Prisma Labs tarafından oluşturulmuş bir uygulamadır. Son zamanlarda uygulama mağazalarının zirvesinde yer alan Lensa, aslında 2018’den beri ortalıkta. Ancak bu ayın başlarında ‘ “Sihirli Avatarlar” özelliği onu bilinir hale getirdi. Türkiye’de 88 TL’den başlayan fiyatlarla birlikte eklediğiniz fotoğraflar, farklı temalardan (fütüristik veya anime karakterleri gibi) benzersiz avatarlara dönüştürülebiliyor.

Lensa, internetten gelen eserlerden oluşan bir bilgi tabanından yararlanan açık kaynaklı bir yapay zeka derin öğrenme modelidir. Kararlı Difüzyon kullanır. Bu veritabanı LAION-5B olarak adlandırılır ve CLIP adlı sınır ağı tarafından filtrelenen 5,85 milyar metin-resim çifti kullanır. 2022’de piyasaya sürülen metinden görüntüler oluşturan derin bir öğrenme modeli olan Stable Diffusion’ın yeni versiyonu da geçen ay yayınlandı.

Lensa AI ile ilgili diğer detayları ve nasıl kullanılabileceğini öğrenmek isterseniz aşağıdaki içeriğimize göz atabilirsiniz;

Lensa AI’nın kadınları nesneleştiren avatarlar yarattığı söyleniyor

Yapay zeka sistemleri gelişmiş olmasına rağmen hala bazı sorunları var. Buna en güzel örnek, yazıdan görsele dönüşen yapay zekaların el ve parmak oluşturmada problem yaşamalarıdır. Ancak Polygon’a göre Lensa’da durum biraz farklı.

Son bilgiler, Lensa AI’nın hanımları cinselleştirdin ve bazı ırkçı sonuçlar ortaya çıkardı. Sosyal medyada çok sayıda kullanıcı, uygulamada kadınlar büyük göğüsler ve göğüs dekoltesiEklendi derken böyle bir talep olmamasına rağmen, çıplak resimler bile yaratıldıbildirildi.

California Üniversitesi’nden Olivia Snow da Wired’da kendi çocukluğundan fotoğraflar eklediğinde bile uygulamanın devam etmesini sağladığını yazdı. cinsel nesne Uygulama sahiplerine bu bahis sorulduğunda grup, Snow’un kullanım koşullarını kasten ihlal ettiğini söyledi. Lensa’nın politikaları, çıplak fotoğrafları yasaklarken çocukların resimlerinin kullanılmasını yasaklar. Kullanıcılar ayrıca 18 yaşından büyük olduklarını beyan etmelidir.

Kullanıcılara göre ırkçı sonuçlar ve çıplaklık avatarları bile var.

Tried out the Lensa AI app and fed 20 photos of myself, and I have to say it really struggles with Asian faces. My results were skewed to be more East Asian and I’m absolutely not impressed. pic.twitter.com/WnyLKXQT8K

— Anisa Sanusi (@studioanisa) December 3, 2022

Ayrıca uygulamanın avatarlarda ırkçı klişelere yer verdiği söyleniyor. Örneğin yukarıda bir kullanıcının kendi fotoğraflarını kullanarak oluşturduğu manzaralarda yapay zekanın Asyalılarla zorlandığı görülebiliyor.

Bu hariç Asyalı kadınlar fetişleştirilmek da bildirilmektedir. MIT Technology Review’da yazan Melissa Heikkilä adlı Asyalı bir gazeteci, Lensa uygulamasıyla ilgili deneyimlerini paylaştı. Buna göre kendi fotoğraflarından oluşturulan avatarlarda yüksek derecede çıplaklığa yer verildi. Gazeteci, diğer meslektaşlarının bu tarz durumla karşılaşma ihtimalinin daha düşük olduğunu belirtti.

Son zamanlarda bu yapay zekanın kandırılarak çıplaklık fotoğrafları oluşturabileceği de ortaya çıktı. TechCrunch tarafından paylaşılan bir rapor, kullanıcıların uygulamayı kolayca kullanmasını sağlıyor. çıplaklık fotoğrafları oluşturabileceğiniz , hatta bunların ünlülerin resimleriyle yapılabileceğini gösterdi. 13 Aralık’ta yeni özellikler getiren Prisma Labs, güvenlik paniklerinin daha az görülmesine neden olan avatarlar yapacaklarını söyledi.

“Yapay zeka toplumumuzun bir yansımasıdır”

Lensa’da yaşananlar, yapay zekanın daha kat etmesi gereken çok yol olduğunu ortaya koyuyor. Bilindiği üzere bu sistemlerde daha önce birçok kez bazı olumsuz durumlar yaşanmıştır. Geçtiğimiz yıllarda Microsoft, Tay adlı yapay zekasını ırkçı ve kadın düşmanı yorumlar nedeniyle kapatmıştı. Son zamanlarda Meta da benzer nedenlerle bir dil modelini kapattı.

Haziran ayında yapılan bir araştırma, Lensa’da gördüğümüz CLIP ağı tarafından eğitilen sistemlerin, cinsiyet ve ırkbazıları hakkında klişeler neden olduğunu ortaya çıkardı. Ayrıca kadınları ve beyaz olmayan insanları tanıma olasılıklarının daha düşük olduğunu vurguladı.

Lensa dahil yapay zeka sistemlerinin bu sorunla nasıl başa çıkacağını ilerleyen zamanlarda göreceğiz. Uygulamanın sahibi Prisma Labs da Stable Diffusion’ın internetteki filtrelenmemiş veriler üzerinde çalıştığını vurguluyor ve bu konuda ne kendilerinin ne de Stable AI’nin (Stable Diffusion’ın yaratıcısı) bir şey yapabileceğini söylüyor. Ayrıca bilgi diyerek insanlığın var olan ön yargılarını modele tanıtmaktadır. yapay zekanın toplumumuza bir ayna tuttuğunuo ekler.