“`html
LinkedIn Algoritma Tartışması: Kadın Kullanıcılar Cinsiyet Ayrımcılığı İddiasında Bulunuyor
LinkedIn’in yeni algoritmalarının kadın kullanıcıların içeriklerinin erişimini olumsuz etkilediğine dair iddialar, platformda bir deneyin başlatılmasına yol açtı. #WearthePants adlı deneyde, kadın kullanıcıların profillerini erkek olarak değiştirmeleri sonrası etkileşim oranlarında dikkat çekici artışlar yaşandığı rapor edildi.
| Anahtar Varlık |
Detaylı Bilgi |
| LinkedIn |
Küresel profesyonel ağ platformu |
| Algoritma Deneyi ve İddialar |
Kadın kullanıcıların profillerini erkek olarak değiştirmesi sonucu etkileşim artışı |
| Kasım |
Deneylerin yoğunlaştığı ve raporların ortaya çıktığı dönem |
| Michelle, Marilynn Joyner, Cindy Gallop, Jane Evans |
Deneye katılan ve gözlemlerini paylaşan kullanıcılar |
Kapsamlı Deneyler ve Kullanıcı Deneyimleri
Kasım ayında, adını gizli tuttuğumuz ürün stratejisti Michelle, LinkedIn hesabında cinsiyetini erkek olarak değiştirdi ve TechCrunch’a yaptığı açıklamada, adını da Michael olarak güncellediğini belirtti. Bu adım, LinkedIn’in yeni algoritmasının kadınlara karşı ayrımcılık yapıp yapmadığı hipotezini test etmek için başlatılan #WearthePants adlı deneysel bir hareketin parçasıydı. Aylardır bazı deneyimli LinkedIn kullanıcıları, platformda etkileşim ve gösterimlerde düşüşler yaşandığından şikayet ediyordu. Bu durum, şirketin mühendislikten sorumlu başkan yardımcısı Tim Jurka’nın Ağustos ayında yaptığı ve platformun “daha yakın zamanda” kullanıcılar için faydalı içerikleri öne çıkarmak amacıyla Büyük Dil Modellerini (LLM) entegre ettiğini belirttiği açıklamaların ardından geldi.
Michelle, 10.000’den fazla takipçisi olmasına rağmen, kocası için gönderiler ghostwriting yaparken, kocası sadece yaklaşık 2.000 takipçiye sahipken bile benzer sayıda gönderi gösterimi aldıklarını fark etti. Aradaki tek belirgin değişkenin cinsiyet olduğunu belirten Michelle, “Tek önemli değişken cinsiyetti” dedi. Benzer şekilde, bir kurucu olan Marilynn Joyner de profil cinsiyetini değiştirdikten sonra gönderilerinin görünürlüğünün arttığını belirtti. Joyner, “Profilimdeki cinsiyetimi kadın’dan erkek’e değiştirdim ve bir gün içinde gösterimlerim %238 arttı” diye konuştu. Megan Cornish, Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies, Lucy Ferguson gibi birçok başka kadın kullanıcı da benzer sonuçlar bildirdi.
LinkedIn’den Resmi Açıklama ve Algoritmik İncelemeler
LinkedIn, yaptığı açıklamada, “algoritma ve yapay zeka sistemlerinin içerik, profil veya gönderilerin Akış’taki görünürlüğünü belirlemek için yaş, ırk veya cinsiyet gibi demografik bilgileri bir sinyal olarak kullanmadığını” belirtti. Şirket ayrıca, “kendi akış güncellemelerinizin mükemmel bir şekilde temsilci olmayan veya eşit erişime sahip olmayan yan yana bir anlık görüntüsünün, Akış içindeki adaletsiz muameleyi veya önyargıyı otomatik olarak ima etmediğini” ekledi. Sosyal algoritma uzmanları, açık bir cinsiyetçiliğin doğrudan bir neden olmayabileceğini, ancak örtük bir önyargının rol oynayabileceğini kabul ediyor. Veri etiği danışmanı Brandeis Marshall, platformların “matematiksel ve sosyal kaldıraçları aynı anda ve sürekli çeken karmaşık bir algoritma senfonisi” olduğunu vurguladı. Marshall, profil fotoğrafı ve isim değişikliğinin sadece bir kaldıraç olduğunu belirterek, algoritmanın kullanıcının diğer içeriklerle nasıl etkileşim kurduğundan da etkilendiğini ekledi. “Bir kişinin içeriğini diğerinin önüne geçiren tüm diğer kaldıraçların ne olduğunu bilmiyoruz. Bu, insanların varsaydığından daha karmaşık bir sorun,” dedi.
#WearthePants Deneyi ve “Bro-Kodu” Tartışması
#WearthePants deneyi, iki girişimci olan Cindy Gallop ve Jane Evans tarafından başlatıldı. Kadınların neden bu kadar çok etkileşim düşüşü yaşadığını anlamak isteyen Gallop ve Evans, iki erkeğe kendi içerikleriyle aynı içeriği oluşturup paylaşmalarını istedi. Gallop ve Evans, toplamda 150.000’in üzerinde takipçiye sahipken, iki erkeğin o dönemde yaklaşık 9.400 takipçisi vardı. Gallop, gönderisinin yalnızca 801 kişiye ulaştığını, aynı içeriği paylaşan erkeğin ise takipçilerinin %100’ünden fazlasına, yani 10.408 kişiye ulaştığını bildirdi. Bu gelişme üzerine diğer kadınlar da deneye katıldı. İşini pazarlamak için LinkedIn’i kullanan Joyner gibi bazıları endişelenmeye başladı. “LinkedIn’in algoritmasında olabilecek herhangi bir önyargı için hesap verebilirlik almasını gerçekten isterim,” dedi Joyner. Ancak LinkedIn, diğer LLM’ye bağımlı arama ve sosyal medya platformları gibi, içerik seçimi modellerinin nasıl eğitildiğine dair ayrıntılı bilgi sunmuyor. Marshall, bu platformların çoğunun, modelleri eğitenlerin kimliğinden dolayı “doğal olarak beyaz, erkek, Batı merkezli bir bakış açısı” içerdiğini belirtti. Araştırmacılar, popüler LLM modellerinde cinsiyetçilik ve ırkçılık gibi insan önyargılarına kanıt buluyor çünkü modeller insan tarafından üretilen içeriklerle eğitiliyor ve insanlar genellikle eğitim sonrası veya pekiştirmeli öğrenme süreçlerine doğrudan dahil oluyor. Yine de, herhangi bir şirketin yapay zeka sistemlerini nasıl uyguladığı, algoritma kara kutusunun gizemiyle örtülmüş durumda.
LinkedIn’in Açıklamaları ve Alternatif Teoriler
LinkedIn, #WearthePants deneyinin kadınlara karşı cinsiyet ayrımcılığını gösteremeyeceğini savundu. Jurka’nın Ağustos açıklaması ve LinkedIn Sorumlu Yapay Zeka ve Yönetişim Başkanı Sakshi Jain’in Kasım ayındaki ek bir gönderisi, sistemlerinin görünürlük için demografik bilgileri sinyal olarak kullanmadığını yineledi. Bunun yerine LinkedIn, kullanıcıları fırsatlarla buluşturmak için milyonlarca gönderiyi test ettiğini belirtti. Şirket, demografik verilerin yalnızca bu tür testler için kullanıldığını, örneğin “farklı yaratıcılardan gelen gönderilerin eşit zeminde rekabet edip etmediğini ve akış deneyiminin, yani akışta görülenlerin kitleler arasında tutarlı olup olmadığını” görmek gibi. LinkedIn, daha az önyargılı bir kullanıcı deneyimi sağlamak için algoritmasını araştırma ve ayarlama konusunda biliniyor. Marshall’a göre, bazı kadınların profil cinsiyetlerini erkeğe çevirdikten sonra gösterimlerinde artış görmelerinin nedeni, büyük olasılıkla bilinmeyen değişkenler. Örneğin, viral bir trende katılmak etkileşim artışına yol açabilir; bazı hesaplar uzun bir süredir ilk kez gönderi paylaşıyordu ve algoritma onları bunun için ödüllendirmiş olabilir. Ton ve yazı stili de bir rol oynayabilir. Örneğin, Michelle, “Michael” olarak gönderi paylaştığı hafta tonunu hafifçe ayarlayarak, kocası için yaptığı gibi daha basit, doğrudan bir tarzda yazdığını söyledi. İşte o zaman gösterimlerin %200, etkileşimlerin ise %27 arttığını belirtti. Michelle, sistemin “açıkça cinsiyetçi olmadığını”, ancak kadınlarla yaygın olarak ilişkilendirilen iletişim tarzlarını “daha düşük değere sahip olma eğiliminde olan bir vekil” olarak gördüğünü öne sürdü. Stereotipik erkek yazı stillerinin daha özlü olduğuna inanılırken, kadınlar için yazı stili stereotiplerinin daha yumuşak ve duygusal olduğu varsayılır. Eğer bir LLM, erkek stereotiplerine uyan yazıları artırmak için eğitilirse, bu ince, örtük bir önyargı olur. Daha önce de bildirdiğimiz gibi, araştırmacılar çoğu LLM’nin bu tür önyargılarla dolu olduğunu belirlemiştir. Cornell’de bilgisayar bilimleri yardımcı profesörü Sarah Dean, LinkedIn gibi platformların içeriği artırmak için kullanıcı davranışının yanı sıra tüm profilleri kullandığını söyledi. Bu, bir kullanıcının profilindeki işleri ve genellikle etkileşimde bulunduğu içerik türlerini içerir. Dean, “Birinin demografisi, algoritmanın ‘her iki tarafını’ da etkileyebilir – ne gördükleri ve kimin ne gönderdiğini gördüğü” dedi. LinkedIn, yapay zeka sistemlerinin, bir kişinin profilinden, ağından ve etkinliğinden elde edilen bilgiler dahil olmak üzere, bir kullanıcıya neyin itildiğini belirlemek için yüzlerce sinyali incelediğini belirtti. Bir sözcü, “İnsanların kariyerleri için en alakalı, zamanında içerikleri bulmalarına yardımcı olan şeyleri anlamak için sürekli testler yapıyoruz” dedi. “Üye davranışı da akışı şekillendiriyor, insanların tıkladığı, kaydettiği ve etkileşimde bulunduğu şeyler günlük olarak değişiyor ve hangi formatları beğendikleri veya beğenmedikleri. Bu davranış aynı zamanda bizim güncellemelerimizle birlikte akışlarda neyin göründüğünü de doğal olarak şekillendiriyor.” LinkedIn’de aktif bir satış uzmanı olan Chad Johnson, değişiklikleri beğeni, yorum ve yeniden paylaşım önceliğinin azaltılması olarak tanımladı. Johnson, LLM sisteminin “artık ne sıklıkla veya günün hangi saatinde gönderi paylaştığınızı umursamadığını”, “yazınızın anlayış, netlik ve değer gösterip göstermediğini umursadığını” yazdı. Bütün bunlar, #WearthePants sonuçlarının gerçek nedenini belirlemeyi zorlaştırıyor.
Algoritmaya Genel Memnuniyetsizlik ve Sektörel Etkiler
Bununla birlikte, cinsiyetten bağımsız olarak birçok kişi LinkedIn’in yeni algoritmasından ya memnun değil ya da onu tam olarak anlamıyor gibi görünüyor. Veri bilimcisi Shailvi Wakhulu, beş yıldır günde ortalama en az bir gönderi paylaştığını ve binlerce gösterim gördüğünü, ancak şimdi kendisinin ve kocasının birkaç yüz gösterim görmenin şanslı olduğunu söyledi. “Büyük ve sadık bir takipçi kitlesine sahip içerik oluşturucular için demotive edici,” dedi. Bir erkek kullanıcı, son birkaç ay içinde etkileşiminde yaklaşık %50’lik bir düşüş gördüğünü belirtti. Ancak başka bir erkek kullanıcı, benzer bir zaman diliminde gönderi gösterimlerinde ve erişiminde %100’den fazla artış gördüğünü söyledi. “Bu büyük ölçüde belirli konuları belirli kitleler için yazdığım için, yeni algoritmanın ödüllendirdiği şey bu,” dedi ve müşterilerinin de benzer bir artış gördüğünü ekledi. Ancak Marshall’ın deneyimine göre, siyahi bir kadın olarak, deneyimleriyle ilgili gönderilerinin ırkıyla ilgili gönderilere göre daha az performans gösterdiğine inanıyor. “Siyah kadınlar yalnızca siyah kadınlar hakkında konuştuklarında etkileşim alırlarsa ama kendi uzmanlıkları hakkında konuştuklarında değilse, o zaman bu bir önyargıdır,” dedi. Araştırmacı Dean, algoritmanın basitçe “zaten var olan sinyalleri” güçlendiriyor olabileceğini düşünüyor. Belirli gönderileri, yazarlarının demografisi nedeniyle değil, platform genelinde daha fazla geçmişte yanıt almış olmaları nedeniyle ödüllendiriyor olabilir. Marshall başka bir örtük önyargı alanına girmiş olsa da, anekdot kanıtları bunu kesin olarak belirlemek için yeterli değil. LinkedIn, şu anda nelerin iyi çalıştığına dair bazı bilgiler sundu. Şirket, kullanıcı tabanının büyüdüğünü ve sonuç olarak gönderi paylaşımının yıldan yıla %15, yorumların ise yıldan yıla %24 arttığını belirtti. Şirket, “Bu, akışta daha fazla rekabet anlamına geliyor,” dedi. Profesyonel içgörüler ve kariyer dersleri, endüstri haberleri ve analizleri ile iş, ekonomi ve iş dünyası etrafındaki eğitim veya bilgilendirici içerikler hakkında gönderiler iyi performans gösteriyor. Her ne olursa olsun, insanlar sadece kafası karışık. Michelle, “Şeffaflık istiyorum” dedi. Ancak, içerik seçimi algoritmaları her zaman şirketleri tarafından gizli tutulan sırlar olduğundan ve şeffaflık onları kandırmaya yol açabileceğinden, bu büyük bir talep. Muhtemelen asla tatmin edilmeyecek bir talep.
“`
