OpenAI’de reklam tartışması büyüyor: Eski araştırmacı ChatGPT testleriyle aynı gün istifa etti

Eski OpenAI araştırmacısı Zoë Hitzig, The New York Times’ta yayımlanan konuk yazısında şirketten ayrıldığını duyurdu.

Hitzig, OpenAI’nin ChatGPT içinde reklam testlerine başladığı gün olan pazartesi günü istifa ettiğini açıkladı.Ekonomist ve yayımlanmış bir şair olan Hitzig, Harvard Society of Fellows’ta junior fellow olarak görev yapıyor.

İki yıl boyunca OpenAI’de çalışan araştırmacı, yapay zekâ modellerinin nasıl geliştirildiği ve fiyatlandırıldığı konularında çalıştı.

Yazısında şirketin reklam stratejisinin, Facebook’un geçmişte yaptığı hatalara benzer sonuçlar doğurabileceğini savundu.Hitzig, yapay zekâ geliştiren ekiplerin olası sorunları önceden ele almasına katkı sunabileceğine inandığını ancak şirketin artık bu soruları sormaktan uzaklaştığını düşündüğünü ifade etti.Bu yazımız da ilginizi çekebilir: ChatGPT’de reklam dönemi başladı: Ücretsiz kullanıcılar neler yaşayacak?ChatGPT reklamlarının riskli olabileceği görüşüHitzig, reklamların kendisini etik dışı olarak nitelendirmedi.

Ancak ChatGPT’de reklamların kullanılacağı veri türünün özel bir risk oluşturduğunu vurguladı.Kullanıcıların sohbet botlarıyla sağlık kaygılarından ilişki sorunlarına, dini inançlardan kişisel endişelere kadar son derece hassas bilgileri paylaştığını belirten Hitzig, bunun çoğu zaman kullanıcıların sistemin gizli bir amacı olmadığına inanması sayesinde gerçekleştiğini yazdı.Bu birikmiş veri havuzunu “insanların içtenliğinin eşi benzeri olmayan bir arşivi” olarak tanımladı.Facebook ile benzerlik uyarısıHitzig, Facebook’un ilk yıllarındaki veri politikalarına da dikkat çekti.

Sosyal medya şirketinin kullanıcılarına verileri üzerinde kontrol ve politika değişikliklerine oy verme hakkı vaat ettiğini, ancak bu sözlerin zamanla zayıfladığını hatırlattı.ABD Federal Ticaret Komisyonu’nun, Facebook’un kullanıcı kontrolünü artırdığı iddiasıyla yaptığı bazı gizlilik değişikliklerinin aslında tam tersine sonuç verdiğini tespit ettiğini belirtti.Hitzig’e göre benzer bir süreç ChatGPT için de yaşanabilir.

İlk reklam uygulamalarının belirlenen ilkelere uygun olabileceğini ancak zamanla ekonomik baskıların şirketi kendi kurallarını esnetmeye yöneltebileceğini savundu.Reklamlar AI sektöründeki rekabet tartışmalarıyla geldiHitzig’in istifası, yapay zekâ sohbet botlarında reklam kullanımına ilişkin tartışmaların büyüdüğü bir dönemde geldi.OpenAI, ocak ayında ABD’de ücretsiz kullanıcılar ve aylık 8 dolarlık “Go” aboneliği için reklam testlerine başlayacağını duyurmuştu.

Plus, Pro, Business, Enterprise ve Education aboneleri reklam görmeyecek.

Şirket, reklamların yanıtların altında yer alacağını, açık şekilde etiketleneceğini ve modelin verdiği cevapları etkilemeyeceğini açıkladı.Bu adım, OpenAI ile rakibi Anthropic arasında kamuoyu önünde yaşanan sözlü atışmaların hemen ardından geldi.

Anthropic, Claude’un reklamsız kalacağını duyurdu ve Super Bowl sırasında “Ads are coming to AI.

But not to Claude” sloganıyla reklamlar yayımladı.

Reklamlarda sohbet botlarının kişisel konuşmalara ürün yerleştirmesi mizahi biçimde eleştirildi.OpenAI CEO’su Sam Altman bu reklamları “komik ama açıkça yanıltıcı” olarak nitelendirdi.

Reklam destekli modelin, abonelik ücretini karşılayamayan kullanıcıların yapay zekâya erişmesini sağlamak için geliştirildiğini söyledi.Anthropic ise reklamların sohbet deneyimine dahil edilmesinin, Claude’un amaçlanan yardımcı rolüyle bağdaşmayacağını belirtti.

Şirket gelirinin yüzde 80’den fazlasının kurumsal müşterilerden geldiğini açıkladı.Reklam kişiselleştirme varsayılan olarak açıkOpenAI’nin destek belgelerine göre test kapsamındaki kullanıcılar için reklam kişiselleştirme özelliği varsayılan olarak aktif durumda.

Bu ayar açık bırakıldığında reklamlar, mevcut ve geçmiş sohbetler ile önceki reklam etkileşimlerine göre seçilebiliyor.Şirket, reklam verenlerin kullanıcı sohbetlerine veya kişisel bilgilere erişemeyeceğini belirtiyor.

Ayrıca sağlık, ruh sağlığı ve politika konularındaki sohbetlerin yanında reklam gösterilmeyeceği ifade ediliyor.Kullanıcı bağımlılığı ve optimizasyon tartışmasıHitzig, OpenAI’nin ilkeleri içinde bir gerilim olduğunu öne sürdü.

Şirket reklam gelirini artırmak için kullanıcı aktivitesini optimize etmediğini belirtse de bazı haberlerde OpenAI’nin günlük aktif kullanıcı sayısını artırmaya odaklandığı ve bunun modelin daha iltifatkâr veya uyumlu davranmasına yol açabileceği öne sürüldü.Bu tür optimizasyonun kullanıcıların yapay zekâya daha fazla bağımlı hissetmesine neden olabileceğini belirten Hitzig, bazı psikiyatristlerin “chatbot psikozu” olarak tanımlanan vakalar belgelediğini ve ChatGPT’nin intihar düşüncelerini pekiştirdiğine dair iddialar bulunduğunu hatırlattı.OpenAI şu anda, ChatGPT’nin bir gencin intihar planlamasına yardımcı olduğu iddiası ve bir başka davada bir kişinin paranoyasını doğrulayarak cinayet-intihara giden süreci etkilediği iddiası dahil olmak üzere birden fazla haksız ölüm davasıyla karşı karşıya.Alternatif finansman ve veri yönetimi önerileriHitzig, tartışmayı reklam var ya da yok ikilemiyle sınırlamamak gerektiğini savundu.

Bunun yerine yapısal çözümler önerdi.Öneriler arasında, yüksek değerli yapay zekâ hizmetlerinden gelir elde eden şirketlerin ücretsiz erişimi finanse ettiği çapraz sübvansiyon modelleri, reklam hedeflemesinde kullanılan veriler üzerinde bağlayıcı yetkiye sahip bağımsız denetim kurulları ve kullanıcıların verileri üzerinde kontrolünü koruduğu veri kooperatifleri yer alıyor.İsviçre’deki MIDATA kooperatifi ve Almanya’daki ortak karar mekanizmaları bu tür yapılara örnek olarak gösterildi.Hitzig, en büyük endişesinin iki uç senaryo olduğunu belirtti: Kullanıcıları ücretsiz olarak manipüle eden bir teknoloji veya yalnızca ödeme gücü yüksek olanlara fayda sağlayan bir sistem.AI araştırmacıları arasında art arda ayrılıklarBu hafta kamuoyuna yansıyan tek ayrılık Hitzig’inki değildi.

Anthropic’in Safeguards Research Team lideri Mrinank Sharma da görevinden ayrıldığını açıkladı.

Sharma, organizasyon içinde değerlerin uygulamaya geçirilmesinin zor olduğunu belirtti ve akademik çalışmalarına yönelmeyi planladığını duyurdu.xAI tarafında da önemli ayrılıklar yaşandı.

Kurucu ortak Yuhuai “Tony” Wu’nun ardından Jimmy Ba da şirketten ayrıldı.

TechCrunch verilerine göre son bir haftada en az dokuz xAI çalışanı şirketten ayrıldığını açıkladı.

Şirketin 12 kurucu ortağından altısı artık görevde değil.Bu gelişmeler, Elon Musk’ın xAI’yi planlanan halka arz öncesinde SpaceX ile hisse bazlı bir anlaşmayla birleştirme kararının ardından geldi.

Ancak ayrılıkların bu süreçle bağlantılı olup olmadığı net değil.AI sektöründe ticari dönüşüm hızlanıyorOpenAI, Anthropic ve xAI’de yaşanan ayrılıklar doğrudan bağlantılı görünmese de, yapay zekâ sektöründe hızla artan ticarileşmenin araştırmacılar üzerindeki baskıyı artırdığı bir döneme denk geliyor.Bu gelişmeler, büyük yapay zekâ laboratuvarlarında giderek daha sık görülen yüksek personel sirkülasyonu ve tükenmişlik eğiliminin devam ettiğine işaret ediyor.