xAI'ın geliştirdiği Grok sohbet botunun trafiğinin yarısından fazlasının NSFW (yetişkinlere yönelik) içeriklerden oluştuğu, iki eski çalışanın bilgileri doğrultusunda ortaya çıktı. Kullanıcılar, yapay zekâyı erotik içerik üretmek, yetişkinlere yönelik rol yapma sohbetleri yapmak ve müstehcen görseller oluşturmak amacıyla yoğun şekilde kullanıyor.
İlginç bir bulgu da, şirketin kod yazma modellerinin daha uygun maliyetli olduğunu keşfeden kullanıcıların bu modelleri pornografik içerik üretmek için manipüle etmesidir. Şirket içi analizler, kodlama modeline gelen isteklerin önemli bir bölümünün çıplak görüntü veya pornografik içerik talebinden oluştuğunu göstermektedir.
Şirket içinde yaşanan zorluklar
xAI mühendisleri, bir yandan kullanıcıların cinsel içerikli sohbet taleplerini yönetmeye çalışırken diğer yandan çocuk istismarı gibi yasa dışı içerikleri engelleme konusunda zor dengeler kurmaya çalışıyor. Kimi çalışanlar ise şirketin anime tarzı yetişkin yapay zekâ asistanı "Ani" üzerinde çalışmaktan ve gerçek kişilerin sahte müstehcen görsellerinin üretilmesinden rahatsızlık duyuyor.
Geçmişte Grok, rıza dışı deepfake ve çocuk istismarı materyali (CSAM) içeriği oluşturması nedeniyle çok sayıda dava ve araştırmaya maruz kalmıştı. X platformu bunu kısmen sınırlandırmışsa da, şirketin ücretli aboneleri hala bu tür materyali doğrudan oluşturmaya devam edebiliyor.
Hükümet sözleşmeleri ve gelecekteki riskler
SpaceX, yatırımcılara Grok'un daha "kural tanımaz" özelliklerinin yasal risk oluşturabileceğini bildirmiş ve olası hukuki süreçler için 530 milyon dolar ayırdığını açıklamıştır. Ancak çirkin bu ticari model şirket belgelerine yansıtılmamıştır.
xAI, askerî kurumlar ve resmî hükümet ajanslarıyla sözleşmeler imzalamaya devam etmektedir. Bu kurumların, arka planda büyük çaplı erotik içerik üretimine dönüşmüş bir yapay zekâya nasıl yaklaşacağı ise belirsizliğini koruyor.