OpenAI Çin kaynaklı hesapları yasakladı: ChatGPT devlet gözetimi için kullanılmış

OpenAI, Çin merkezli ve artık yasaklanan bir hesabın ChatGPT’yi hükümet destekli bir sosyal medya izleme aracı tasarlamak için kullandığını duyurdu. Şirketin açıklamasına göre bu araç, X, Facebook, Instagram, Reddit, TikTok ve YouTube gibi platformlarda belirli politik, etnik veya dini içerikleri tarayarak analiz edebiliyordu. OpenAI, söz konusu çalışmanın doğrudan Çin hükümeti adına yürütülüp yürütülmediğini bağımsız olarak doğrulayamadığını da belirtti.

OpenAI Çin kaynaklı hesapları yasakladı: ChatGPT devlet gözetimi için kullanılmış

Ayrıca OpenAI, “Yüksek Riskli Uygur İlişkili Veri Akışı Uyarı Modeli” olarak tanımlanan başka bir aracın taslağını hazırlamak için ChatGPT kullanan bir hesabı da engelledi. Bu modelin, Uygur kökenli bireylerin hareketlerini izlemek amacıyla geliştirildiği öne sürüldü. Çin hükümeti, uzun süredir Uygur Müslümanlarına yönelik insan hakları ihlalleriyle suçlanıyor.

Şirketin Şubat 2024’te yayımlamaya başladığı tehdit raporları, devlet bağlantılı grupların yapay zekayı kötüye kullanma girişimlerini gözler önüne seriyor. Son rapora göre Rusya, Çin ve İran’da bazı ağlar ChatGPT’yi propaganda ve etki kampanyaları için kullandı. OpenAI, sisteminin dolandırıcılık tespitinde kullanılma oranının üretiminden üç kat daha fazla olduğunu açıkladı.