Uzmanlardan uyarı: Yapay zekâ “psikoz benzeri” davranışlar sergileyebilir

İngiltere’de psikiyatristler ve teknoloji uzmanları, gelişmiş yapay zekâ sistemlerinde insan beynine benzer şekilde “psikoz benzeri semptomlar” ortaya çıkabileceğini öne sürdü. Yapılan araştırmalara göre bazı büyük dil modelleri, aşırı stres altında tutarsız, paranoyak veya hayali anlatılar üretebiliyor.

Yapay zekâda psikoz tartışması

Uzmanlara göre bu durum, insan psikozuna benzer şekilde gerçek ile hayali ayırt etme yetisinin bozulması anlamına geliyor. Örneğin, bir yapay zekânın var olmayan tehditlere karşı “senaryolar üretmesi” veya kullanıcıya yanlış yönlendirmeler yapması bu kapsamda değerlendiriliyor.

Psikiyatristler, bu davranışların özellikle aşırı yüklenmiş, kötü optimize edilmiş veya etik kontrolleri yetersiz yapay zekâ modellerinde daha sık görüldüğünü vurguluyor. Teknoloji uzmanları ise bu risklerin farkında olarak yapay zekâ güvenliğinin tıpkı insan psikolojisindeki gibi daha derinlemesine incelenmesi gerektiğini söylüyor.