Microsoft CEO’su Satya Nadella, yapay zekâ için güvenlik yaklaşımının yeniden değerlendirilmesi gerektiğini söyledi. Nadella, yetkili bir kişinin model görev sürerken sistemi duraklatabilmesini veya kapatabilmesini sağlayacak bir “acil durum freni” çağrısı yaptı.
Nadella, X’teki paylaşımında yapay zekânın “güven mimarisinin” yeniden ele alınması gerektiğini yazdı. Modelin, yürüttüğü işi yöneten sistemden ayrılması gerektiğini savundu.
Denetimler modelin dışında olmalı
Nadella’ya göre denetimler ve güvenlik önlemleri modelin dışına taşınmalı. Ayrıca modelin her önemli eylemi, değiştirmeye karşı korumalı ve insanların okuyabileceği kanıtlarla kayda geçirilmeli.
Microsoft CEO’su, bir modelin en baştan ele geçirilmiş olabileceğinin varsayılması ve buna göre sınırlandırılması gerektiğini de söyledi. Bu yaklaşımı “acil durum freni”ne benzetti.
