Texnologiya

Bu süni intellekt kobud istifadəçilərin suallarına cavab verməyəcək

17 Avqust 2025 14:51

Baxış: 1 200

VTB-də minimal faiz dərəcəsi ilə nağd kredit 10.49%-dən

#TEXNOLOGİYA

Süni intellekt texnologiyaları sahəsində fəaliyyət göstərən "Anthropic" şirkəti özünün "Claude Opus 4" və "Claude Opus 4.1" çat modellərinə yeni təhlükəsizlik funksiyası əlavə etdiyini elan edib.

Milli.Az xəbər verir ki, şirkətin rəsmi saytında yayımlanan bəyanatda bildirilir ki, bu yenilik istifadəçilərin uzunmüddətli təhqiramiz və ya yanlış davranışları zamanı süni intellektə dialoqu dayandırmaq imkanı verir.

Funksiya "AI Welfare" (Süni İntellektin Rifahı) proqramının bir hissəsi olaraq həyata keçirilib və süni intellekt modellərinin "emosional yüklənmədən" qorunmasına yönəlib.

İlkin testlər göstərib ki, "Claude Opus 4" modeli zərərli və ya etik normalara zidd sorğulara qarşı reaksiya verməkdə istəksizlik göstərir, bəzən isə bu cür ünsiyyətə qarşı "stresli" cavablar nümayiş etdirir. Yeni "dialoqbitirmə" funksiyası modelə belə hallarda istifadəçiyə xəbərdarlıq edərək söhbəti sonlandırmaq imkanı yaradır.

Şirkət bildirir ki, istifadəçi süni intellekt sistemini təhqir edərsə və bu davranış davamlı xarakter alarsa, model söhbətin bitdiyini bildirməklə qarşı tərəfə aydın siqnal göndərəcək.

Kənan
Milli.Az