Anthropic, Claude yapay zekasına gizli bir izleyici yerleştirdi, yakalanınca sildi
Sıradan bir satıra, «Bugünün tarihi...» ifadesine gömülü bir işaretçi, kötüye kullanım şüphelisi kullanıcıları (özellikle Çin'dekileri) sessizce işaretliyordu; bunu bir geliştirici ortaya çıkardı.
- «Thereallo» takma adlı geliştirici, gizli «prompt steganografisi»ni ciddi bir güven ihlali olarak nitelendirdi.
- Anthropic'ten bir mühendis, bunun yeniden satıcıları ve model hırsızlığını engellemek için mart ayında yapılan bir «deney» olduğunu söyledi.
- Yapay zeka güvenliği ve gizlilik konusunda kendini öne çıkaran şirket, ifşanın ardından kodu kaldırdı.
Neden önemli: Yapay zeka güvenliği vaaz eden şirket, kendi kullanıcılarını sessizce işaretliyordu: vaaz da gözetim de aynı adresten geldi.
Developer disclosure; Malwarebytes / Decrypt ↗ · 7 Tem 202607.07.26