Anthropic verstopte geheime tracker in Claude AI en verwijderde deze na ontdekking
De code bevatte een markering in een gewone zin, 'De datum van vandaag is...', om gebruikers te vlaggen die verdacht werden van misbruik, vooral in China.
- De ontwikkelaar 'Thereallo' noemde de verborgen 'prompt-steganografie' een ernstige vertrouwensbreuk.
- Een Anthropic-ingenieur zei dat het een 'experiment' uit maart was om wederverkoop en modeldiefstal te stoppen.
- Het bedrijf, dat zichzelf vermarkt op AI-veiligheid en privacy, verwijderde de code na de onthulling.
Waarom dit ertoe doet: Het huis dat AI-veiligheid predikt, markeerde stiekem zijn eigen gebruikers; de preek en de surveillance kwamen uit hetzelfde adres.
Developer disclosure; Malwarebytes / Decrypt ↗ · 7 jul 20267-7-26