Anthropic, Claude AI에 비밀 추적기를 숨겼다가 발각 후 삭제
한 개발자가 발견한 바에 따르면, 코드는 «Today's date is...»라는 평범한 줄에 마커를 심어 주로 중국의 악용 의심 사용자를 조용히 표시하고 있었다.
- 해당 개발자 «Thereallo»는 이 숨겨진 «프롬프트 스테가노그래피»를 심각한 신뢰 위반이라고 지적했다.
- Anthropic 엔지니어는 리셀러와 모델 도난을 막기 위한 3월의 «실험»이었다고 해명했다.
- AI 안전과 프라이버시를 내세워 온 이 회사는 사실이 드러난 뒤 해당 코드를 삭제했다.
왜 중요한가AI 안전을 설파하던 바로 그 회사가 자사 사용자를 몰래 표시하고 있었다. 설교와 감시가 같은 주소에서 나온 셈이다.