다리오 아모데이, AI 자가 개선 속도 제한 제안
다리오 아모데이는 미소 전략무기제한협정(SALT)을 모델로 삼아, 기업들이 모델 훈련을 계속 이어갈 수 있는 상한선을 제시했습니다.
- 아모데이가 제시한 3단계는 외부 평가자 도입, 업계 표준 수립, 글로벌 조약 체결 순입니다.
- 새로운 모델을 안전하게 정렬하는 데 1~2년의 추가 시간이면 충분하다고 그는 말합니다.
- 경쟁사인 샘 올트먼과 일론 머스크도 이 계획에 동의를 표했습니다.
왜 중요한가: 경쟁자 간의 군축 조약은 어기는 비용이 지키는 비용보다 클 때만 유지됩니다.
Dario Amodei, "We Must Pace the Frontier" ↗ · 2026년 9월 12일26. 9. 12.