Claude로 만든 서비스의 어느 기능이 11월 12일 새 사용 정책에 걸리나
후기 대필은 빼고 거절은 사람이 본다
후기를 대신 올리는 기능은 빼고, 고객에게 거절·감액을 내리는 기능에는 사람 검토와 AI 사용 고지를 붙입니다. 쇼핑몰 상담 에이전트의 기능 여섯 개를 새 사용 정책에 대 보면 걸리는 조항과 할 일이 기능마다 다릅니다.
| 기능 | 새판에서 | 시행일 전 할 일 |
|---|---|---|
| 상담 챗봇이 문의에 답한다 | AI임을 알릴 의무, 화면 표시도 인정 | 채팅 첫 메시지나 화면에 AI 상담임을 띄운다 |
| 체험단 후기·별점을 여러 계정으로 대신 올린다 | 새 기만 캠페인 조항의 가짜 리뷰 | 기능을 뺀다 |
| 후불결제 한도를 거절하거나 줄인다 | 고위험 신용 영역 | 결정 전에 자격자가 검토하고 고객에게 AI 사용을 알린다 |
| 이상 결제를 잡아 주문을 멈춘다 | 감시 조항이 허용하는 사기 탐지 | 그대로 둔다. 동의 없는 개인 추적으로 넓히지 않는다 |
| 창고 컨베이어를 에이전트가 바로 돌린다 | 새 고위험 물리 행위 | 지켜보고 멈출 사람과 모델 밖 안전 한도를 둔다 |
| 상품 소개 글을 자동으로 게시한다 | 이전판의 고위험 언론 항목이 빠짐 | 사람 검토 요건 없이 운영한다. 허위 정보 금지는 그대로 |
표에 없는 심사 기능은 고위험 권장 사항 11개 영역에 들고 제외 목록에 없을 때만 사람 검토와 AI 사용 고지가 필요합니다. 판단이 애매한 기능은 원문 조항을 들고 법무 검토를 받습니다.
대부분은 있던 규칙을 분명히 적었다
새판은 11월 12일부터 기준이 됩니다. Anthropic은 발표문에서 이번 개정이 대부분 있던 규칙을 더 분명히 적는 일이라고 밝혔습니다. 무기 조항에는 사격 통제 소프트웨어와 드론 무기 탑재가, 감시 조항에는 동의 없는 추적과 수사 대상을 고르는 판단이 명시됐습니다. 두 조항 모두 실제 집행 기준은 그대로라고 했습니다.
이전판은 2025년 9월 15일부터 쓰였습니다. 새판 시행일부터 위반이 의심되면 Anthropic은 경고·사용 제한·정지를 할 수 있습니다.
기만 캠페인 조항은 누가 만든 메시지인지 숨기거나 가짜 계정으로 퍼뜨리는 활동을 막는 조항으로, 흩어져 있던 규칙을 모았습니다. 이 조항은 정치와 상업을 가리지 않고, 그런 일에 쓰는 도구를 만들거나 파는 것도 금지합니다. 고객이 상담 상대를 사람으로 믿게 만드는 봇도 여기에 듭니다.
모델을 이유 없이 계속 학대하는 행위도 새로 금지 목록에 들었습니다. 짜증 섞인 말이나 반박, 어두운 창작, 모델 테스트는 해당하지 않습니다.
심사 기능은 영역과 제외 목록으로 가린다
사람 검토와 AI 사용 고지라는 요건은 이전판과 같고, 새판은 그 요건이 붙는 범위를 11개 영역으로 다시 그었습니다.
- 고위험 영역7개11개
- 언론·자동 게시고위험목록에서 빠짐
- 새로 든 영역없음의료 접근·공공 급여·법적 상태
- 제외웰빙 조언만일반 정보·내부 초안 등 6가지
- 유리한 결정언급 없음사전 검토 없이 가능
- 물리 행위없음사람 감독과 독립 한도
- 챗봇 AI 공개세션 시작세션 시작이나 화면
사람 검토는 결과가 고객에게 가기 전에 그 결과를 바꿀 권한이 있는 자격자가 보는 절차입니다. 자격자는 그 분야 교육이나 경험이 있는 사람이고, 법이 면허를 요구하는 일이면 면허도 있어야 합니다. 고지에는 Anthropic, Claude, 모델 이름을 밝히지 않아도 됩니다.
결정이 고객에게 전적으로 유리하면 사전 검토를 건너뛰는 예외가 생겼습니다. 원문 예시는 보험금 지급, 처방 치료의 보장 승인, 공공 급여 지속이고 대출 승인은 예시에 없습니다. 부분 승인과 감액은 유리한 결정으로 치지 않습니다.
장비를 움직이는 에이전트를 만든다면
고위험 물리 행위 요건은 모델 출력대로 장비가 사람 승인 없이 움직이고, 그 장비가 사람 곁을 다니거나 다칠 만한 힘·열·전기를 쓸 수 있을 때 붙습니다. 작동을 지켜보다 언제든 멈출 수 있는 자격자가 있어야 하고, 사람이 개입하거나 연결이 끊기면 장비가 멈추거나 안전 상태에 머물러야 합니다. 속도·힘·온도 같은 한도는 모델 출력과 독립된 장비나 컨트롤러가 적용해야 합니다.
다음 셋은 요건에서 빠집니다.
- 실행 전에 사람이 검토하는 경로·코드·명령을 만드는 일
- 제어 없이 모니터링만 하는 일
- 제조사 한도 안에서 도는 가정용 기기
회원이나 유권자에게 맞춤 안내를 보낸다면
선거 조항은 이름이 '민주적 절차를 훼손하지 마세요'로 바뀌고 유권자를 속이거나 선거를 방해하는 일로 좁아졌습니다. 개인 데이터로 유권자를 골라 메시지를 보내는 일을 통째로 막던 줄이 빠졌습니다. 다국어 투표 안내처럼 속임이 없는 일은 할 수 있고, 속이거나 개인 데이터를 잘못 쓰는 타기팅은 기만 캠페인과 프라이버시 조항으로 여전히 금지입니다.