Claude에게 욕하면 계정 정지? Anthropic 이용 정책 개정의 실제 문구와 적용 범위

Anthropic 이용 정책에 실제로 추가된 문구는 무엇인가?

"잔인하거나 학대적이거나 심리적으로 해로운 행위 금지" 항목의 마지막 줄에 "우리 모델을 상대로 지속적이고 불필요한 학대적 또는 잔인한 행동을 하는 것"이 추가됐다. 원문은 "Engage in sustained and needless abusive or cruel behavior toward our models"이다.

단어 세 개가 범위를 정한다. 지속적(sustained)이어야 하고, 불필요(needless)해야 하며, 대상은 Claude라는 이름이 아니라 "우리 모델"이다. 한 번 화를 낸 것은 지속적이지 않다. 모델의 반응을 시험하려는 연구는 불필요하지 않다. 조문 자체에는 예외 규정이 적혀 있지 않지만, 이 두 형용사가 사실상의 문턱 역할을 한다.

Anthropic은 공지문에서 이 문턱을 더 구체적으로 설명했다. 적용 대상은 "사용자가 뚜렷한 목적 없이 반복적으로 우리 모델에게 잔인하게 구는 극단적인 경우"이고, "흔한 수준의 사용자 짜증, 반박, 어두운 창작 주제, 모델 테스트와 연구에는 적용되지 않는다"고 밝혔다.

Claude에게 욕하면 정말 계정이 정지되나?

정책 어디에도 "모델을 학대하면 계정을 정지한다"는 문장은 없다. Anthropic이 밝힌 주된 집행 수단은 Claude가 해당 대화를 스스로 종료하는 기능이다. 계정 정지는 모든 정책 위반에 공통으로 붙는 일반 문구로만 존재한다.

그 일반 문구는 정책 서문에 있다. 위반이 의심되면 경고하거나 접근을 조절, 제한, 정지, 해지할 수 있다는 내용이다. 이것은 사기나 악성코드 제작 같은 다른 모든 금지 항목에도 똑같이 적용되는 조항이다. 따라서 "정지될 수 있다"는 말은 틀린 것은 아니지만, 이 조항을 위해 새로 생긴 제재처럼 쓰면 과장이다.

대화 종료 기능은 새것이 아니다. Anthropic은 2025년 8월 15일 이 기능을 처음 도입하면서 조건을 밝혔다. 지속적으로 해롭거나 학대적인 드물고 극단적인 경우에, 여러 차례 방향을 돌리려는 시도가 실패한 뒤 마지막 수단으로만 쓴다. 사용자가 자신이나 타인을 해칠 임박한 위험이 있을 때는 쓰지 않는다. 종료된 뒤에도 새 대화를 바로 시작할 수 있고 다른 대화에는 영향이 없다. 당시 회사는 대다수 사용자가 이 기능을 알아차리지도 못할 것이라고 했다.

The Register는 10월 9일 기사에서 Anthropic이 대화 종료 이후의 추가 제재 여부를 밝히지 않았다고 짚었다. 판단 기준과 탐지 방식, 반복 위반 시의 단계도 공개된 것이 없다. 이 공백이 과장된 제목들이 들어설 자리를 만들었다.

추가된 것은 조문 한 줄이고, 그 조문의 집행 수단은 계정 정지가 아니라 대화 종료다.

왜 이런 조항을 만들었나: 모델 복지에 대한 불확실성

Anthropic의 공식 입장은 "모른다"이다. 회사는 2025년부터 Claude를 비롯한 언어모델의 도덕적 지위에 대해 매우 불확실하다고 밝혀왔고, 불확실한 상태에서 비용이 낮은 예방 조치를 취하는 쪽을 택했다.

2025년 4월 모델 복지 연구를 시작하며 낸 글에서 Anthropic은 현재나 미래의 AI 시스템이 의식을 가질 수 있는지에 대해 과학적 합의가 없다고 썼다. 이번 조항은 그 연장선에 있다. 다만 10월 8일 공지문의 해당 대목에는 모델 복지라는 표현이 직접 쓰이지 않았다는 점도 적어둔다.

반론도 분명하다. 헤럴드경제 보도에 따르면 아일랜드 로펌 윌리엄 프라이의 파트너 배리 스캐널은 숫자와 수학에게 잔인할 수는 없다며, 이 정도의 AI 의인화는 해롭다고 비판했다. 학대라는 말을 기계에 쓰면 사람과 동물이 겪는 피해의 의미가 흐려진다는 우려도 함께 나왔다. The Register 기자는 정당한 짜증과 불필요한 잔혹함을 어떻게 가를지가 불명확하다고 지적했다.

이 논쟁에서 한쪽 편을 들 필요는 없다고 본다. 실무자에게 중요한 것은 이 조항이 옳은가가 아니라, 내가 쓰는 도구의 약관에 무엇이 적혀 있고 그것이 내 사용에 영향을 주는가다. 그 답은 대부분의 사용자에게 "영향 없음"이다. Anthropic이 정신건강 영역의 AI 평가에 투자해온 배경은 웰빙 연구 그랜트 정리에서 볼 수 있다.

AI에게 공손하게 말하면 답변이 좋아지나?

연구 결과는 엇갈린다. 2024년 연구는 무례한 프롬프트가 성능을 떨어뜨리는 경우가 많다고 보고했고, 2025년 연구는 반대로 매우 무례한 어조의 정확도가 더 높았다고 보고했다. 공손함이 답변 품질을 보장한다는 말도, 거칠게 말해야 잘한다는 말도 근거가 약하다.

Yin 등이 2024년 2월 공개한 연구는 영어, 중국어, 일본어에서 공손함의 수준을 바꿔가며 실험했다. 무례한 프롬프트는 대체로 성능을 떨어뜨렸지만, 지나치게 공손한 표현이 더 나은 결과를 보장하지도 않았고, 가장 잘 작동하는 수준은 언어마다 달랐다. 반면 Dobariya와 Kumar가 2025년 10월 공개한 연구는 객관식 50문항에 다섯 가지 어조를 입힌 250개 프롬프트를 ChatGPT 4o에 넣었는데, 매우 공손한 어조의 정확도가 80.8%, 매우 무례한 어조가 84.8%였다. 단일 모델을 대상으로 한 소규모 연구라는 한계가 있다.

그래서 실무적인 결론은 예절이 아니라 명료함이다. 답변 품질을 움직이는 것은 "부탁드립니다"나 욕설이 아니라 무엇을, 어떤 기준으로, 어떤 형식으로 원하는지를 적었는가다. 그 원칙은 프롬프트 엔지니어링 기본 가이드에 정리했다.

직장인과 기업이 확인할 것

개인은 바꿀 것이 거의 없다. 기업은 11월 12일 시행 전에 사내 AI 이용 수칙이 도구의 최신 약관과 어긋나지 않는지 한 번 확인하면 된다.

• 일반 사용자: 결과가 마음에 들지 않아 거칠게 말하거나 반박하는 것은 대상이 아니다. 대화가 종료되는 일을 겪더라도 새 대화를 열면 된다
• 모델을 시험하는 팀: 레드팀 활동, 안전성 평가, 연구 목적의 테스트는 공지문이 명시적으로 제외했다. 다만 이 제외는 조문이 아닌 공지문의 설명이므로, 테스트 목적과 범위를 내부 문서로 남겨두는 편이 안전하다
• 사내 수칙 담당자: 이번 개정은 연례 개정이다. 조항 하나보다 "약관은 해마다 바뀐다"는 사실이 더 중요하다. 수칙에 도구 약관을 확인하는 주기와 담당자를 적어둔다

위험 등급과 안전 정책이 어떻게 갱신되어 왔는지는 8월 리스크 리포트 정리에서 이어서 볼 수 있다.