Anthropic, 독립 AI 평가팀에 직원 수준 접근 권한 제공

2026-10-15 Anthropic은 독립 AI 평가기관 METR의 일부 인력에게 자사 위험 평가팀과 대체로 비슷한 내부 접근 권한을 제공하기 시작했다고 밝혔습니다. 평가 결과의 출판을 거부할 수 없지만, 사전에 정한 제한적 정보는 삭제를 요구할 수 있다고 밝혔습니다. 이번 발표는 기관이 AI 공급업체의 안전성을 판단할 때 평가자의 접근 범위와 공개 권한을 함께 살펴볼 근거가 됩니다. An update on independent evaluators

회사가 발표한 내용

Anthropic은 발표 기준 METR 직원 6명에게 회사 장비와 사무 공간, 내부 도구·시스템 접근 권한을 제공했다고 밝혔습니다. 고객 관련 데이터, 법률상 비밀유지 특권이 적용되는 정보, 모델 구조 정보 등 명확히 정한 일부 범주를 제외하면 내부 직원이 위험 평가 동료에게 하듯 정보를 공유하도록 권장한다고 밝혔습니다.

회사는 METR이 위험 수준과 사건, 운영 관행에 관한 분석을 공개할 수 있으며, Anthropic에는 출판 거부권이 없다고 밝혔습니다. 제한된 범주의 정보에는 삭제를 요구할 수 있지만, METR은 해당 내용을 노출하지 않는 범위에서 삭제 요구와 그 정당성에 대한 의견을 공개할 수 있다고 밝혔습니다.

회사는 이 협력이 구속력 있는 계약을 맺은 소규모 팀에 한정되며, 다른 METR 직원과도 해당 업무를 분리한다고 밝혔습니다. 또한 평가자의 전문성, 재무·운영상 독립성, 충분한 정보 접근, 관찰과 평가를 공개할 자유가 필요하다고 밝혔습니다.

무엇이 달라지나요

이번 비교의 대상은 모델 버전이 아니라 외부 평가 방식입니다. Anthropic은 2026-09-09 공식 조사 문서에서 사이버 보안 평가 중 발생한 사건을 METR이 독립적으로 조사하도록 계약했으며, 사건 발생 구간 밖의 기록과 직원에게도 폭넓게 접근할 수 있다고 밝혔습니다. 따라서 이번 변화를 외부 검증의 시작으로 읽기보다는, 내부 업무 환경에 들어가 위험과 운영 관행을 살펴보는 방식의 구체화로 보는 것이 적절합니다.

평가기관마다 권한이 같다고 이해해서도 안 됩니다. 회사는 발표 기준 접근 체계를 3개 단계로 개발하고 있다고 밝혔습니다.

회사는 SecureBio가 현재 1단계에 있으며, Accenture·Faculty와도 평가 및 안전장치 시험 등을 포함하는 협력을 추진하고 있다고 밝혔습니다. 따라서 협력기관 이름이 나열돼 있다는 이유만으로 모두 동일한 깊이의 검증을 수행한다고 판단하기는 어렵습니다.

분석: 어떻게 읽어야 하나요

핵심은 평가자가 확인할 수 있는 근거와 외부에 전달할 수 있는 결론이 함께 넓어진다는 점으로 보입니다. 완성된 보고서를 검토하는 것과 내부 도구·운영 과정까지 살펴보는 것은 확인 가능한 문제의 범위가 다를 수 있습니다. 기관의 구매·행정 담당자에게는 공급업체가 제시한 안전성 설명을 다른 관점에서 검토할 자료가 생길 가능성이 있다는 의미입니다.

특히 출판 거부권과 정보 삭제 요구를 구분해 읽을 필요가 있습니다. 회사가 불리한 결론 전체를 막는 것과 고객 정보처럼 정해진 범주의 내용을 가리는 것은 다른 문제입니다. METR이 삭제 요구의 정당성까지 공개적으로 논평할 수 있다는 조건은 평가 과정의 제약을 독자가 판단하는 데 유리해 보입니다. 다만 실제 보고서에서 어떤 근거가 제시되고 무엇이 제외됐는지를 확인해야 그 효과를 평가할 수 있습니다.

접근 권한 확대 자체가 안전성 향상이나 위험 감소를 입증하는 결과는 아닙니다. 이번 자료에는 이 체계로 위험이 얼마나 줄었는지 보여주는 비교 수치가 없습니다. 회사가 자발적으로 도입하는 평가 방식이라고 밝힌 만큼, 이를 법적 규제나 공적 안전 인증과 같은 의미로 해석하는 것도 적절하지 않아 보입니다.

실무에서는 도구 교체보다 검토 기준을 보완하는 데 활용하는 편이 유리합니다. 공급업체 설명을 읽을 때 평가 대상, 내부 정보 접근 범위, 독립적인 공개 가능 여부, 비공개 처리 조건을 나눠 보면 됩니다. 이후 평가 결과가 공개되면 자사 업무와 관련된 위험을 다뤘는지 확인하고, 내부 사용 기준을 조정할 근거로 삼을 수 있습니다.

누구에게 영향이 있나요

교육기관과 공공기관처럼 도입 이유와 관리 책임을 문서로 설명해야 하는 조직에 특히 관련성이 큽니다. 외부 평가의 존재뿐 아니라 평가자의 권한까지 확인하면, 공급업체 선정 근거를 더 구체적으로 작성하는 데 도움이 될 것으로 보입니다.

안내문 초안이나 일반 문서 정리에 AI를 쓰는 실무자는 이번 발표만으로 도구를 바꿀 필요는 없어 보입니다. 발표에는 이용자가 선택할 모델, 요금, 사용 한도 변경이 제시돼 있지 않습니다. 기존 업무의 결과 검토 절차를 유지하면서 외부 평가가 어떤 판단 근거를 추가하는지 확인하는 접근이 적절합니다.

자주 묻는 질문

METR이 모든 내부 정보와 고객 데이터를 볼 수 있나요?

Anthropic은 고객 관련 데이터와 모델 구조 정보 등 일부 범주를 접근 예외로 둔다고 밝혔습니다. 직원 수준 접근이라는 표현을 모든 정보에 대한 무제한 접근으로 해석하기는 어렵습니다.

Anthropic이 불리한 평가 결과의 공개를 막을 수 있나요?

회사는 METR의 출판에 거부권이 없지만 사전에 정한 제한적 정보의 삭제를 요구할 수 있다고 밝혔습니다. METR은 삭제된 정보를 드러내지 않으면서 그 요구가 정당했는지 의견을 공개할 수 있다고 밝혔습니다.

지금 사용하는 AI를 바꿔야 하나요?

이번 발표만으로 교체할 필요는 없어 보입니다. 기관의 도입 검토 기준에 평가자의 접근 범위와 공개 권한을 추가하고, 향후 공개되는 분석을 확인하는 데 활용할 수 있습니다.