앤트로픽 최고경영자 다리오 아모데이가 9월 12일 밤(한국시간) 에세이 「We Must Pace the Frontier」를 공개하고 AI 개발 속도를 조절하자는 3단계 제안을 내놓았다. 이 가운데 첫 단계인 외부 평가팀에 직원 수준의 상시 접근권을 주는 조치는 앤트로픽이 일방적으로 이행하겠다고 밝혔다. 오픈AI 최고경영자 샘 올트먼은 두 시간 반 뒤 동의하며 같은 조치를 하겠다고 답했다.
속도 조절은 훈련 중단이 아니라 점검 시간 확보라는 정의에서 출발한다
에세이의 문제의식은 이렇다. 올여름 무렵부터 AI가 다음 세대 AI를 만드는 능력에 힘입어 발전 속도가 눈에 띄게 빨라졌고, 이런 재귀적 자기개선은 앤트로픽을 포함한 업계 전반에서 시작되고 있다는 것이다. 에세이가 말하는 속도 조절은 모델 훈련이나 기술 진보를 멈추자는 뜻이 아니다. 에세이는 속도 조절을 “기업이 모델을 정렬하고 안전장치를 두는 데 충분한 시간을 쓰고, 제3자 평가자가 이를 확인하도록 하는 것”이라고 정의했다. 에세이는 이 제안을 스스로 “최고를 향한 경쟁(race to the top)”이라고 표현했다.
세 단계 가운데 회사가 약속한 것은 첫 단계뿐
3단계 제안은 확정 수준이 저마다 다르다. 1단계는 상주하는 외부 평가팀에 직원처럼 지속적인 접근권을 주고, 안전 관행을 지키는지와 사고 보고는 물론 완성된 모델을 넘어 훈련 파이프라인과 절차의 정렬까지 평가받는 조치다. 에세이는 은행 감독관이 은행에 상주하는 선례를 들었다. 에세이는 평가기관의 예로 METR을 들었다. 평가팀은 사무실 책상과 출입증, 회사 노트북을 지급받고 사내 위험평가팀과 대체로 비슷한 권한을 누리며, 주요 발견은 앤트로픽의 편집 통제 없이 공개할 권리도 갖는다. 앤트로픽이 가릴 수 있는 것은 보안과 법적 특권, 영업비밀, 제3자 기밀뿐이다. 이 1단계만 앤트로픽이 일방적으로 약속했다.
2단계는 민주주의 국가 안의 프런티어 기업들이 공통 안전 기준과 통제되지 않은 발전 속도의 한계선을 함께 정하자는 제안이다. 에세이는 이런 공조 가운데 일부는 법적으로 까다로워 정부 지원이 필요하다고 적었고, 각주에서 정부 중재나 반독점 규제 면제를 언급했다. 3단계는 미국을 비롯한 민주주의 정부들이 가능한 범위에서 권위주의 정부와 조율을 시도하자는 제안이다. 그 안에서 합의 수준은 다시 셋으로 갈리는데, 생물무기 생산처럼 좁고 명백히 위험한 용도를 금지하는 수준은 아모데이 스스로 “아마 가능하다”고 봤지만, 재귀적 자기개선 속도에 제한을 두는 가장 높은 수준은 가까운 시일 안에 실현되기 어렵다고 적었다. 에세이는 이런 대외 공조의 연장선에서 대중국 반도체 수출 통제와 지식 증류 단속도 함께 주장했다.
| 시각 | 누가 | 무엇 |
|---|---|---|
| 9월 12일 밤 11시 | 다리오 아모데이 앤트로픽 최고경영자 | 에세이 공개, 첫 단계 일방 이행 약속 |
| 9월 13일 새벽 1시 반 | 샘 올트먼 오픈AI 최고경영자 | 동의, 같은 조치를 하겠다고 밝힘 |
| 9월 13일 아침 8시 | 데미스 허사비스 구글 딥마인드 공동창업자 | 방향은 맞고 세부는 다듬어야 한다는 취지 |
| 9월 13일 낮 12시 | 데이비드 색스 대통령 과학기술자문위원회 공동의장 | 자율적 속도 조절은 지지, 반독점 면제 요구는 반대 |
| 9월 13일(현지) | 도널드 트럼프 미국 대통령 | AI에서 이기는 쪽이 이긴다 |
제안 공개 이후 사흘(시각은 한국시간)
동의는 두 시간 반 만에 왔지만 이행 확인은 아직이다
샘 올트먼 오픈AI 최고경영자가 가장 먼저 반응했다. 그는 “프런티어의 속도를 조절할 필요가 있다는 데 동의한다”고 적었다. 독립 평가자에게 직원과 같은 수준의 접근권을 주기로 한 약속을 두고는 좋은 생각이라며 오픈AI도 같은 조치를 하겠다고 덧붙였다. 다만 그의 게시물은 조만간 더 공유하겠다는 말로 끝났다. 데미스 허사비스 구글 딥마인드 공동창업자도 뒤이어 “방향은 맞고 세부는 다듬어야 한다”며 조건부로 동의했다. 일론 머스크는 매체 보도를 통해 “다리오가 옳다”고 동조했다. 미국 IT 매체는 앤트로픽·오픈AI·구글 세 회사가 7월부터 AI 안전 표준기구 설립을 비공개로 논의해 왔다고 보도했다.
허락을 구하지 말라는 반대, 카르텔이라는 지적
모든 반응이 호의적이지는 않았다. 데이비드 색스 대통령 과학기술자문위원회 공동의장은 2단계 제안을 겨냥해 반박했다. 공개되지 않은 모델이 그만큼 위험하다면 스스로 속도를 늦추는 결정은 지지한다면서도 “카르텔을 만들기 위해 반독점법이 유예돼야 하는 척하지 말라”고 맞섰다. 정부 지원과 반독점 규제 면제를 전제로 한 2단계를 겨냥한 발언이다.
3단계, 곧 권위주의 정부와의 국제 공조를 놓고는 양쪽 모두에서 회의적인 신호가 나왔다. 도널드 트럼프 미국 대통령은 9월 13일 현지에서 “AI에서 이기는 쪽이 이긴다”며 협력보다 경쟁을 앞세우는 태도를 보였다고 외신은 전했다. 궈자쿤 중국 외교부 대변인도 “위협을 부추기고 대립과 악의적 경쟁을 벌이는 것은 글로벌 거버넌스 과정을 흔들 뿐”이라고 맞받은 것으로 전해졌다. 국제 공조를 이끌어야 할 두 나라가 서로 다른 방향에서 회의적 태도를 드러낸 셈이다.
제안의 동기 자체를 의심하는 목소리도 있었다. 기술 저널리스트 브라이언 머천트는 이 제안이 결국 앤트로픽과 오픈AI에만 이로울 수 있다며 규제 포획이라고 짚었다. 반대로 알렉스 카프 팔란티어 최고경영자는 매체 인터뷰에서 적대국이 없다면 이 기술을 완전히 멈추는 데 찬성하겠지만 지금은 그런 상황이 아니라는 취지로 말한 것으로 전해졌다.
결국 반대는 한 갈래가 아니다. 자율적으로 속도를 늦추는 것 자체에는 이견이 없지만, 정부 개입의 방식과 국제 공조의 실현 가능성, 제안의 실제 수혜자를 놓고 저마다 다른 지점에서 제동을 걸었다.
다음에 확인할 것은 평가팀이 실제로 들어가는 시점이다
아직 확인되지 않은 것이 있다. 앤트로픽이 초청하겠다고 한 외부 검토팀이 어느 기관인지, 언제 실제로 들어가는지는 공개되지 않았다. 에세이는 그 시점을 “가까운 시일 안”이라고만 적었다. 오픈AI가 하겠다고 한 같은 조치도 구체적 내용은 나오지 않았다. 세 회사가 논의해 왔다는 AI 안전 표준기구 역시 설립이 확정된 단계는 아니다.
