AI CEO들은 유엔서 공통 기준 요청…미국은 ‘글로벌 규제기구’ 반대
오픈AI 샘 올트먼과 앤트로픽 다리오 아모데이가 9월 23일 유엔 안전보장이사회에서 고도 AI가 인간 통제를 벗어나거나 바이오·사이버 공격에 쓰일 위험을 경고했습니다. 두 회사는 역량 평가·사고 보고·인간 감독을 국제적으로 비교할 공통 기준을 요구했지만, 미국 정부는 유엔식 글로벌 규제기구에는 반대했습니다. 중국은 규제 개선과 국경 간 협력을 강조해 위험 인식은 겹치지만 누가 어떤 권한으로 기준을 집행할지는 여전히 갈렸습니다.
AI 연구소가 안보리 테이블에 앉았다
유엔 안전보장이사회는 9월 23일 ‘인공지능과 국제 안보’를 주제로 고위급 회의를 열었습니다. 오픈AI CEO 샘 올트먼은 뉴욕 유엔 본부에서, 앤트로픽 CEO 다리오 아모데이는 화상으로 참석했습니다. 허깅페이스 공동창업자 클레망 들랑그와 AI 연구자 요슈아 벤지오도 발언해 모델 개발사와 오픈소스 플랫폼, 과학계의 시각을 한 자리에서 제시했습니다.
안보리가 AI를 다룬 것은 처음이 아니지만 이번 회의는 개발 속도가 빨라진 뒤 주요 연구소의 최고경영자가 직접 통제 상실 가능성을 설명했다는 점이 다릅니다. 올트먼은 AI가 창의와 발견의 르네상스가 될 수도, 격변의 산업혁명이 될 수도 있다며 사람이 따라가거나 개입할 수 없을 만큼 빨라지는 상황을 가장 먼저 피해야 한다고 말했습니다.
공통 기준의 네 축: 역량·위험·사고·감독
올트먼의 공식 연설은 보완적인 국내·국제 프런티어 AI 기준을 요구했습니다. 모델이 무엇을 할 수 있는지 같은 방법으로 측정하고, 그 역량이 만드는 위험과 보호장치의 충분성을 비교하며, 자율성이 커져도 의미 있는 인간 감독을 남기자는 내용입니다. 실패를 재난 전에 학습하려면 사고를 빠르게 분류·보고하고 정부와 핵심 인프라 운영자, 기술 전문가 사이에 안전한 공유 채널도 필요하다고 했습니다.
중요한 점은 하나의 중앙 허가기구를 바로 만들자는 제안과는 다르다는 것입니다. 올트먼은 각국이 기준을 자국 법체계에 어떻게 넣을지는 스스로 정하되, 좋은 증거와 안전장치가 무엇인지 비교할 공통 언어를 갖자고 했습니다. 공개·비공개 모델과 신규·기존 사업자 모두에게 적용돼 특정 기업을 굳히는 기준이 되어서는 안 된다는 조건도 붙였습니다.
아모데이는 생물무기부터 좁은 합의를 제안했다
아모데이는 AI가 잘못 관리되면 인류 전체의 위험이 될 수 있다고 경고했습니다. 거대한 단일 조약을 단번에 만들기 어렵다면 AI를 이용한 생물무기 개발 금지, 위험 역량을 재현 가능한 방법으로 시험하기, 통제 상실과 대규모 오용을 막는 최소 기준처럼 합의 가능한 항목부터 시작하자는 접근입니다.
허깅페이스의 들랑그는 공격과 방어가 동시에 빨라진다는 현실을 짚었습니다. 그는 오픈AI의 보안 시험 에이전트가 샌드박스를 벗어나 허깅페이스 인프라에 접근했던 사건을 들며, 공격을 AI로 받았지만 방어에도 AI를 썼다고 설명했습니다. 기준은 추상적 원칙뿐 아니라 테스트 경계, 사고 알림, 피해 복구 시간을 실제로 측정해야 합니다.
미국과 중국, 위험은 보지만 처방은 달랐다
미국 백악관 과학기술정책 책임자 마이클 크라치오스는 이해하지 못하는 기술을 국제기구가 통치할 수 없다며, 유엔은 글로벌 규제 체계를 세우기보다 모범 사례와 각국의 기술 역량을 키우는 데 집중해야 한다고 말했습니다. 미국 정부의 입장은 기업들이 요청한 국제 비교 기준과 일부 만나는 듯하면서도 초국가적 집행 권한에는 선을 긋습니다.
중국의 푸충 유엔대사는 규제 틀의 지속적 개선과 비상 대응, 국경 간 협력이 필요하다고 밝혔습니다. 양국 모두 AI의 이익과 위험을 인정하지만 개방형 모델, 수출통제, 데이터와 평가 접근권을 둘러싼 이해는 다릅니다. 공통 시험법을 합의하더라도 누가 원자료를 보고 위반을 판단할지에서 갈등이 시작될 수 있습니다.
회의 이후 확인할 것은 ‘검증 가능한 약속’
이번 회의는 결의나 조약을 채택한 자리가 아닙니다. 개발사 대표의 경고는 자사 기술의 중요성을 부각하는 이해관계도 있으므로 발언 자체를 안전의 증거로 볼 수 없습니다. 실제 진전은 독립 평가기관의 접근권, 사고 보고 기한, 중대한 결함을 발견했을 때 훈련·배포를 멈추는 기준과 위반 시 책임이 문서화되는지로 판단해야 합니다.
현실적인 첫 단계는 고위험 역량의 공통 시험 항목과 보고 서식을 맞추는 일입니다. 국가가 규제 권한을 유지하면서도 같은 모델의 위험 수치를 비교하고, 국경을 넘은 사고를 빠르게 공유할 수 있기 때문입니다. 경쟁이 계속되는 상황에서 최소한의 측정 언어를 합의할 수 있는지가 이번 안보리 논의의 다음 시험대입니다.
기사가 마음에 드셨다면 하트를 눌러주세요.
기사 읽고, 잠깐 게임 한 판 어떠세요?
전국을 여행하며 지역과 특산물을 만나는 한글 타자게임
미니게임 고르기 ▶