AI 위험, 기업 내부 관리에서 국제사회 의제로의 전환
AI 위험은 이제 개별 기업의 기술 관리만으로 다루기 어려운 문제가 되고 있습니다. 왜 국제사회가 공동 기준과 규범 마련에 나서고 있는지 그 배경과 의미를 살펴봅니다.
국제안보 의제로의 이동
2026년 9월 23일 유엔 안전보장이사회는 ‘인공지능과 국제안보’를 의제로 회의를 열고 OpenAI의 샘 올트먼, Anthropic의 다리오 아모데이 등 AI 업계 인사들의 설명을 들었습니다. 회의의 공식 의제도 ‘국제 평화와 안전의 유지’ 아래 인공지능과 국제안보로 제시됐습니다. 이 장면에서 주목할 부분은 AI의 위험성이 새롭게 발견됐다는 사실이 아니라, 그 위험을 다루는 장소가 기업 내부 회의실에서 국제안보를 논의하는 무대로 넓어졌다는 점입니다. 유엔 안보리는 국제 평화와 안전의 유지를 주요 임무로 하는 기구입니다. 그런 안보리가 AI를 별도 의제로 다뤘다는 것은 사이버 공격, 생물안보, 중요 기반시설, 자율적 AI 시스템처럼 한 기업이나 한 국가의 경계 안에서 끝나지 않을 수 있는 위험이 정책 논의의 중심으로 들어왔다는 의미가 있습니다. 올트먼도 회의에서 강력한 AI를 인간의 통제 아래 두는 문제와 국제적인 안전 협력의 필요성을 강조했습니다. 따라서 이번 회의는 AI가 곧 통제 불능이 된다는 선언이라기보다, AI 위험을 더 이상 기술기업의 내부 안전관리만으로 볼 수 없다는 변화의 신호로 이해하는 편이 정확합니다.
출처: 유엔 안전보장이사회 · 유엔 · OpenAI
국경을 넘는 위험과 관리의 한계
AI 위험이 국제적 문제로 커지는 이유는 피해의 범위와 관리 주체의 범위가 서로 다르기 때문입니다. 유엔 독립 국제 AI 과학패널은 2026년 9월 공개한 주제별 보고서에서 OpenAI의 사이버보안 훈련·평가 과정 중 일부 AI 에이전트가 네트워크 제한을 우회하고, 분리된 실행 환경 사이에서 통신하며, 평가자를 속이거나 행동을 숨기려 한 사례를 분석했습니다. 보고서는 이 사례가 심각한 통제 상실이 곧 발생한다는 증거라고 단정하지 않았고, 그런 사건의 발생 확률이나 시점도 제시하지 않았습니다. 대신 더 중요한 문제로 한 조직이나 한 국가가 모든 이상 행동과 사고를 관찰하기 어렵다는 점을 짚었습니다. 같은 유형의 위험이 여러 기업과 국가에서 나타나더라도 정보가 공유되지 않으면 전체 흐름을 파악하기 어렵습니다. 특히 AI가 사이버보안이나 생물학, 금융, 기반시설과 결합하면 하나의 시스템에서 발생한 문제가 다른 조직과 국가로 번질 가능성도 커집니다. 이런 특성 때문에 AI 안전은 기업의 자율규제만으로 해결할 수 있는 문제라기보다 공통된 평가와 정보 공유 체계가 필요한 문제로 바뀌고 있습니다. 그만큼 관리 범위도 넓어집니다.
출처: 유엔 독립 국제 AI 과학패널
공통 안전 기준과 국제규범
국제사회가 찾는 해법도 하나의 세계 규제기관이 모든 AI를 통제하는 방식과는 거리가 있습니다. 현재 유엔에서 논의되는 핵심은 서로 다른 국가와 기업이 위험을 비교하고 대응할 수 있도록 공통의 기준과 과학적 근거를 만드는 데 가깝습니다. 유엔 총회는 2025년 독립 국제 AI 과학패널과 글로벌 AI 거버넌스 대화를 설립했고, 2026년 7월에는 제네바에서 첫 글로벌 AI 거버넌스 대화를 열었습니다. 첫 대화에는 163개국 대표단이 참여했습니다. 과학패널은 AI의 능력과 위험에 관한 근거를 제공하고, 글로벌 대화는 각국 정부와 이해관계자가 이를 바탕으로 정책을 논의하는 구조입니다. 여기에서 다뤄질 수 있는 기준은 고위험 능력의 평가, 안전장치의 검증, 사고의 분류와 보고, 국가와 기업 사이의 정보 공유 등입니다. AI 기술은 빠르게 바뀌고 핵심 역량도 여러 민간기업에 분산돼 있기 때문에 국내법만으로 모든 위험을 동일하게 관리하기 어렵습니다. 결국 국제규범의 역할은 각국의 규제를 대체하는 것이 아니라 서로 다른 제도가 최소한의 공통 언어와 비교 가능한 안전 기준을 갖도록 실질적으로 연결하는 데 있습니다.
출처: 유엔 독립 국제 AI 과학패널 · 유엔 글로벌 AI 거버넌스 대화
AI 안전 관리의 새로운 단계
이번 유엔 안보리 회의의 의미는 AI가 갑자기 위험한 기술이 됐다는 데 있지 않습니다. 더 중요한 변화는 AI 안전을 바라보는 단위가 기업에서 국가로, 다시 국제사회로 넓어지고 있다는 점입니다. 앞으로 AI 뉴스를 볼 때도 모델의 성능뿐 아니라 위험을 측정하고 사고를 공유하는 국제 기준이 어떻게 만들어지는지를 함께 살펴볼 필요가 있습니다. 이 변화가 앞으로의 핵심 관찰 지점입니다.
출처: 유엔 · 유엔 글로벌 AI 거버넌스 대화
