시안에서 묻는 AI와 인간개발, 로봇 시대의 주도권은 누구에게 있나
실크로드의 출발점에서
로봇의 방향을 묻다
유엔이 중국 시안에 모인 이유는 더 빠른 로봇을 뽐내기 위해서가 아닙니다. 몸을 얻은 AI가 교육·노동·문화·지속가능발전을 바꿀 때 인간의 선택권과 신뢰, 사회적 결속을 어떻게 지킬지 묻기 위해서였습니다.
공식 원문 기반 해설
01시안에서 실제로 열린 것은 무엇인가
유엔 중국 사무소가 2026년 8월 21일 공개한 공식 발표에 따르면, 유엔은 8월 20일부터 21일까지 중국 시안에서 정책결정자, 기술자, 학자, 문화계 인사 등과 함께 인공지능이 인간 문명과 인간개발을 어떻게 바꾸는지 논의했습니다. 유엔 사무부총장 아미나 모하메드의 리더십 아래 유엔과 중국 정부가 협력한 행사이며, 카이로와 멕시코시티에서 열린 앞선 대화에 이어 세 번째 지역 회의로 소개됐습니다.
장소에는 상징이 있습니다. 시안은 역사적인 실크로드의 출발점으로 불립니다. 기술과 상품, 종교와 지식이 오가던 오래된 교차로에서 오늘의 알고리즘과 로봇을 이야기한 것입니다. 다만 상징을 사실보다 크게 읽어서는 안 됩니다. 이번 회의에서 참가국이 새로운 의무를 담은 협약에 서명했다거나, 세계 공통의 로봇 규칙이 즉시 발효됐다는 내용은 공식 발표에 없습니다. 성격은 숙의와 의견 수렴, 향후 국제 논의에 대한 기여입니다.
02왜 ‘체화형 AI’와 로봇이 중심에 섰나
생성형 AI가 문장과 그림, 코드처럼 화면 속 결과물을 만든다면 체화형 AI는 센서와 구동장치가 달린 기계 안에서 주변을 감지하고 물리적으로 행동합니다. 창고의 이동 로봇, 재난현장의 탐사 장비, 농업 자동화 기계, 돌봄을 보조하는 장치, 자율주행 시스템 등이 넓은 범위에서 연결됩니다. 공식 발표는 시안 회의가 특히 체화형 AI와 로보틱스의 발전이 인간과 기계의 관계를 어떻게 바꾸는지 조명했다고 설명합니다.
몸을 가진 시스템은 오류의 성격을 바꿉니다. 챗봇의 부정확한 답변은 잘못된 판단을 유도할 수 있지만, 움직이는 기계의 인식 오류는 공간과 신체에 직접 영향을 줄 수 있습니다. 그래서 안전은 모델 정확도 하나로 끝나지 않습니다. 센서가 가려졌을 때 멈추는지, 어린이와 노약자를 구별하는지, 통신이 끊겨도 안전 상태로 전환되는지, 사람이 즉시 개입할 수 있는지, 사고 기록이 보존되는지를 함께 봐야 합니다.
로봇을 사람처럼 묘사하는 유혹도 경계해야 합니다. 자연스러운 음성과 표정이 있다고 해서 시스템이 사람과 같은 이해, 공감, 도덕적 책임을 가진 것은 아닙니다. 사용자는 친근한 외형 때문에 능력의 경계를 과대평가할 수 있습니다. 특히 교육과 돌봄 현장에서는 기계라는 사실, 데이터 처리 범위, 인간 담당자에게 연결되는 방법을 분명히 알려야 합니다.
03‘인간 주도권’은 추상적인 구호가 아니다
시안 발표는 AI가 인간의 번영에 기여하면서도 인간의 주도권, 신뢰, 사회적 결속을 지켜야 한다는 문제를 제시했습니다. 인간 주도권은 단순히 마지막 화면에 ‘동의’ 버튼을 놓는 일이 아닙니다. 당사자가 자동화된 판단의 존재를 알고, 중요한 결정의 근거를 이해할 수 있으며, 거부하거나 인간의 재검토를 요청할 수 있고, 피해가 발생하면 구제 절차에 접근할 수 있어야 합니다.
예를 들어 학교가 학습 분석 AI로 지원이 필요한 학생을 찾는다고 합시다. 좋은 활용은 교사의 관찰을 돕고 놓친 신호를 보완합니다. 나쁜 활용은 불완전한 데이터로 학생의 가능성을 일찍 낙인찍고, 그 결과를 설명하지 않은 채 교육 기회를 제한합니다. 같은 모델이라도 결정권의 위치와 이의제기 절차에 따라 인간개발 도구가 되거나 불평등을 고정하는 장치가 됩니다.
주도권을 시험하는 네 가지 질문
알 수 있는가. 지금 사람이 아니라 자동화 시스템이 추천하거나 평가한다는 사실이 명확한가. 멈출 수 있는가. 현장 담당자가 시스템을 중단하고 안전한 수동 절차로 전환할 수 있는가. 다툴 수 있는가. 당사자가 결과의 재검토를 요청할 수 있는가. 고칠 수 있는가. 잘못된 데이터와 판단이 다음 결정에 계속 복제되지 않도록 수정되는가. 이 네 질문에 답하지 못하면 ‘인간 중심’이라는 소개문은 장식에 가깝습니다.
04인간개발의 기준으로 AI를 다시 보기
인간개발은 기술 보유량이나 국내총생산만을 뜻하지 않습니다. 사람이 건강하게 살고, 배우고, 의미 있는 일을 선택하며, 사회에 참여할 수 있는 실질적인 역량을 넓히는 관점입니다. 따라서 AI 성과를 서버 수, 모델 크기, 로봇 생산량으로만 측정하면 중요한 부분을 놓칩니다. 실제로 교사의 행정 부담이 줄었는지, 농민이 기후 위험에 더 잘 대응하는지, 장애인의 정보 접근성이 개선됐는지, 지역 언어 사용자가 공공서비스에 접근할 수 있는지를 봐야 합니다.
효율이 높아져도 선택권이 줄어들 수 있습니다. 자동화가 노동자의 반복 업무를 덜어 주지만 동시에 작업 속도를 과도하게 감시할 수 있고, 의료 자원이 부족한 지역에 진단 보조를 제공하면서 해당 지역의 데이터를 동의 없이 가져갈 수도 있습니다. 인간개발 관점은 ‘혜택이 있는가’와 함께 ‘혜택과 위험이 누구에게 돌아가는가’를 묻습니다.
사람이 할 수 있는 선택이 실제로 늘었는가
혜택과 비용이 특정 집단에 몰리지 않는가
환경·재정·기술 의존 비용을 감당할 수 있는가
05AI 격차는 인터넷 연결만의 문제가 아니다
글로벌 디지털 콤팩트는 모든 사람과 학교, 병원을 연결하고 디지털 기술을 다양한 언어와 형식으로 더 접근 가능하고 저렴하게 만들며, 개발도상국의 역량을 강화하자는 방향을 담고 있습니다. 연결망은 출발점이지만 충분조건은 아닙니다. 전기가 불안정한 지역에서는 고성능 서비스가 지속되기 어렵고, 지역 언어 데이터가 부족하면 모델 품질이 낮아지며, 해외 사업자에 지나치게 의존하면 가격과 정책 변화에 공공서비스가 흔들릴 수 있습니다.
AI 격차는 네 층으로 볼 수 있습니다. 첫째는 기기·전력·통신망의 접근 격차입니다. 둘째는 서비스를 쓸 수 있는 언어와 접근성 격차입니다. 셋째는 데이터를 만들고 모델을 검증할 전문인력의 격차입니다. 넷째는 규칙을 정하는 국제회의와 표준화 과정에 참여할 발언권의 격차입니다. 완성된 도구를 저렴하게 제공하는 것만으로 마지막 두 층은 해결되지 않습니다.
현지 역량 구축은 단순한 사용법 교육보다 넓습니다. 공공기관이 구매 계약에서 데이터 소유권과 감사권을 검토할 능력, 대학이 지역 문제에 맞는 모델을 연구할 기반, 시민사회가 피해 사례를 기록하고 정책에 참여할 통로, 중소기업이 독점적 인프라에 종속되지 않고 서비스를 개발할 조건까지 포함합니다. 국제 협력의 성패는 장비를 몇 대 보냈는지가 아니라 이 생태계가 남았는지로 판단해야 합니다.
06대화는 어떤 국제 제도와 연결되나
시안 행사는 독립된 일회성 이벤트가 아니라 이미 진행 중인 유엔 AI 거버넌스 흐름과 연결됩니다. 2024년 채택된 미래를 위한 협약의 부속 문서인 글로벌 디지털 콤팩트는 디지털 격차 해소, 안전하고 열린 디지털 공간, 책임 있는 데이터 거버넌스, 인류를 위한 AI 거버넌스를 목표로 제시했습니다. 이후 유엔 총회는 2025년 8월 결의 A/RES/79/325를 통해 독립 국제 AI 과학패널과 글로벌 AI 거버넌스 대화를 설립했습니다.
유엔 공식 페이지에 따르면 글로벌 AI 거버넌스 대화의 첫 회기는 2026년 7월 6~7일 제네바에서 열렸고, 다음 회기는 2027년 5월 3~4일 뉴욕에서 예정되어 있습니다. 시안의 문명·인간개발 대화 시리즈는 카이로, 멕시코시티, 시안을 거쳐 로마로 이어지고 제81차 유엔총회가 열리는 뉴욕에서 마무리될 계획입니다. 2027년에는 지속가능발전목표 정상회의를 앞두고 국가와 지역사회 주도의 대화로 확대한다는 구상도 발표됐습니다.
193개 회원국이 협상한 글로벌 디지털 콤팩트가 미래를 위한 협약과 함께 채택됐습니다.
유엔 총회 결의로 독립 국제 AI 과학패널과 글로벌 AI 거버넌스 대화가 설립됐습니다.
글로벌 AI 거버넌스 대화 첫 회기가 제네바에서 열렸습니다.
시안에서 아시아의 역사·가치와 체화형 AI, 인간개발을 잇는 대화가 진행됐습니다.
로마와 뉴욕, 지역사회 대화로 의견 수렴을 넓히는 일정이 제시됐습니다.
07과학패널과 정책대화는 역할이 다르다
독립 국제 AI 과학패널은 AI의 기회와 위험, 사회적 영향을 과학적으로 평가해 국제 논의가 공통의 근거 위에서 진행되도록 돕는 장치입니다. 유엔 공식 설명은 다양한 학문과 언어, 지역 배경을 가진 전문가 40명으로 구성된 최초의 글로벌 AI 과학기구라고 소개합니다. 연례 증거 기반 보고서를 글로벌 AI 거버넌스 대화에 제출하고 필요하면 주제별 브리프를 낼 수 있습니다.
정책대화는 정부와 이해관계자가 국제협력, 모범사례, 교훈을 공유하고 투명하고 포용적인 토론을 하는 플랫폼입니다. 과학패널이 ‘현재 증거가 무엇을 말하는가’를 정리한다면, 대화는 ‘그 증거를 바탕으로 각국이 무엇을 함께 할 것인가’를 협의합니다. 과학이 자동으로 정책을 결정하지 않고, 정치적 합의가 과학적 사실을 대신하지도 않도록 역할을 나눈 셈입니다.
다만 국제패널이 존재한다고 모든 불확실성이 사라지는 것은 아닙니다. 모델 성능과 위험은 빠르게 변하고, 기업이 보유한 데이터에 연구자가 접근하기 어려우며, 특정 지역과 언어의 피해는 글로벌 지표에 늦게 반영될 수 있습니다. 패널 구성의 다양성뿐 아니라 자료 접근, 이해충돌 공개, 반대 의견 기록, 피해 공동체의 참여 방식이 신뢰를 좌우합니다.
08교육·노동·문화에서 확인할 변화
교육: 개인화와 낙인 사이
AI 튜터와 로봇 실습 장비는 학생의 속도에 맞춘 설명과 반복 연습을 제공할 수 있습니다. 그러나 학습 데이터를 장기간 저장하거나, 불투명한 점수로 진로를 미리 좁히면 학생의 성장 가능성을 과거 데이터에 가둘 수 있습니다. 교사는 시스템이 놓친 맥락을 판단할 권한을 가져야 하고 학생과 보호자는 데이터 사용과 삭제 절차를 알아야 합니다.
노동: 보조와 통제 사이
체화형 AI는 위험하고 반복적인 작업을 대신하고 숙련자의 판단을 보조할 수 있습니다. 동시에 작업자의 동선을 초 단위로 감시하거나 휴식 시간을 자동으로 줄이는 관리 도구가 될 수 있습니다. 도입 전 위험평가에 노동자가 참여하고, 생산성 이익이 교육과 전환 지원으로 돌아가며, 자동화된 평가에 이의를 제기할 수 있어야 합니다.
문화: 번역과 획일화 사이
다국어 AI는 작은 언어권의 콘텐츠 접근과 창작을 넓힐 수 있습니다. 반면 데이터가 많은 언어와 문화의 표현을 표준으로 삼으면 지역의 뉘앙스와 기억이 지워질 수 있습니다. 현지 언어 사용자를 단순한 데이터 제공자가 아니라 설계·평가·소유의 주체로 대우해야 합니다.
09AI 프로젝트를 볼 때 묻는 10가지
- 문제가 먼저 정의됐는가. AI 도입 자체가 목표가 아니라 해결할 공공문제가 분명한가.
- 당사자가 참여했는가. 영향을 받는 노동자·학생·환자·지역주민이 설계와 평가에 참여했는가.
- 비AI 대안과 비교했는가. 인력 확충이나 절차 개선이 더 안전하고 저렴하지 않은가.
- 데이터 권리가 보장되는가. 수집 목적, 보관기간, 제3자 제공, 삭제 절차가 명확한가.
- 언어와 장애 접근성을 시험했는가. 평균 이용자 외의 사용 환경에서도 작동하는가.
- 실패할 때 안전한가. 통신·센서·전력 장애 시 정지와 수동 전환이 가능한가.
- 사람이 재검토하는가. 중요한 결정에 실질적 인간 감독과 이의제기 절차가 있는가.
- 책임주체가 보이는가. 개발사, 운영기관, 현장 담당자의 책임 경계가 계약에 적혀 있는가.
- 환경 비용을 계산했는가. 에너지, 물, 장비 수명과 폐기 비용까지 평가했는가.
- 효과를 공개 검증하는가. 성공 홍보뿐 아니라 오류·피해·중단 기준도 기록하고 공개하는가.
10한국 독자에게 왜 중요한가
국제 AI 규범은 먼 외교문서로 끝나지 않습니다. 한국 기업이 해외에 로봇과 AI 서비스를 수출할 때 인권 실사와 안전 기준, 데이터 이전 규칙이 계약 조건이 될 수 있습니다. 공공기관이 외국 모델을 구매할 때는 감사 가능성과 데이터 주권, 서비스 중단 위험을 살펴야 합니다. 대학과 연구기관은 국제 과학평가 과정에 한국어와 동아시아의 증거가 반영되도록 자료를 축적할 필요가 있습니다.
특히 한국은 제조업 로봇 밀도가 높고 초고령사회에 대응하는 돌봄 기술 수요가 큽니다. 현장 경험을 국제 논의에 기여할 수 있지만, ‘기술 선도국’이라는 자부심만으로는 충분하지 않습니다. 산업재해 예방에 협동로봇이 어떤 효과를 냈는지, 돌봄 로봇이 노동자의 부담을 실제로 줄였는지, 이용자의 외로움과 개인정보에 어떤 영향을 미쳤는지 구체적인 증거를 제시해야 합니다.
정책 문서에서 ‘인간 중심’, ‘신뢰 가능한 AI’, ‘포용’을 발견하면 정의와 측정지표를 함께 확인해야 합니다. 누가 인간 감독자로 지정되는지, 재검토는 몇 일 안에 이뤄지는지, 오류율을 어떤 집단별로 공개하는지, 서비스 종료 시 데이터를 어떻게 돌려주는지까지 내려와야 구호가 제도가 됩니다.
11자주 묻는 질문
시안 회의에서 세계 공통 AI법이 채택됐나요?
아닙니다. 공식 발표는 인간 문명과 개발에 관한 글로벌 대화 시리즈의 세 번째 회의로 설명합니다. 논의는 향후 유엔총회와 AI 거버넌스 과정에 정보를 제공하지만, 이번 행사 자체가 구속력 있는 국제법을 채택한 것은 아닙니다.
체화형 AI는 사람 모양 로봇만 뜻하나요?
아닙니다. 환경을 감지하고 물리적으로 행동하는 시스템을 넓게 가리키므로 이동 로봇, 로봇 팔, 자율주행 장치 등 다양한 형태가 포함될 수 있습니다. 외형보다 감지·판단·행동의 연결이 핵심입니다.
유엔이 하나의 세계 AI 규제기관을 만들었나요?
현재 공식 구조는 독립 국제 AI 과학패널과 정부·이해관계자의 글로벌 정책대화입니다. 각국 규제를 직접 대신하는 단일 세계 감독기관으로 소개되지 않습니다.
인간 감독자가 있으면 무조건 안전한가요?
이름만 올린 감독자는 충분하지 않습니다. 시스템을 이해할 정보, 중단 권한, 검토 시간, 조직의 보호가 있어야 합니다. 너무 많은 경보를 한 사람이 형식적으로 승인하는 구조는 실질적 감독이 아닙니다.
AI 격차를 줄이려면 무료 서비스면 충분한가요?
아닙니다. 전력과 통신망, 지역 언어, 접근성, 전문인력, 데이터 권리, 국제 규칙 형성의 참여까지 필요합니다. 무료 이용이 장기적인 종속이나 데이터 착취를 만들지 않는지도 봐야 합니다.
12보도와 홍보에서 과장을 거르는 법
첫째, ‘유엔이 결정했다’와 ‘유엔 행사에서 논의됐다’를 구분해야 합니다. 결의문과 조약, 공식 회의 결과문은 법적·정치적 무게가 서로 다릅니다. 둘째, 행사 참가자의 전망을 유엔 전체의 확정 입장처럼 쓰지 않아야 합니다. 셋째, 로봇 시연 장면을 실제 공공서비스 효과의 증거로 오해하지 말아야 합니다. 통제된 무대에서의 성공과 다양한 사람·날씨·공간에서의 지속 운용은 다른 문제입니다.
넷째, ‘인간을 대체한다’는 단정 대신 어떤 업무의 어떤 단계가 자동화되는지 살펴야 합니다. 직업은 여러 과업의 묶음이며 기술은 일부 과업을 줄이는 동시에 검증·유지보수·안전관리라는 새 과업을 만들 수 있습니다. 다섯째, 숫자의 분모를 확인해야 합니다. 정확도 95%가 어떤 환경과 집단에서 나온 것인지, 남은 5% 오류가 누구에게 얼마나 큰 피해를 주는지가 중요합니다.
공식 자료에도 한계가 있습니다. 보도자료는 행사의 목적과 주요 메시지를 간결하게 전달하지만 참가자 명단, 토론의 이견, 구체적 실행지표를 모두 담지 못합니다. 따라서 이번 글은 공식 발표로 확인되는 일정과 제도는 사실로 서술하고, 인간 주도권과 현장 적용 부분은 해당 원칙을 이해하기 위한 분석과 질문으로 구분했습니다.
공식 근거와 더 읽을 자료
United Nations in China — UN Convenes Thought Leaders in Asia to Shape the Future of AI and Human Development
시안 회의의 날짜·장소·주제·대화 시리즈 일정과 향후 국제 과정의 연결을 확인한 중심 자료입니다.
United Nations — Global Digital Compact
디지털 격차, 인권, 데이터 거버넌스, AI 국제협력에 관한 회원국의 공통 프레임을 확인했습니다.
United Nations — AI Panel and Dialogue
2025년 유엔총회 결의 A/RES/79/325와 과학패널·글로벌 대화 설립 경과를 확인했습니다.
United Nations — Global Dialogue on AI Governance
2026년 제네바 첫 회기와 2027년 뉴욕 차기 회기, 대화의 목적을 확인했습니다.
최종 확인일: 2026년 8월 23일. 본문 이미지는 모두 이해를 돕기 위한 AI 생성 개념 이미지이며 실제 회의 사진이나 제품 사진이 아닙니다.
13실행을 평가하는 가장 현실적인 방법
국제회의의 선언이 현장 변화로 이어졌는지 보려면 발표 직후의 박수보다 1년 뒤의 예산과 절차를 확인해야 합니다. 정부는 AI 역량 강화를 말하면서 실제로 지역 대학과 공공 연구기관에 장기 예산을 배정했는지, 기업은 안전 원칙을 공개하면서 독립 연구자에게 사고 자료와 시험 환경을 제공했는지, 국제기구는 포용을 강조하면서 개발도상국 참가자가 의제 설정과 문서 작성에 동등하게 참여했는지를 살펴야 합니다. 참석 인원과 행사의 수보다 권한과 자원이 이동했는지가 더 중요한 지표입니다.
공공부문은 작은 시험사업에서 시작하되 성공 기준과 중단 기준을 함께 정해야 합니다. 돌봄 보조 로봇이라면 이용 횟수만 셀 것이 아니라 노동자의 신체 부담, 이용자의 불안과 만족, 긴급상황 대응시간, 개인정보 노출, 유지보수 중단일을 동시에 측정해야 합니다. 평균값만 공개하면 특정 장애나 언어, 연령대에서 반복되는 실패가 가려질 수 있으므로 집단별 결과와 예외 상황도 점검해야 합니다. 효과가 없거나 피해가 큰 사업을 중단하는 것은 혁신의 실패가 아니라 책임 있는 학습입니다.
조달 계약은 거버넌스가 실제로 작동하는 핵심 장소입니다. 기관이 모델과 로봇을 구매할 때 성능 수치뿐 아니라 소프트웨어 업데이트 고지, 보안 취약점 수정기한, 사고 로그 접근, 하청업체의 데이터 처리, 계약 종료 후 자료 반환과 삭제, 다른 공급자로 옮길 수 있는 형식을 요구해야 합니다. 공급자가 영업비밀을 이유로 모든 검증을 막으면 공공기관은 시민에게 결과를 설명할 수 없습니다. 독립 감사와 규제기관의 접근까지 봉쇄된 시스템은 중요한 공공결정에 쓰기 어렵습니다.
시민 역시 전문가가 아니어도 참여할 수 있습니다. 서비스 안내문에서 자동화 여부를 확인하고, 동의하지 않았을 때 이용 가능한 대안을 묻고, 잘못된 결과의 수정 창구를 기록해 두는 일부터 시작할 수 있습니다. 언론과 시민단체는 개별 사고를 자극적으로 소비하기보다 같은 오류가 반복되는 구조와 계약, 감독 책임을 추적해야 합니다. 대학은 영어권 벤치마크를 단순 번역하는 데 그치지 않고 한국어 방언, 고령자, 장애인, 저사양 환경에서의 성능과 피해를 축적해 국제 과학평가에 보탤 수 있습니다.
결국 인간개발 중심 AI의 성적표는 네 문장으로 요약됩니다. 이전보다 더 많은 사람이 유용한 서비스에 접근했는가. 기술의 혜택을 얻기 위해 기본권을 과도하게 포기하지 않아도 되는가. 문제가 생겼을 때 사람이 설명을 듣고 결정을 바꿀 수 있는가. 기술을 제공한 조직이 비용과 책임을 사회에 떠넘기지 않는가. 시안의 대화가 의미 있으려면 이 질문들이 다음 회의의 수사가 아니라 각 나라의 예산표, 제품 설계, 학교 규정, 노동협약과 공공조달 문서 안으로 들어가야 합니다.
댓글
댓글 쓰기