유발 샤니 이스라엘 히브리대 교수가 20일 서울 중구 웨스틴조선 호텔에서 가진 문화일보와의 인터뷰에서 디지털 기술과 인공지능(AI) 발전에 따라 새롭게 정의돼야 할 인권의 범위에 대해 설명하고 있다. 문호남 기자


“적절한 규범과 규제가 없다면, 인간이 기계에 의해 평가받고 자신의 운명이 결정되는 ‘탈인간화(dehumanizing)’ 현상이 생길 수도 있습니다.”
국제인권법 연구의 권위자인 유발 샤니 이스라엘 히브리대 교수는 20일 문화일보 현안인터뷰에서 인공지능(AI) 시대를 앞두고 “‘ 릴박스 디지털 인권(DHR)’에 대한 강력한 규범이 없다면 소수의 기술 개발자와 디지털 기업 소유주들에 의해 구성된 엘리트 집단이 좌지우지하는 세상을 맞이하게 될 것”이라면서 이같이 우려했다.
샤니 교수는 디지털 인권 논의가 3세대에 진입했다면서 “민간 행위자에 집중하는 방향으로 진전되고 있으며, AI 아바타나 디지털 프로필과 같은 가상 개체(e 모바일야마토 ntity)의 권리도 주요 관심 대상”이라고 말했다. 하지만 “디지털 기술 발전 속도에 비해 디지털 인권 규범에 대한 논의 속도는 더디다”면서 반(反)규제적 성향에 대항할 국가 연합이 필요하다고 강조했다. 샤니 교수와의 인터뷰는 서울 중구 웨스틴조선 호텔에서 진행됐다.
―디지털 인권에 대한 논의 지형은 1세대에서 3세대로 어떻게 진화해 왔 바다이야기pc버전다운 나.
“1세대는 사생활 보호나 표현의 자유와 같은 전통적인 인권 개념을 디지털 영역으로 단순히 확장하는 데 집중됐다. 최근 10∼15년 동안엔 인터넷 접근권, 잊힐 권리, 기계적 결정의 대상이 되지 않을 권리 등 새로운 차원의 디지털 인권(2세대)을 만들어나가는 흐름이 주를 이뤘다. 최근엔 이러한 권리를 보호하기 위한 민간 행위자의 책임에 바다이야기게임장 집중하는 방향으로 나아가고 있다. AI 아바타나 디지털 프로필과 같은 가상 개체의 권리도 주요 관심 대상이다.”
―‘가상 개체의 인권’이라는 개념은 생소하다.
“언젠가는 가상 존재를 위한 권리 체계를 마련하는 일이 불가피할 거다. 인간을 실질적으로 대변하고 인간의 이익을 증진하는 가상 존재에 대해 법적 권리를 부여하지 바다이야기고래 못할 이유가 없다. 이때 중요한 것은 가상 존재 그 자체를 보호하는 것이 아니라 그들이 대변하고 봉사하는 대상에 초점을 맞춰야 한다는 거다. 즉, 가상 개체에 인권 개념을 부여하는 것은 인간을 보호하기 위한 간접적인 방식인 셈이다.”
―테크 기업들에 대한 규제적 접근이 ‘3세대 디지털 인권(3DHR)’의 핵심인가.
“그렇다. 나는 규제 권한을 행사할 의지나 능력이 없는 국가에서도 테크 기업에 인권에 기반한 의무가 부과될 수 있게끔 국제적 체계를 만들고자 한다. 현 국제법상 기업은 인권을 존중해야 한다고 ‘권고’받는다. 법적 강제력이 없으며, 이를 위반하더라도 처벌받지 않는다. ‘권고’에서 나아가 ‘의무’의 성격을 강화하고 국가들이 더 주도적으로 규제를 도입하도록 독려해야 한다.”
―디지털 인권 담론이 3세대로 확장하지 못한다면 어떤 미래를 예상하나.
“미래의 일이 아니라 이미 우리가 마주한 현실이다. 세상에 대한 우리의 지식은 챗GPT, 제미나이, 그록과 같은 소수의 생성형 AI 플랫폼에 의해 통제되고 있다. 이러한 도구를 통해 정보 습득 환경이 형성되면, 우리가 ‘무엇을 아느냐’뿐 아니라 ‘무엇을 하느냐’도 영향을 받는다. 우리는 도널드 트럼프 미국 대통령의 취임식에서 메타, 아마존, 애플, 마이크로소프트의 수장들과 일론 머스크를 봤다. 이미 10명 남짓의 소수가 우리의 알고리즘을 지배하며 데이터 영역에서 막대한 권력을 휘두르고 있다. 이 중 머스크는 트럼프 행정부의 일원이 되기도 했다. 경제적, 정치적, 기술적, 정보적 권력이 하나로 융합된 것. 이들을 규제하기란 매우 어려워졌다.”
―테크 기업은 대부분 다국적 기업이고, 미국에 뿌리를 두고 있는 경우가 많다. 결국 미국이 규제에 적극적으로 나서야 하는데.
“상황이 매우 좋지 않다. 세계 최대의 기업들이 규제가 가장 느슨하고, 규제 완화에 대해 극도로 급진적인 철학을 가진 국가(미국)에 집중돼 있다. 최근까지 유럽은 경제적 규모를 이용해 거대 테크기업에 규제 프레임워크를 성공적으로 적용해 왔다. 미국 기업들도 유럽이라는 거대 시장에서 활동하려면 이 같은 규제를 준수해야 한다는 점을 받아들였다. 학계에선 이를 ‘브뤼셀 효과’라고 불렀다. 유럽연합(EU)의 본거지인 (벨기에) 브뤼셀에서 전 세계의 디지털 표준을 규제해왔단 의미에서다. 하지만 더 이상 이 효과는 작동하지 않는다. 미국 정부가 유럽의 규제에 공격적으로 압박을 가하면서다. 우리는 지금 매우 중요한 시점에 있다. 반규제적 성향에 대항할 수 있는 이해관계국을 규합해 더 큰 연합을 만들어야 한다.”
―국가 간 기술 격차는 상당하다. 이런 상황에서 디지털 인권에 대한 국제 논의가 진전될 수 있을까.
“디지털 기술 격차가 디지털 인권에 대한 글로벌 담론에 영향을 미치고 있는 것은 사실이다. 하지만 대부분의 사회가 서로 다른 시간대일지라도 같은 방향으로 움직이고 있다는 점만은 분명하다. 2024년 유엔에서 만장일치로 채택된 ‘글로벌 디지털 협약’은 이런 경향을 잘 보여준다.”
―일부 디지털 기업들은 규제가 기술 경쟁에서의 도태를 야기한다고 주장한다. 기술 발전과 인권 규제는 양립할 수 없는 것인가.
“지나친 규제는 혁신을 늦추고 기업의 운영 비용을 높인다는 주장에 동의한다. 하지만 인권 규제는 다른 차원의 문제다. 인권 규범은 기업에 제품 개발의 ‘틀’을 제공한다. 즉, ‘이 서류를 작성하라’ ‘이 테스트를 통과하라’라고 하는 게 아니라 ‘안전한 제품을 만들어야 한다’고 제시한다. 인간의 안녕(well-being)을 논하는 게 혁신에 방해가 된다면, 그건 일종의 ‘착한 방해’라고 봐야 한다. 또 인권 규범은 기술 기업에 ‘혁신을 위한 도전 과제’가 돼줄 수 있다. 자동차 산업을 예로 들어보자. 우리 사회는 자동차가 더 안전해지길, 오염 물질을 덜 배출하길 요구했고 이런 요구사항은 결과적으로 자동차 산업의 수준을 끌어올렸다. 산업을 더 정당하고 지속 가능하며 안전하게 만들었다. 따라서 인권 규범은 혁신의 방해물이 아니라 오히려 동력이라고 봐야 한다.”
―AI 시대에서 ‘인간에 의한 결정권’은 왜 사수해야 하는가.
“삶의 중요한 영역에서 인간이 기계의 결정에 종속되는 것은 새로운 위험과 문제를 야기한다. 인간이 기계에 의해 평가받고 자신의 운명이 결정되는 ‘탈인간화’도 발생할 수 있다.”
―인간의 결정이 항상 정답을 보장하는 것은 아니지 않은가.
“현재 시점에서도 인간의 결정은 AI가 생성한 콘텐츠에 의해 영향을 받고 있다. 심지어 의료 영상 판독 등 특정 분야는 AI가 인간보다 우월한 의사결정 능력을 갖고 있기도 하다. 하지만 중요한 건 AI에 내 의사결정을 의존할지 여부에 대한 선택권을 개인이 쥐고 있어야 한다는 거다.”
―현안에 대해서도 묻고 싶다. 국제법 전문가로서 베네수엘라, 이란 등지에서 벌어지는 미국의 군사적 압박과 개입을 어떻게 보나.
“지난 3일(현지시간) 베네수엘라에서 단행된 미국의 작전은 무력 사용 금지와 타국 내정 불간섭 원칙을 포함한 여러 국제법 원칙을 위반한 것이다. 이란 공격 역시 불법이다. 이란 및 베네수엘라 정부의 억압적인 통치 자체가 국제법 위반이라는 사실과는 별개 문제다. 규칙 기반의 탈냉전 질서가 와해되고 있음을 보여주며, 국제관계에서 강권 정치(power politics)가 다시 지배적인 패러다임으로 귀환했음을 의미한다.”
권승현 기자