[EPA 자료사진. 재판매 및 DB 금지]

(멕시코시티= 이재림 특파원 = 최근 한국을 비롯해 전 세계에서 심각한 사회 문제로 인식되는 딥페이크(인공지능을 이용한 인물 이미지 합성 기술)와 허위 조작정보(disinformation) 유포와 관련, 산업계에 미칠 영향도 상당한 만큼 이를 예방하기 위한 정교한 입법이 필요하다는 지적이 제기됐다.

양시경 법무법인 태평양 대표변호사는 멕시코시티에서 열린 세계변호사협회(IBA) 연차총회 참석 후 와 만나 "주로 정치나 사회 분야에서 부각되고 있는 딥페이크 내지 허위 조작정보 문제는 산업계에 미칠 위해도 상당하다"며 "미국 등 외국 법조계에서도 그 심각성을 우려하며 적기 차단을 위한 신속한 입법 필요성을 강조하는 흐름"이라고 24일(현지시간) 말했다.

기업인수합병(M&A)이나 금융규제 관련 분야 국내 전문가 중 한 명으로 꼽히는 양 변호사는 올해 IBA 총회에서 인공지능(AI) 관련 20여개 토론 세션 중 AI를 악용한 허위 조작정보 폐해와 그 대책을 다룬 세션도 포함돼 있어서, 참석자들이 각국 현황을 활발하게 공유했다고 전했다.

주요국 변호사들은 전기차·반도체·이커머스 등 핵심 산업 분야에서 기사 양식을 차용한 가짜 뉴스나 사회관계망서비스 댓글을 통해 여론을 왜곡·선동하는 사례가 증가 추세에 있다고 입을 모았다고 한다.

미국에서는 11월 대선을 앞두고 정치나 안보 분야에서 그 폐해가 두드러지고 있고 한국에서는 디지털 기술을 이용한 음란물 제작·유포에 초점이 맞춰져 있는데, 상대적으로 경제계를 염두에 둔 입법에 대해선 논의가 더딘 것 아니냐는 의견도 나온다.

[태평양 제공. 재판매 및 DB 금지]

양 변호사는 "통상산업 쪽 허위 정보는 해당 업체나 기업군뿐만 아니라 국가신인도에까지 영향을 미칠 수 있다"며 "잘 나가는 회사에서 사고가 났다거나 기업 대표가 엉뚱한 발언을 한다거나 하는 모습을 딥페이크로 포장해 외국계 플랫폼을 통해 유포해 버리면, 경우에 따라선 해당 기업이 회복할 수 없는 데미지를 입을 수도 있다"고 지적했다.

특정 정치인이나 연예인과 관련한 조작 정보의 경우 그 진위 판단에 걸리는 시간이 그리 길지 않을 수 있으나, 기업과 관련된 거짓 합성 콘텐츠는 직접적인 피해를 상당 수준 입을 때까지도 '사실 확인'을 하기 어려울 수 있다는 설명이다.

실제 외국 일부 기업들은 최고경영자(CEO)가 깜짝 소식 등의 형태로 재정 지시를 내리는 거짓 정보 여파로 수백만 달러 손해를 입은 사례도 있는 것으로 나타났다.

주요국들의 경우 당국이 적기에 개입할 수 있는 법적 장치 마련에 조금씩 나서는 상황이라고 양 변호사는 입법 동향을 전했다.

대표적으로 미국에서는 딥페이크를 활용한 시청각적 조작을 통해 고객 계좌에 대한 접근 가능성이 높아진 현실을 고려해, 금융 분야에서 딥페이크에 대응하는 조직 구성에 관한 '딥페이크 신용사기 방지법안'이 발의됐다.

이 법안의 골자는 재무부와 연방준비은행 등 주요 인사로 태스크포스(TF)를 구성하도록 하는 게 골자다. 해당 TF는 법 제정 1년 안에 딥페이크나 허위 조작정보로부터 고객을 보호할 수 있는 방법 등을 담은 보고서를 의회에 제출하는 게 임무다.

[세계변호사협회 엑스(X·옛 트위터) 캡처. 재판매 및 DB 금지]

회원 수 8만명에 육박하는 IBA 내 법률실무국(LPD) 위원인 양 변호사는 "딥페이크 모니터링이나 탐지 기술 도입 등 일부 기업은 자체적으로 발 빠르게 대비책을 구축하고 있다"면서도 "궁극적으로는 딥페이크 공격에 즉각 맞설 수 있는 법·제도적 프레임워크 구축이 시급하다"고 강조했다.

별도로 기업 차원에서는 혼란 최소화를 위한 투명한 사내·외 커뮤니케이션 시스템 확립이나 비공식 정보 유통 경로에 대한 사전 차단 등 필요성도 역설했다.

IBA는 이번 총회를 통해 미국의 비영리단체인 '인공지능 및 디지털정책센터'(Center for AI and Digital Policy·CAIDP)와 함께 법조계에 미칠 AI의 영향을 탐구하고 법률 실무에서 AI 기술 거버넌스 및 윤리적 배치와 사회에 도움이 되는 방법에 대한 제언을 담은 보고서도 발표했다.