인공지능(AI)은 산업 현장에서 생산성을 향상시키고 근로자가 수행하기 어려운 업무를 처리하는 등 장점을 가지고 있는 반면 인공지능을 기반으로 활용해 사람들의 목소리와 이미지를 합성하는 딥 페이크 또는 무단 라바 카지노 행위 등 사기 범죄 행위에 악용되기 쉽다는 위험성을 내포하고 있다.
이에 따라 미국 법무부(DOJ)가 미국 양형 위원회(United States Sentencing Commission)에 인공지능을 악용해 자행되는 범죄에 대한 추가적인 처벌을 가하기 위한 지침을 갱신해줄 것을 요청하는 가하면 유럽연합도 인공지능을 악용한 딥 페이크 또는 무단 라바 카지노 행위를 방지하기 위한 대책 마련에 부심하고 있다.
◆급증하는 AI 악용 딥 페이크·무단 라바 카지노…美 캘리포니아 주 강력 처벌
이처럼 인공지능을 악용한 딥 페이크 또는 무단 라바 카지노 행위 차단을 위해 세계 각국이 적극적인 행보를 보이고 있는 가운데 최근 미국 캘리포니아 주 의회가 인공지능의 개발, 배포 및 사용을 규제하기 위한 새로운 법률을 적극적으로 입안하는 것으로 알려져 주목받고 있다.
해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)에 따르면 캘리포니아 주 상원 의회는 지난 8월 31일 인공지능이 생성한 라바 카지노품을 만들기 전에 사망한 공연자의 유족으로부터 명시적인 동의를 받도록 하는 법안인 Assembly Bill (AB) 1836을 통과시켰다.
이 법안은 명시적인 사전 동의를 얻지 않고 고인의 목소리 또는 초상을 시청각 형태로 디지털 라바 카지노물을 제작, 배포 또는 제공하는 모든 사람에게 벌금을 부과한다.
이 벌금은 1만 달러에 해당하는 금전적 금액 또는 사망한 인격체의 초상에 대해 권리 소유자가 입은 실제 피해액이다.
이 법안에 따르면 ‘디지털 라바 카지노품’은 사운드 레코딩, 이미지, 시청각 작업 또는 전송으로 구현된 개인의 음성 또는 시각적 유사성으로 쉽게 식별할 수 있는 컴퓨터에서 생성된 매우 사실적인 디지털 표현과 동일하다.
이 범죄에는 개인이 결코 하지 않은 방식으로 행동하거나 나타나게 하는 인공지능 변경 또는 공연이나 외모의 근본적인 특성에 대한 변경하는 것이 포함된다.
이 법안은 이제 개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사의 책상 위에 놓여 최종 결정을 기다리고 있다.
AB 1836 법안은 미국 텔레비전 및 라디오 예술가 협회(Screen Actors Guild-American Federation of Television and Radio Artists)와 미국 최대 연기자 노조 중 하나인 인터랙티브 미디어 협약(SAG-AFTRA) 등의 지지를 받고 있어 통과될 것으로 예상되고 있다.
출연한 연기자의 모습을 인공지능으로 라바 카지노하는 것은 이러한 라바 카지노품을 쉽게 만들 수 있는 주류 인공지능 모델이 등장한 이후 할리우드에서 뜨거운 이슈로 부상했다.
◆美 예술가·연기자 노조 법안 지지…입법과 실행에 동력 제공
이는 무려 118일 동안 지속된 2023년 미국 연기자 노조인 인터랙티브 미디어 협약이 시행한 파업의 주요 협상 포인트 중 하나였다.
인터랙티브 미디어 협약의 인공지능에 의한 회원들의 초상 오용에 대한 경계는 2024년 4월 인공지능 오용에 맞서 최고의 음반사와 예비 계약을 체결한 최근의 노력에서도 확인할 수 있다.
또한 7월에는 같은 노조에 소속된 할리우드 비디오 게임 출연자들이 게임 업계의 적절한 인공지능 보호와 남용에 대한 우려로 인해 파업에 돌입했다.
이미 우리는 인공지능이 더 이상 살아 있지 않은 예술가를 부활시키는 데 사용되는 사례를 목격한 바 있다. 영국의 몰입형 엔터테인먼트 회사인 레이어드 리얼리티(Layered Reality)는 인공지능을 사용해 오래된 개인 사진과 홈 비디오 클립에서 콘텐츠를 추출해 엘비스 프레슬리의 라이브 공연을 제작했다.
2023년 11월 유니버설 뮤직 그룹(Universal Music Group)은 비틀즈의 마지막 곡인 ‘Now and Then(지금도 그때도)’이라는 곡을 발표했는데 그것은 존 레논의 보컬 트랙을 재현하기 위해 목적인 만큼 인공지능을 사용해도 가능했다.
뉴섬 주지사는 현재 인공지능의 안전성을 옹호하고 인공지능 모델이 불량으로 사라진 것에 대한 ‘킬 스위치’를 옹호하는 논란이 되고 있는 상원 법안(SB) 1047을 포함하여 여러 인공지능 관련 법안의 승인 여부를 앞에 두고 있다.
전문가들은 캘리포니아 주 상원 의회의 법안 상정과 관련해 세계적인 유명 인사들은 물론 예술계와 일반 투자자들에 이르기까지 인공지능 딥페이크와 무단 라바 카지노 등으로 피해를 입는 사례가 속출하는 상황에서 당연한 조치로 인식하고 있다.
인공지능 개발 및 출시로 매출을 증대시키고 있는 빅테크 기업들이 문제 해결에 미온적인 태토로 일관하고 있는 상황인 만큼 강력한 처벌과 규제를 통해 사기 및 범법 행위를 차단할 수밖에 없다는 판단에서다.
전문가들은 앞으로 인공지능을 악용한 딥 페이크 및 무단 라바 카지노 행위 차단을 위한 법안은 세계 각국에서 속속 입법될 것으로 예상하고 있으며 인공지능 기술 기업들이 지금과 같이 미온적인 태도로 일관하고 인공지능을 악용한 각종 범죄 행위가 증가할 경우 처벌 강도와 규제 수위는 더욱 높아질 수 있을 것으로 전망하고 있다. [뉴스드림]