세계 첫 AI 기본법 시행… 실효성 우려 여전

[미디어펜=배소현 기자] 세계 최초로 AI(인공지능) 기본법이 시행됐지만 핵심 조항으로 꼽히는 'AI 생성물 워터마크 표시 의무'를 둘러싼 실효성 논란이 이어지고 있다. 해외 AI 서비스에는 규제 적용이 쉽지 않은 반면 국내 기업에는 의무가 부과되면서 결과적으로 국내 산업계만 추가 부담을 지는 구조로 굳어질 수 있다는 지적이 나온다.

22일 업계에 따르면 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)은 EU(유럽연합)에 이어 두 번째로 마련된 AI 산업 관련 법안으로, 한국은 이날로 포괄적 기본법을 전면 시행한 세계 최초 국가가 됐다.

정부는 AI 산업 진흥과 신뢰 확보를 동시에 달성하기 위한 제도적 기반이라는 취지를 강조하고 있다. 그러나 현장에서는 법 조항의 적용 기준과 집행 방식이 구체화되지 않은 상황에서 시행이 먼저 이뤄지면서 혼선이 불가피하다는 반응이 나온다.

특히 AI 생성물에 대한 워터마크 표시 의무는 법 시행 이전부터 실효성 논란이 제기돼 온 부분이다. 

AI 기본법은 AI로 제작·유통되는 이미지·영상·음성 등에 대해 'AI가 생성했다'는 사실을 알리는 워터마크를 표시하도록 투명성 확보 의무 규정을 두고 있다. 애니메이션이나 웹툰 등 비교적 식별이 쉬운 생성물은 눈에 보이지 않는 디지털 워터마크를 허용하지만, 실제와 구분이 어려운 가상의 생성물인 딥페이크의 경우 워터마크를 명확히 표시해야 한다. 

투명성 확보 의무를 이행해야 하는 주체는 이용자에게 AI 제품 및 서비스를 직접 제공하는' AI사업자'로 명확히 규정했다. 반면 AI 기술을 단순 업무나 창작의 도구로 활용하는 이용자는 규제 대상에서 제외했다. 이에 따라 AI를 이용해 콘텐츠를 만드는 제작사는 AI 제품을 직접 제공하는 사업자가 아니므로 표시 의무를 지지 않게 된다.

이 같은 규정을 두고 업계에서는 실효성에 의문을 제기한다. 딥페이크 생성물 상당수가 해외 앱을 통해 제작되고 있지만, 이들 대부분은 AI 기본법의 직접적인 규제를 받지 않기 때문이다.

법은 해외 빅테크를 겨냥한 '국내 대리인 지정' 제도를 포함하고 있지만 글로벌 매출 1조 원, 국내 매출 100억 원, 일평균 이용자 100만 명 중 하나의 조건을 충족해야 해 실제 적용 대상은 구글이나 오픈AI 등 일부 기업에 그친다는 지적이 나온다.

워터마크 의무가 콘텐츠를 제작하는 사업자에게만 부과된 점도 실효성을 떨어뜨리는 요인으로 꼽힌다. AI 생성물을 소비하거나 게시하는 이용자는 규제 대상이 아니어서 유통 자체를 제도적으로 막기는 쉽지 않다는 분석이다.

업계에서는 AI 기본법이 결과적으로 국내 기업에만 부담으로 작용할 가능성을 우려하고 있다. 전세계적으로 AI가 급속도로 발전하는 상황 속에서 사실상 국내 대부분의 사업자가 워터마크 표시 등의 부담을 떠안게 될 수 있다는 이유에서다. 반면 딥페이크 등 악의적 활용 주체는 얼마든지 규제를 우회할 여지가 남아 있다는 지적도 나온다.

이 밖에 고영향 AI 기준 역시 불확실성을 키우는 요소로 지목된다. 어느 수준을 ‘중대한 영향’으로 볼 것인지에 대한 기준이 명확하지 않아, 기업들이 규제 리스크를 의식해 기술 적용이나 사업 확장을 보수적으로 판단할 수 있다는 것이다.

이로 인해 일각에서는 이번 법 시행이 국내 AI 산업 경쟁력을 약화시키는 방향으로 작용할 수 있다는 우려도 제기된다. 규제 부담이 누적될 경우 기업들이 보다 규제가 느슨한 해외 시장으로 눈을 돌릴 가능성을 배제하기 어렵다는 분석이다.

한 업계 관계자는 "해외와 달리 국내 기업만 추가적인 의무를 먼저 부담하는 구조로 흘러갈 수 있다"며 "제도가 의도치 않게 기업들의 해외 이전을 자극하지 않도록 세밀한 보완이 필요하다"고 말했다.

한편 정부는 법 시행 이후 최소 1년 이상의 규제 유예 기간을 두고 제도 안착에 집중하겠다는 방침이다. 이 기간 동안 제재보다는 안내와 지원에 무게를 두고, 업계와의 소통을 통해 운영 기준을 구체화해 나간다는 계획이다.