[미디어펜=최인혁 기자]김장겸 국민의힘 의원(국회 과학기술정보방송통신위원회)이 29일 포털과 플랫폼의 AI생성물 표시를 의무화하는 내용의 정보통신망이용촉진및정보보호등에관한법률(정보통신망법) 개정안을 대표발의했다. 최근 사회적 파문을 야기하고 있는 딥페이크 범죄를 예방하기 위한 목적이다.
법안은 불법 AI생성물 유포를 선제적으로 차단하기 위해 포털과 플랫폼의 역할과 책임을 규정했다. 공동발의자로는 엄태영, 박충권, 이상휘, 조정훈, 권영진 의원 등 22인이 이름을 올렸다.
개정안에 따르면 일정 규모 이상의 포털 및 플랫폼 사업자는 AI기술을 이용해 만든 가상의 정보를 구분해 이를 표시할 수 있는 기능을 제공해야 한다. 정보 이용자가 AI생성물 여부를 쉽게 식별할 수 있도록 하겠다는 의도다.
김장겸 국민의힘 의원이 16일 국회 의원회관 제3세미나실에서 열린 '가짜뉴스 방치하는 플랫폼! 공적책임 강화 정책토론회'에서 환영사를 하고있다./사진=미디어펜DB
딥페이크 표시 방법을 제공하지 않은 포털·플랫폼 사업자에게는 1000만원 이하의 과태료가 부과된다.
또한 포털·플랫폼 사업자는 표시 의무를 위반한 AI생성물의 탐지와 삭제 등 유통방지 조치도 취해야 한다. 포털·플랫폼 사업자가 AI생성물을 탐지할 수 있도록, AI개발자에게는 판독 방법을 제공할 의무를 부여했다.
또 정보를 게재하려는 이용자에게는 AI생성물 표시 의무를 부과하고, 표시를 임의로 제거하거나 훼손할 수 없도록 규정했다. 플랫폼 사업자가 표시 의무를 이행하지 않거나 임의로 제거·훼손한 이용자에게 경고 또는 이용정지, 수익 제한 조치를 할 수 있는 규정도 담았다.
다만, 인공지능 기술의 사용 범위와 목적 등을 고려해 ‘대통령령으로 정하는 인공지능 생성물’에는 예외를 둔다.
김장겸 의원은 “법안이 통과되면 가상정보와 실제 사실을 구분할 수 있게 돼 AI기술을 악용한 범죄와 사회적 혼란을 방지하고 가짜 뉴스 피해를 예방할 것으로 기대한다”며 “딥페이크 등 불법 AI 생성물로 국민이 고통받지 않도록 조속한 입법이 이뤄지도록 최선을 다하겠다”고 말했다.
[미디어펜=최인혁 기자]