[미디어펜=이해정 기자]인공지능(AI) 기술이 발전하면서 유해 콘텐츠, 가짜프로필 등을 보다 효율적으로 걸러낼 것으로 예상된다. 막대한 양의 데이터를 축적하고 스스로 학습하는 머신러닝 기술은 사람보다 빠르고 정확하게 유해 콘텐츠를 걸러낼 수 있다.
28일 업계에 따르면 페이스북, 네이버, 구글 등 포털업체는 AI를 활용해 유해물과 가짜프로필을 걸러내고 있다. AI는 이미지와 영상을 비롯해 향후 생중계 방송에서도 유해물을 찾아내고 필터링할 수 있을 전망이다.
삼성전자의 폴더블 스마트폰 콘셉트 이미지./사진=유튜브 캡쳐
페이스북은 살인 등 흉악범죄나 자살·자해 장면 등을 담은 라이브 스트리밍 콘텐츠를 실시간으로 걸러 낼 칩(chip)을 개발하고 있다고 지난 25일 밝혔다. 페이스북은 이미 서버 설계와 마더보드, 데이터센터 칩 개발 분야에서 상당한 진척을 이룬 것으로 알려졌다.
페이스북 칩 개발에는 인텔, 삼성, 엔비디아 등이 협력할 가능성이 클 전망이다. 전 세계 22억명이 사용하는 세계 최대 소셜네트워크 페이스북은 방대한 규모때문에 유해 콘텐츠를 걸러내는 데 한계에 다다랐으나, 머신러닝을 활용한 칩은 콘텐츠 필터링에 크게 기여할 것으로 보인다.
구글은 사전 훈련 기반 머신러닝 모델인 '비전 API'를 통해 이미지를 수천 개의 카테고리로 빠르게 분류하고, 이미지 내 개별 개체와 얼굴을 감지해 이미지에 포함된 단어를 찾아 읽고 있다. 라벨, 제품, 랜드마크, 광학 문자, 얼굴, 이미지 속성, 웹 탐지, 성인물·폭력물 등 콘텐츠별 감지를 하고 있다. 구글은 영상물 필터링도 AI를 활용해 적용하고 있다.
인공지능(AI) 기술이 발전하면서 유해 콘텐츠, 가짜프로필 등을 보다 효율적으로 걸러낼 수 있을 전망이다./사진=ING생명
네이버는 음란물 필터링 AI 기술인 '네이버 엑스아이(X-eye)'를 지난해부터 동영상 부분으로 확대 적용해 실시간 필터링을 해오고 있다. 기존 이미지 필터링 방식에 영상의 일정구간마다 프레임을 추출하는 과정이 추가됐다. 네이버에 따르면 네이버 엑스아이는 98%의 높은 적중률을 나타냈다.
2004년 싱가포르에서 출발한 동남아 데이팅 기업 런치 액츄얼리 그룹(Lunch Actually Group)은 지난 25일 AI와 블록체인을 적용한 데이팅 앱 'MVP'의 한국어 시범 버전을 연내 출시한다고 밝혔다. 회사는 데이팅 앱에 만연한 연애 빙자 사기를 대처하기 위해 AI 기반 이미지 인식 기술을 활용했다.
AI는 이용자가 앱에 프로필 사진을 등록하면 페이스북, 인스타그램 등 이용자의 SNS 계정에 등록된 사진과 비교해 본인 여부를 판단한다. 인증된 정보는 블록체인 기술을 통해 이용자의 모바일 기기에 분산 저장된다.