딥페이크와의 전쟁…네이버 "얼굴 합성 안 돼요" vs 카카오 "워터마크 기술 검토"

네이버 대화형 AI 서비스 클로바X서 얼굴 합성 등 요청에 결과물 제공 않도록 조치
카카오 이미지 생성 AI 모델 '칼로'에 비가시성 워터마크 기술 도입 검토

 

네이버와 카카오가 딥페이크(AI로 만든 영상·이미지 합성 조작물)와의 전쟁에 나섰다. 자사 인공지능(AI) 서비스가 부적절한 콘텐츠 제작에 악용되지 않도록 하는 대응책을 도입하는 것이다. 딥페이크 제작을 요청하는 부적절한 질문에는 답하지 않거나 AI로 생성된 콘텐츠에 워터마크를 채택하는 식이다.

 

네이버·카카오 로고 [사진=네이버·카카오]

 

 

20일 네이버에 따르면 이 회사는 자사 AI 서비스 클로바X에서 음란성 콘텐츠나 얼굴 합성을 요청하는 경우 결과물(답변)을 제공하지 않도록 했다. 클로바X는 이용자가 질문하면 네이버의 AI가 적합한 답변을 제공하는 대화형 AI 서비스다.

 

네이버 관계자는 "클로바X에서 이미지 삭제나 변경이 가능한 편집 기능을 제공하게 되면서 부적절한 콘텐츠 생성을 요청하는 경우와 관련해 조치를 취하게 됐다"고 설명했다.

 

 

 

카카오의 AI 전문 자회사 카카오브레인은 자체 개발한 이미지 생성 AI 모델 '칼로'에 비가시성 워터마크 기술 도입을 검토하고 있다. 비가시성 워터마크란 일반 이용자에게는 워터마크가 보이지 않지만 기술적으로 AI를 활용해 만들어진 이미지임을 알 수 있게 하…………

 

반응형

 

https://www.inews24.com/view/1688894

딥페이크와의 전쟁…네이버 "얼굴 합성 안 돼요" vs 카카오 "워터마크 기술 검토"