딥페이크와의 전쟁…네이버 "얼굴 합성 안 돼요" vs 카카오 "워터마크 기술 검토"

네이버 대화형 AI 서비스 클로바X서 얼굴 합성 등 요청에 결과물 제공 않도록 조치 카카오 이미지 생성 AI 모델 '칼로'에 비가시성 워터마크 기술 도입 검토 네이버와 카카오가 딥페이크(AI로 만든 영상·이미지 합성 조작물)와의 전쟁에 나섰다. 자사 인공지능(AI) 서비스가 부적절한 콘텐츠 제작에 악용되지 않도록 하는 대응책을 도입하는 것이다. 딥페이크 제작을 요청하는 부적절한 질문에는 답하지 않거나 AI로 생성된 콘텐츠에 워터마크를 채택하는 식이다. 20일 네이버에 따르면 이 회사는 자사 AI 서비스 클로바X에서 음란성 콘텐츠나 얼굴 합성을 요청하는 경우 결과물(답변)을 제공하지 않도록 했다. 클로바X는 이용자가 질문하면 네이버의 AI가 적합한 답변을 제공하는 대화형 AI 서비스다. 네이버 관계자는 "..

2024.02.20

딥페이크 설칠까 우려...구글 "선거 콘텐츠에 AI 사용 여부 공개"

오는 11월부터 새 정책 시행…내년 대선 앞두고 조치 구글은 자사 플랫폼을 이용하는 선거 광고에 합성이 됐거나 인공지능(AI) 기술이 쓰였을 경우 이를 공개할 예정이다. 생성형 AI의 등장으로 유권자를 속이는 딥페이크(AI를 이용한 인간 이미지 합성 기술)가 난립할 것을 우려한 조치다. 6일(현지시간) 워싱턴포스트(WP)에 따르면 구글은 이같은 AI 정책을 마련해 오는 11월부터 시행한다. 선거 광고에 합성 콘텐츠가 포함된 경우 이를 공개하고 해당 표시는 이용자가 쉽게 알아볼 수 있는 위치에 있어야 한다는 내용이다. 구글 측은 "AI 기술 등을 이용해 합성 콘텐츠를 제작하는 도구의 보급이 증가함에 따라 이같은 조치를 시행하게 됐다"며 "책임감 있는 정치 광고를 지원하고 유권자가 올바른 정보를 통해 결정을..

2023.09.07