2021년 1월 11일 euronews에 따르면 아일랜드의 한 청소년이 온라인 상에 있는 ‘딥 페이크’ 영상을 쉽게 감지할 수 있는 기술을 개발했다고 밝혔다. 딥페이크(deepfake)란 인공지능 기술을 활용해 기존에 있던 인물의 얼굴 또는 특정한 부위를 영화의 다른 인물로 바꾸거나 합성하는 것을 말한다.
아일랜드(Ireland) 코크 카운티(Cokr County) 주에 사는 그레그 타(Greg Tarr)는 ‘딥페이크 탐지를 위한 심층 연구(Towards Deepfake Detection)’ 라는 이름의 프로젝트로 2021년 BT ‘올해의 젊은 과학자 및 기술자 상’을 수상했다. 그레그 타는 코로나19로 앞당겨진 인공지능 시대에 어떤 영향을 미칠 수 있을지 주목 받았다. 그레그 타는 오랜 기간 AI를 연구해온 것으로 알려진 가운데, 유럽연합의 젊은 과학자 경연 대회에도 아일랜드 대표로 출전해 자신의 기술을 발표할 예정이다.
한편 인공지능 기술의 발전으로 딥페이크 피해사례가 지속적으로 증가하는 가운데, 유럽에서는 딥페이크 영상을 법으로 규제하고 있다. 4차 산업혁명에 따른 인공지능 시대에 편리함 만큼이나 윤리적, 도덕적 문제들이 발생하면서 이에 대한 강력한 규제가 필요하다는 공감대가 형성된 것이다.
유럽에서는 EU의 일반 개인정보보호법(GDPR, General Data Protection Regulation)에 따라 딥페이크 영상물을 삭제 요청하거나 기존의 영상에 대한 이의를 제기할 수 있다. 또 딥페이크를 비롯한 허위정보 전반에 대응하기 위한 허위정보 행동규범을 만들어, AI 플랫폼 검증 기능을 높일 계획이다. 공공기관에도 허위정보 모니터링 의무를 부여해 딥페이크 악용 및 범죄에 대처하고 있다.
최근 국내에서는 한 업체의 AI 챗봇 이용 과정에서 일부 이용자들이 혐오표현과 부적절한 메시지를 전송하면서 논란이 일기도 했다. 표현의 수위만큼 논란이 된 것은 업체의 개인정보 침해 여부다. AI와의 대화에서 실제 사람간의 대화와 매우 유사한 형태가 발견되었는데, 업체가 일반 사람들의 메신저 대화를 불법으로 수집해 사용했다는 의혹이 제기된 것이다. 해당 업체는 부적절한 방법은 없었다고 입장을 밝혔지만 이미 관련 피해자들이 소송까지 준비하고 있어 논란은 쉽게 사그라들지 않을 전망이다.
딥페이크가 단순합성으로 불특정 다수의 피해자를 만들어내는 것을 넘어 왜곡된 정보를 쉽게 전달할 수 있는 만큼, 인공지능 기술을 악용하는 사례는 앞으로도 지속될 가능성이 크다. 인공지능과 AI가 인간의 편의를 위해 얼마나 개발되고 상용화될 수 있을지 주목되는 가운데, 관련 기술을 올바른 방향으로 사용하는 방법 또한 함께 고민해야 할 부분으로 보인다.
관련 기사의 자세한 내용은 다음의 기사링크를 통해 확인할 수 있다. 기사확인