인공지능과 개인정보보호 사이 끝나지 않은 과제
24년 1월 3주   <VOL 447>
이번 주 PICK
⚡ 통화 녹음과 개인정보의 관계
그 노래가 AI가 부른 거였다고?

통화 녹음과 개인정보의 관계

인공지능과 개인정보보호 사이 끝나지 않은 과제

 

지난번 뉴스레터에서는 아이폰도 드디어 통화 중 녹음이 된다는 소식을 전달했던 적이 있는데, 혹시 기억들 하실까요? 우리나라의 한 통신사에서 특정 애플리케이션을 이용하여 가능케 한 건데요. 최근에 이 애플리케이션의 소식이 또다시 들려오네요. 통화 내용을 통역해 주는 서비스를 런칭했기 때문인데요. 통화 중이라도 원한다면, 통화 내용을 동시에 통역해 주는 기능이라고 해요. 한국어, 영어, 일본어, 중국어 등 원하는 언어를 선택하면 통역을 받을 수 있게 된다고 하니 기대가 되는걸요.

 

😄애플리케이션의 원리

애플리케이션의 통역 기능, 이 애플리케이션을 개발한 통신사가 통화 음성 데이터를 클라우드를 통해 네이버의 자체 인공 지능 통번역기 파파고에 전달하고, 파파고가 전달받은 이 데이터를 텍스트로 변환함으로써 제공이 돼요. 이렇게 번역된 텍스트는 다시 클라우드를 거쳐서 음성 파일로 전환되는 구조에요.

 

😐아직은 아쉬운 서비스

물론 국내에서 처음 선보이는 서비스인만큼 아직 보완되어야 할 부분도 많아요. 예를 들면, 통역을 하는데 2~3초의 지연이 생기기도 하고, iOS에서만 지원이 된다고 해요. 우리나라의 경우, 스마트폰의 사용자 중 80% 이상이 안드로이드 기종을 이용한다는 점을 감안하면 아쉽다는 반응이 많죠. 게다가 해외에서는 사용할 수가 없어요. 처음 통역 서비스에 대해서 들었을 때는 해외여행이나 출장 시에 유용할 거라는 생각이 들었는데, 사용을 할 수 없다뇨! 설사 서비스의 개선으로 해외에서 사용을 할 수 있게 된다고 하더라도, 개인정보의 유출 우려 때문에 서비스 지원 여부도 불투명하다고 해요.

 

🤨개인정보 유출 우려?

국내에서는 이 통신사의 망을 사용해 데이터를 전달하기 때문에 유출 우려가 적지만, 해외에선 그 나라의 통신사 망을 사용해야 하기 때문에, 이 데이터를 전달하는 과정에서 정보의 유출 사고가 발생할 거라는 우려가 있어요. 또 한 업체의 관계자는 데이터 유출 문제가 아니더라도, 해외에선 통화 내용을 데이터로 수집하는 것 자체가 불법인 데가 많아서 이 또한 장애요인이라고 말했어요.

인공지능과 개인 정보는 항상 떼려야 뗄 수 없는 문제였던 것 같아요. 최근 개인정보보호위원회의 위원장은 인공지능 기술에 있어 신뢰는 핵심 가치라며 이 애플리케이션에 대해 점검을 한 후, 필요하다면 정식 조사에 나서겠다고 밝혔어요. 아무래도 개인 정보 중에서도 민감정보로 분류되는 음성이 상대 동의 없이 활용될 경우와, 이게 또 범죄로 이어질 가능성, 통화 중 언급될 수 있는 중요한 정보 들을 전부 고려해 본다면 조심스럽게 접근해야 될 이슈이긴 해요. 하지만 그만큼 많은 관심을 갖고 사전에 조심한다면, 현명하게 사용할 수 있을 거라는 생각이 들어요.


<관련기사>

○ '에이닷' 통역 출시해외사용·보안 등 넘을 과제도 (2023.12.15.)

○ `통화녹음 규제` 조짐에비상걸린 `갤럭시폰` (2022.08.23.)

○ T전화앱 설치하면, 녹음된 통화내용 글자로 저장된다 (2021.11.23.)


그 노래가 AI가 부른 거였다고?

인공지능으로 목소리도 커버가 가능해지는 시대

 

어제 SNS를 보며 퇴근하는 길에 신기한 게시물을 어요. 블랙핑크의 제니가 개그우먼 조혜련의 아나까나를 부르는 영상이었는데, 세상에 제니아나까나라니! 상상도 해본 적 없는 조합이에요.

 

✨AI 커버곡의 등장

저도 처음엔 신기해하면서 듣다가, 제니인 듯하면서도 제니가 아닌 듯한 느낌에 알아보니 생성형 인공지능(AI)를 활용해서 만든 커버곡이었다고 해요. AI를 활용하면 특정 아티스트의 목소리나 창법과 유사하게 만드는 게 가능하다고 해요. 유튜브에 검색을 해보니까 이미 제니 말고도 많은 가수들의 AI 커버곡들이 업로드 되어 있었어요. 예를 들면, 임재범 버전의 뉴진스의 하입보이와 프레디 머큐리가 부른 아이유의 내 손을 잡아와 같은 곡들이 있어요.

 

사람들의 반응은?

이에 많은 사람들은 좋아하는 가수의 목소리로 원하는 곡을 들을 수 있으니 참신하고 반가워하고 있어요. 그래서 어렸을 적부터 버즈를 좋아했던 저도 민경훈 버전의 커버곡을 찾아 듣고 있어요. 특히나 응급실의 경우, ‘진짜민경훈과 굉장히 유사해서 모르고 들었으면 직접 불렀다고 착각할 정도였으니 다들 한 번 들어보세요!

 

😉목소리를 따라하기 전에 딥페이크가 있었죠.

자연스레 딥페이크(deep fake)’가 생각나요. 딥러닝(deep learning)과 페이크(fake)가 합쳐진 말로 기존의 사진에 원본을 겹쳐서 만들어요. 물론 영상도 가능하고요. 최근엔 드라마 웰컴 투 삼달리에서 딥페이크로 재현된 젊은 시절의 송해 할아버지의 모습이 방송됐다고 하니, 주변에서 딥페이크가 많이 쓰이고 있는 것 같아요. 외국에선, 조던 필 영화감독은 오바마 전 미국 대통령이 트럼프 비난하는 딥페이크 영상을 만들어 공개했는데, 딥페이크 기술의 위험성을 알리기 위해서였다고 하네요.

 

🤨좋은 점만 있을까요?

처음엔 일반 포토샵 합성과는 다른 퀄리티에 많은 사람들이 열광했지만 이처럼 위험성에 대한 우려의 자세도 늦추면 안 돼요. 음란물과 피해자의 얼굴을 합성하여 협박하거나 유포하는 범죄 기사가 쏟아져 나오고 있기 때문이에요. 이로 인해서 스스로 생을 마감한 피해자들도 있다는데, 강력한 처벌이 필요한 것 같아요

 

딥페이크만 해도 피해 사례가 넘쳐났는데, 이에 목소리까지 따라 하여 범죄에 쓰인다고 하니 너무나도 걱정이 돼요. 진보하는 기술은 항상 양면성을 띠고 있다는 생각이 드는데, 좋게 쓰면 유익하고, 악의를 갖고 쓰면 백해무익한 기술을 어떻게 사용할지는 사용자에게 달려있겠죠. 어떻게 사용하는 것이 현명하고 지혜로운지를 끊임없이 생각하면서 더 나은 기술로 나아갈 수 있길 바라겠습니다!

 

🍀이번 뉴스레터가 여러분에게 유익한 정보가 되었기를 바랍니다🍀

 

<관련기사>

○ 임재범이 뉴진스 노래를? ... "AI로 만든 커버곡 문제없나" (2024.01.03.)

○ "내가 지지한 후보 SNS에 누드 사진이? (2023.12.17.)

'그것이알고싶다' 딥페이크 성착취물 '심각', "일반인도 피해" (2021.02.28.)

 

Edited by 이다솜

(사)한국CPO포럼
서울시 서초구 서초중앙로 56, 블루타워 7F
수신거부  지난레터보기구독정보변경