조 바이든 미국 대통령

인공지능(AI)이 만들어낸 이미지를 이용한 허위 정보가 지난해 초 이후 급증했다는 연구 결과가 나왔다. 허위정보 확산으로 사회적 피해가 크게 늘고 있는 것에 대한 우려와 대책 마련이 시급하다는 목소리가 나오고 있다.

구글과 듀크대 연구팀은 팩트체크 사이트 및 미디어 단체와 최근 공동으로 집필한 논문에서 AI가 생성한 가짜 이미지가 2023년 초 이후 크게 늘어났다고 밝혔다고 미 NBC 방송 등이 29일(현지시간) 보도했다.

연구팀은 팩트체크 매체 스노프스(Snopes)가 진위를 확인했던 1995년 이후 2023년 11월까지 13만6천건의 팩트체크 사례를 분석했다.

논문에 따르면 지난해 3월 프란치스코 교황이 허리춤이 강조된 흰색 롱패딩을 입은 가짜 사진이 소셜미디어(SNS)에 퍼지기 전만 해도 AI로 생성하는 가짜 이미지는 거의 없었다.

그러나 이후에는 AI가 생성하는 가짜 이미지는 텍스트나 포토샵 등 전통적인 방법으로 만들어지는 허위 정보와 비슷한 수준이 될 정도로 급격히 늘었다.

2022년 11월 출시된 챗GPT 이후 AI 열풍이 불면서 지난해에는 오픈AI와 구글 등 주요 기업들이 새로운 AI 이미지 생성 도구가 출시한 바 있다.

실제 지난 1월에는 미국 유명 가수 테일러 스위프트의 얼굴에 성적으로 노골적인 자세가 합성된 딥페이크 이미지가 소셜미디어 등에서 확산했고, 작년 3월에는 도널드 트럼프 전 대통령이 수감을 찬 채 경찰관들에게 둘러싸여 끌려가는 사진이 퍼지기도 했다.

지난 1월에는 미국 뉴 햄프셔 프라이머리(예비선거)를 하루 앞두고 민주당원에게 '조 바이든'을 사칭하는 전화가 걸려왔던 적이 있다. 바이든의 목소리를 흉내낸 로보콜(자동녹음전화)를 받은 이들에게 뉴햄프셔 프라이머리 투표에 참여하지 말라고 권고한 것이다.

특히 바이든이 평소에 즐겨 쓰는 말까지 흉내내 유권자들을 혼란에 빠뜨린 적이 있었다.

업계의 한 전문가는 "앞으로 AI 발전 속도가 급속화 됨에 따라 이런 거짓정보 현상이 일상이 될 수 있다. 자칫 왜곡된 사회 형성으로 인간들 간의 불신이 심각하게 될 우려가 있다"고 말했다.

김지윤 기자

수도시민경제 김지윤 기자 gyoon@naver.com 김지윤 기자의 기사 더보기

저작권자 ⓒ 수도시민경제, 무단 전재 및 재배포 금지