[일반]생성형 AI가 온다…"AI 콘텐츠 80% 성 산업·범죄에 활용"

이준택(38·부천시)씨는 인스타그램에 접속해 AI로 만든 실사 모델 이미지를 본다. 몇 달 전만 해도 그림체는 일러스트 같았지만 이씨가 팔로우 한 계정에는 최근 실제 모델을 촬영한 사진처럼 정교한 이미지가 올라오고 있다. 가끔씩 노출이 심하거나 특정 신체를 과도하게 부각한 이미지도 늘었다.

이씨는 "조만간 진짜 사람이라고 생각할 정도로 정교한 AI 실사 이미지가 나올 것 같다"며 "가상 공간에서 사람과 이미지가 구분되지 않을 수도 있겠다"고 말했다.

이른바 AI 가상 모델이다. 화보와 영상물을 통해 인간 모델을 배제하고 이를 고도로 학습한 AI가 클라이언트로부터 요구받은 특정의 모델을 정교하게 대량으로 양산할 수 있을 전망이다. 

청바지 브랜드 리바이스는 최근 AI 모델을 도입하기로 하고 다양한 인종의 AI 모델에 자사 제품을 착용한 이미지를 공개했다. 리바이스는 디지털 패션 스튜디오 라라랜드닷에이아이와 도와 AI 모델의 완성도를 높여나간다는 계획이다.

이 회사는 패션산업이 지구 전체 탄소배출량의 10%를 차지하는 온실가스를 배출하고 있다며 이를 개선하기 위한 탄소중립이라는 데 방점을 찍었지만 당장 패션 모델과 사진작가, 미용, 촬영 스탭 등 패션화보를 둘러싼 산업계는 일자리의 위협을 받게 됐다. 반면 데이터 엔지니어나 시각화를 위한 비주얼 디자이너 등의 수요는 증가할 전망이다. 

미국 연방수사국(FBI)은 최근 AI를 이용한 포르노물 제작에 대해 경고 메시지를 내놨다. 

누구나 생성형 AI를 쉽게 이용할 수 있게 되면서 사진과 영상을 조작해 성적인 콘텐츠를 만드는 '딥페이크'가 증가하자 이를 경고하고 나선 것이다. 이같은 피해자의 다수는 미성년자였다.

FBI는 4월 이후 SNS(소셜미디어)나 줌 등 화상채팅 사이트에서 자신의 이미지나 영상을 불법으로 캡처한 포르노물이 유포되고 있다는 신고가 급증했다고 밝혔다. 페이스타임, 줌 등 화상채팅에서는 AI로 만든 여성이 등장하거나 목소리 대화형 AI를 이용해 금품을 요구하는 경우도 있다. 이른바 '로맨스 스캠'(Romance Scam)이다.
   
사이버범죄 전문가인 조지아주립대 데이비드 마이몬 교수는 '더 애드보카트'에 "생성형 AI 도구는 더 발전해 영상 품질과 직접 대화까지 가능한 수준이 높아질 것"이라며 "AI와 실제를 구분하는 것은 시간이 갈수록 더 어려워질 것"이라고 말했다.

대화 생성형 AI 챗봇 '챗GPT'를 개발한 오픈AI의 미라 무라티 최고기술책임자(CTO)도 시사주간지 '타임'에 "챗GPT를 처음 내놓았을 때 이렇게까지 큰 열풍이 불 것이라고는 예상하지 않았다"며 "높은 인기는 일부 윤리적 문제를 불러일으켰다. 이 기술이 가져올 영향을 고려할 때 다양한 전문가들의 목소리뿐만 아니라 규제 기관과 정부의 참여가 필요하다"고 강조했다.

오픈AI는 최근 사람 데이터를 이용해 아동 착취물과 같은 불법 포르노물이나 노골적인 성적 콘텐츠 생성을 금지하는 새로운 규칙을 시행했다. 그러나 다크웹과 같은 음성적인 공간에서는 이미 성적 콘텐츠와 가짜뉴스가 대량으로 만들어지고 유통되고 있는데다 만드는 노하우까지 공유하고 있다.

프란치스코 교황의 고가품 브랜드의 흰색 패딩과 트럼프 전 미국대통령의 경찰 체포 사진을 AI로 조작해 화제가 되는가 하면 펜타곤·백악관 폭발 AI 가짜뉴스는 미국 증시를 흔들 정도로 엄청난 파장을 일으켰다.

성 산업도 앞 다퉈 AI 콘텐츠 시장에 뛰어들고 있다. 

'뉴욕포스트'는 실제 사람처럼 보이고 말하고 메시지를 교환하는 생성형 AI 포르노 배우가 미국 포르노 산업의 새로운 개척자로 떠오르고 있다며 관련 산업을 변화시키고 있다고 보도했다.

이미지 생성형 AI 미드저니(Midjourney)를 활용해 성인물 소비자들의 선호도를 기반으로 만든 AI 포르노 배우 이미지가 공개되기도 했다.

정동선 한양대 창의융합교육원 교수는 한국콘텐츠진흥원이 주관한 포럼에서 "AI를 활용한 콘텐츠의 80%가 성산업이나 범죄 등에 활용되고 있다"며 "사진, 영상, 목소리, 그림은 물론 인간의 뇌와 감정을 자극하는 시도가 계속되고 있다"고 지적했다.

정 교수는 이어 "진짜와 가짜의 구분이 어려운 AI가 나오고 있다"며 "글을 쓰고 책을 쓰는 챗GPT, 노블AI 등 데이터만 있으면 창작을 거뜬히 해내는 생성형 AI가 세상을 혁명적으로 바꾸고 있다"고 시사했다. 

반면 웹툰 '신과함께 돌아온 기사왕님'이 AI로 만들어졌다는 논란이 제기되며 이용자들의 반발이 커졌다. 이에 국내 최대 웹툰 플랫폼인 네이버웹툰과 카카오엔터는 자사 공모전에 사람이 직접 그린 웹툰만 출품하도록 하거나 생성형 AI 활용 출품을 제한하는 규정을 부랴부랴 신설하기도 했다.

컴퓨터 작업처럼 AI·로봇을 도구로 활용하는 창작자의 협업 실험과는 별개로, 인간의 데이터를 학습한 AI가 만들어낸 창작물에 비용을 지불할 만한 가치가 있느냐에 대한 콘텐츠 소비자의 시선이 엇갈리고 있다.

웹툰 플랫폼 업계 한 관계자는 CBS노컷뉴스에 "복잡한 작업을 단순화하기 위해 웹툰 제작에 AI를 활용하는 것은 추세"라며 "어디까지 창작물로 인정할 것인가에 대한 사회적 논의가 시작됐다고 봐야 할 것"이라고 말했다.

AI 스토리메이킹 툴킷 '아나트' 개발사 이크림 김선엽 대표는 콘진원 포럼에서 "창작이라는 작업의 전통적인 패러다임이 바뀌고 있다"며 "기존 1인 창작 방식에서 보조자(보조작가)인 AI를 활용한  창작, 인간-AI 공동창작 시스템으로 바뀌어갈 것"이라고 전망했다.