딥페이크 포르노 논란과 AI에 대한 단상

심층분석 2019/01/06 14:45
** 매우 긴 글 입니다. **


들어가면서 , 최근에 블로그 글 을 섰기 때문에 구독자 분 들은 눈치 채셨겠지만
작년에 저는 페북에 내년(2019년)에는 블로그 활동 과 유툽 활동을 할 것 이다.
라고 이야기했고

그래서 올해에는 다시 예전처럼 블로그 활동을 열심히 할 예정입니다.

이 글은 매우 긴 글 입니다.
이 글의 영상버전은 유투브에 있습니다.
영상을 선호하시는분들은 유툽을 보시면됩니다. :)

유툽링크: https://youtu.be/G8KZO6nYar8

가능하면 유툽과 블로그를 같이 올릴 생각이지만 글과 영상은 약간 다르기 때문에
블로그에만 올라오는 경우와 유툽에만 올라오는 경우는 있을 것 같습니다.

"AI가 발달하면서 앞으로의 시대는 AI가 백엔드로 자리잡게 될것입니다. "
뭐 단순하게 AI가 뒤를 맡을 것이다...라는 말입니다.

이런말을 3년전 나타났던 "알파고 충격" 당시 지인들과 술자리에서 자주 이야기 했엇던 이야기였습니다.

벌써 3년이 흐로고 그 기술들이 빠르게 퍼져서
세상은 AI백엔드 시대로 빠르게 변화하고 있습니다.

생각보다 꽤 많은 부분들의 하단에는 이미 AI가 담당하고 있는 것을 피부로
직접 느끼게 됩니다.

AI가 만들어낸 초상화가 고가에 팔리편서.... 예술은 과연 무엇인가? 라는
오랜 주제가 생각 나기도 하였습니다.
관련링크 :AI화가가 그린 작품 어떻게 5억원에 낙찰됐나

AI가 손쉽게 사람 목소리를 복제 할 수 있다는 블룸버그 기사도 있습니다.
관련링크: This AI Can Clone Any Voice, Including Yours

AI가 뉴스하는 AI앵커에 대한 뉴스도 있습니다.
관련링크 : https://youtu.be/MHPI1uH9llU

이 글의 제목처럼 AI로 만들어낸 가짜영상 딥페이크(deepfake) 포로노 논란도 생겼습니다.

관련링크:https://youtu.be/0vI6Xw-htBs
요약하면 AI를 통한 컴퓨터그래픽으로 동영상의 얼굴을 원하는 사람으로 바꾸어치기 하는
기술입니다. 그런데 그 기술을 이용하여 포르노영상의 포르노스타의 얼굴을 유명연예인으로
바꾼 딥페이크 포르노 영상이 퍼지고 있어서 문제다. 라는 것입니다.
이미 작년초에 레딧에서 문제가 되어 일반 유명사이트에서는 금지되고 있는데 일반사이트에
올라온다는 소식입니다.

혹시나 노파심에 말하면 이런영상을 제작하면 당연히 범죄행위입니다.

이미 이러한 시대의 예언은 과거의 공상과학영화에서 수십년전에 나온 이야기입니다.

어렸을보았던 파충류외계인 침공을 다룬 V라는 미드(1983년 미니시리즈)에서
외계인의 컴퓨터그래픽 기술로 미국 대통령연설을 가짜로 만들어 가짜뉴스로 여론을
조작하는 내용이 나오는데 2019년 쯤 오니 이것이 현실이 되어버렸습니다.

자원이 고갈된 외계인들이 지구에 와서 지구인을 식량으로 그리고 물을 채취해간다라는
설정이여서 사람들은 다이애나가 쥐먹는 장면을 더 인상깊게 기억하지만요.

저는 과학기술에 더 관심이 있어서 가짜로 영상을 만드는 것이 인상이 깊었습니다.
그런데 그 공상과학영화 에서나 나오는 일들이 이제는 현실이 되었습니다.
(그런데 그런 일이 실제로 일어났습니다.버전 이랄까요)

누군가 사진들을 수집해서 딥페이크를 이용해 포르노 뿐만 아니라 얼굴을 바꾸어치고
가짜영상을 만들 수 있는 시대입니다. 2019년 자동차가 날라다니지는 않지만
(날아다니는 자동차는 이미 수년전에 만들어졌지만 너무 비싸서 상용화가 묘연합니다만
일단 있습니다.) 드론이 날라다니고 로봇이 서빙을하고 자율주행 자동차가 나타나고
화성에 인간정착을 위한 스페이스엑스의 로켓개발도 속속 이루어지는 시대입니다.
세상이 변하지 않는다라고 하지만 과학기술 분야에서는 어쩌면 너무빠르게 변하고 있습니다.

그리고 가짜뉴스들이 난무하는 시대입니다.

어떤 것이 진짜이고 가짜인지 알 수 없는 시대에 우리는 무엇일 필요할까요?

와이어드에 실린 유발하라리 작년 8월12일 글이 생각납니다.
관련링크 :Yuval Noah Harari on what the year 2050 has in store for humankind

한글버전: 유발 하라리가 말하는 2050년을 위해 인류가 준비해야 하는 것

밑의 인용은 제 나름의 요약입니다.

"그럼 지금 우리는 어떤 기술을 가르쳐야 할까요? 많은 교육 전문가는 학교가 ‘네 가지 C’, 곧 비판적 사고(critical thinking), 의사소통(communication), 협력(collaboration), 창의력(creativity)을 가르쳐야 한다고 말합니다. 곧 학교는 구체적인 기술 교육을 줄이고 더 범용적인 삶의 기술을 가르쳐야 한다는 것입니다. 무엇보다도 변화에 대응하는 능력, 새로운 것을 배우고 익숙하지 않은 상황에서도 정신적 균형을 유지하는 능력이 필요합니다."

"우리는 어떤 구체적인 미래도 확신할 수 없습니다. 오직 분명한 것은 모든 것이 변할 것이라는 사실 뿐입니다. "

"‘나는 누구인가?’는 그 어느 때보다도 더 중요하고 복잡한 질문이 되었습니다."

얼마전에 저도 관련글을 썼습니다.
너 자신을 알라

어쩌면 이 시대에 가장 중요한 교육은 기본으로 돌아가서 철학과 수학 교육이 아닐까 합니다.
입시위주 교육말구요. 수학이 정말 아름답고 재미있는 학문이라는 것을 알게 해주는 그런 교육말입니다.

과학기술은 엄청나게 빠르게 발전하지만 과학기술과 연관되지 않는 인간사회의 시스템들은
여러가지 이유로 더디게 바뀌어 나가고 있습니다.

어쩌면 스타워즈의 영화에 나오는 것처럼 또는 공상과학의 영화에 나오는 것처럼 과학기술만
발전하고 인간의 사회모습은 크게 변하지 않는 것일까요?


아니면 AI가 발전해서 터미네이터의 영화처럼 어느 순간 자의식을 가지고 인류를 멸종시킬까요?
예전에 했던 생각을 링크합니다.
관련글 : 로봇과 인공지능에 대한 짧은 생각

미래가 AI가 어떻게 될 것인지는 유발 하라리의 말처럼 그 어느 누구도 알수가 없습니다.
의견도 매우 분분합니다.

어찌되었든 지금은 현재(2019)에서는 AI가 자의식을 가지냐 아니냐의 문제보단
AI가 왜 이렇게 답을 냈는지를 모른다가 가장 큰 문제입니다.
지금은 AI를 손쉽게 만들 수 있는 노하우(Know how)는 알고 있지만 노화이(Know Why)를
모르고 있는 상태입니다.

네 과거의 과학기술도 이론으로 정립되고 하기 전까지 인류는 전기도 중력도 모두 경험적으로
알아서 사용했죠. 노하우는 알았으나 나중에 노화이가 발견되는 것처럼
현재의 문제는 왜 AI가 이런 결정을 했을까를 아직 모르고 있다는 것입니다.

다시 알파고로 돌아가서 인터넷에 공개된 알파고 다큐멘터리를 보면 이런 말이 나옵니다.

관련링크 : 구글플레이
이세돌이 처음으로 이긴 4국에서 이런 이야기가 나옵니다.

"알파고가 이상해진 것은 알겠는데 그 이유를 알 수 가 없었습니다."
"저건 또 뭐지?"
"아마도 큰 뜻이 있겠지요.."
연이여 보여진 영상에서는 개발자들이 왜 이랬지? 하면서 추측을 합니다.
네 맞습니다. 알파고를 만든 개발자들도 AI가 왜 그런 선택을 했는지 모릅니다.

그경기는 결국 이세돌의 승리로 이어진 경기였습니다. 3연패 이후에 승리였고
이제 인간이 컴퓨터를 못 이기는구나 했을때의 승리이었기 때문에
모두들 감격했었던 대국이었습니다.

알파고가 1승을 했을때 데비스 허사비스는 이런말을 트윗에 올렸습니다.
승리! 우리는 달에 착륙했다.

달에 착퓩했다 라는 의미는 알파고가 AI의 새로운 시대를 열었다는 것을
의미합니다. 알파고 다큐 동영상에서는 1승을 했을때 이런 이야기가 나옵니다.

알파고는 인간의 창조물이고 인간의 창의력과 지혜의 궁극의 지표라고 생각합니다.
알파고가 하는 모든 일은 인간이 만든 학습 알고리즘과 검색 알고리즘을 통해
인간이 만든 정보를 배웠기에 가능했습니다. 따라서 이것은 인간의 성취인 셈입니다.

그렇습니다. 인간은 딥러닝을 통한 AI구축 방법론을 만들어 냈습니다.
그 방법론에 의해 오늘도 많은 논문들이 작성되고 많은 기법들이 만들어지고 적용되고 있습니다.
하지만 , 아직 그 만들어진 AI들이 왜 이런 결정을 했는지 인간은 모르고 있습니다. 어쩌면
계속 모를 수도 있곘지요. 아마 이것이 현재 직면한 AI에서의 가장 큰 문제 일수 있습니다.
일단은 왜 그런지는 몰라도 우리가 원하는 것을 시킬 수 있으니까 막 개발되는 형태지만 말입니다.
노화이는 몰라도 노하우로 과거에 기계들과 건축물을 만들어 냈듯이..

일단은 이 글은 ?물음표로 마무리를 짓습니다.


과연 AI는 어디로 갈까요 ?

언제나 그렀듯이 변방의 작은 개발자의 작은 생각이었습니다. ( 간만에 이 문구를 써보네요 :))
top

◀ PREV : [1] : [2] : [3] : [4] : [5] : [6] : [7] : .. [480] : NEXT ▶