[활동1] 인공지능의 두 얼굴
딥페이크(Deepfake)와 딥보이스(DeepVoice)는 인공지능 기술을 사용하여 사람들의 얼굴 또는 목소리를 합성하여 만들어진 것을 가리킵니다.
딥페이크란? 딥러닝과 가짜(fake)의 혼성어로 인공지능을 기반으로 한 이미지 합성 기술을 의미합니다. 생성적 적대 신경망(GAN)이라는 기계학습 기술을 사용하여 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어냅니다. 딥보이스란? 딥페이크와 유사한 기술로, 딥페이크가 이미지 합성 기술이라면 딥보이스는 음성 합성 기술입니다. 즉, 특정인의 목소리를 딥러닝 기술로 학습시켜 문자 음성 자동 변환 기술로 해당 특정인이 하지 않은 말을 마치 한 것처럼 만들어냅니다.
모두 인공지능 기술의 발전으로 만들어진 것으로, 이러한 기술이 적절하게 사용되지 않을 경우 사생활 침해나 정보의 신뢰성 등 여러 가지 문제를 야기할 수 있습니다. 이에 따라 이러한 기술의 사용과 발전에 대한 윤리적 인 고려와 규제가 필요합니다.
[수업활동 tip]
1) 학습하기 전에 학생들에게 먼저 기술의 정의에 대해 알고 있는지 질문합니다.
2) 이번 차시는 딥페이크와 딥보이스 기술을 중심으로 기술의 양면성을 이해하고 사회적으로 긍정적으로 활용할 수 있는 방향을 탐색하도록 하는 것이 목표입니다.
인공지능은 양면성을 지니고 있습니다. 인공지능이 우리에게 악영향을 미치거나 위험하게 만드는 사례를 직접 찾아보고 딥페이크를 악용한 사례에 대한 영상을 시청한 후 아래 내용을 작성해봅시다.
1. 인공지능이 우리에게 악영향을 미치거나 위험하게 만드는 사례를 찾아봅시다.
2. 딥페이크, 딥보이스 기술을 악용한 사례를 찾아봅시다.
3. 위와 같은 사례는 우리 사회에 어떠한 영향을 끼칠까요? 인공지능 윤리 원칙 중 공공성 측면에서 생각해봅시다.
[관련 자료]
- 진짜야? 가짜야? 구분 할 수 없는 딥페이크: https://tv.naver.com/v/17151096
- 진짜? 가짜? 평범한 당신도 노린다! 딥페이크.ZIP: https://youtu.be/_O8ynjupUJw?si=93g7_XnsECSpL5GE
[수업활동 tip]
1) 수업 시간에 따라 사례 찾기 활동을 생략하고 영상으로 대체합니다.
2) 영상을 시청한 후에 관련한 소감을 자유롭게 나누어 확산적 사고를 자극합니다.
3) 딥페이크 기술로 인해 발생하는 문제점을 개인의 측면뿐만 아니라 사회 전체 측면에서도 생각해보도록 안내합니다.
딥페이크 기술을 긍정적으로 활용하는 사례도 많이 있습니다. 위 영상은 딥페이크 기술을 활용하여 실종된 아동을 찾는 방법에 대해 소개합니다. 딥러닝과 컴퓨터 비전 기술을 활용하여 사라진 아동의 사진을 분석하고, 딥페이크 기술을 이용하여 아동의 현재 모습을 시뮬레이션하는 과정을 보여줍니다. 이를 통해 아동의 현재 상황을 가상으로 재현하고, 이를 기반으로 실종 아동의 얼굴을 구체적으로 인지시킬 수 있어 수사를 도와주는 데 활용될 수 있습니다. 이처럼 사회를 돕는 방향으로도 활용할 수 있습니다.
Q1.딥페이크와 딥보이스를 중심으로 인공지능을 긍정적으로 활용한 사례를 찾아봅시다.
[관련 자료]
- 딥페이크 기술의 순기능? ‘실종 아동 찾기’ 앞 지나자 미소 짓고 눈 ‘깜빡’: https://youtu.be/WSHcdLRnQB0?si=lTU2FVsOJUibXJVE
[수업활동 tip]
1) 수업 시간에 따라 사례 찾기 활동을 생략하고 영상으로 대체합니다.
2) 영상을 시청한 후에 관련한 소감을 자유롭게 나누어 확산적 사고를 자극합니다.
3) 딥페이크 기술의 악영향과 순기능을 모두 정리하여 모든 기술은 양면성을 지니고 있다는 것을 인지시키고 사용자가 어떻게 활용하느냐에 따라 우리 사회 전체에 긍정적인 영향을 줄 수 있다는 것을 안내합니다.