[활동2] 딥페이크 기술 탐구 활동
[선택 1] 딥페이크 기술 체험하기
실제로 딥페이크 기술을 직접 체험해보는 시간을 가져보겠습니다. 생성형 인공지능을 활용하여 원하는 대본 내용을 생성하고, 자신의 얼굴이 합성된 영상을 제작하여 진짜와 얼마나 차이가 있을지 살펴보겠습니다. 다른 사람이 나의 사진을 이용하여 딥페이크를 만든다면 어떠할지 생각해보며 만들어봅시다. 우리도 쉽게 만들 수 있는 딥페이크를 통해 우리에게 미치는 파급력과 영향력을 함께 생각해봅시다.
[관련 자료]
- D-ID, https://www.d-id.com/
[수업활동 tip]
1) D-ID 사이트에 로그인 하기 위해 구글 계정이 필요합니다.
2) 사회적으로 어떠한 윤리적 문제를 일으킬지 생각해보며 체험할 수 있도록 안내합니다.
1. 생성형 인공지능을 활용하여 스크립트를 만듭시다. (예시 : 뉴스 대본, 안내 대본, 일상 대화 등) - ‘가짜 뉴스를 만들어줘’라는 명령어는 문제가 발생합니다. 왜 그럴까요? - 그렇다면 어떻게 명령해야 할까요? |
|
2 생성한 스크립트의 내용을 살펴봅시다. - 실제와 얼마나 유사한가요? - 내가 원하는 답이 나왔나요? - 내용에 오류는 없나요? |
|
3. D-ID 사이트에 들어갑니다. - 로그인 : 구글 계정 필요 - Create Video 클릭 |
|
4. 자신의 얼굴을 합성하거나 기존 얼굴 이미지를 선택합니다. |
|
5. 유명인 얼굴을 추가할 경우 경고문이 뜹니다. 왜 그럴까요? |
|
6. 스크립트를 추가하여 음성 합성을 하여 비디오를 생성합니다. - 무료 체험판은 글자 수가 제한되어 있기 때문에 10글자 내로 작성하거나 띄어쓰기를 하지 않고 사용해줍니다. |
|
7. 자신이 만든 비디오를 다운로드 받아 협업보드에 올려 친구들과 공유합니다. - 실제와 얼마나 유사한지 살펴봅니다. |
|
이렇게 딥페이크 기술을 체험해보니 어땠나요? 다음 질문에 대해 생각해봅시다.
Q1. 실제로 딥페이크를 통해 가짜 뉴스나 가짜 영상을 생성하게 된다면 나는 구분할 수 있을까요?
Q2. 딥페이크, 딥보이스 등 이미지, 영상 텍스트를 생성하는 인공지능 기술을 찬성하나요?
Q3. 딥페이크 기술이 사회 전체에 긍정적인 이익을 가져다 주기 위해 어떠한 윤리 기준이 필요할까요?
[선택 2] 1인 가구를 위한 음성합성 기술
1인 가구를 위한 안부 전화 AI 서비스는 우리에게 어떠한 장점을 제공할 수 있을까요? 정기적인 소통 및 연결을 유지하여 사용자에게 소통의 기회를 제공하며 그들이 사회적으로 연결되어있는 느낌을 유지할 수 있습니다. 또한 우울, 불안, 스트레스와 같은 사용자의 심리적인 상태를 감지하여 지원을 할 수 있습니다. 긴급한 도움이 필요한 상황에 신속하게 대응하거나 일정 알림을 제공하는 등 다양한 기능을 통해 1인 가구의 삶을 더 풍요롭고 안전하게 만들어 삶의 질을 향상시킬 수 있습니다.
이러한 서비스를 만들고자 할 때 사용자에게 어떠한 질문을 하며 소통하면 좋을지 사용자의 건강과 안전을 위한 측면과 정서적 교감을 위한 측면으로 나누어 생각해봅시다. 또한, 어떠한 점들을 고려해야 윤리적이고 효율적인 기능을 갖출 수 있을지 토의해봅시다.
[관련 자료]
- 클로바 케어콜 인터뷰(연극배우 손숙): https://youtu.be/g90KqFuFQkc?si=x9uo7TCFVjCUYGPb
[수업활동 tip]
1)딥보이스 기술을 긍정적으로 활용한 사례에 대한 활동으로, 이를 통해 인공지능이 공공의 이익을 위해 활용될 수 있음을 이해시키도록 합니다.
2) 생성형 인공지능을 활용할 수 있으며 이때 교사의 안내가 필요합니다.
1. 1인 가구를 위한 안부 전화 AI 서비스의 장점을 협업 보드를 이용하여 공유해봅시다. - 예시 : 말동무, 건강 지킴이, 돌발상황 감지, 재난 알림 등 안전에 기여 |
|
2. 1인 가구를 위한 안부 전화 AI 서비스를 만들기 위해 사용자의 건강과 안전을 위한 발화, 정서적 교감을 위한 발화를 만들어 협업 보드를 이용하여 공유해봅시다. |
|
3. 생성형 인공지능을 활용하여 만들어봅니다. - 생성형 인공지능을 활용할 때는 내용의 오류, 개인정보 침해, 편견 등이 포함되어 있는지 확인하도록 합니다. |
|
4. 인공지능이 발화를 생성할 때 고려해야 할 사항을 생각해보고 협업보드를 이용하여 공유해봅시다. - 사용자가 사투리를 쓴다면 함께 사투리로 대화하기 - 개인 정보, 건강 정보 등 사생활을 침해받을 수 있는 정보에 대해 보안을 유지하기 - 사용자의 말투나 목소리의 높낮이 등으로 감정 상태를 파악하여 이에 맞는 질문하기 - 이전 대화 내용을 기억하여 더 친밀감 있게 대화하기 |
|
이렇게 1인 가구를 위한 안부 전화 AI 서비스의 기능을 구상해보니 어땠나요? 다음 질문에 대해 생각해봅시다.
Q1. 우리가 생성한 음성 서비스가 우리의 건강과 안전을 보호해줄 수 있을까요? 인공지능 윤리 원칙 중 공공성 측면에서 생각해봅시다.
Q2. 딥페이크, 딥보이스 등 이미지, 영상 텍스트를 생성하는 인공지능 기술을 찬성하나요?
Q3. 딥페이크, 딥보이스 기술이 사회 전체에 긍정적인 이익을 가져다 주기 위해 어떠한 윤리 기준이 필요할까요?
[선택 3] 딥페이크 기술 찬반 토론 활동
모든 기술은 양면성을 지니고 있습니다. 딥페이크 기술의 긍정적 사례, 부정적 사례를 살펴보고 체험해봄으로써 이 기술을 찬성하는지 반대하는지 생각하고 찬반 토론 활동을 해봅시다. 자신이 생각하는 근거뿐 아니라 생성형 인공지능을 활용해 다양한 근거를 탐구해보고 긍정적 측면은 유지하고 부정적 측면을 보완할 수 있는 대안이 무엇이 있을지, 우리의 안전을 보장하기 위해 필요한 윤리 기준을 중심으로 정리해봅시다.
[관련 자료]
- 토론 활동지: 워크시트 참고
[수업활동 tip]
1) 딥페이크 기술을 찬성, 반대하는지 토론하는 활동으로, 토론을 통해 딥페이크 기술로 인해 사회적으로 발생하는 윤리적 문제를 나누도록 안내합니다.
2) 생성형 인공지능을 활용할 수 있으며 이때 교사의 안내가 필요합니다.