[활동3] 생성형 인공지능과 인권 존중
생성형 인공지능과 인권
조금은 어색하지만, 엔트리의 인공지능 얼굴인식 블록으로 자신의 눈, 코, 입을 바꾸어 간단하게 얼굴 합성 인공지능을 체험해보았습니다. 이러한 ‘디지털 더블’ 기술은 더욱 정교해져서 앞서 보았듯이 사진만이 아니라 영상으로도 가능하기에 광고, 뉴스 등 다양하게 활용됩니다.
한편으로는, 이와 관련한 사회 문제가 발생하기도 하는데요. 어떤 문제가 있는지 탐색해보면서 나 그리고 타인, 우리 모두를 존중하는 인공지능 기술의 활용 방안을 살펴봅시다.
영상 속의 ‘딥페이크’ 기술은 앞서 우리가 체험해본 인공지능 기반의 얼굴 합성, 이미지 생성 기술을 활용한 예시입니다. 실제로 이렇게 수많은 범죄에서 인공지능 기반의 ‘딥페이크’ 기술이 악용되는 현실입니다. 헤어진 연인의 얼굴을 합성해서 악의적인 소문으로 명예를 훼손하는 식의 나쁜 범죄로 이어지는 것이지요. 이러한 범죄의 피해자는 씻을 수 없는 상처와 인간으로서 자신이 존중받을 권리를 침해당하게 됩니다.
[관련 자료]
- (영상) 내 얼굴이 온라인에 합성돼 유포된다면? https://youtu.be/3sCQZHlerP0?si=XD8guYpX2w7lv30e
[수업 지도 TIP]
1) 영상을 시청할 때는 1:10까지만 시청한다.
2) 시청 후 간단하게 의견을 나누고 정리하는 형식으로 수업을 진행한다.
3) 앞서 생성한 얼굴 합성 인공지능의 악용 사례로서 ‘딥페이크’를 연결지어 설명하여 그 위험성을 느끼고, 윤리의 필요성을 느낄 수 있도록 한다.
우리는 모든 사람이 사람이기에 가지는 가장 기본적인 권리, 즉 인권을 모두 가지고 있음을 알고 있습니다. 그러나 앞서 본 딥페이크를 활용한 범죄의 피해자들은 이러한 인권을 심각하게 침해당하게 되는 것입니다.
따라서, 인공지능을 활용해 다른 사람의 인권을 침해하는 것은 언제나 경계해야 합니다. 이는 타인의 일이 아니라 언젠가는 나의 인권이 침해되는 결과로 돌아올 수 있습니다.
그러므로 우리 모두를 지키기 위해서, 인공지능 기술의 개발부터 활용까지 모든 과정에서 인권을 지키기 위해 노력하는 자세를 가져야만 합니다.
이뿐만이 아닙니다. 사람들의 인권을 해치는 것은 물론, 경제적인 피해를 끼치기도 합니다. 사진이나 영상만이 아니라 인공지능으로 사람의 ‘음성’도 합성한다면, 다른 사람의 목소리를 내는 인공지능이 되기도 합니다. 이러한 경우 영상통화 형식으로 다른 사람인 척 하여 보이스피싱과 같은 범죄를 통해서 사람들에게 경제적인 피해를 끼치기도 합니다.
|
이 사진을 한 번 살펴봅시다. 옆의 하얀 건물은 바로 미국국방부(펜타곤)입니다. 한 SNS 계정에 이렇게 국방부 옆의 건물이 폭발로 활활 타고 있는 사진이 퍼지기 시작했습니다. 이 사진으로 실제 미국의 증시가 크게 떨어졌고, 많은 사람이 불안에 떨게 되었습니다. 그러나 이 사진은 여러분이 예상한 듯 가짜입니다. |
그렇다면, 이 사진을 생성한 사람은 이 사진이 미칠 영향력을 생각해보았을까요? 만약, 그 영향력을 생각해보았다면, 이렇게 사회에 혼란을 주는 가짜 이미지를 쉽게 생성해 유포하지는 않았을 것입니다.
[관련 자료]
- (영상) 내 얼굴이 온라인에 합성돼 유포된다면? https://youtu.be/3sCQZHlerP0?si=XD8guYpX2w7lv30e
- (기사) “보고도 속는다” AI 가짜 뉴스 범람... 딥페이크 전쟁 https://www.nocutnews.co.kr/news/6044322
- (기사) 미국 뒤흔든 AI 가짜뉴스... https://news.nate.com/view/20230523n15391
우리는 모두 앞서 배웠듯이 동등한 인권을 가지고 있습니다. 그리고 모든 사람의 인권이 동등하게 소중하기에, 우리는 자신의 인권만이 아니라 타인의 인권(권리)를 침해하지 않을 의무가 있습니다. 그렇기에 인공지능과 관련해서 개발, 생성 모든 과정에서 그 사회적 영향력을 생각하며 다른 사람의 권리를 침해하지 않도록 노력해야만 합니다.
[교사용 참고자료]
- (영상) 인공지능 윤리 교육의 필요성 https://youtu.be/aGfq0cEa1-c?si=f6u6hzs9JkorPmlu
[수업 지도 TIP]
1) 교사용 참고자료의 영상은 활동 마무리 단계에서 추가적으로 활용 가능하다. 활용 시에는 1:42까지를 시청하도록 한다.
2) 인권과 침해 금지는 나의 인권을 지키는 것만큼 타인의 인권을 서로 존중하면서 지켜지는 윤리임을 알 수 있도록 강조한다.