인공지능 윤리 > Chapter 2. 인공지능의 편향성

[생각해보기] 인공지능의 편향성과 사회적 영향

 인공지능의 편향성과 사회적 영향
1. 편향된 인공지능으로 인한 차별 사례 알아보기

앞에서 살펴본 것처럼 인공지능을 학습시킬 때 사용하는 데이터가 편향성을 가지고 있으면 인공지능 역시 편향성을 띠게 됩니다. 이러한 편향된 인공지능은 사회적으로 여러 가지 문제를 일으킬 수 있습니다. 편향된 인공지능으로 인한 사례를 살펴보고, 인공지능의 편향성이 사회에 미치는 영향에 대해 생각해봅시다.

1-1. 채용 시스템

 

◆ 이 사례에서는 어떤 일이 있었나요?

https://tv.naver.com/v/4246497sefdsdf

 

◆ 왜 이런 일이 발생했을까요?

◆ 이러한 일은 사회적으로 왜 문제가 될까요?

1-2. 챗봇

 

 

◆ 이 사례에서는 어떤 일이 있었나요?


◆ 왜 이런 일이 발생했을까요?

◆ 이러한 일은 사회적으로 왜 문제가 될까요?

1-3. 번역

 

 

◆ 이 사례에서는 어떤 일이 있었나요?


◆ 왜 이런 일이 발생했을까요?

◆ 이러한 일은 사회적으로 왜 문제가 될까요?

1-4. 더 알아보기
앞에서 살펴본 사례 외에 편향된 데이터로 인해 문제가 발생한 사례를 조사하여 발표해봅시다.

◆ 조사한 사례에서는 어떤 일이 있었나요?

◆ 왜 이런 일이 발생했나요?

◆ 이러한 일은 사회적으로 왜 문제가 될까요?

2. 인공지능의 편향성 문제 해소 방안

2-1 인공지능의 편향성 문제를 해소하기 위한 사회적 노력
인공지능의 편향성 문제를 인식하기 시작하면서, 전 세계적으로 다양한 집단에서 이러한 문제를 해소하기 위한 노력을 하게 되었습니다.

먼저 세계 여러 국가 및 국제 기구에서는 인공지능을 개발하고 사용할 때 고려해야 할 점에 대한 기준을 정해서 발표하였습니다. 유럽 연합(EU)에서는 2019년 신뢰할 수 있는 'AI 윤리 가이드 라인'을 발표한 데 이어 2020년에는 '인공지능 백서'를 공개했습니다. 경제협력개발기구(OECD)에서는 2019년 'AI 원칙'을 발표했으며, 우리나라 과학기술정보통신부와 정보통신정책연구원에서도 2020년 '사람이 중심이 되는 AI 윤리기준'을 공개했습니다. 이러한 기준들에서는 공통적으로 인공지능의 편향성 문제를 인식하고, 이 점을 주의해서 개발 및 사용해야 한다는 점을 강조하고 있습니다.

한편, 인공지능 서비스를 개발 및 제공하는 기업들에서도 인공지능의 편향성 문제를 해결하기 위해 노력하고 있습니다. 이러한 기업들은 인공지능 개발에 필요한 데이터 셋을 구축할 때 편향성을 배제하고자 노력하고 있으며, 개발한 인공지능 모델이 편향성을 띠고 있는지 평가하는 시스템을 만들기도 하였습니다. 또한 회사 내부적으로 인공지능을 개발 및 서비스를 제공하는 것에 관한 윤리적인 기준을 마련하여 발표하기도 하였습니다. 네이버에서 발표한 ‘인공지능 윤리 준칙’에서도 부당한 차별을 방지하고 다양한 가치를 고려하여 인공지능을 개발하고 이용할 것을 약속하고 있습니다.

2-2 인공지능의 편향성 문제에 대한 여러 가지 입장에서의 노력 방안

 ◎ 인공지능을 개발하고 사용하는 데에는 다음과 같은 부분을 고민해야 합니다.


 ◎ 인공지능의 편향성 문제를 보완하여 사용하기 위해서는 위와 같은 다양한 입장의 사람들의 노력이 모두 필요합니다. 아래의 인공지능의 편향성을 해소하기 위한 노력을 각각 가장 관련이 깊은 입장과 선으로 연결해봅시다.

 
3. 인공지능 활용에 대한 마음 다지기

편향성을 고려하여 인공지능을 잘 활용하기 위한 다짐을 해봅시다.

나 ( ) 은/는___________________________________________________________ 하며 인공지능을 활용하겠습니다.

 주제 마무리

학습한 내용을 정리해봅시다. 이번 프로젝트에서 배운 내용을 생각하며 빈칸을 채워봅시다.


1. ( 편향 )된 데이터를 사용하여 학습한 인공지능은 편향된 결과를 출력하여 사회적인 문제를 일으킬 수 있다.

2. 데이터 기반 인공지능을 개발할 때에는 특정 집단에만 집중되지 않도록 다양한 집단을 고려하여 ( 레이블 )을 구성하여 데이터를 수집한다.

3. 데이터 기반 인공지능은 데이터의 ( 속성 )을 이용하여 학습한다. 이때 사람의 편견이 반영될 수 있는 ( 속성 )이 학습 데이터에 포함되는 경우, 인공지능 모델 역시 그러한 편견을 학습하게 된다.

 ★ 스스로 평가해볼까요?

 이번 주제에서 배운 내용을 생각하며, 스스로 평가해봅시다.

 데이터 편향성이 무엇인지 알고, 데이터 편향성이 생기는 이유에 대해 이야기할 수 있다.

 ☆ ☆ ☆ ☆ ☆

 다양성을 고려하지 못한 학습 데이터로 인한 데이터 편향성을 해결하기 위한 방법을 이야기할 수 있다.

 ☆ ☆ ☆ ☆ ☆

 데이터 중 문제가 될 수 있는 속성으로 인한 데이터 편향성을 해결하기 위한 방법을 이야기할 수 있다.

 ☆ ☆ ☆ ☆ ☆

 인공지능의 편향성에 따른 사회적 영향에 대해 이야기할 수 있다.

 ☆ ☆ ☆ ☆ ☆