소프트웨어야놀자

자율주행 자동차가 표지판과 사람 등 주변 사물을 인식하며 스스로 주행하고 있습니다. 직진을 하다가 앞에 서있는 트럭 옆면과 충돌하는 사고가 발생합니다. 왜 이런 일이 발생하였을까요? 왜 자율 주행 자동차는 트럭을 인식하지 못했을까요? 밝게 빛나고 있던 하늘과 흰색 트럭을 구분하지 못해 발생한 추돌 사고입니다. 다양한 환경에서 카메라와 감지 센서의 작동을 테스트하지 않았기 때문입니다. 

자율 주행 자동차가 인식해야 하는 물체에는 차량, 사람, 신호등, 표지판, 도로 등 주변 물체 모두를 인식해야 합니다. 즉, 안전한 자율 주행 자동차를 위해서는 물체 인식 기술이 매우 중요합니다. 물체를 잘못 인식할 경우 우리의 안전을 위협할 수 있습니다. 그래서 우리는 인공지능이 이미지를 정확하게 인식할 수 있는 방법들을 배워보겠습니다.

 인공지능의 신뢰도가 우리의 안전을 위협하는 사례

안전한 인공지능을 만들기 위해 동작의 무엇이 중요할까요? 바로 동작의 ‘신뢰도’ 혹은 ‘정확도’입니다. 정확하게 물체를 구분하여 동작하게 된다면 안전하게 이용할 수 있습니다.

인공지능이 잘못된 판단을 내렸을 때, 우리의 안전을 위협할 수 있습니다. 위의 세 가지 사례가 있습니다. 첫째, 안면 인식 기술을 통해 보안을 해제하고자 할 때 잘못 인식한다면 우리의 개인정보가 유출되거나 사생활이 침해되고 금융 피해가 생길 수 있습니다. 둘째, 적군 얼굴을 인식하는 소프트웨어가 탑재된 자율형 전투 무기의 경우 오인식한다면 우리의 생명과 안전에 큰 위협을 줄 수 있습니다. 셋째, 의료 분야에서 CT 촬영 결과를 오인식하여 잘못된 판단을 한다면 환자에게 전혀 맞지 않는 처방을 내려 역시 우리의 안전을 위협할 수 있습니다. 이처럼 인공지능 동작의 신뢰성은 우리의 안전과 큰 연관이 있습니다.

사람이 사람이 중심이 되는 윤리 기준에서는 ‘안전성’을 위와 같이 정의하고 있습니다. 따라서 우리는 안전성을 확보하기 위해 적절한 기술적 방어와 메커니즘을 갖추어야 하며 기술적 결함이나 잘못된 사용으로 인한 위험을 최소화해야 합니다.