- 국회의장에게, 국회 논의 중인 「인공지능 법률안」에 인권침해·차별 문제를 예방·규제할 수 있는 규정 마련 필요 의견표명 -
□ 국가인권위원회(위원장 송두환, 이하 ‘인권위’)는 2023년 8월 21일 국회의장에게, 현재 국회 과학기술정보방송통신위원회에서 심의 중인 「인공지능 산업 육성 및 신뢰 기반 조성 등에 관한 법률안」(이하 ‘인공지능 법률안’)은인공지능 개발·활용 과정에서 발생할 수 있는 인권침해, 차별 등의 문제를 예방 및 규제하기 위한 규정이 미흡하므로, 다음과 같은 내용을 반영하여 수정할 필요가 있다는 의견을 표명하였다.
□ 첫째, 인공지능, 특히 학습기반 인공지능(머신러닝)은 이용자가 제공한 정보뿐만 아니라 온라인상에서 수집한 방대한 양의 정보를 기반으로 서비스를 제공하여 정보수집 과정에서 이용자와 정보주체의 권리를 침해할 소지가 많은데, 「인공지능 법률안」은 이용자와 정보주체의 권리 및 권리 침해시의 구제절차를 명확히 규정하지 않고 있다.
따라서, 인공지능 이용자와 정보주체의 권리를 명시하고, 피해 발생 시 이를 구제하기 위한 절차를 마련하여야 한다.
□ 둘째, 국제사회와 세계 각국은 인공지능 기술의 위험성을 단계별로 구분 하고 규제 정도를 달리하는 방안을 마련하고 있는데, 「인공지능 법률안」은 단지 고위험 영역 인공지능에 대해서만 규율하고 있다.
이에 인공지능을 국민의 인권과 안전에 미치는 영향, 위험성 등을 고려하여 적정한 등급으로 구분하고, 각 등급에 맞게 규제 수준을 달리하여야 한다.
□ 셋째, 「인공지능 법률안」은 고위험 영역 인공지능을 유럽연합의 「인공지능법안」 등 해외 사례에 비하여 상대적으로 협소하게 정의하고 있다. 또한 인공지능 사업자 등이 고위험 영역 인공지능을 개발·활용할 경우에 대한 실효적인 규제 수단은 규정하고 있지 않다.
따라서, ‘고위험 영역 인공지능’의 범위를 확대·재정의하고, 인공지능 감독·규제 담당기관이 고위험 영역 인공지능 알고리즘의 투명성, 설명 가능성, 인권침해·차별 예방조치 여부 등을 사전에 엄격히 점검하도록 하며, 활용 중에 문제가 발생한 경우 인공지능 감독·규제 기관이 일시 사용중지 명령 등 적정한 조치를 취하도록 하여야 한다.
□ 넷째, 「인공지능 법률안」은 우선허용·사후규제 원칙을 명시하고 있는데, 이 원칙에 따라 산업의 경제성·효율성만 따져서 인공지능 기술을 개발· 활용할 경우, 사전·사후 평가 없이 개발·활용된 인공지능 기술이 국제 기준에 못 미치는 결과를 초래할 수 있고, 이로 인해 오히려 국제 경쟁력을 저하 시키고 나아가 인공지능 기술의 신뢰성마저 떨어뜨릴 우려가 있으므로, 우선허용·사후규제 원칙 조항을 삭제하여야 한다.
□ 다섯째, 인공지능의 부작용을 예방하기 위해서는 사전·사후 검증이 중요하므로, 인권영향평가 제도를 도입하여 인공지능 개발 및 출시 전에 인권영향평가를 실시하고, 인공지능의 기능 또는 활용 범위의 변경 시에도 재평가를 실시하도록 해야 한다.
□ 여섯째, 「인공지능 법률안」은 과학기술정보통신부장관으로 하여금 인공 지능 기술 및 산업 진흥·육성 업무뿐만 아니라, 고위험 영역 인공지능 확인 등 인공지능 규제에 관한 업무도 담당하도록 하고 있다.
그러나 산업 진흥과 규제라는 상호 모순적인 업무를 한 기관이 담당할 경우 규제의 실효성을 담보하기 어려우므로, 인공지능 감독·규제 업무는 제3의 기관이 독립적으로 수행해야 한다.
□ 인권위는 인공지능이 인간의 삶을 더욱 윤택하게 할 것이라는 전망에는 동의하나, 인공지능의 위험성을 고려하지 않은 채 인공지능을 무분별하게 개발·활용할 경우 기본권 침해를 포함한 예상치 못한 위험을 초래할 수 있으므로 사전에 충분히 대비하는 것이 중요하다고 보았다.
□ 이에 인권위는 국회의장에게, 현재 국회 과학기술정보방송통신위원회에서 심의 중인 「인공지능 법률안」에 대해, 인공지능 개발·활용 과정에서 발생할 수 있는 인권침해, 차별 등의 문제를 예방 및 규제하기 위한 규정을 마련할 필요가 있다는 의견을 표명하였다.
붙임 결정문 1부. 끝.
