국가인권위원회가 24일 국회 과학기술정보방송통신위원회에서 심의 중인 인공지능산업 육성 및 신뢰 확보에 관한 법률 제정안이 인공지능 개발·활용 과정에서 발생할 수 있는 인권침해와 차별 문제를 예방·규제하기 위한 규정이 미흡하다는 의견을 국회의장에게 표명했다.

국회 과방위는 지난해 12월 인공지능과 관련해 제안된 법률안 7개를 통합해 인공지능산업 육성 및 신뢰 확보에 관한 법률 제정안 대안을 마련했다. 인권위는 인공지능은 이용자가 제공한 정보 외에도 온라인상 수집한 방대한 양의 정보를 기반으로 서비스를 제공해 정보수집 과정에서 이용자와 정보주체의 권리를 침해할 소지가 많은데, 제정안은 권리 침해시 구제절차가 명확하지 않다고 지적했다.

또 국제사회와 세계 각국은 인공지능 기술의 위험성을 단계별로 구분하고 규제 정도를 달리하는 방안을 마련하고 있지만 제정안은 단지 고위험 영역 인공지능에 대해서만 규율하고 있는 만큼 제정안에서도 각 등급에 맞게 규제 수준을 달리해야 한다고 제시했다.

제정안에서는 인공지능 사업자 등이 고위험 영역 인공지능을 개발·활용할 경우에 대한 실효적인 규제 수단은 규정하고 있지 않다고 지적하면서, 문제 발생시 인공지능 감독·규제 기관이 일시 사용중지 명령 등 적정한 조치를 취하도록 해야 한다고 밝혔다.

이와 함께 우선허용·사후규제 원칙 조항을 삭제해야 한다고 강조했다. 해당 원칙에 따라 산업의 경제성·효율성만 따져서 인공지능 기술을 개발·활용할 경우, 사전·사후 평가 없이 개발·활용된 인공지능 기술이 국제기준에 못 미치는 결과를 초래할 수 있다고 꼬집었다. 인권위는 “인공지능의 위험성을 고려하지 않은 채 인공지능을 무분별하게 개발·활용할 경우 기본권 침해를 포함한 예상치 못한 위험을 초래할 수 있다”고 밝혔다.

한편 인권위는 자동차 분야 마이스터고등학교에서 신입생 선발시 여학생을 배제한 것은 성차별이라며 해당 시교육감에게 여학생도 교육받을 수 있도록 행정적·예산적 지원을 하고, 해당 학교에는 입학제도 개선과 기숙사 시설 보완 등 교육환경을 개선할 것을 각각 권고했다.