“배달앱 요기요 사례에서 보듯, 회사가 민사적 책임을 인공지능(AI)에 돌리는 일들을 요즘 자주 발견할 수 있다.
(발의될) 인공지능기본법에 따라 배달기사 휴식권 보장 및 급여 등에 대한 근로계약과 직결되는 사항에도,
배달기사에게 AI에 따라 업무 배정과 평가가 이뤄진다는 사실이 사전에 설명됐는지 확인할 수 있게 된다.
이 법이 통과됐을 때 배달 산업에 유의미한 결과를 가져올 것이라 기대한다.”
박철민 보좌관(정필모 의원실)은 지난 18일 진행된 ‘인공지능 육성 및 신뢰기반 조성 등에 관한 법률안(이하 인공지능기본법)’에 대한 전문가 공청회에서 이같이 말했다.
인공지능기본법은 AI 서비스 이용자가 AI의 의사결정 원리에 대해 의심이 갈 경우, 해당 서비스 제공 기업에 설명 요구권을 청구할 수 있도록 한다는 내용을 포함한다.
여기서 요기요 사례란, 최근 배달기사들이 요기요의 AI 평가에 따라 배차 받으면서 불이익을 받았다고 주장한 사건이다.
기사들이 회사에 평가 기준에 대한 설명을 요구했는데도 회사는 AI의 판단기준은 알 수 없다는 입장을 내세웠다.
정필모 의원은 “최근 논란이 되고 있는 포털 알고리즘에 의한 뉴스추천 서비스도, 필터버블을 양산함으로써 다양한 정보의 접근을 차단하고
확증편향으로 이어지는 문제를 야기시키고 있다”면서 “AI 기술을 다루는 업계가 스스로 윤리적 원칙을 체화하고 실천하는 게 중요하다”고 말했다.
'특수활용 AI' 사용시 정부에 신고 --- 이용자'설명요구권'명시
인공지능기본법은 ‘AI 산업 진흥’과 ‘AI 윤리 규제’를 모두 아우르는 것이 특징이다.
산업 진흥 부분은 AI 기술 표준화, 인력 양성 등으로 구성됐다. AI 윤리 규제는 AI 설명요구권, 신고제 등이 주 골자다.
이날 공청회에서 화두가 된 부분은 AI 윤리 규제 부분이다.
AI 윤리 규제와 관련한 조항은 '특수활용 AI'를 대상으로 한다.
특수활용 AI의 범주를 ▲보건의료 ▲필수 공공재 ▲범죄수사 ▲원자력 ▲민사결정 ▲국가 등 활용 ▲포털 사이트 ▲기타 등 8개 분야로 정하고,
이에 속하는 서비스를 사용하는 기업 및 기관(사업자)은 이를 과학기술정보통신부에 신고(21조)하도록 규정했다.
정필모 의원이 대표 발의할 예정인 인공지능기본법 중 제20조 부분.
특수활용 AI는 유럽연합(EU)이 지난 4월 초안을 공개한 AI 법안의 ‘고위험 AI’ 분류군과도 유사하다.
21조에 따라 기술적, 관리적 조치에 필요한 인력과 시설 장비 내역 등을 정부에 알려야 한다.
이를 위반할 경우 과징금 500만~1천만원 혹은 폐업·정지를 부과할 수 있다.
아울러 20조에 따라 특수활용 AI 서비스를 제공하는 사업자는 이용자들에게도 해당 서비스 탑재에 대해 사전에 고지해야 한다.
또한 AI 서비스 이용자가 사업자에게 AI 의사결정 원리에 대한 설명 요구권을 행사할 경우 이에 따라야 한다고 명시했다.
일반적으로 학습 데이터, AI 모델, AI 학습과정 등에 대해 설명을 요청할 수 있다.
20,21조는 자체 AI 서비스 개발 기업뿐 아니라 전문 AI 기업으로부터 납품받아 사용하는 사업자들에 해당하는 조항이다.
법안엔 정부가 기업들이 AI 윤리 원칙을 자율적으로 만들어 준수하는지 확인하기 위해 ‘인증제’를 도입하는 조항(17조)도 담겼다.
AI 제품에 대한 인증이 아닌 ‘민간자율인공지능윤리위원회’에 대한 인증제다.
이에 대해 박 보좌관은 “자율위원회와 인증제에 대해 일부 우려가 제기되고 있는데,
이는 서비스나 제품에 대한 인증제가 아니라 위원회의 구성과 운영에 대한 인증제라 한 단계 낮은 규제라고 판단한다”며
“회사 또는 기관이 사내에 자율위원회를 설치해 다양한 분야 전문가들로 구성하고, 회의가 정기적으로 개최됐거나 요식적이진 않았는지 등을
과기정통부가 평가하자는 취지”라고 설명했다.
업계, 최소한의 규제라 해도 '걱정'
다만 업계에서는 정필모 의원의 인공지능기본법이 최소한의 규제를 지향하도록 제안됐음에도, 산업 진흥에 악영향을 줄 수 있다고 우려했다.
또한 특수활용 AI의 정의를 보다 명확히 해야 하며, 데이터 사용연한 설정 등에 대해선 현실성을 고려해 재검토 돼야 한다고 제언했다.
네이버, 카카오 등을 회원사로 둔 한국인터넷기업협회의 권세화 정책실장은 “법안 제안이유에서
부정적 사례(배달기사들과 배달앱 사업자 간 갈등)를 언급하고 있는 것과 관련해 우려된다”며
“이러한 분쟁으로 인해 정부가 인공지능 기준 및 표준을 결정할 수 있다는 오해로 보일 수 있는 측면이 있다”고 설명했다
이어 “지난번 데이터3법 사례를 보면, 법엔 포함돼 있지 않지만 제안이유에 들어간 문구로도 향후 가이드라인이나 해석에 참고할 수 있도록 한다”면서
“제안이유에서 부정적인 단어나 AI가 가지는 악영향 부분을 주된 발의 목적으로 설명하기 보다는,
아직 AI가 미완성이고 더욱더 발전하기 위해 이같은 법안이 필요하다는 점으로 수정해주길 바란다”고 덧붙였다.
정부 측은 해당 법안이 AI 산업 진흥뿐 아니라 AI 윤리 원칙 확립을 위한 부분도 균형 있게 구성됐다고 평가했다.
김경만 과기정통부 인공지능기반정책과장은
“(정필모 의원의 인공지능기본법은) 정부가 우려하고 있는 AI의 오작동이나 오남용, 인권침해에 대한 우려가 거의 비슷한 수준으로 관심이 담겼다”며
“또한 법률안이 진흥뿐 아니라 인공지능 신뢰 확보에 대해서 균형 있게 다룬 점에서 (국회에 제출된) 다른 법률안보다 의의가 있다고 본다”고 말했다.
김민선 기자lyoyoma@zdnet.co.kr
기사출처: ZDNetKorea
기사링크: https://zdnet.co.kr/view/?no=20210620034241