유럽연합(EU) 의회가 세계 최초로 'AI(인공지능)법'을 통과시켰다. 처음으로 AI에 대한 규제 가이드라인을 갖춘 법이 등장하면서 세계 각국이 AI 관련 법을 만들 때 이를 기준으로 삼을 가능성도 크다. EU를 시작으로 AI 법규 마련에 전 세계 주요 국가들이 고삐를 조이는 모양새다.
우리 국회에서도 '인공지능산업 진흥 및 신뢰 기반 조성 등에 관한 법률안(AI 기본법)'이 발의됐지만 과학기술정보방송통신위원회(과방위)에서 잠들어 있는 상태다. 오는 5월 제21대 국회의원 임기 만료까지 법안이 통과되지 않는다면 AI 기본법은 폐기되고, 22대 국회에서 처음부터 다시 단계를 밟아나가야 한다. 이 과정에서 EU 사례 등이 대폭 반영될 가능성이 제기된다. ·
29일 법조계에 따르면 과학기술정보통신부가 추진 중인 '인공지능산업 진흥 및 신뢰 기반 조성 등에 관한 법률안(AI 기본법)'이 지난해 2월 과방위 법안2소위를 통과했지만 1년째 상임위 전체회의에 계류 중이다.
현재 상임위에 계류 중인 AI 기본법은 지난 3년간 여야 의원들이 개별 발의했던 AI 관련 법안 7개를 하나로 통합한 것이다. 이 법안은 '국민의 생명·안전·권익에 위해되는 경우가 아니라면 AI 기술개발을 제한하면 안된다'는 우선허용·사후규제를 원칙으로 하고 있다. '규제'보다는 '진흥'에 무게를 실은 것이다.
하지만 시민단체 등에서 우선허용·사후규제 원칙을 반대하고 나섰고, 국가인권위원회도 이 원칙을 삭제해야 한다는 입장을 내면서 법안 통과가 주춤하는 모양새다. 인권위는 "사전 평가 없이 인공지능이 무분별하게 개발·활용될 경우 기본권 침해 등 위험이 발생할 수 있다"고 우려했다.
다음달 10일 국회의원 선거 치러지고 과방위가 지난 1월 8일 전체회의를 끝으로 개점휴업 상태라는 점을 감안하면 AI 기본법이 21대 국회를 통과할 가능성은 희박하다. 21대 국회 임기만료로 법안이 자동 폐기되면 AI 기본법은 22대 국회에서 법안 발의부터 다시 거쳐야 한다.
제22대 국회는 EU의 사례를 참고할 것으로 관측된다. EU는 AI 기술 진화 속도에 맞춰 부작용을 미리 최소화 하고자 세계 최초로 규제 도입에 성공했다. EU의회는 지난 13일 AI법을 찬성 523표, 반대 46표, 기권 49표로 가결시켰다.
가결된 AI법에 따르면 EU는 AI 활용 분야를 △금지되는 인공지능 △고위험 인공지능 △투명성 의무가 부여되는 인공지능 △범용 인공지능 등 네 단계의 위험 등급으로 나눠 차등 규제한다.
구체적으로, 사람의 의식 조작이나 취약계층의 취약점을 이용해 행동을 왜곡시키고 의사 결정에 악영향을 미치는 인공지능은 '금지되는 인공지능 유형'으로 분류된다. 프로파일링에만 기반한 범죄 예측에 사용되는 인공지능, 직장 및 교육현장 내 자연인의 감정 추론에 사용되는 인공지능, 공개된 장소에서 법 집행을 위해 사용되는 실시간 원격 생체 시스템 등이 여기에 해당한다.
의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행은 고위험 등급으로 분류된다. 이 분야에서는 AI 기술 사용 시 사람이 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다.
생성·조작된 이미지나 딥페이크 등의 콘텐츠는 투명성 의무가 부여되는 인공지능으로, 인공지능 활용자는 콘텐츠가 인공지능에 의해 생성된 것이란 사실을 공개해야 한다.
사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI인 범용 AI를 개발하는 기업은 EU 저작권법을 반드시 준수해야 하며 AI의 학습과정에 사용한 콘텐츠를 명시해야 한다. AI법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금이 부과될 수 있다.
우리 법안과 달리 산업 진흥 쪽보다 규제에 무게를 둔 셈이다. EU가 세계 최초로 AI 규제 법안을 만들면서 AI 관련 법안을 준비 중인 세계 각국의 기준이 될 가능성이 크다. 국내 AI 입법에도 영향을 끼칠지 관심이 쏠린다.
이용우 법무법인 세종 AI센터 변호사는 "EU AI법의 주 목적은 강력한 AI 시스템이 초래할 수 있는 인권, 안전, 윤리 문제를 감소시키는 데 있으며, AI 시스템의 배포 및 사용에 대한 위험 기반 접근 방식을 채택했다"고 설명했다.
이근우 법무법인 화우 변호사는 "우리나라 AI 법안이 아직 국회에서 계류 중이지만 이번 EU의 진전을 기폭제로 해 전 세계 흐름에 맞게 총선 후 국회에서 활발히 논의될 가능성이 있다"고 말했다.
