유럽연합(EU)에서 최근 통과된 이른바 ‘AI(인공지능)법’에 대비하지 않으면 자칫 의료장비 기술 등 국내 기업의 유럽 시장 진출에 직격탄이 될 수 있다는 분석이 나왔다. 우리 기업들도 이에 대비해 AI 기반 기술의 안전성은 물론이고 윤리성까지 갖춰야 한다는 조언이다.
조원희 법무법인 디라이트 대표변호사는 9일 아주로앤피와의 통화에서 "사람과 유사한, 또는 그 이상의 지능을 갖춘 범용 AI를 개발하는 기업에 'AI 학습데이터 공개 의무'가 부과되는 만큼 EU 진출을 목표로 하는 경우 유의할 필요가 있다"며 "자율주행, 의료장비 등에 관한 기술을 수출하는 고위험군 기업 등은 사전에 데이터를 공개하고 적합성 평가 과정을 거쳐야 한다"고 밝혔다.
유럽 AI법은 ‘기술 혁신’보다 '규제'에 초점을 맞추고 있어 기업들이 미리 대비해야 한다는 것이다.
조 대표는 "AI 기반 기술 기업은 윤리적인 측면, 이를테면 AI학습에 사용되는 데이터의 저작권 문제 해결 등을 염두에 둘 필요가 있다"며 “기업은 구성원들에게 AI를 활용할 때의 위험에 대한 교육 및 가이드라인을 마련해야 한다”고 지적했다.
또 "신뢰성을 확보하기 위해 할루시네이션(hallucination·인공지능이 만드는 허구)으로 인한 오답변을 최소화 하기 위한 설계와 테스트 계획 수립이 필요하다"고 말했다.
이어 "인공지능 모델의 구조, 학습 데이터, 결과 도출 과정에 대한 정보를 투명하게 공개해야 한다"며 "안전성을 위해서는 내부 리스크 관리 체계를 마련하는 등 통제 가능한 체계를 수립해야 한다"고 말했다.
앞서 EU의회는 지난달 13일 AI 기술 진화 속도에 맞춰 부작용을 미리 최소화 하고자 세계 최초로 AI법을 가결시켰다.
가결된 AI법에 따르면 EU는 AI 활용 분야를 △금지되는 인공지능 △고위험 인공지능 △투명성 의무가 부여되는 인공지능 △범용 인공지능 등 네 단계의 위험 등급으로 나눠 차등 규제한다. 산업 진흥보다는 규제에 무게를 두고 있는 게 특징이다. AI법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금이 부과될 수 있다.
EU AI법은 유럽 전역에 적용되는 최초의 AI 규제 법이다. 특정 AI 시스템이 유럽 내 시장에 출시되거나 서비스 될 경우 소재한 지역에 무관하게 AI 시스템 공급자와 활용자에게 AI법이 적용된다. △AI 시스템 또는 모델을 EU 시장에 출시하는 제공자 △AI 시스템 산출물이 EU에서 사용되는 경우의 제공자 및 배포자 △AI 시스템을 수입하거나 유통하는 자 △EU 시장에 AI 시스템이 탑재된 제품을 출시하는 제품 제조자 등이 모두 적용 대상이 되는 셈이다.
정유석 김앤장 법률사무소 변호사도 "AI 시스템이 탑재된 전자기기, 자동차 제조사 등 EU 시장에 AI 시스템 탑재 제품을 출시하려는 제조자 또는 AI 시스템을 자신 명의 서비스로 출시하려는 사람들은 모두 영향을 받게 될 것"이라고 예측했다.
그는 김앤장이 한국데이터법정책학회, 고려대학교 데이터·AI센터와 공동으로 전날 개최한 'EU 인공지능법 웨비나'에서 이같이 말하면서 "AI 시스템 기획, 개발 단계에서부터 준수할 사항을 점검해야 한다"고 밝혔다.
