1.
AI나 알고리즘을 법으로 규제하자는 논의가 많은 듯 합니다. 기술의 변화가 사회에 영향을 마치기 때문입니다. 어떤 법이든 법을 만들 때 다루고자 하는 대상을 명확히 정의하는 것이 우선입니다. 아시는 분은 별로 없는 ‘지능정보화기본법’을 보면 ‘지능정보기술’를 이렇게 정의합니다.
“정보화”란 정보를 생산ㆍ유통 또는 활용하여 사회 각 분야의 활동을 가능하게 하거나 그러한 활동의 효율화를 도모하는 것을 말한다.
“지능정보화”란 정보의 생산ㆍ유통 또는 활용을 기반으로 지능정보기술이나 그 밖의 다른 기술을 적용 ㆍ융합하여 사회 각 분야의 활동을 가능하게 하거나 그러한 활동을 효율화ㆍ고도화하는 것을 말한다.
“지능정보서비스”란 다음 각 목의 어느 하나에 해당하는 서비스를 말한다.가. 「전기통신사업법」 제2조제6호에 따른 전기통신역무와 이를 이용하여 정보를 제공하거나 정보의 제공을 매개하는 것
나. 지능정보기술을 활용한 서비스
다. 그 밖에 지능정보화를 가능하게 하는 서비스“지능정보기술” 이란 다음 각 목의 어느 하나에 해당하는 기술 또는 그 결합 및 활용 기술을 말한다.
가. 전자적 방법으로 학습ㆍ추론ㆍ판단 등을 구현하는 기술
나. 데이터(부호, 문자, 음성, 음향 및 영상 등으로 표현된 모든 종류의 자료 또는 지식을 말한다)를 전자적 방법으로 수집ㆍ분석ㆍ가공 등 처리하는 기술
다. 물건 상호간 또는 사람과 물건 사이에 데이터를 처리하거나 물건을 이용ㆍ제어 또는 관리할 수 있도록 하는 기술
그러면 알고리즘을 어떻게 법적으로 정의해야 할까요? 앞서 기본법에 관련한 내용이 없어서 그런지 더불어민주당 이원욱 국회의원이 발의한 지능정보화기본법 개정안을 보면 알고리즘을 아래와 같이 정의합니다.
4의2. “알고리즘”이란 어떤 문제의 해결 혹은 의사결정을 위하여 입력된 자료를 토대로 하여 결론을 이끌어내는 연산 또는 논리의 집합을 말한다.
정의당은 정보통신망 이용촉진법 개정안에서 아래와 같이 알고리즘을 정의하고 있습니다.
제2조제1항에 제14호부터 제19호까지를 각각 다음과 같이 신설한다.
14. “알고리즘”이란 어떠한 문제의 해결 또는 의사결정을 위하여 입력된 자료를 토대로 결론을 이끌어 내는 연산, 논리, 규칙 또는 절차의 집합을 말한다.
15. “알고리즘 서비스”란 정보통신망에서 제공하는 재화, 용역, 그 밖에 콘텐츠(이하 “재화등”이라 한다)의 거래 등 상호작용을 매개하기 위하여 알고리즘과 전기통신설비, 컴퓨터 및 컴퓨터의 이용기술을 활용하여 정보를 수집ㆍ가공ㆍ저장ㆍ검색ㆍ송신하는 것을 말한다.
16. “알고리즘 서비스 제공자”란 영리를 목적으로 알고리즘 서비스를 제공하는 자를 말한다.
17. “알고리즘 서비스 이용자”란 알고리즘 서비스 제공자가 제공하는 알고리즘 서비스를 이용하거나 이용하려는 자를 말한다.
18. “알고리즘 서비스 이용사업자”란 알고리즘 서비스 이용자 중에 재화 등에 관한 정보를 제공하거나 재화 등의 거래를 위하여 알고리즘 서비스를 이용하거나 이용하려는 자를 말한다.
19. “알고리즘 서비스 종사자”란 알고리즘 서비스 제공자와 근로계약이나 위탁계약을 체결(사업이 여러 차례의 도급에 따라 행하여지는 경우에는 각 단계에서 도급받은 자를 모두 포함한다)하여 근로를 제공하거나 위탁받은 업무를 취급하는 자를 말한다.
이런 가운데 EU가 세계에서 처음으로 21년 4월 AI규제안을 만들어 발표하였습니다.20년 2월에 발표한 WHITE PAPER On Artificial Intelligence – A European approach to excellence and trust을 기초로 법적인 규제를 다루고 있습니다.
앞서 법적인 정의와 관련하여 EU 규제안은 AI를 다음과 같이 정의합니다.
Title I defines the subject matter of the regulation and the scope of application of the new rules that cover the placing on the market, putting into service and use of AI systems. It also sets out the definitions used throughout the instrument. The definition of AI system in the legal framework aims to be as technology neutral and future proof as possible, taking into account the fast technological and market developments related to AI. In order to provide the needed legal certainty, Title I is complemented by Annex I, which contains a detailed list of approaches and techniques for the development of AI to be adapted by the Commission in line with new technological developments. Key participants across the AI value chain are also clearly defined such as providers and users of AI systems that cover both public and private operators to ensure a level playing field.
ANNEX I
ARTIFICIAL INTELLIGENCE TECHNIQUES AND APPROACHES referred to in Article 3, point 1
(a) Machine learning approaches, including supervised, unsupervised and reinforcement learning, using a wide variety of methods including deep learning;
(b) Logic- and knowledge-based approaches, including knowledge representation, inductive (logic) programming, knowledge bases, inference and deductive engines, (symbolic) reasoning and expert systems;
(c) Statistical approaches, Bayesian estimation, search and optimization methods.AI 시스템에 대한 법적 모호성을 피하면서도 기술진화에 따라 유연하게 해석 가능하도록 다음과 같이 핵심적인 기술적 특징에 기반하여 AI를 정의
– 머신러닝, 논리·지식기반 접근법, 통계적 접근법 등을 활용해 개발되고, 인간이 정의한 목적을 위해, 상호 작용하는 주변 환경에 영향을 미치는 콘텐츠, 예측, 추천, 의사결정 등의 결과물을 생성할 수 있는 소프트웨어
2.
국내의 경우 아직 법적으로 틀이 맍들어진 상황은 아니지만 잠정적인 조치로 가이드라인이 다양하게 나오고 있습니다. 우선 과기정통부가 주도하여 “국가인공지능 윤리기준“을 마련하였습니다. 아래는 3대원칙입니다.
과학기술부가 윤리기준을 구체화하여 사람이 중심이 되는 인공지능을 위한신뢰할 수 있는 인공지능 실현 전략(안)을 발표하였습니다. 여기서 핵심적인 개념은 인공지능 신뢰성(Trustworthiness)입니다.
이런 흐름의 연장선에서 금융위원회가 금융분야 인공지능(AI) 가이드라인- 금융권 AI 활용을 활성화하고 AI 기반 금융서비스에 대한 신뢰를 제고하기 위한 모범규준을 내놓은 듯 합니다. 가이드라인이 규정한 AI는 아래와 같습니다.
AI 시스템이란 특정 목표가 주어진 상태에서, 데이터를 획득하여 환경을 인식하고, 획득된 데이터를 해석하며, 지식을 추론하거나 정보를 처리하고, 해당 목표를 달성하기 위한 최선의 행동을 결정함으로써 물리적 또는 디지털 차원에서 작동하는 인간이 설계한 소프트웨어 또는 하드웨어 시스템을 의미한다.
허가가 특징은 금융에서 특례와 관련한 조항이 눈에 들어옵니다. 핵심은 위험관리입니다. 가이드라인이 현장에서 어떻게 적용될지 궁금합니다. 위험관리 혹은 윤리원칙에 관심을 가지는 금융회사가 있을지…
7. AI 시스템 업무위탁에 관한 특례
가. 금융회사 등은 AI 시스템의 개발·운영 등을 외부기관에 위탁하고자 할 경우, 수탁기관이 동 가이드라인 및 가이드라인에 기초하여 마련된 AI 윤리원칙 및 위험관리정책을 준수하여 AI 시스템을 개발·운영할 수 있도록 하기 위한 위험관리지침을 마련하고 금융회사가 직접 AI 시스템을 개발·운영하는 경우에 비해 AI 시스템 운영에 따르는 위험이 확대되지 않도록 한다.
나. 금융회사 등은 외부기관에 의한 AI 시스템 개발·운영이 위험관리지침에 따라 이루어졌는지 주기적인 보고·점검 체계를 구축·운영하고,고위험서비스에 대해서는 AI 개발·운영계획 등에 대한 금융회사 등의 사전확인, 소비자 피해 발생시 조치 및 보고 절차 마련 등 엄격한 사전 점검이 이루어질 수 있도록 한다.
다. 금융회사 등과 외부기관은 AI 시스템 개발·운영 등에 따라 소비자피해가 발생한 경우 손해배상 지연 등을 방지하기 위한 명확한 책임 조항 및 손해배상 처리 절차 등을 마련한다
