Article : 한국의 AI 규제, 어디까지 왔나

https://brunch.co.kr/@ressac-n/61

09화 한국의 AI 규제, 어디까지 왔나

 

 

 

 

 

<아티클 내용 요약>

AI 규제는 당신에게 영향을 미친다. 

한국은 소문난 얼리어답터 시장이다. 신기술 사용에 망설임이 적고 오히려 서로 먼저 사용하는 데 혈안이 되어 있다. AI에 대해서도 마찬가지다. 기업의 41%가 이미 AI를 활용 중이라 답했고, OECD 회원국 중 한국이 AI, 빅데이터 분석, 사물인터넷 등 신기술 도입률이 1위라는 조사 결과가 나왔다. 기업뿐만 아니라 개개인도 AI 관심이 뜨겁다. 국민 10명 중 1명 이상이 생성형 인공지능을 사용해 본 적이 있으며 특히 텍스트 생성 이용 비율이 압도적인 것으로 나타났다. 

 

AI의 기술적 파급력과 확산 속도를 볼 때 각 국민의 삶에 미치는 영향도 막대할 것으로 예상되나, 기업들은 치열한 경쟁 속에 안전 문제를 뒤로 미뤄두는 경향을 보이고 있다. 기업들의 자정 작용만드로는 이런 우려에 대해 효과적으로 대응하기 어렵고, 이용자로서 개개인에 대한 보호는 정보의 역할에 많이 의존할 것으로 보인다. 전편들에서 다뤘듯이, AI 악용 가능성이 크고, AI 기술 자체도 완전하지 않으며, AI에 내재된 위험과 부작용들이 있다. 우리의 권익 보호를 위해 정부의 역할이 중요하다. 

 

 

한국의 AI 규제, 어디까지 왔을까

한국의 AI 규제는 세 단계로 나눠볼 수 있다.

 

2016-2018년 초기 구상 단계

AI 규제에 대한 착상이 2016년 정부의 '지능정보사회 중장기 종합대책' 발표로 본격화되었다. 

이 대책은 AI 규제가 아니라 AI 발전을 위한 환경 조성에 초점을 맞추고 있다. 직접적인 AI 규제보다는 AI 발전을 위한 기반으로서 AI 윤리 가이드라인 마련, 인간의 존엄성 보장, 프라이버시 보호 등의 원칙을 강조했다. 그리고 AI 안전성 확보를 위한 기술 개발 및 표준화, AI 책임서 확보를 위한 AI의 의사결정에 대한 설명 가능성과 책임 소재 규정 등 원칙 및 AI 기술의 악용을 방지하기 위한 제도적 장치 마련을 '제안'했다. 

 

이와 같은 원칙은 2018년 과학기술정보통신부의 'I-Korea 4.0 실현을 위한 인공지능(AI) R&D 전략'에도 담겨있다. 

 

여전히 방점은 AI 발전 및 육성에 찍혀 있고, 규제의 필요성은 인지하되 규제 샌드박스 도입을 통해 예외를 인정함으로써 혁신에 더 무게를 싣고 있다. 

 

2019-2021년 구체화 단계

윤리기준에 초점을 둔 정부의 노력이 진행되었다. 

산업 발전 정책의 일부를 구성하기보다 AI 윤리 자체를 핵심 주제로 한 정부의 노력들이 나오기 시작했다. 과학기술정보통신부는 2019년부터 준비하기 시작한 '인공지능 윤리기준'을 2021년 12월에 확정하여 발표했다. 

 

윤리기준은 인간성을 위한 3대 기본 원칙과 10대 핵심 요건을 제시하고 있다. 

• 인간성을 위한 3대 기본 원칙
  • 인간의 존엄성 원칙
  • 사회의 공공선 원칙
  • 합목적성 원칙
• 10대 핵심 요건
  • 인권 보장 
  • 프라이버시 보호
  • 다양성 존중
  • 침해 금지
  • 공공성
  • 연대성
  • 데이터 관리
  • 책임성
  • 안전성
  • 투명성

 

과기정통부 관계자는 이 윤리 기준을 두고 '구속력 있는 '법'이나 '지침'이 아닌 도덕적 규범이나 자율 규범으로, 기업 자율성을 존중하고 인공지능 기술발전을 장려하며 기술과 사회변화에 유연하게 대처할 수 있는 윤리담론을 형성하는데 노력했다'라고 설명했다. 요약하자면, 꼭 지켜야 할 강제성이 있는 규범은 아니고 AI 규제 '논의'의 '출발점'으로 삼자는 것이다. 

 

2020년에는 발표된 과학기술정보통신부와 국무조정실이 '인공지능 법, 제도, 규제 정비 로드맵'을 확정 및 발표하고 인공지능 시대를 준비해 나가기 위한 법적 기반을 마련해 나가겠다며 원대한 계획을 공표했다. 

정부는 '인공지능 법, 제도, 규제 정비 로드맵'을 수립함에 있어 인공지능의 고유한 기술 특성과 빠른 발전 속도로 인한 신기술과 구제도 간의 간극을 극복하기 위해 종합적, 선제적인 정비를 추진했고, 또 사회적 합의에 기초한 민간자율을 우선하는 로드맵을 마련, 인공지능 관련 분야 법, 제도, 규제 정비의 이정표를 제시하고자 했다고 자평했다. 

 

2022년 이후 법제화 노력 단계

담론과 계획을 넘어선 구체적 법제화 노력은 2023년 '인공지능 기본법' 제정 논의 본격화와 함께 시작되었다. 

인공지능 관련 규제의 중추를 이룰 것으로 예상되는 포괄적인 법이다. '기본법'이라는 명칭에서도 엿볼 수 있듯이, 향후 AI 규제의 뼈대 역할을 할 예정이며 각 부처와 규제 기관들이 AI 관련 세부 규제를 도입, 시행할 때 나침반이 될 법안이다. 

 

 

한국 AI 규제의 토대이자 나침반, 인공지능 기본법

인공지능 기본법은 AI 기술 도입 및 활용 지원, AI 기술 개발 및 창업 지원 등 산업 육성, AI 윤리 원칙에 따른 정책 수립, AI 신뢰성 확보를 위한 근거 마련, 고위험영역 AI 고지의무 부과 등 AI 산업을 진흥하고 역기능에 대응하는 내용이 포괄적으로 담겨 있다. 앞서 21대 국회에서 발의되었으나 통과하지 못했고, 이번 22대 국회에서 6개의 AI 기본법이 새로 발의됐다. 

 

인공지능 기본법 제정의 필요성은 산업계뿐 아니라 시민사회에서도 꾸준히 제기되었다. 인공지능 기본법이 제정돼야 관련 정부가 AI 기술 도입 및 산업 육성, 윤리원칙에 따른 정책 수립 및 규제를 위한 예산을 편성 및 집행하고 관련 조직들을 정비할 수 있게 된다. 특히 규제 측면에서 기본법이 중추 역할을 해야 각 부처들이 전문 영역에서 세부 규제를 도입하고 시행할 수 있게 된다. 

 

그러나 21대 과방위 여야는 일본 라인야후 사태, 방심위의 징계 남발 및 예산 낭비 문제 등과 관련한 이견 등 정쟁으로 여야 간 대치만 이어지다가 결국 AI 기본법을 해결하지 못하고 폐기시켰다. 기업연구소법, 망무임승차방지법, 디지털포용법, 디지털안전서비스법 등 중요 법안들도 인공지능 기본법과 함께 사라졌다. 

 

문제의 11조, '우선허용, 사후 규제' 원칙

'국회가 또?' 하면서 국회 탓을, 여야 간 정쟁으로 점철된 우리 정치를 신물이 난다고 탓하고 돌아설 수 있지만, 사실 발의되었던 인공지능법의 내용적, 절차적 문제점에 대해 자세히 볼 필요가 있다. 

 

내용 면에서 가장 큰 우려가 제기되었던 부분은 제11조에 규정된 '우선허용, 사후규제' 원칙이었다. 

법안 내 이 조항에 따르면 '누구든지 인공지능 관련 제품이나 서비스를 출시할 수 있고, 국민의 생명, 안전, 권익에 위해 되는 경우가 아니면 인공지능 기술개발을 제한하면 안 된다'라고 규정되어 있다. 웬만하면 개발을 진행하라는 녹색 신호등을 켜주는 원칙이다. 

 

이 원칙은 미국 빅테크에 한참 뒤처진 국내 AI 산업 진흥을 염두에 두었겠으나, AI의 무분별한 개발, 활용에 따른 위험을 지적하는 목소리가 높았다. 인공지능의 위험성을 고려하지 않은 채 인공지능을 무분별하게 개발, 활용할 경우 기본권 침해를 포함한 예상치 못한 위험을 초래할 수 있으므로 사전에 충분히 대비하는 것이 중요하다는 것이다. 나아가 산업의 경제성, 효율성만을 따져서 사전, 사후 평가 없이 개발 및 활용된 인공지능 기술이 국제 기준에 못 미치는 결과를 초래할 수 있고, 이로 인해 오히려 국제 경쟁력을 저하시키고 나아가 인공지능 기술의 신뢰성마저 떨어뜨릴 우려가 있다는 지적도 받았다. 

 

이러한 이유로 국가인권위원회에서는 우선허용, 사후규제 원칙조항을 '삭제'해야 한다고 공식 의견을 표명했고 시민사회도 동조했다. 

 

이빨 빠진 호랑이? 실효성의 문제

발의되었던 인공지능 기본법은 전체적으로 규제와 관련된 의무를 규정하고 있으나 과징금 등 의무이행 확보수단을 규정하지 않고 있다는 측면에서 사업진행 및 자율 규제 중심의 법안으로 평가된다. 

 

한국의 인공지능 기본법에는 금지 규정이 없다. 실효적인 처벌 없이 기업이 발 벗고 나서서 비용이 수반되는 위험 예방 조치를 따를지 의문이 든다. 최소한의 필수 이용자 보호 조치들은 의무화되어야 한다는 지적이 있다. 

 

고양이에게 생선 맡기기? 감독 기관의 독립성 문제

21대 국회 인공지능 법률안은 과학기술정보통신부장관으로 하여금 인공 진은 기술 및 산업 진행, 육성 업무뿐만 아니라 고위험 영역 인공지능 확인 등 인공지능 규제에 관한 업무도 담당하도록 하고 있다. 산업 진흥과 규제는 상호 긴장 관계에 놓일 수 있다. 한 기관이 담당할 경우 규제의 객관성과 실효성을 담보하기 어려울 수 있다. 인공지능 감독 및 규제 업무는 제3의 기관이 독립적으로 수행해야 한다는 주장이 나오는 이유다. 

 

나아가, 과기정통부 역시 사회와 산업 전반에 걸쳐 있는 인공지능 기술 문제를 모두 규제하기에는 분야별 전무성이 결여될 수 있다. AI챗본 이루다 사건에서 개인정보 침해 문제에 대해서는 개인정보보호위원회가 전문성을 발휘했고, 네이버 쇼핑 등 기업의 알고리즘 조작 사건에 대해서는 공정거래위원회가 전문성을 보였다. 인공지능법에 대한 고유한 집행은 일부 경제부처보다는 규제 전문 기관이나 독립적인 감독 기관에서 컨트롤 타워 역할을 담당하는 게 바람직하다는 의견이 나오는 이유다. 

 

존중되지 않는 민주주의 가치

인공지능 기본법 추진 과정 중 눈에 띄는 에피소드가 하나 있었다. 기본법 제정을 추진 중인 과기정통부가 기업들과 한 비공개 간담회에서 '시민단체 반대 의견을 최소한으로 수렴한다'는 입장을 전달한 것으로 확인된 것이다. 시민단체 측에서 기본법 법안이 인공지능의 부작용을 줄일 수 있는 안전장치가 부실하다며 반대했다는데, 이런 반대 의견을 '최소한'으로 수렴하고 산업 진흥 조항은 최대 유지, 처벌 규정은 삭제하겠다고 회의 안건에 과기정통부 입장이 명시된 것이다. 이에 앞서 과기정통부 장관은 '시민사회가 제기한 우려를 모두 해소했다'라고 밝힌 적 있는데, 해소라는 표현을 붙이기는 어려워 보인다. 

 

산업계의 이해관계만을 대변하는 게 정부에 기대되는 역할은 아닌데 이용자로서 국민들 보호에 대한 책임을 잘할 수 있을지 절차적 투명성과 공정성에 의구심이 제기되는 대목이다. 과기정통부 쪽에서는 이를 두고 '실무자 실수'라 해명하며 시민사회 의견을 듣겠다고 했다. 

 

AI 규제 주도권을 둘러싼 부처 간 경합

AI 규제를 둘러싼 부처 간 주도권 싸움 및 경쟁도 우려 대상이다. 여러 부처 간의 분절화된 규제는 기업과 이용자들의 규제 이해와 규제예측력을 저해하고 부처 간 비효율성 및 불필요한 행정 비용을 낳는다. 그렇기 때문에 중추 역할을 인공지능 기본법이 필요한 것이지만, 같은 이유로 여러 부처들이 주도권 확보를 위한 영역 싸움을 기본법 제정 과정에서 재현할 여지가 있다. 

 

이미 부처들은 각자 경쟁력으로 AI 가이드라인을 쏟아내고 있다. 기본법 제정 과정에서 이런 규제들이 통일성과 조화를 이루게 관리가 필요해 보인다. 실패할 경우 얼기설기 짜깁기로 마련된 누더기 법안에 기업 및 이용자들의 부담과 비용만 증대될 수 있다. 

 

 

과도한 속도전에 대한 경계 - 급하다고 다 덮어놓고 통과시킬 수는 없다. 

인공지능 기번법이 절실한 것은 사실이다. 그러나 정부와 일부 언론이 지나치게 기본법 제정을 서두를 때 경계해야 할 점이 있다. 기본법의 조속 제정을 주장하는 사람들의 숨겨진 어젠다는 '산업중심적' 느슨한 규제를 빨리 통과해 달라는 의도가 있는 것은 아닌지 따져볼 필요가 있다. 규제 속도전의 핵심 명분은 산업 속도전인 경우가 많다. 어쨌든 우리 기업이 뒤쳐지면 안 된다는 것이다. 속도를 강조한 여론몰이 속에 안전과 국민들의 권익 문제가 좌시되지 않도록 견제가 필요하다. 

 

인공지능 기본법을 기술경쟁이나 AI 전쟁의 시각으로만 프레이밍 되지 않도록 경계해야 한다. 기본법 제정을 서두르더라도 단순히 국민들의 보호가 시급하기 때문이라는 문제의식도 필요하다. 기업이 뒤처진다는 것만이 근본문제로 정의되어서는 안 된다. 

 

일부 국내 테크업계 인사는 'AI 분야는 국가 경쟁력을 좌우하는 전장'이라며 '최전방에 나서는 기업들이 잘 싸울 수 있도록 보급해 주는 것이 정부의 역할이라고 생각한다'라고 말한다. 과연 그럴까. 정부의 지원은 온 국민의 세금으로 이뤄지는데, 일부 소수의 기업이 국가대표로 출전해서 싸운 후 얻는 과실은 어떻게 그 기업을 넘어서 국민 모두에게 돌아갈 수 있을지 궁금해진다. 기업 입장에서는 기업의 시각을 대변하는 게 당연하지만, 국가 경쟁력을 기업 경쟁력으로 협소하게 치환시킬 수는 없다. 

 

 

규제에도 국격이 있다. 

한국은 경제발전과 더불어 민주주의를 달성했다는 점을 국가의 자랑으로 여기며 홍보해 왔다. AI라는 새로운 시대적 과제에 대해서도 그에 걸맞은 모습을 보여줄 필요가 있다고 생각한다. AI 기술이 점점 더 국경을 넘나들면서 AI 거버넌스에 대한 국제적 조율 움직임도 활발해지고 있다. 산업발전과 더불어 윤리 및 안전성에 대한 심도 있는 고민은 국내 AI 정책을 강화할 수 있을 뿐만 아니라 글로벌 표준 경쟁에도 기여할 수 있다. 

 

 

22대 국회는 과연 어떤 선택을 할 것인가

현재 22대 국회에는 6개의 인공지능 기본법 법안이 발의되어 있다. 일부 법안들을 보면 이미 21대 국회 법률안이 지녔던 문제점들을 해결하고 자하는 시도가 보인다. 반면, 기존의 문제점들이 완전히 해소되지 않은 법안들도 보인다. 이번 22대 국회에서 어떻게 인공지능 기본법을 풀어나갈지 귀추가 주목된다. 

 

 

 

 

 

<알게 된 개념>

AI에 대해서 알아보고, 내가 사용하는 AI에 대한 관심만 가지다가 우리나라의 현행법에 대한 아티클을 보니 생소했다. 그리고 실행되고 있는 현재와 법률 및 윤리적 측면은 아직 따라오지 못했다는 다른 내용의 아티클이 생각났다. AI가 더 활발해지고 규제가 없어 일이 생기기 전에 법률과 규제, 윤리적 기준이 정해져야 된다고 생각한다. 

 

항상 큰일이 생기고 피로 쓰이는 안전법들이 있다. AI는 그러지 않기를 바란다.