거대언어모델을 기반으로 한 생성 AI가 빠른 속도로 발전하고 있습니다. 나라들은 관련 규제를 도입하고 있습니다. 생성AI 규제 및 정책 동향을 정리했습니다. 

본 내용은 2023년 7월 시점을 기준으로 작성되었습니다. 

유럽연합
유럽의회는 2023년 6월14일 인공지능법안을 통과시켰습니다. 이 법안은 EU집행위원회를 통과하면 2026년부터 시행됩니다. 이 법안을 위반하는 기업은 최대 약 424억원 또는 연간 글로벌 매출의 6%에 해당하는 벌금을 부과 받게 됩니다. 이 법안은 인간 중심적이고 신뢰할 수 있는 AI의 활용을 촉진하고 유해한 영향으로부터 건강, 안전, 기본권 및 민주주의를 보호하는 것을 목표로 하고 있습니다. 인공지능에 의한 스코어링과 분류 등을 엄격하게 금지하고 있으며 개인정보보호 기준을 보다 강화한 내용들이 포함되었습니다.

EU의 AI법안은 2021년에 제안되었고, 오픈AI의 챗GPT가 작년 11월에 발표된 이후 법제화가 가속화되었다. 
 

 

영국
영국의 경우 2022년 3월 인공지능 규제백서를 발간했고, 1년 뒤 AI 및 데이터 보호 가이드를 개정했습니다. 각각 혁신 도모 및 분야별로 유연하고 합리적인 규제를 추진한다는 내용과 직무성과 거버넌스 투명성 및 적법성 등에 대한 내용으로 구성되어 있습니다.

 

미국
미국의 생성AI 규제는 자국의 안보를 중요시하는 방향입니다. 미국의 법은 최고법인 연방헌법 아래 연방법제와 주법제로 나뉘며 상하 위계에 따라 법률, 규정 등으로 나눌 수 있습니다. 행정명령, 보고서와 지침, 법률, 법안 등이 있습니다.

행정명령
 

 

행정명령(Execute Order)은 미국 대통령이 행정부에 대한 지시사항을 조문형태로 명령함으로써 자신의 정책을 실현하는 수단입니다. 권리보호의 측면에서 연방정부 내 신뢰할 수 있는 인공지능의 활용을 촉진하기 위한 내용이 있었으며, 행정절차 효율화 등을 위해 연방행정기관이 AI를 이용하는 것을 허용하고 미국 시민을 보호하기 위한 원칙이 포함되어 있습니다.

보고서와 지침
보고서와 지침은 백악관에서 발표하는 인간의 권리를 선언하는 문서로, 대표적으로 미국의 AI 권리장전이 있습니다. 미국의 생성형 AI 규제에서는 AI로 인해 침해될 수 있는 권리보호와 위험관리 분야가 있습니다. 

권리보호는 AI 권리장전 청사진, 혁신을 통한 온라인 해악퇴치 보고서, 고용에서의 장애인 차별금지에 관한 지침 등의 내용으로 구성되어 있습니다. 위험관리 프레임워크는 인공지능 설계부터 개발· 사용까지 발생할 수 있는 위험을 분석하고 위험을 해결하기 위한 지침을 제공합니다.

 

 

법률
AI 훈련법과 2023 국방수권법이 있습니다. 미국 연방 공무원과 국방 및 정보기관이 AI 교육을 받고 활용할 수 있도록 지원하고 이를 업무에 활용 및 도입하기 위한 내용입니다.
위험관리 측면에서는 알고리즘 책임법이, 권리보호 측면에서는 미국 데이터 개인정보 및 보호법과 디지털 플랫폼 위원회법이 존재합니다.
 

 

주별 정책
일리노이 주는 채용 시 AI 화상 면접을 진행할 경우 사전 고지와 동의를 받을 의무를 부과하는 인공지능 면접법을 적용하고 있습니다.
 

 

컬럼비아 특별구에서는 고용, 주택 등의 자동결정에서 인종, 성별, 장애 등의 특성으로 차별받지 않도록 하는 내용으로 알고리즘에 의한 차별중지법이 제정되었습니다.
 

 

뉴욕시에는 7월 5일 자동화된 고용 결정 도구 법이 발효되었습니다. ‘편견 감사법(Bias Audit Law)’으로 알려진 뉴욕시 지방법 144(NYC 144)에 따라 뉴욕시 거주자를 고용하는 기업은 채용 과정을 자동화하는 알고리즘 사용을 밝혀야 합니다. 제3자에게 소프트웨어 편향성을 검사받고 그 결과를 공개해야 됩니다.

 

뉴저지 주는 고용차별 최소화를 위해 고용 결정시의 자동화 도구 사용을 금지했습니다.

 

캘리포니아 주는 특정 시공간에서만 전자 모니터링과 자동화된 의사결정 시스템을 사용할 수 있게 정했습니다.

 

UN
UN은 7월 3일 첫 AI 규제 회의를 열었으며, 과학자 고문을 임명한 후 올 9월에 AI 자문위원회를 만들어 앞으로의 계획을 구체화하기로 하였습니다. 지식 기반의 기구이면서 규제 권한도 가지고 있는 국제원자력기구의 모델을 참고하여 UN 차원에서 AI 대응을 위한 전용 기관을 설립하는 내용입니다.

 

홍콩
원칙적으론 챗GPT를 사용할 수 없습니다. 홍콩 측에서 AI를 규제한 것이 아니라, OpenAI 측에서 홍콩의 GPT 접근을 제한하고 있기 때문입니다. 현재 오픈AI의 제한 국가 목록에 중국, 북한, 시리아, 이란, 홍콩이 있습니다. 하지만 홍콩 당국은 챗GPT 등 생성형 AI와 관련된 내용을 중등부 교육과정에 추가했고, 우회로를 통해 챗GPT에 접속해 그림과 글을 만드는 법을 배울 예정이라고 6월 23일 밝혔습니다.

 

중국
중국은 (현재 기준) 세계 최초로 생성AI 법규제가 시행될 국가입니다. 중국의 생성AI 법규제는 콘텐츠 관리가 중점입니다. ‘사회주의적 가치를 구현해야 한다’는 중심 원칙 아래에 당국의 허가를 받아야 생성AI 서비스를 제공할 수 있다는 ‘라이선스 제도’를 도입했습니다.

 

일본
개인정보위에서 기존의 개인정보보호법(2003년 법률 제 57호) 제 147조 규정에 의거 오픈AI에 2023년 6월 1일부로 “사람들의 허가 없이 민감한 데이터를 수집하지 말라”고 경고했으며, 이를 지키지 않을 경우 추가 조치를 취할 수 있다고 덧붙였습니다. 일본 정부에서는 현재 생성AI에 대한 제3자 감시·인증제도를 검토 중이라고 합니다.

 

우리나라
‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률’(인공지능 기본법)이 2020년 7월 13일 최초 발의되었습니다. 2023년 2월 여러 개의 인공지능 법안들이 하나로 묶여 위원회 대안으로 처리되었으며, 현재 국회 과학기술정보방송통신위원회에서 심사 중입니다.

인공지능 산업 발전을 위한 진흥법과, 인공지능 기반 추천서비스를 제공 시 방통위에 신고하도록 하는 정보통신망법 개정안, 인공지능사업자와 고위험 인공지능 이용사업자의 의무를 규정한 인공지능책임법, 개인정보 유출 시 해당 회사의 알고리즘을 제출해야 될 의무를 명시한 개인정보보호법 개정안, 채용에 AI 활용 시 사전고지를 해야 되는 채용절차공정화법 개정안, AI를 이용한 콘텐츠에 명시해야되는 콘텐츠산업 진흥법 개정안, 저작물 활용 시 허용과 침해의 경계를 명확히 하는 저작권법 개정안, 인공지능으로 만들어낸 허위정보를 선거 관련 활동에 사용하지 못하도록 하는 공직선거법 개정안, 정보통신서비스 제공자에 인공지능 관련자도 명시하는 정보통신망법 개정안이 있습니다.
 

 

각 부처의 움직임도 활발합니다.
개인정보보호위원회는 인공지능 리스크를 기준으로 차등 규제를 도입하겠다는 정책 방향을 제시하였습니다.

 

과학기술정보통신부는 디지털 신질서 정립방안을 발표하였고, 9월쯤 디지털 권리장전을 마련할 계획이라고 밝혔습니다.

방송통신위원회는 인공지능 기반 미디어 추천 서비스 이용자 보호 기본원칙을 마련하고 이에 대한 해설서를 발간했으며, 매년 지능정보사회 이용자보호 국제컨퍼런스를 개최하고 있습니다.

 

중소벤처기업부는 샘 알트만 오픈AI 대표와 주요 임원진들을 한국으로 초청해 국내스타트업들과 함께 간담회를 열었고, 지속적인 교류와 협력의 뜻을 표현했습니다.
 

 

주요 국가 규제 동향 비교
 
인공지능법안을 적극적으로 검토하는 유럽, 미국, 한국, 중국 4개국의 특징을 정리해봤습니다. 각 국가별로 특징이 보였는데요, 먼저 유럽은 AI의 위험성을 강조하고 3자검증 규정으로 심의를 강화하는 등 AI로 인한 피해 최소화와 예방에 초점을 맞추고 있었습니다. 

미국은 연방 차원에서는 AI를 행정기관, 국방, 범죄수사 등에 적극 활용하겠다는 내용으로 안보를 중시하고 있었고, 주 차원에서는 면접 시 인공지능 활용에 제한을 두는 고용차별 예방을 중시하고 있었습니다. 

중국의 경우 연구기관이나 해외 사용자들에게 적용되는 AI 기술은 규제하지 않았지만 중국 내 대중들의 AI 사용만 규제를 두어 여론조작이나 대중을 선동하는 일을 예방하는 용도였습니다

우리나라는 AI산업 육성과 AI의 부작용을 방지하는 규제, 양 면에서 제도화가 이루어지고 있습니다. 금융위원회 등은 AI활용 가이드 등을 제시하는 등 민간에서 AI 활용이 촉진될 수 있도록 노력하고 있습니다. 

앞으로 전망
테크기업들은 부정적입니다. 일론 머스크 테슬라 CEO와 샘 알트만 오픈AI CEO의 경우 초반에는 AI규제를 적극 찬성하여 후발주자들의 진입을 어렵게 하는 ‘사다리 걷어차기’가 아니냐는 비판도 받았었습니다. 하지만 EU가 인공지능 법안의 내용을 공개하면서 생성형 AI 플랫폼을 개발하는 업체에 책임을 물을 수 있는 내용을 언급하자 두 사람도 반대의 목소리를 내기 시작했습니다. 
그 외에도 메타, 르노 등 160여 개 기업 경영진이 공개 서한을 통해 ‘EU의 AI법은 기술을 강력하게 규제할 뿐 아니라 기업들에게도 높은 비용을 전가한다’며 반대 의사를 표현했습니다.

“만약 AI법이 통과된다면 기업들이 회사의 거점을 외국으로 옮기고, 투자자들도 유럽 내 AI 개발에서 자본을 철수할 수 있다.” – 공개 서한 中

인공지능 제공 기업들은 전세계 국가를 대상으로 생성AI서비를 제공하고 있습니다. 우리나라도 네이버, 카카오, SKT 등이 서비스를 출시했거나 출시할 예정입니다. 일반 기업들은 적극적으로 활용하는 기업이 있는가 하면 내부 사용을 금지하는 기업도 있습니다. AI를 어떻게 개발하고 활용할 것인가에 대해서는 게임의 규칙이 아직 만들어지지 않은 상태입니다. AI는 제도화 단계로 진입하고 있습니다.