대한민국, 세계에서 2번째로 AI기본법 제정
안녕하세요,
오늘은 26일 어제, AI기본법이 대한민국 국회를 통과했습니다. EU 다음으로 AI기본법이 통과되었습니다. 이번 뉴스레터에서는 AI기본법과 사회적으로 미칠 영향에 대해서 알아보겠습니다.
AI기본법, 왜 중요할까요?
AI는 이제 우리 일상 곳곳에서 사용되고 있어요. 스마트폰의 음성인식, 추천 알고리즘, 자율주행차 등 모두 AI 덕분이죠. 하지만 AI가 잘못 사용되면 사람들의 안전과 권리를 해칠 위험도 있습니다.
그래서 AI기본법은 다음을 목표로 합니다:
- AI 기술의 안전한 발전
- AI를 사용하는 기업과 기관이 신뢰받을 수 있는 환경 마련
- AI가 우리의 기본권(예: 안전, 공정성 등)을 침해하지 않도록 규제와 기준을 세우는 것
AI기본법은 AI의 위험을 관리하는 동시에 산업도 성장시킬 수 있도록 균형을 맞췄습니다.
- AI 연구개발(R&D) 지원
- AI 전문 인력 양성
- AI 집적단지 및 데이터센터 조성
법에서 정의한 "인공지능"은 무엇인가요?
법에서는 AI를 이렇게 정의합니다:
- 인공지능: 학습, 추론, 판단 등 인간의 지적 능력을 전자적으로 구현한 기술
- 인공지능 기술: 이런 AI를 만들고 활용하는 데 필요한 하드웨어와 소프트웨어 기술
특히, 법에서는 AI 중에서도 고영향 인공지능에 대해 주목했어요. 고영향 인공지능은 사람의 생명, 안전, 권리에 큰 영향을 미치는 기술을 말하며, 주요 예로는 다음이 포함됩니다:
- 의료: 진단 및 치료 시스템
- 채용 및 대출: AI를 이용한 결정 시스템
- 교통: 자율주행차와 같은 기술
즉, 인공지능으로 채용, 의료, 대출, 교통 등 인간의 인공지능이 결정할 때 생명이나 금전적으로 심각한 문제를 일으킬 수 있는 부분에 대해 "고영향" 인공지능을 붙였습니다.
AI 기본법은 어떤 배경에서 제정되었나요?
1. AI의 급속한 발전
AI는 의료, 교육, 교통, 금융 등 모든 산업에 영향을 미치며 빠르게 발전하고 있습니다.
하지만 기술 발전이 너무 빠른 나머지, 법적·윤리적 기준이 이를 따라가지 못한 상황이었습니다.
2. 위험과 책임의 명확화 필요
생체인식 기술, 자율주행, 딥페이크 같은 기술들은 큰 잠재력을 가지고 있지만,
오작동이나 악용 시 큰 사회적 문제를 초래할 수 있습니다.
이번 법은 책임과 기준을 명확히 하여 이런 위험을 방지하려는 목적을 가지고 있습니다.
3. 글로벌 추세에 대응
미국, 유럽연합(EU), 일본 등 주요국들은 이미 AI 관련 법안을 마련 중입니다.
특히 EU의 AI법안은 AI 시스템을 위험도에 따라 분류하고, 사용 기준을 제시하는 법으로 주목받고 있습니다.
한국도 이에 발맞춰 우리만의 규제와 육성 정책을 만들 필요가 있었습니다.
4. 산업 생태계 강화 필요
AI 산업은 높은 연구비와 데이터 인프라가 필요한 분야입니다.
정부가 지원 정책을 명확히 하여, 중소기업과 스타트업이 경쟁력을 강화하고,
글로벌 시장에 진출할 수 있는 기반을 마련할 필요가 있었습니다.
AI 기본법은 어떻게 구성되어 있나요?
AI 기본법은 5장 37조로 구성되어 있으며, 주요 내용은 다음과 같습니다.
제1장: 총칙
- AI와 AI 기술의 정의
- AI: 인간의 학습, 추론, 판단 능력을 전자적으로 구현한 기술
- 고영향 AI: 생명·신체·권리에 중대한 영향을 미칠 가능성이 있는 기술
- 적용 범위
- 국내뿐 아니라, 국외에서 이루어진 AI 행위라도 국내에 영향을 미치면 법이 적용됩니다.
제2장: AI 건전 발전과 신뢰 기반 조성
- 추진체계(거버넌스): 국가AI위원회, AI안전연구소, 인공지능정책센터 등 주요 기관이 AI 정책과 규제를 책임집니다.
제3장: AI 기술 개발 및 산업 육성
- AI 연구개발(R&D), AI 집적단지 조성, 데이터센터 구축, 중소기업 지원 등 산업 생태계 조성 방안을 명시합니다.
제4장: AI 윤리 및 신뢰성 확보
- 고영향 AI와 생성형 AI에 대한 안전성·투명성 확보 의무를 규정합니다.
제5장: 보칙
- 법 시행 시점(2026년 1월)과 기타 세부 사항을 다룹니다.
실제 AI 서비스를 제공하는 사람이 주의해야 할 점
이 뉴스레터를 보시는 분들게서는 아마 AI를 활용한 제품이나 서비스를 제공하고 싶으신 분들이 계실거라 생각됩니다. 그런 분들이 주의해야 할 점에 대해서 살펴보겠습니다.
① 고영향 AI 사용 시 사전 평가 필수
고영향 AI를 개발하거나 사용할 경우, 출시 전 사회적·경제적 영향평가를 받아야 합니다.
- 의료 AI 진단 시스템
- 얼굴 인식을 통한 범죄 수사
- 채용, 대출 심사 시스템
② AI 생성 결과물에 대한 명확한 고지
- 생성형 AI가 만든 결과물은 반드시 AI에 의해 생성된 것임을 표시해야 합니다.
- AI가 생성한 텍스트, 이미지, 딥페이크 등의 결과물에는 "AI 생성물"이라는 명확한 고지가 필요합니다.
③ 개인정보와 데이터 윤리 준수
- AI 훈련 데이터는 편향적이거나 차별적 요소를 배제해야 하며, 개인정보보호법을 준수해야 합니다.
④ 투명성과 안전성 확보
- AI 서비스의 작동 원리와 데이터를 투명하게 공개해야 합니다.
- 서비스가 안전하게 작동하도록 사전 검증 과정을 반드시 거쳐야 합니다.
앞으로의 방향과 기대 효과
법 시행 일정
AI 기본법은 2026년 1월부터 시행됩니다.
정부는 하위법령과 가이드라인을 마련하고, 기업들이 빠르게 적응할 수 있도록 돕고 있습니다.
기대 효과
- 안전한 AI 환경: 이용자 신뢰 확보
- 산업 경쟁력 강화: AI 기업과 스타트업 지원
- 글로벌 시장 선점: 한국형 AI 법제를 통해 글로벌 경쟁에서 유리한 위치 확보
이건 문제일 수 있어요
- 신기술 도입 속도 저하: 먼저 인공지능 기본법을 도입한 유럽연합은 여러 인공지능 모델에서 배제되어 있어요. Sora와 같은 비디오 생성 모델 등은 현재 유럽에서 사용할 수 없습니다.
- 스타트업 기술 발전 속도 저하: 빠르게 기술을 도입하고 개발해야하는 스타트업이 규제에 막혀 새로운 기술 도입에 어려움을 겪을 수 있습니다.
- 기술투자 저하: 기술에 대한 투자는 법의 태두리 안에서 진행될 것입니다. 흐름을 바꾸고, 새로운 트랜드를 만들어내는 기술은 제한된 법의 태두리 안에서 생겨나기 어려울 수 있습니다.
- 국가 주도 기술 개발의 위험성: 규제와 동시에 투자가 이뤄진다고 발표했습니다. 한 국회의원은 "광주를 AI거점도시로 성장시키는 발판이 되고.."라며 뜻을 밝혔습니다. 현재 한국의 인공지능은 판교, 강남의 AI테크기업과 카이스트를 비롯한 서울 소재 상위권 대학에서 주요 연구가 진행되고 있습니다. 광주에 인위적으로 연구 단지를 조성하려는 시도, 국가 계획 하에 연구를 진행하는 방향이 실제 효과가 있을지, 비용만 투자하고 실제 성과가 있을지 심히 우려스러운 부분입니다.
정리하자면, AI 기본법은 발표되었고 곧 시행됩니다. 인공지능이 가지고 있는 여러 문제적 요소들에 공감하기 때문에, 분명 필요하다고 생각되는 부분이 있습니다. 딥페이크 범죄, 음성합성, 가짜 이미지 생성 등 다양한 부분에서 문제가 제기되어 왔습니다. 이러한 부분에서 AI 기본법이 도움이 될 수 있으리라 생각됩니다.
AI 사업자라면 지금부터 법의 요구 사항에 맞게 준비하고, 사용자라면 AI를 더욱 안전하게 활용할 수 있는 환경을 기대해도 좋습니다.
그러나, 또 한편으로는 과도한 인공지능 규제를 통해 국내 AI기업의 경쟁력 약화와 국내 소비자들이 최신의 인공지능 기술을 경험하기 어렵게 될 수 있다는 점이 우려스럽습니다. 그리고, 국가 주도의 인공지능 발전이 과연 비용 대비 높은 효과를 보일지도 큰 의문이 듭니다.
현재 인공지능은 하루가 달리 발전하고 있습니다. 제 이전 뉴스레터에서도 여러 소식들을 다뤄드렸습니다. 과연 인공지능 기본법이 실제 인공지능 기반의 범죄들을 예방할 수 있을 것인지, 과도한 규제와 시대의 흐름을 따라가지 못해 인공지능 경쟁력을 악화시키는 법이 될지 주목하고 끊임없이 의견을 내야할 것 같습니다.