게시일: 2025년 2월 13일 / 업데이트일: 2025년 2월 13일 – 저자: Konrad Wolfenstein
AI 시스템, 고위험 시스템 및 AI법을 기업과 공공기관에 실질적으로 적용하기 – 이미지: Xpert.Digital
EU 인공지능법: EU 집행위원회의 새로운 가이드라인 – 기업들이 지금 알아야 할 사항
AI 시스템, 고위험 응용 프로그램 및 기업과 공공기관에서의 AI법
2025년 2월 11일, 유럽 위원회는 EU 인공지능법의 실질적인 이행에 관한 포괄적인 가이드라인을 발표했습니다. 이 가이드라인은 기업과 공공기관이 해당 법률의 요구사항을 더 잘 이해하고 준수할 수 있도록 돕기 위해 마련되었습니다. 특히 금지된 인공지능 관행, 고위험 시스템, 그리고 법규 준수를 보장하기 위한 조치에 중점을 두고 있습니다.
가이드라인의 주요 내용
금지된 AI 관행
인공지능법은 용납할 수 없을 정도로 높은 위험을 초래한다고 판단되는 특정 인공지능 애플리케이션을 명시적으로 금지합니다. 이러한 금지 조항은 2025년 2월 2일부터 시행되었습니다. 금지 대상에는 다음이 포함됩니다
- 조작적이거나 기만적인 기법을 사용하는 AI 시스템
- 특정 개인이나 집단의 취약점을 악용하는 시스템
- 사회적 점수 시스템
- 명확한 증거 없이도 잠재적인 범죄 행위를 예측하는 인공지능
- 인터넷에서 얼굴 이미지를 무분별하게 수집하여 생체 인식에 이용하는 행위
- 직장이나 교육기관에서의 감정 인식 시스템
- 공공장소에서의 실시간 생체인식 식별 시스템 (일부 법 집행 기관 예외 제외)
이러한 금지 조치는 인공지능 기술이 윤리적이고 책임감 있게 사용되고 기본권을 침해하지 않도록 보장하기 위한 것입니다.
가이드라인의 실제 적용
유럽 위원회의 140페이지 분량의 가이드라인에는 기업과 공공 기관이 인공지능 시스템을 올바르게 분류하는 데 도움이 되는 수많은 실제 사례 연구가 포함되어 있습니다. 이 가이드라인은 법적 구속력이 있는 것은 아니지만, 감독 당국이 규정을 모니터링하고 집행할 때 참고 자료로 활용됩니다.
기업과 당국에 중요한 의미
기업과 당국은 다음과 같은 이유로 지침을 적극적으로 준수해야 합니다
- 기존 AI 시스템의 잠재적 위반 사항을 검토합니다
- 필요한 조정을 조기에 하기 위해
- 벌금 부과를 피하기 위해 내부 규정 준수 체계를 구축합니다
규정을 준수하지 않을 경우 심각한 결과를 초래할 수 있습니다. 제재금은 최대 3,500만 유로 또는 회사 전 세계 연간 매출액의 7% 중 더 높은 금액에 달할 수 있습니다.
다음 단계
가이드라인이 완전히 시행되기 위해서는 모든 EU 공식 언어로 번역되고 공식적으로 채택되어야 합니다. 그럼에도 불구하고 기업과 공공기관은 인공지능법의 단계적 도입에 대비하기 위한 조치를 적극적으로 취해야 합니다. 이 법은 2026년 8월 2일부터 전면 시행될 예정입니다.
인공지능 시스템의 위험 분류
EU 인공지능법은 인공지능 시스템을 네 가지 위험 등급으로 분류하고, 각 등급마다 서로 다른 규제 요건을 적용합니다
1. 용납할 수 없는 위험 – 금지된 AI 시스템
이러한 시스템은 시민의 권리와 자유에 심각한 위협을 가하기 때문에 EU에서 완전히 금지되어 있습니다. 예를 들면 다음과 같습니다
- 사회적 점수 매기기용 AI 시스템
- 무의식적으로 사용자 행동에 영향을 미치는 조작적인 AI
- 법 집행 목적을 위한 공공장소에서의 실시간 생체 인식 (일부 예외 사항 있음)
- 연령, 장애 또는 사회경제적 지위로 인한 취약점을 악용하는 AI 시스템
2. 고위험군 – 엄격한 규제 필요
이러한 시스템은 시장에 출시되기 전에 엄격한 요구 사항을 충족하고 적합성 테스트를 거쳐야 합니다. 테스트 항목은 다음과 같습니다
- 의료기기, 차량 또는 기계와 같은 중요 제품의 안전 구성 요소로서의 AI
- 기본권에 영향을 미치는 독립형 AI 시스템(예: 신용도 확인, 신청서 심사, 법 집행, 사법 행정)
이러한 애플리케이션은 투명성, 위험 관리, 데이터 품질 및 인적 감독과 관련하여 광범위한 요구 사항을 준수해야 합니다.
3. 제한된 위험 – 투명성 의무
이러한 시스템은 사용자가 인공지능과 상호작용하고 있음을 알려야 합니다. 예를 들면 다음과 같습니다
- 챗봇
- 딥페이크는 미디어 콘텐츠를 제작하거나 조작하는 데 사용됩니다
4. 위험 부담 최소화 또는 없음 – 무료 사용
이러한 시스템은 특정 법적 의무의 적용을 받지 않지만, 자발적인 행동 강령을 권장합니다. 예를 들면 다음과 같습니다
- AI 기반 비디오 게임
- 스팸 필터
고위험 AI 시스템 및 규제
인공지능법은 고위험 인공지능 시스템을 사람들의 안전, 건강 또는 기본권에 중대한 영향을 미치는 시스템으로 정의합니다. 이러한 시스템은 크게 두 가지 범주로 나눌 수 있습니다
1. 보안 구성 요소로서의 AI 또는 독립형 제품
인공지능 시스템은 다음과 같은 경우 고위험 시스템으로 분류됩니다
- 이는 EU 조화 규정의 적용을 받는 제품의 안전 구성 요소로서 기능합니다
- 잠재적 위험을 내포하고 있기 때문에 적합성 평가 대상입니다.
이러한 제품의 예는 다음과 같습니다
- 의료기기(예: 진단 시스템)에 적용되는 인공지능
- AI 기반 운전자 보조 시스템
- 산업 생산 분야의 위험 평가 및 품질 보증을 위한 AI 활용
2. 사회적 관련성을 지닌 독립형 고위험 AI 시스템
이러한 시스템은 인공지능법 부록 III에 명시되어 있으며 다음과 같은 사회의 중요한 영역에 영향을 미칩니다
a) 중요 기반 시설
- 전력망이나 교통망을 제어하고 모니터링하는 인공지능
b) 교육 및 고용
- 자동화된 시험 평가를 위한 AI
- 지원자 선발 또는 직원 성과 평가를 위한 AI
c) 재정적 및 사회적 혜택에 대한 접근성
- AI 기반 신용도 평가
- 사회복지 수급 자격 평가 시스템
d) 법 집행 및 사법 제도
- 증거 분석 및 수사 지원을 위한 AI
- 국경 통제 및 이민 관리를 위한 AI 기반 시스템
e) 생체 인식
- 생체 인식 원격 식별 시스템
- 안전이 중요한 환경에서의 감정 인식 시스템
이러한 고위험 AI 애플리케이션은 모두 위험 관리, 투명성, 데이터 처리, 기술 문서 및 인적 감독과 관련하여 엄격한 요구 사항을 준수해야 합니다.
EU 인공지능법: 기업들이 엄격한 인공지능 규제에 대비하는 방법
EU의 인공지능법(AI Act)은 AI 기술 사용에 대한 명확한 프레임워크를 제시하며, 특히 기본권 보호에 중점을 두고 있습니다. 기업과 공공기관은 새로운 규정을 철저히 숙지하고 제재를 피하기 위해 AI 애플리케이션을 그에 맞게 조정해야 합니다. 특히 고위험 시스템에는 엄격한 요건이 적용되므로, 개발 및 구현 과정 초기 단계부터 이를 고려해야 합니다.
법률에 대한 지속적인 모니터링과 선제적인 준수 조치는 AI의 책임 있는 사용을 보장하는 동시에 법적 틀 안에서 혁신을 촉진하는 데 필수적입니다. 향후 몇 년 동안 AI법이 실제 현장에서 어떻게 작동하는지, 그리고 어떤 추가적인 조정이 필요한지가 드러날 것입니다.
이와 관련된 내용:
귀사의 글로벌 마케팅 및 사업 개발 파트너
☑️ 저희 업무 언어는 영어 또는 독일어입니다
☑️ 신규 기능: 모국어로 소통하세요!
Konrad Wolfenstein
저와 저희 팀은 여러분의 개인 자문가로서 기꺼이 도움을 드릴 준비가 되어 있습니다.
여기 있는 문의 양식을 작성하시거나 +49 89 89 674 804 ( 뮌헨) 으로 전화 주시면 연락 [email protected] 입니다.
저는 우리의 공동 프로젝트를 기대하고 있습니다.