유럽연합의 인공지능법(EU AI 법)이란 무엇인가요?

EU AI 법은 위험 수준에 따라 AI 시스템을 규제합니다. 여기서 위험은 잠재적 피해의 가능성과 심각성을 나타냅니다. 가장 중요한 조항은 다음과 같습니다.

• 용납할 수 없는 위험을 초래하는 것으로 간주되는 특정 AI 관행에 대한 금지
  
  
• 특정 고위험 AI 시스템 개발 및 배포를 위한 표준입니다.
  
  
• 범용 AI(GPAI) 모델에 대한 규칙

EU AI법의 위험 categories 중 하나에 속하지 않는 AI 시스템은 해당 법률에 따른 요건('최소 위험' 카테고리라고도 함)의 적용을 받지 않지만, 일부는 투명성 의무를 충족해야 할 수도 있고 다른 기존 법률을 준수해야 할 수도 있습니다.  그 예로 이메일 스팸 필터와 비디오 게임이 있으며, 오늘날 많은 일반적인 AI 사용이 이 범주에 속합니다. 

EU AI 법의 시행과 관련된 세부 사항 중 상당수가 아직 다듬어지고 있다는 점에 주목할 필요가 있습니다. 예를 들어, 이 법안은 EU 집행위원회가 시판 후 모니터링 계획 및 교육 데이터 요약과 같은 요구 사항에 대한 추가 지침을 발표할 것이라고 명시하고 있습니다.

EU AI 법은 허용할 수 없는 수준의 위험을 초래하는 것으로 간주되는 특정 금지된 AI 관행을 명시적으로 나열하고 있습니다. 예를 들어, 사람들이 다른 방법으로는 하지 않았을 해로운 선택을 하도록 의도적으로 조작하는 AI 시스템을 개발하거나 사용하는 행위는 사용자에게 허용할 수 없는 위험을 초래하는 것으로 간주되며 금지된 AI 관행에 해당합니다.

유럽연합 위원회는 이 법에서 금지된 관행 목록이 있으므로 앞으로 더 많은 AI 행위가 금지될 수 있습니다.

 이 기사가 게시될 당시 금지된 AI 관행의 일부 목록은 다음과 같습니다.

• 사회적 점수 시스템(사회적 행동에 따라 개인을 평가하거나 분류하는 시스템)은 원래 데이터 수집과 무관하고 행동의 심각성에 비해 정당하지 않거나 불균형적인 사회적 맥락에서 해롭거나 불리한 대우로 이어질 수 있습니다.
  
  
• 의료 또는 안전 목적으로 사용되는 경우를 제외한 직장 및 교육 기관의 감정 인식 시스템
  
  
• 사람들의 취약점을 악용하는 데 사용되는 AI(예: 연령 또는 장애로 인한 취약성)
  
  
• 안면 인식 데이터베이스를 위해 인터넷 또는 폐쇄 회로 텔레비전(CCTV)에서 얼굴 이미지의 비표적 스크래핑
  
  
• 민감한 특성을 기반으로 개인을 식별하는 생체 인식 시스템
  
  
• 특정 예측 치안 애플리케이션
  
  
• 법 집행 기관이 공공장소에서 실시간 원격 생체 인식 시스템을 사용하는 경우(예외가 적용되지 않는 한, 일반적으로 사법 또는 독립 행정 당국의 사전 승인이 필요함).

EU AI 법은 범용 AI 모델(GPAI)에 대한 별도의 규칙을 제정합니다. GPAI 모델 제공업체에는 다음과 같은 의무가 있습니다.

• EU 저작권법을 존중하기 위한 정책을 수립합니다.
  
  
• 학습 데이터 세트에 대한 자세한 요약을 작성하고 공개적으로 사용할 수 있습니다.

GPAI 모델이 시스템적 위험을 초래하는 것으로 분류되는 경우, 제공자는 추가적인 의무를 지게 됩니다. 체계적 위험이란 GPAI 모델의 영향력이 큰 모델에 한정된 위험으로, 또는 그 범위가 공중 위생, 안전, 치안, 기본권 또는 사회 전체에 실제적 또는 합리적으로 예측 가능한 부정적 영향을 미치며 가치 사슬 전반에 걸쳐 대규모로 확산될 수 있기 때문에 EU 시장에 중대한 영향을 미치는 것을 말합니다. 이 법은 시스템적 위험을 식별하는 중요한 기준 중 하나로 훈련 리소스를 사용합니다. 모델을 훈련하는 데 사용되는 누적 컴퓨팅 성능이 10^25개의 부동 소수점 연산(FLOP)을 초과하면 영향력이 큰 기능으로 간주되어 시스템적 위험이 발생할 가능성이 있습니다. 유럽연합 위원회는 모델을 시스템적 위험을 초래하는 것으로 분류할 수도 있습니다. 

무료 오픈 소스 모델을 포함하여 시스템적 위험을 초래하는 GPAI 모델 제공업체는 다음과 같은 몇 가지 추가 의무를 충족해야 합니다.

• 심각한 인시던트의 문서화 및 보고는 EU AI 사무소 및 관련 국가 규제 기관에 이뤄집니다.
  
  
• 적절한 사이버 보안을 구현하여 모델과 그 물리적 인프라를 보호합니다.

금지된 AI 관행을 준수하지 않을 경우 조직은 최대 35,000,000 유로 또는 전 세계 연간 매출의 7% 중 더 높은 금액의 벌금을 부과받을 수 있습니다.

조직은 고위험 AI 시스템에 대한 요구 사항을 준수하지 않는 것을 포함하여 대부분의 다른 위반에 대해 최대 15,000,000 유로 또는 전 세계 연간 매출액의 3% 중 더 높은 금액의 벌금을 물게 될 수 있습니다.

조직이 당국에 부정확하거나 불완전하거나 오해의 소지가 있는 정보를 제공하는 경우 최대 7,500,000유로 또는 전 세계 연간 매출의 1% 중 더 높은 금액의 벌금을 물게 될 수 있습니다.

특히 EU AI 법은 스타트업과 기타 중소기업에 대한 벌금에 대해 서로 다른 규칙을 가지고 있습니다. 이러한 비즈니스에게 적용되는 벌금은 앞서 명시된 두 가능한 금액 중 더 낮은 금액입니다.

이 법은 2024년 8월 1일부터 시행되며, 법의 여러 조항이 단계적으로 시행될 예정입니다. 가장 주목할 만한 날짜는 다음과 같습니다.

• 2025년 2월 2일부터 금지된 AI 행위 금지 조항이 시행됩니다.
  
  
• 2025년 8월 2일부터 범용 AI에 대한 규칙이 새로운 GPAI 모델에 적용됩니다. 2025년 8월 2일 이전에 시장에 출시된 GPAI 모델 제공자는 2027년 8월 2일까지 이 규정을 준수해야 합니다.
  
  
• 2026년 8월 2일부터 고위험 AI 시스템에 대한 규칙이 시행됩니다.
  
  
• 2027년 8월 2일부터 특정 EU 법률에 따라 규제되는 제품 또는 제품의 안전 구성 요소인 AI 시스템에 대한 규칙이 적용됩니다.