AI 기본법, 2026년 시행
- 국가 AI 정책 거버넌스 확립, AI 산업 지원, 안전·신뢰 기반 조성을 위한 법령 제정
- 인간의 삶과 안전, 기본권에 중대한 영향을 미칠 수 있는 ‘고영향 AI’를 개발·운영하는 사업자는 사전 검토, 통보, 안전 및 신뢰성 조치, 영향 평가 등의 의무 이행
- 고영향, 고성능, 생성형 AI에 대해 ‘투명성’ 확보, ‘안전성’ 확보 의무 이행
AI 기본법 관련 기업의 도전 과제
- 단순 규제 대응을 넘어 비즈니스 전략·기획, 기술 개발, 마케팅, IT 등 AI 기술을 활용하는 다양한 부서, 기업 운영 전반에 걸친 구조적 변화가 요구됨
- AI 생애주기 전반에 걸친 위험 관리 체계 구축의 복잡성 : AI 생애주기별 다양한 리스크 식별 및 적절한 조치, 지속적 모니터링 체계 마련의 어려움, 기존 IT 리스크 관리 체계와 연계 고려 필요
- 데이터 및 모델 관리 체계 부재 : 데이터의 품질, 출처, 메타 정보 관리, 모델의 성능 평가 및 개선 절차 마련 요구
- 이용자 보호 방안 수립의 실효성 확보 필요 : 형식적 운영이 아닌, 이용자에게 AI 활용에 대한 사전 고지, 도출 결과 설명, 손실 복구 등 실질적인 이용자 보호 방안 수립
AI 기본법 대응을 위한 거버넌스 도입
- AI 기술을 전략적으로 활용하고 통제할 수 있게 하는 핵심 역량으로 AI 기술에 대한 전략, 운영, 컴플라이언스, 리스크 관리가 통합된 전사적 관리 프레임워크
- AI 관리 역량의 상향 평준화, AI 기술을 안전하고 책임 있게 활용함으로써 고객의 신뢰 확보, 규제에 안정적으로 대응, 장기적으로는 기업이 AI를 기반으로 지속가능한 성장 동력을 확보하는데 기여
AI 거버넌스 프레임워크
PwC 컨설팅의
AI 기본법 대응 로드맵
AI 기본법에 대한 Readiness 진단 및 대응 전략 수립
- 자사 AI 대상 고영향, 고성능, 생성형 AI 여부 검토, 법적 의무 이행 수준 점검
- 거버넌스 추진 목적 및 방향성 정의, 관리 기준 설정
맞춤형 AI 거버넌스 체계 수립
- AI 윤리 원칙 수립 및 기업 고유의 업무 기준과 절차를 고려한 내부 규정 정비
- 위험, 운영, 변화 관리 방안 마련, 거버넌스 조직 구성 및 역할 정의, 업무 절차 마련
효율적 AI 거버넌스 실행을 위한 IT 시스템 구축
- 위험 관리 및 이력 관리 기능 구현, 고객에 대한 민원 대응
- 생성형 AI 사전 고지, AI 결과 설명 등 법률상 요구되는 기능 구현