[대전인터넷신문=최대열기자] AI가 의료·금융·교육·행정 등 우리 사회 전반으로 빠르게 확산되는 가운데 우리나라 최초의 인공지능(AI) 종합법인 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)」이 21일부터 시행됐다. AI 산업 육성과 국민의 생명·안전, 기본권 보호를 함께 담은 첫 종합 법률이 본격 시행되면서 국내 AI 정책도 새로운 전환점을 맞게 됐다.
AI 기본법이 2026년 7월 21일부터 시행되면서 생성형 AI 표시 의무와 고영향 AI 안전관리 체계가 본격 적용된다. 사진은 AI 기본법 시행을 상징적으로 표현한 이미지. (그래픽·이미지=대전인터넷신문 AI 제작)
일반 국민의 AI 이용 방식이 당장 크게 달라지는 것은 아니다. 챗GPT 등 생성형 AI 서비스는 기존처럼 사용할 수 있다. 다만 앞으로는 AI가 제작한 이미지와 영상, 음성 등 생성형 콘텐츠에 대한 표시가 확대되고, 의료·금융·채용·교육 등 국민의 권리와 안전에 직접 영향을 미치는 분야에서는 AI 안전관리 기준이 한층 강화된다.
생성형 AI는 이미 일상생활과 산업 현장 곳곳에서 활용되고 있다. 학생들은 학습자료를 만들고, 직장인은 문서 작성과 번역, 회의록 정리에 이용한다. 의료와 금융, 제조업, 공공행정에서도 AI 활용이 빠르게 늘어나면서 기술 발전에 걸맞은 제도적 기준 마련의 필요성이 꾸준히 제기돼 왔다.
반면 딥페이크를 이용한 범죄와 허위정보 확산, 개인정보 침해, 알고리즘 편향, AI 오작동에 따른 피해 우려도 커졌다. AI 기본법은 AI 산업을 육성하는 동시에 국민이 신뢰할 수 있는 AI 이용 환경을 조성하기 위해 제정됐으며, 이날부터 본격 시행에 들어갔다.
AI 기본법 및 관련 시행령에 따르면 이번 제도의 핵심은 '고영향 AI'에 대한 안전관리 의무를 법제화한 데 있다. 고영향 AI는 국민의 생명과 안전, 건강 또는 기본권에 중대한 영향을 미칠 수 있는 AI를 말한다. 의료 진단과 금융 신용평가, 채용 심사, 교육 평가, 공공행정 등 국민의 권리와 직결되는 분야가 대표적인 사례다.
고영향 AI 사업자는 위험관리 체계를 구축하고 안전성과 신뢰성을 확보해야 한다. AI가 미칠 영향을 사전에 점검하고 위험요인을 지속적으로 관리해야 하며, 이용자가 AI 활용 사실을 알 수 있도록 필요한 정보를 제공해야 한다.
생성형 AI가 제작한 이미지와 영상, 음성 등에는 이용자가 AI 생성물임을 인식할 수 있도록 표시해야 한다. 이는 딥페이크 범죄와 허위정보 확산을 예방하고 AI 콘텐츠에 대한 신뢰를 높이기 위한 조치다.
같은 법에 따르면 법에서 정한 의무를 이행하지 않을 경우 정부의 사실조사와 시정명령을 거쳐 최대 3천만 원의 과태료가 부과될 수 있다. 다만 정부는 제도 시행 초기 현장의 혼선을 줄이기 위해 최소 1년 이상의 계도기간을 운영한다. 계도기간에는 과태료 부과와 사실조사를 원칙적으로 유예하고 기업들이 새로운 제도에 적응할 수 있도록 상담과 안내를 지원할 계획이다.
다만 계도기간은 처벌을 일정 기간 유예하는 조치일 뿐 법적 의무까지 유예되는 것은 아니다. 생성형 AI 표시 의무와 고영향 AI 관련 의무는 법 시행과 동시에 적용되며, 사업자는 계도기간 동안 관련 관리체계를 갖춰야 한다.
이번 시행으로 AI 서비스를 개발하거나 제공하는 기업과 기관의 책임도 한층 커졌다. AI 사업자는 위험관리 체계와 내부 관리기준을 마련하고 고영향 AI의 안전성과 신뢰성을 지속적으로 관리해야 한다. 생성형 AI를 제공하는 사업자는 관련 표시 의무도 이행해야 한다.
특히 AI 서비스를 개발·운영하는 기업들은 자사 서비스가 고영향 AI에 해당하는지 여부를 검토하고 내부 관리체계를 정비해야 한다. 스타트업은 전담 인력 확보와 위험관리 체계 구축, 관련 문서 작성 등에 부담이 적지 않을 것이라는 전망도 나온다. 산업계에서는 생성형 AI 표시 기준과 고영향 AI 적용 범위를 보다 명확히 제시하는 후속 가이드라인 마련이 필요하다는 의견도 제기되고 있다.
세계 주요국도 AI 규범 마련에 속도를 내고 있다. 미국과 일본은 산업 육성과 자율규제를 중심으로 정책을 추진하고 있으며, 유럽연합(EU)은 AI 시스템의 위험 수준에 따라 의무를 차등 적용하는 AI법(AI Act)을 시행하고 있다. 우리나라도 AI 기본법 시행을 계기로 AI 산업 경쟁력과 국민 보호를 함께 고려하는 법·제도 체계를 본격적으로 구축하게 됐다.
AI 기본법은 우리나라가 AI 산업 육성과 국민 보호를 함께 제도화한 첫 종합 법률이라는 점에서 의미가 크다. 앞으로 계도기간 동안 마련될 세부 기준과 현장 적용 과정이 제도의 실효성을 좌우할 것으로 전망된다.
<무단전재 및 재배포금지> 최대열 기자 daeyeol6364@hanmail.net