생활지원사 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까? > 공지사항

생활지원사 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까?

페이지 정보

작성자 황준영
댓글 0건 조회 2회 작성일 25-09-21 04:48

본문

생활지원사 정부가 공개한 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)의 하위법령을 두고 AI 산업 진흥에만 초점을 맞춰 규제를 지나치게 풀었다는 지적이 나오고 있다. 인간의 기본권에 중대한 영향을 미치는 ‘고영향 AI’의 범주를 소극적으로 규정한 데다 ‘과태료 부과’ 장기 유예까지 예고해 “처벌 없는 법이 될 수 있다”는 우려가 제기된다.
과학기술정보통신부는 내년 1월 시행되는 AI 기본법의 시행령과 고시 2종, 가이드라인 5종을 17일 기자간담회를 통해 공개했다. 관련 하위법령 초안이 모두 공개된 것은 지난해 12월 AI 기본법이 국회를 통과한 지 약 9개월 만이다.
그간 업계에선 ‘고영향 AI’의 규정이 초미의 관심사였다. 사업자에게 안전성·신뢰성 확보 책무가 부여되고 최대 3000만원의 과태료 부과 조항도 있기 때문이다. AI 기본법은 ‘고영향 AI’를 에너지, 먹는 물, 보건의료 등 10개 영역에서 활용되는 AI 가운데 인간의 기본권에 “중대한 영향”을 미치거나 위험 초래 우려가 있는 경우 등으로 규정했다. 그러면서 “그밖”의 영역은 시행령으로 정하도록 했다. ‘중대한 영향’ 표현이 모호하고 법에서 정한 영역이 제한적이라 하위법령이 추가 기준을 제시할 것으로 여겨져왔다.
뚜껑을 열어보니, 시행령·가이드라인은 고영향 AI 범주를 최소한으로 규정했다. 시행령에선 고영향 AI 영역이 추가·보완되지 않았고 가이드라인은 법에 이미 나열된 영역의 구체적 적용 사례를 제시한 정도였다. 이를테면 운전자의 개입 없이 AI 스스로 판단해 도로를 주행하는 레벨4 이상 자율주행시스템은 고영향 AI에 해당한다.
한국보다 앞서 AI 법을 제정한 유럽연합(EU)은 관련 규제가 촘촘하다. 예를 들어 개인 또는 집단의 행동이나 성향을 점수화해 차별에 활용(소셜 스코어링)하는 AI는 아예 ‘수용 불가’로 규정해 금지한다. 얼굴 표정, 음성, 생체 신호 등을 통해 인간 감정 상태를 판별하는 AI는 ‘고위험 AI’로 분류한다. 금지되는 것은 아니지만 위험관리시스템과 인간 감독 체계 구축, 기본권 영향 평가, 이용자 안내 등 다양한 의무가 부과된다. 한국의 AI 기본법과 시행령으로는 EU에서 금지하거나 강력 제재하는 AI를 규제하기 힘들 가능성이 있다.
오병일 진보네트워크센터 대표는 “제품 안전, 사법, 선거에 영향을 주거나 인간의 취약점을 이용하는 AI에 대해선 EU처럼 금지까진 못하더라도 고영향 AI로 규정해 최소한의 규제를 해야 하는데 하위법령에 그런 노력이 보이지 않는다”고 지적했다.
정부가 AI 기본법의 ‘과태료 부과’ 유예를 거듭 예고하고 있는 것도 비판 대상이다. AI 기본법에 따르면 고영향 AI 사업자는 위험관리 방안·이용자보호 방안 수립 및 사람 관리·감독, 관련 문서의 작성과 보관 등의 의무를 진다. 이를 어길 경우 사실조사를 거쳐 시정명령을 받을 수 있고 명령을 이행하지 않으면 최대 3000만원의 과태료를 받게 된다.
이날 간담회에서 김경만 과기정통부 인공지능기반정책관은 유예기간 설정에 무게를 두면서 그 기간에 대해선 “기업, 시민사회와 논의해 설정해 나갈 것”이라고 설명했다. 앞서 지난 12일 배경훈 과기정통부 장관도 “최소 1년 이상”의 유예기간을 언급한 바 있다. 이에 대해 오 대표는 “법에 따라 책무를 이행하지 않아도 가만히 두겠다는 것으로, 처벌규정 없는 법이 될 우려가 있다”고 말했다.
정부는 이날 “진흥에 중점을 둔 최소한의 규제” 기조를 강조했다. “글로벌 3강 목표로 하는 AI 분야에서 진흥이 우선”이라는 것이다.
정부가 ‘느슨한 규제’를 천명한 만큼 업계에선 긍정적인 반응이 나왔다. 국내 AI 스타트업 관계자는 “투명성(AI 표시) 의무와 관련한 일부 면제조항과 과태료 계도기간 설정 등이 긍정적”이라고 평가했다. 또 다른 AI 스타트업 관계자 역시 “규제와 관련한 불확실성이 걷혔다는 점에서 바람직하다”며 “AI 산업이 초기 단계에 있는 만큼 시행 과정도 매끄럽기를 기대한다”고 말했다.
반면 고위험 AI 안전장치를 강력하게 요구해온 시민단체 등의 반발이 이어질 가능성이 있다. 이재흥 시민기술네트워크 상임이사는 “국가인공지능전략위원회에 산업계뿐 아니라 시민사회 인사들도 다수 참여하게 된 만큼 우려 사항에 대해 숙의가 이뤄질 것으로 본다”고 말했다.
무단 소액결제 사건이 발생한 KT에서 서버 침해 정황까지 확인되면서 개인정보 유출을 둘러싼 가입자들의 불안이 커지고 있다. 어떤 정보를 담고 있는 서버인지, 실제 데이터 유출이 발생했는지, 소액결제 사건과 연관이 있는지 등은 아직 확인되지 않았다. KT가 침해 사실을 인지하고 사흘 뒤에야 당국에 신고한 것으로 나타나 ‘늑장 대응’이라는 비판도 나온다.
19일 KT는 전날 오후 11시57분 한국인터넷진흥원(KISA)에 서버 침해 정황을 신고했다고 밝혔다. 회사는 서버 침해 흔적 4건과 의심 정황 2건을 신고했다.
KT는 지난 4월 SK텔레콤 해킹 사고 발생 이후 정확한 실태 점검을 위해 외부 보안전문 기업에 의뢰해 4개월간 전사 서버 조사를 진행했다. 조사 결과를 담은 보고서를 통해 침해 정황을 인지했다.
이날 국회 과학기술정보방송통신위 소속 최수진 국민의힘 의원이 확보한 KT의 KISA 침해사고 신고 내용에 따르면, KT는 서버 침해 인지 시점을 9월15일 오후 2시로 명시했다. 신고 시점은 인지 시점으로부터 3일이 지난 18일 밤 11시57분이었다. 정보통신망법은 기업이 사이버 침해사고를 인지한 후 24시간 이내에 당국에 신고할 것을 의무화하고 있다.
KT는 신고할 때 사고 내용을 ‘제3자 보안 점검 활동에 따른 침해 정황 확인’이라고 밝혔다. 사고 발생 시간에 대해선 ‘확인 불가’로 기재했다. 4건의 침해 흔적으로는 ‘윈도우 서버 침투 후 측면 이동 시도’ ‘Smominru 봇내 감염’ ‘VBScript 기반 원격코드 실행 및 민감정보 탈취’ ‘Metasploit을 통한 SMB 인증 시도 및 측면 이동 성공’을 보고했다. 의심 정황 2건은 ‘리눅스 sync 계정 조작 및 SSH 퍼블릭키 생성’과 ‘Rsupport 서버 의심 계정 생성 및 비밀키 유출’이다.
KT는 전날 오후 무단 소액결제 사건 2차 브리핑을 진행했지만 서버 침해를 언급하지 않았다. 회사는 소액결제 피해 대응과 서버 점검이 별도로 진행됐기 때문에 소액결제 건을 대응하는 쪽에선 해당 내용을 인지하지 못했다고 설명했다. 구재형 KT 네트워크기술본부장은 이날 과학기술정보통신부·금융위원회 합동 브리핑에서 “상호 간 연결성이 없다보니 어제 저녁에 해당 내용을 알게 됐다”며 “브리핑 전에 이 사실을 아는 상황은 아니었다”고 말했다.
정부는 KT 가입자들의 무단 소액결제 피해를 조사하는 민관합동조사단을 통해 서버 침해 건도 들여다볼 계획이다. KT는 “향후 정부 조사에 적극 협조해 조속한 시일 내에 침해 서버를 확정하고, 구체적 침해 내용과 원인이 규명될 수 있도록 최선을 다하겠다”고 말했다.
KT, 롯데카드 등 일상생활과 밀접한 분야에서 잇따라 침해 사고가 발생하면서 정부 관리·감독 체계의 실효성에도 의문이 생긴다.
과기정통부는 이날 현행 보안 체계를 원점에서 재검토해 근본 대책을 마련하겠다고 밝혔다. 기업이 침해 사실을 고의로 늦게 신고하거나 신고하지 않을 경우 과태료 처분을 강화하고, 정부가 해킹 정황을 확보하면 신고 여부와 관계없이 조사에 착수할 수 있도록 제도를 손질할 방침이다. 기업의 보안 투자 확대를 유도할 방안도 마련하겠다고 했다.
금융위는 롯데카드 해킹 사태를 계기로 금융회사 전산시스템과 정보보호 체계를 긴급 점검하고, 금융감독원·금융보안원을 통해 지도·감독을 강화한다. 재발 방지를 위해 징벌적 과징금 도입, 최고정보보호책임자(CISO) 권한 강화, 소비자 대상 공시 확대 등 제도 개선도 추진한다.
현재 국가안보실을 중심으로 과기정통부와 금융위, 국가정보원, 개인정보보호위원회 등 관련 부서들이 보안 강화 대책을 논의하고 있다. 류제명 과기정통부 2차관은 “종합 정부 대책은 국가안보실 중심으로 한 관계부처 회의를 통해 종합대책 또는 분야별 대책을 강구하고 있다”고 말했다.
국회 과방위는 오는 24일 잇따른 통신사·금융사 해킹 사고와 관련한 청문회를 열기로 했다. 과방위는 증인으로 김영섭 KT 대표이사, 서창석 KT 네트워크부문장(부사장), 황태선 KT 정보보안 상무(CISO), 김병주 MBK파트너스 회장, 조좌진 롯데카드 대표이사, 최용혁 롯데카드 정보보호실장을 채택했다.
한·중 외교장관이 17일 중국 베이징에서 만나 양국 협력 확대와 시진핑 중국 국가주석의 다음달 경주 아시아·태평양경제협력체(APEC) 정상회의 참석을 논의했다. 왕이 중국공산당 중앙정치국 위원 겸 외교부장은 “전략적 협력 파트너 관계를 더 높은 수준으로 발전시켜야 한다”고 했고 조현 외교부 장관도 “한·중 관계의 성숙한 발전을 기대한다”고 밝혔다. 조 장관은 시 주석의 10월 방한 가능성이 크다고 밝혔다.
조 장관과 왕 부장은 이날 오후 베이징 댜오위타이 국빈관에서 만나 3시간 가량 회담과 만찬을 했다. 이재명 정부 출범 이후 양국 외교장관 회담은 처음이다.
왕 부장은 모두발언에서 최근 중국 국적의 노인을 구하다 숨진 한국 이재석 경사을 언급하면서 “희생에 애도를 표하고 유가족에 대한 진심어린 위로를 전하는 것을 부탁드린다”고 말했다. 왕 부장은 시 주석이 다자주의를 기반으로 한 글로벌 거버넌스 이니셔티브를 제시한 것을 언급하며 “한국과 함께 제2차 세계대전 성과를 지키고, 전후 국제시스템을 추진해 국제 질서를 더 공정한 방향으로 만들어나가자”고 말했다.
조 장관은 “양국 간 서로 국민 마음을 움직이는 여러 감동적인 사건들이 있었다”며 “국민들 간 좋은 감정을 계속 만들어나가면서 한·중관계가 더 성숙하고 깊이 있게 발전하기를 바란다”고 화답했다.
조 장관은 “APEC이 (올해) 한국에 이어 내년 중국에서 개최되는 것은 뜻깊은 일”이라며 “이를 계기로 한·중관계가 발전할 수 있는 계기가 될 수 있길 바란다”고 말했다. 그러면서 “시 주석이 경주 APEC에 오시고 한국 방문을 하심으로써 양국 관계 발전을 이뤄나가길 바란다”고 말했다.
조 장관은 왕 부장과 회담과 만찬 직후 주중한국대사관에서 기자간담회를 열고 “한·중 간의 협력”을 논의했다고 밝혔다. 그는 이어 “(한반도)비핵화를 해나가기 위한 중국 측의 건설적인 역할을 당부했다”면서 “추가적으로 협상하고 있는 한·중 자유무역협정(FTA)”도 논의했다고 밝혔다.
조 장관은 또 “APEC 정상회의 관련 시진핑 주석이 원칙적으로 참석하겠다는 의사를 확실히 느꼈다”며 “이에 따라 왕이 부장도 방한하기로 하는 방안을 이야기 나눴다”고 말했다. 시 주석 방한 전 양국간 사전 조율 성격을 띤 왕 부장의 방한 일정에 관해서는 “10월 중”이라고 덧붙였다.
조 장관은 북핵을 포함한 북한 문제와 관련해 중국 측에 “‘한반도에서 평화와 안정을 도모해달라’고 말했다”고 밝혔다. 앞서 지난 4일 김정은 북한 국무위원장과 시 주석의 6년 만의 만남에서 한반도 비핵화가 언급되지 않았다. 조 장관은 이에 대해 “‘한반도 비핵화’ 언급이 없었다지만 중국의 대한반도 정책은 변함이 없다는 정도로 얘기를 나눴다”고 말했다. 조 장관은 또 김 위원장이 중국 측에 설명한 ‘적대적 두 국가론’에 대한 설명을 전해 들었다고 말했다.
조 장관은 ‘한·미동맹 현대화에 대해 중국측과 논의했느냐’는 질문에 “전혀 없었다”면서도 “그러나 포괄적으로 설명하는 과정에서 중국측이 우리 정부에 대만 문제에 대한 입장에 대한 불만을 이야기 했다”고 말했다. 조 장관은 “대만 문제에 대한 현상 유지를 지지한다. 더 나아가 동북아에서 평화유지를 위한 노력을 해야 한다고 말했고, 이에 중국 측도 원칙적으로 공감해줬다”고 덧붙였다.
한·중 외교장관 회담은 전임 조태열 장관이 지난 3월 일본 도쿄에서 왕 부장과 만난 지 6개월 만에 열렸다. 관례상 이번에는 중국 측이 방한할 차례지만, 중국과의 관계 개선이 중요하다는 판단 아래 조 장관이 먼저 방중한 것으로 보인다.

이전글무명전설투표 미 “일 자동차 관세 15% 인하, 16일부터 시행”···한국은 아직 25% 25.09.21
다음글수원법률사무소 트럼프·시진핑, 한국시간 19일 밤 통화…무슨 이야기 나눌까 25.09.21

댓글목록

등록된 댓글이 없습니다.