폰테크당일 전략만 있고 인간은 없다···‘AI 3대 강국’에 빠진 것들 > 공지사항

폰테크당일 전략만 있고 인간은 없다···‘AI 3대 강국’에 빠진 것들

페이지 정보

작성자 황준영
댓글 0건 조회 0회 작성일 25-09-20 15:20

본문

폰테크당일 [주간경향] 지난 9월 8일 이재명 대통령은 국가인공지능전략위원회(이하 전략위원회) 출범식에서 “국가 경쟁력과 미래 변혁을 좌우하는 핵심 동력으로서 인공지능(AI) 같은 첨단 기술은 국력이자 경제력이고, 곧 안보 영역이기도 하다”며 “AI 3대 강국의 비전은 단지 희망 섞인 구호만이 아니며, 우리 대한민국의 미래를 결정할 핵심 생존전략”이라고 말했다.
생존, 전략, 국력, 성장, 안보, 경쟁(력)… 그간 이재명 정부의 AI 관련 발표에서 거의 빠지지 않고 등장한 단어들이다.
‘AI 3대 강국’은 이 대통령의 대선 공약이자 이 정부의 핵심 과제다. 그는 지난 6월 4일 취임사에서도 급격한 변화의 시대에 “정부가 나서 다가올 미래를 준비하고 지원하며 투자할 것”이라며 “AI, 반도체 등 첨단 기술 산업에 대한 대대적 투자와 지원을 통해 미래를 주도하는 산업 강국으로 도약할 것”이라고 강조했다.
이 대통령은 취임 직후 하정우 네이버클라우드 AI 혁신센터장을 신설 AI 미래기획수석비서관으로 임명했고, 과학기술정보통신부 장관을 부총리급으로 격상했다. 내년도 예산안에서 AI 관련 R&D 예산은 올해 대비 106.1%가 증가한 2조3000억원이 편성됐다. 지난 8월 22일 이재명 정부의 첫 경제정책 방향을 공개한 ‘새 정부 경제성장전략’에서는 30대 프로젝트 가운데 절반인 15개의 프로젝트가 ‘AI 대전환’에 집중됐다.
지난해 12월 국회에서 통과된 인공지능법은 연내 시행령 보완을 거쳐 내년 1월 시행될 예정이다. 하지만 여전히 주된 내용의 초점이 ‘진흥’에만 맞춰져 있다는 지적이 제기된다. 과태료 문제와 관련해서도 3년 유예론이 거론되는 등 시작 전부터 실효성에 대한 의문이 제기되고 있다.
“첨단 동시대 기술은 시장기술의 범위를 넘어 사회적 기술이 됩니다. 단순히 기술 시장 내에서가 아니라 사회적 인프라, 구조, 관계 등에 폭넓게 영향을 미치게 되는 거죠. 정책 단위에서 사회적 효과에 대한 내용을 충분히 고민하지 않으면 파급효과를 감당하기 어렵습니다.”
이광석 한국과학기술대학교 IT정책전문대학원 교수의 말이다. AI는 이미 시장 기술의 범위를 넘어 사회적 기술이 되고 있다.
지난해 12월에 통과된 인공지능법에서 눈에 띄는 부분은 권리주체로서의 ‘영향받는 자(제2조·제3조)’라는 표현이다. 이는 2024년 3월 제정된 유럽연합(EU) 인공지능법에도 등장하는 용어로, EU는 인공지능법에서 좁은 의미에서의 ‘피해자’가 아닌 ‘영향을 받는 사람’으로 의미를 넓혀 이들에 대한 기업의 설명 의무, 기본권 존중 필요성을 명시하고 있다.
이는 AI로 인한 피해가 직접적으로 보이지 않을 수 있지만 광범위하게 영향을 미친다는 의미이기도 하다. 2021년 미첼 바첼레트 유엔인권최고대표는 “AI의 개발, 배치, 사용에서 영향을 받는 사람이나 집단의 참여 보장 장치가 필요하다”고 강조한 바 있다.
실제로 AI는 비단 산업적 측면뿐 아니라 오늘날 수많은 분야에서 ‘부수적 피해’를 낳고 있다. 대표적으로 플랫폼 노동 및 실업, 업무강도 강화 등의 문제다. 특히 국내에서 AI 도입이 빠르게 이뤄지고 있는 콜센터 업계에는 이러한 노동 처우 악화 등의 문제가 두드러진다.
보험회사 7년차 콜센터 노동자 김주현씨(공공운수노조 든든한 콜센터지부 지부장)는 AI 도입 이후 업무 강도가 훨씬 강해졌지만 임금은 줄어들었다고 말한다. 김씨는 “사건 등록 과정에서 모바일 챗봇 등이 도입되다 보니, 이를 알아서 잘할 수 있는 젊은 층에 비해 콜센터에는 자세한 안내가 필요한 노인층의 유입률이 크게 올랐다”며 “콜수가 줄면서 예전에는 별도의 후처리 업무 담당팀이 하던 업무까지 콜센터에 몰려 업무의 복잡성과 강도는 더 올라갔다” 고 말했다.
반면 절대적인 콜수가 줄어들고 특근 등은 사라지면서 임금이 줄었다. “AI로 인해 단위 시간당 콜수는 적어졌지만 여전히 실적은 콜수만을 기준으로 하고 있기 때문에 실질 임금은 줄어들었습니다.” 실제로 2023년 유럽중앙은행(ECB)이 발표한 보고서에 따르면 AI는 실업률보다 노동자들의 임금 수준 등에 직접적인 영향을 미치는 것으로 나타났다.
지난 7월 5일 열린 충청타운홀 미팅에서 자신을 20년차 콜센터 노동자라고 소개한 한 여성은 이 대통령에게 “기술개발에 치중한 나머지 그 자리에서 일하고 있는 사람들을 배제한다면 계속해서 일자리를 잃게 될 것”이라며 정부가 AI 진흥뿐 아니라 노동자들의 처우를 함께 정책적으로 고려해달라고 호소했다.
노동자들은 AI 도입으로 노동환경이나 처우 등이 바뀔 때 의견을 내기 어렵다. AI를 도입할 때 영향을 받는 당사자들과 노동전문가의 의견도 고려돼야 하는 이유다. 그럼에도 지난 9월 8일 정부가 발표한 전략위원회 가운데는 시민사회단체나 기타 분야 관계자는 거의 포함되지 않았다. 이에 참여연대 등 시민단체는 지난 9월 9일 논평을 내고 “(AI는) 개발과 활용 과정에서 인권 침해, 차별, 개인정보 유출, 노동 구조 변화, 환경 부담 등 다양한 위험을 발생시킬 수 있다”며 “민주적 원칙을 준수하려면 지금과 같은 산업계 중심 구성에서 벗어나 다양한 사회 집단을 포괄하는 AI 거버넌스 구조로 개편해야 한다”고 주장했다.
꾸준히 산업 진흥과 자원 채굴의 차원에서만 강조되고 있는 학습데이터 문제 역시, 개인의 정보 결정권과 저작권 차원에서 신중하게 접근해야 한다는 목소리가 존재해왔다.
2022년 4월 개인정보보호위원회가 발표한 내용에 따르면 법무부·과학기술정보통신부 등이 2019년부터 추진한 ‘인공지능 식별추적시스템 개발사업’을 위해 출입국심사 과정에서 수집·보유한 여권번호, 국적, 생년, 성별 등 내·외국인 개인정보와 안면데이터 약 1억7000만건을 당사자 동의 없이 민간 기업에 제공한 것이 알려져 논란이 된 바 있다. 시민단체 등은 개인정보 자기결정권 침해 등에 대한 헌법소원을 제기했다.
헌법소원에 참여한 장여경 정보인권연구소 상임이사는 “헌법소원에 앞서 당시 법무부에 개인정보보호법상 정보 열람과 분쟁 조정신청까지 했지만, 이름 일부가 가명으로 처리돼 있다거나 학습 데이터가 유효기간 만료로 파기됐다는 이유 등으로 기각됐다”며 “현재 다양한 분야에서 AI 개발을 위해 ‘학습 데이터’를 필요로 하고 있는데, 여전히 그 정보의 보유당사자들은 침해 방지를 위해 행동은커녕 침해 여부조차 알 수 없는 상황”이라고 했다.
지난해 12월 16일 인공지능법 국회 통과에 앞서 한국기자협회 등 언론단체 5곳은 AI 사업자의 학습데이터 공개 의무화를 촉구하며 “(학습데이터 공개를 의무화하지 않을 경우) 저작권자는 자신의 저작물이 어디에 어떻게 사용됐는지 알권리를 잃게 될 뿐 아니라 정당한 대가 요구도 어려워진다”고 주장했다. 문화체육관광부도 지난해 ‘생성형 AI 학습 데이터 공개 의무’ 규제를 신설해달라는 의견을 제시했지만 받아들여지지 않았다.
일상적으로 이용자들이 자신의 민감 정보가 어떻게 취합되고 이용되는지 명확하게 알고 정보에 대한 권리를 주장하기도 쉽지 않다. 장 이사는 “AI가 전반적으로 어떻게 학습했는지를 알아야 구제할 수 있는데 당사자를 포함해 기업 외부인이 알기는 어려운 구조”라며 “EU 인공지능법에는 구체적으로 학습용 데이터를 규정하고 있고, 최근 미국 캘리포니아주 등에서 학습데이터를 공개하도록 하는 법안이 통과됐지만, 우리나라 인공지능법의 경우 최근 발표된 시행령 방향에도 명확히 규정이 안 돼 있다”고 우려했다.
이처럼 ‘영향받는 자’의 범위는 넓지만, 내년 시행을 앞둔 국내법은 위반 시 매출액의 3~7% 수준을 부과하도록 명시한 EU의 과태료에 비해서도 과태료 액수가 지나치게 낮고(3000만원 이하), 그마저도 3년 유예 가능성이 높아 실효성 문제가 대두된다. 고영향 AI에 대한 인권 영향평가 역시 의무가 아니라 “노력하여야 한다(제35조)”라는 구절만 법 조항에 들어 있다.
인공지능법상의 ‘고영향’이라는 단어가 AI 위험성에 대한 경각심을 축소할 수 있다는 지적도 꾸준히 제기돼왔다. EU 인공지능법과 국내 인공지능법에서 크게 두드러지는 차이 중 하나는 ‘고위험’ 대신 ‘고영향’이라는 단어가 사용되고, 가능한 위험을 세분화하지 않는다는 점이다. 사용 불가능한 AI에 대한 금지 규정도 없다. EU 인공지능법의 경우 AI 활용과 관련해 허용할 수 없는 위험부터 고위험, 제한된 위험, 저위험까지 총 4단계로 구분하고 각각의 경우에 따라 금지 혹은 차등 된 규제를 부과하지만, 국내법은 이런 구분을 두지 않았다.
유승익 한동대 법학전문대학원 교수는 “위험도를 단계별로 나누고 특히 위험도가 높은 활용의 경우엔 원천 금지하는 것이 필요한데, 현재 국내 인공지능법에서는 이런 부분이 존재하지 않는다”며 “AI 활용의 경우 초기 개발, 디자인 단계부터 기본값에 의한 보호(PBD·Protection by Default)를 강조하는 것이 중요하다”고 말했다.
“경부고속도로가 대한민국 산업화 성공을 이끌었던 것처럼 AI 데이터 센터 건설을 시작으로 과감한 세제 혜택, 규제혁신을 통해 민간의 투자를 촉진하고 대한민국 AI 대전환의 성공을 이끌 AI 시대의 고속도로를 구축하겠다.” 이재명 대통령은 지난 6월 20일 울산 데이터센터 출범식에서 이렇게 말했다.
이광석 교수는 이런 상황에 대해 모종의 기시감이 든다고 말한다. 그는 “기술 성장과 그로 인한 부국강병만이 살길이라는 정서는 한국에서 꾸준히 이어져 오던 정서”라며, ‘소버린 AI’에 대해 “국내에서는 이것이 국내 토종 기업에 대한 부양론을 강화하는 일종의 이데올로기가 되고 있다”고 말했다.
AI와 관련해 일련의 정책적 방향성은 일관되게 반규제-진흥을 가리키고 있다. ‘국가의 명운이 걸린’ 사항이기 때문에 이에 대한 일련의 규제는 걷어내야 한다는 것이다. 과연 인권을 위한 규제와 진흥은 함께 갈 수 없는 것일까?
유 교수는 “세계적으로 인권 요소를 평가에 많이 반영하는 추세로, 단순히 진흥 차원에서만 봐도 이런 부분을 없애야 할 규제로 치부하는 것이 과연 도움이 될지 모르겠다”며 “세계 시장 진출을 위해서도 이를 선택이 아닌 필수로 여기는 것이 필요하다”고 했다.
아내와 두 아들을 수면제로 재운 뒤 차량에 태워 바다로 돌진해 숨지게 한 40대에게 법원이 무기징역을 선고했다.
광주지법 형사12부(재판장 박재성)는 19일 살인 등 혐의로 기소된 A씨(49)에게 무기징역을 선고했다.
A씨는 지난 6월1일 오전 1시 12분쯤 전남 진도항 인근에서 아내와 고등학생 두 아들을 태운 승용차를 몰고 바다로 돌진했다.
전날인 5월 31일 저녁에는 아내와 함께 준비한 수면제를 음료에 섞어 아들들에게 마시게 했고, 다음 날 새벽 자신도 약을 복용한 뒤 범행을 실행했다.
그러나 물속에서 공포심을 느끼자 운전석 창문을 통해 빠져나와 혼자 살아남았다. 아내와 두 아들은 탈출하지 못하고 익사했다.
A씨는 구조 요청을 하지 않은 채 현장을 떠났다. 지인 차량을 타고 광주로 이동하다 범행 약 44시간 만에 경찰에 붙잡혔다.
조사 과정에서 그는 “카드빚 2억원과 임금체불 문제 등 생활고로 힘들었다”는 취지로 진술했다.
재판 과정에서 A씨는 지인들의 탄원서를 제출하며 선처를 구했으나, 재판부는 “피고인은 혼자 살아 나오고도 119에 신고조차 하지 않았다. 본인은 멀쩡히 살아 있으면서 선처를 바라는 것이냐”고 꾸짖었다.
검찰은 앞선 결심 공판에서 무기징역을 구형한 바 있다.
이날 선고에서 재판장은 요지를 낭독하는 도중 목이 멘 듯 중간중간 말을 잘 잇지 못하는 모습을 보였다.
재판장은 바다에서 주검으로 건져 올려진 두 아들의 모습과 A씨의 범행 경위를 언급하며 “피해 아들들은 마지막 순간까지 부모가 자신들을 살해한다는 사실조차 알지 못했을 것”이라며 “어떠한 이유로도 용납될 수 없는 중대한 범죄”라고 밝혔다.
그러면서 “피고인의 범행은 계획적이고 비정하며, 피해자들이 입은 고통은 상상하기 어렵다”고 양형 이유를 설명했다.

댓글목록

등록된 댓글이 없습니다.