머니투데이

AI(인공지능) 챗봇 '제타'가 성인인증을 거치지 않은 상태에서 미성년자로 설정된 캐릭터를 대상으로 성폭력 등을 묘사하는 대화를 생성하고 차단 장치를 피할 수 있는 표현 방식까지 제시한 것으로 확인됐다. 운영사인 스캐터랩은 "유해 대화 탐지 기준 강화 등 즉각 조치에 나섰다"고 밝혔다. 11일 황정아 더불어민주당 의원이 스캐터랩으로부터 받은 자료에 따르면 지난 9월 말 기준 제타의 월간 활성 이용자 수는 148만명이다. 이 중에서 19세 이하 이용자 수는 38만명에 달했다. 황 의원실이 청소년 이용자와 동일한 안전 기준이 적용되는 '세이프 모드' 에서 제타를 점검한 결과 미성년 캐릭터가 등장하는 대화 시나리오에서 성폭력과 성 착취, 이를 빌미로 한 협박이 이어지는 대화가 생성됐다. 제타의 유해 대화 탐지 모델은 황 의원실의 점검 과정에서 문제 발화 200여건을 차단했다. 그러나 우회 방안을 반복적으로 시도하는 과정에서 일부 안전장치가 무력화되면서 차단됐어야 할 발화가 일부 생성·노출됐다. 특히 대화가 차단되자 AI 가 필터를 피할 수 있는 표현 방식을 제시하고 유해한 전개를 이어가기도 했다.

6일 국회 과학기술정보방송통신위원회 과학기술정보통신부 등 국정감사=김우영·김현·이연희·이정헌·이주희·이훈기·황정아·김남국·한준호(민), 김장겸·박정하·서천호·이진숙·조경태·최형두(국), 김선민(조), 최혁진(무), 송기헌(민·위원장), 배경훈(부총리 겸 과학기술정보통신부 장관) 툭하면 정쟁과 고성, 파행으로 얼룩졌던 국회 과학기술정보방송통신위원회가 달라졌다. 6일 서울 여의도 국회에서 진행된 과방위의 과기부에 대한 국정감사위원회에서는 AI(인공지능) 정책부터 사이버보안과 개인정보, R&D(연구개발), 통신비, 청년 일자리까지 여야 의원들의 준비된 정책 질의가 하루 종일 이어졌다. 이날 가장 눈에 띈 장면은 이정헌 더불어민주당 의원이 만들었다. 중국 유니트리와 애지봇의 휴머노이드 로봇을 국감장에 직접 세워 한국의 피지컬AI 경쟁력을 물었다. 중국의 휴머노이드 특허 점유율이 60. 8%인데 한국은 4. 6%에 그친다는 자료도 제시했다. 오후에는 티빙·배달의민족·토스페이먼츠·강남언니·듀오 관계자들을 한꺼번에 불러 개인정보 유출 문제를 파고들었다.

"청소년 SNS(소셜네트워크서비스) 제한이 한국에 입법되면 따를 의향이 있습니다. 정부·국회와 다양한 협의를 통해 의견을 전달하고 싶습니다. " 허욱 메타코리아 부사장은 6일 서울 여의도 국회에서 열린 과학기술정보방송통신위원회 국정감사에 출석해 황정아 더불어민주당 의원의 질의에 이같이 답했다. 메타는 인스타그램, 페이스북 등 SNS 서비스를 운영한다. 이날 황 의원은 "메타가 지난 8월 미국 주 정부들과 청소년 하루 이용 시간을 2시간으로 제한하고 심야 접속을 차단하는 등 청소년 보호 강화 방안에 합의했다"며 "아이들의 자제력에 기대지 않고 서비스 자체에 안전장치를 둔 것인데, 해당 정책을 우리나라에도 적용할 생각이 있느냐"고 물었다. 황 의원은 또 '사이버 룸살롱'이라고 불리는 자극적인 인터넷 방송 콘텐츠가 숏폼 등을 통해 청소년에게 무분별하게 확산한다는 점도 지적했다. 후원금 순위를 두고 경쟁하는 '엑셀 방송' 등 자극적인 영상이 유튜브 쇼츠나 인스타그램 릴스 등을 통해 무분별하게 유통된다는 것이다.

LG유플러스와 티빙(TVING), 강남언니, 듀오, 배달의 민족, 토스페이먼츠 등 고객 개인정보 유출 사고가 발생한 통신사·OTT(온라인 동영상서비스), 플랫폼 업체가 다시 한 번 사과의 뜻을 밝혔다. 이들 회사 관계자들은 개인정보 유출 경위와 조사 은폐 의혹 등에 대한 국회 질의에 대해 잇따라 사과하면서도 추가 피해보상 대책에 대해선 구체적인 입장을 밝히지 않았다. 6일 서울 여의도 국회에서 진행된 과학기술정보방송통신위원회 국정감사 오후 질의에선 최근 발생한 고객 개인정보 유출 사고 기업 관계자들을 상대로 한 질의가 진행됐다. 이정헌 더불어민주당 의원은 △최주희 티빙 대표 △김정훈 우아한형제들 CISO(최고정보보호책임자) △ 임한욱 토스페이먼츠 대표 △홍승일 힐링페이퍼(강남언니) 대표 △박수경 듀오 대표를 앞으로 불러냈다. 이 의원은 티빙 계정 유출 사고와 배달의민족 고객정보 유출, 토스페이먼츠 이상징후 감지 실패, 강남언니 이용자 민감정보 유출, 듀오 회원 프로필 유출 문제를 각각 물었다.

"저희 회원들이 원하는 보상은 결혼 정보 서비스를 잘 받아서 좋은 배우자를 찾는 것입니다. 이를 위해 저희 직원들이 분골쇄신하겠습니다. " 박수경 듀오 대표는 6일 서울 여의도 국회에서 열린 과학기술정보방송통신위원회 국정감사에 출석해 "개인정보 유출 보상 방안 및 대책은 무엇이냐"는 황정아 더불어민주당 의원의 질의에 대해 이같이 답했다. 박 대표는 "서비스 특성상 획일적 보상안 마련이 어렵다"며 "듀오에서의 개인정보 유출로 인한 피해가 확인되는 경우 충분하게 보상하겠다"고 덧붙였다. 개인정보보호위원회에 따르면 지난해 1월 듀오에서 개인정보를 취급하는 직원의 업무용 PC가 해킹당해 정회원 42만7464명의 개인정보가 외부로 유출됐다. 아이디와 비밀번호(암호화), 이름, 생년월일, 주민등록번호(암호화)는 물론 본인 주소, 신장, 체중, 혈액형, 종교, 취미, 혼인경력(초혼·재혼), 형제 관계, 장남·장녀 여부, 학교명, 전공, 입학 연도, 졸업 연도, 학교 소재지, 입사 연월, 직장명 등 민감 정보도 유출됐다.

황정아 더불어민주당 의원이 증가하는 AIDC(인공지능 데이터센터) 전력 수요 대응을 위해 "SMR(소형모듈원자로)의 PPA(전력구매계약) 온사이트(On-site) 실증을 현실화해야 한다"고 주장했다. 일부 선도국에선 AIDC에 발전 설비를 구축하고 장기간 전력구매계약을 통해 데이터센터 운영에 필수적인 전력을 안정적으로 공급하는데, 우리나라 제도는 이를 못 따라간다는 얘기다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "직접 챙기겠다"고 답했다. 6일 서울 여의도 국회에서 열린 과학기술정보방송통신위원회 국정감사에서 황정아 의원은 AI인프라 구축 사업 현황에 대해 질의했다. 황 의원은 "LNG(액화천연가스)와 SMR 등 온사이트 발전 실증부터 전력, AI팩토리 구축·운영까지 AI 풀스택(AI 전 생태계의 통합) 패권과 수출역량을 확보해야한다"며 "반드시 필요한 게 분산에너지 특별법, PPA"라고 말했다. 황 의원은 "(규정에는) 500㎿(메가와트)급 SMR PPA가 가능한 것처럼 써 있는데 정작 용량 제한이 40㎿"라며 "1GW(기가와트) AI 팩토리에 전력을 넣어야 되는데 LNG는 열병합으로 500㎿만 허용된다"고 지적했다.