고영향 AI(인공지능)의 판단 기준이 모호해 기업들이 규제 적용 여부를 판단하기 어렵다는 지적이 나왔다. 에이전트 AI와 피지컬 AI가 확산하면서 사고 발생 시 책임 소재를 명확히 해야 한다는 목소리도 제기됐다.
이주희·최형두 의원실·한국정보통신법학회·한국데이터인공지능법정책학회·정보통신정책연구원(KISDI)·법무법인 태평양이 6일 서울 영등포구 글래드 여의도에서 주최한 '2026년 하반기 AI 법정책포럼 공개 세미나-최근 AI 규제의 현안과 과제'에서는 조경식 법무법인 태평양 고문, 최형두 국민의힘 의원, 엄열 과학기술정보통신부 인공지능정책실장, 이상규 정보통신정책연구원장이 개회사 및 축사를 했다.
강지원 법무법인 태평양 변호사는 '기업이 직면한 AI 규제 실무의 현안 이슈와 입법적 개선 과제' 발제에서 고영향 AI의 적용 범위가 불명확하다고 지적했다.
고영향 AI는 사람의 생명·안전이나 기본권에 중대한 영향을 미칠 수 있는 AI다. 현행법은 채용과 대출 심사 등을 적용 분야로 규정하지만 보험료 산정이나 자동 투자 서비스까지 포함되는지는 불분명하다는 것이다.
AI가 의사결정에 얼마나 관여해야 규제 대상이 되는지도 쟁점이다. 예컨대 AI가 대출 신청자의 직업과 소득을 분석하고 사람이 최종 승인 여부를 결정하는 경우다. 강 변호사는 "사람이 최종 결정을 하고 AI가 중간 결과물을 만들었을 때 어디까지 고영향 AI로 볼 수 있는지 현재 가이드라인상 모호한 부분이 많다"고 말했다.
기업이 자체 개발한 AI를 내부 업무에만 사용하는 경우도 문제로 꼽았다. 현행법은 AI를 개발하거나 이용해 타인에게 제공하는 사업자를 규정하고 있다. 은행이 자체 개발한 AI로 대출을 심사하더라도 외부에 제공하지 않는다는 이유로 규제 대상에서 빠지는 해석이 가능하다는 것이다.
강 변호사는 "자체 개발해서 AI를 대출 심사 같은 고영향에 활용함에도 불구하고 개발사업자도 이용사업자도 아니라는 현실과 맞지 않는 해석이 나올 수 있다"고 밝혔다.
정준화 국회 입법조사처 조사관은 '에이전틱 AI, 피지컬 AI 도입에 따른 이슈와 법적 과제' 발제에서 "AI 기본법이 가지고 있는 상상력의 한계는 생성형 AI에 있다"며 자율적으로 판단하고 행동하는 AI의 특성이 충분히 반영되지 않았다고 지적했다.
그는 "현행 인공지능 기본법에는 사업자를 개발사업자와 이용사업자로만 구분하고 있는데 사업자 간 책임 배분은 여전히 공백 상태"라고 말했다. AI가 스스로 행동하다 사고를 일으키면 책임을 누구에게 물을지 불분명하다는 것이다.
일자리 문제도 거론했다. 정 조사관은 "AI가 사람을 해고하는 경우도 있을 수 있겠지만 그보다 더 큰 문제는 추가 고용을 하지 않는 구조로 재편하게 된다는 것"이라고 우려했다.
이어진 패널토론은 이성엽 고려대 교수가 좌장을 맡았다. 선지원 한양대 교수, 서영훈 카카오 부사장, 박지원 법무법인 태평양 TMT 그룹장, 문정욱 정보통신정책연구원 실장, 장두원 과기정통부 과장, 김혜숙 방송미디어통신위원회 과장이 참여했다.