고영향 AI 판단 기준 모호
AI 에이전트·피지컬 AI 반영해 법 정비해야
인공지능(AI)이 스스로 판단하고 행동하는 영역으로 발전하면서 책임 소재와 규제 적용 범위 등과 관련해 법체계를 정비해야 한다는 지적이 나왔다. 고영향 AI의 범위를 둘러싼 현장의 혼선을 해소하고, 에이전틱 AI와 피지컬 AI의 특성을 반영한 제도 보완을 추진해야 한다는 제언도 나왔다.
16일 글래드 여의도에서 열린 '최근 AI 규제의 현안과 과제' 세미나에서는 에이전틱 AI와 피지컬 AI 등 새로운 AI 기술에 대응한 입법 과제들이 제시됐다. 세미나는 국회 과학기술정보방송통신위원회 소속 이주희·최형두 의원과 한국정보통신법학회, 한국데이터인공지능법정책학회, 정보통신정책연구원, 법무법인 태평양이 공동 주최했다.
강지원 법무법인 태평양 변호사는 AI기본법 시행 1년을 앞두고 기업들이 자사 AI 서비스의 규제 대상 여부와 의무 이행 범위를 놓고 혼선을 겪고 있다고 전했다. 대표적인 쟁점은 고영향 AI의 범위다. AI기본법에 따르면 고영향 AI는 사람의 생명, 신체 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 뜻한다.
강 변호사는 일례로 자동으로 매매를 실행하는 로보어드바이저나 보험료율을 산정하는 AI도 개인의 자산과 권리에 중대한 영향을 미칠 수 있다고 봤다. 사람이 최종 결정하더라도 AI의 중간 판단이 결과에 영향을 미칠 수 있는 만큼 위험의 중대성을 가르는 세부 기준을 보완해야 한다는 지적이다. 강 변호사는 "고영향 AI의 규제 취지는 특정한 이용 영역이나 맥락에서 어떤 목적으로 활용하는지를 보는 것"이라며 "판단 기준을 이용 맥락이나 목적에 맞게 정리할 필요가 있다"고 강조했다.
기존 규제의 불확실성을 줄이는 동시에 '행동하는 AI'에 맞춘 법체계 정비가 필요하다는 의견도 나왔다. 정준화 국회입법조사처 조사관은 에이전틱 AI와 피지컬 AI를 기존 법체계에 단계적으로 반영하는 방안을 제시했다. 단기적으로는 고영향 AI 체계 안에서 관련 위험을 다루고, 중장기적으로 AI 에이전트와 피지컬 AI의 개념을 추가하는 방안을 고려해야 한다는 것이다. 정 조사관은 "황정아 의원이 발의한 피지컬AI 특별법안은 거버넌스와 규제 특례를 신설하고, 성능 인증이나 결함 공개 등 안전성 조치도 반영한 법안"이라며 "당정협의를 통해 11개 쟁점 법안에 포함된 만큼 논의 방향에 따라 빠른 속도로 입법화될 가능성이 있다"고 말했다.
이어진 토론에서는 AI에이전트 서비스 경쟁이 빨라지는 가운데 국내 플랫폼 업계가 법적 불확실성으로 딜레마를 겪고 있다는 목소리도 나왔다. 에이전트가 이용자를 대신해 로그인하고 인증정보를 외부 사이트에 제시하는 경우 법적 불확실성이 높다고 설명했다. 서영훈 카카오 부사장은 "규제가 확실한 영역만 허용하다 보면 이용자들에게 선택받지 못하는 딜레마가 있다"며 "현행 법령을 적극적으로 해석해 사업자들의 불확실성을 제거해야 한다"고 말했다.
꼭 봐야 할 주요 뉴스
"치료제 없는데 큰일났다"…국내 첫 발생 후 빠르게 확산하는 '토마토 바이러스'
최형두 의원은 "AI 산업의 진흥과 적절한 규제가 타이밍을 놓치거나 균형이 맞지 않도록 최선을 다하겠다"고 말했다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>