高影响人工智能判定标准模糊
应完善法律体系,纳入人工智能智能体和物理人工智能

随着人工智能发展到能够自主判断和行动的领域,有意见指出,应完善法律体系,明确责任归属和监管适用范围等问题。也有建议称,应消除业界围绕高影响人工智能范围产生的混乱,并推进制度完善,以反映智能体人工智能和物理人工智能的特性。

在首尔永登浦区格莱德汝矣岛举行的“近期人工智能监管的现状与课题”研讨会上,太平洋律师事务所律师Kang Jiwon正在发表演讲。记者 Lee Eunseo

在首尔永登浦区格莱德汝矣岛举行的“近期人工智能监管的现状与课题”研讨会上,太平洋律师事务所律师Kang Jiwon正在发表演讲。记者 Lee Eunseo

View original image

16日在格莱德汝矣岛举行的“近期人工智能监管的现状与课题”研讨会上,与会者提出了应对智能体人工智能、物理人工智能等新型人工智能技术的立法课题。研讨会由韩国国会科学技术信息广播通信委员会委员 Lee Juhee、Choi Hyungdoo,以及韩国信息通信法学会、韩国数据人工智能法政策学会、信息通信政策研究院和太平洋律师事务所共同主办。


太平洋律师事务所律师 Kang Jiwon表示,在《人工智能基本法》施行满一年前夕,企业对于自家人工智能服务是否属于监管对象、应履行哪些义务等问题感到困惑。主要争议之一是高影响人工智能的范围。根据《人工智能基本法》,高影响人工智能是指可能对人的生命、人身安全和基本权利产生重大影响或造成风险的人工智能系统。


Kang律师举例称,自动执行买卖的智能投顾、计算保险费率的人工智能,也可能对个人资产和权利产生重大影响。即便由人作出最终决定,人工智能的中间判断也可能影响结果,因此有意见指出,应完善用于判定风险严重程度的具体标准。Kang律师强调:“高影响人工智能监管的宗旨,是考察相关技术在特定应用领域或场景中被用于何种目的。判断标准有必要根据使用场景或目的加以明确。”


还有意见认为,在减少现行监管不确定性的同时,有必要完善适应“能够采取行动的人工智能”的法律体系。韩国国会立法调查处调查官 Jung Junhwa提出,应分阶段将智能体人工智能和物理人工智能纳入现有法律体系。也就是说,短期内应在高影响人工智能框架下处理相关风险,中长期则应考虑增设人工智能智能体和物理人工智能的概念。 Jung调查官表示:“议员 Hwang Jeonga提出的《物理人工智能特别法案》新设了治理机制和监管特例,并纳入性能认证、缺陷公开等安全措施。该法案已通过朝野协商列入11项争议法案,因此根据讨论方向,有望快速推进立法。”


在随后的讨论中,也有观点指出,随着人工智能智能体服务竞争日趋激烈,韩国本土平台行业正因法律上的不确定性陷入两难。讨论者解释称,如果智能体代替用户登录,并向外部网站提供认证信息,法律上的不确定性就会很高。Kakao副社长 Seo Younghoon表示:“如果只允许监管明确的领域,就会面临无法获得用户选择的两难局面。应积极解释现行法律法规,消除经营者面临的不确定性。”



议员 Choi Hyungdoo表示:“我将尽最大努力,避免人工智能产业发展和适度监管错失时机或失去平衡。”


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点