“连仅供公司内部使用的人工智能也要监管？”经济界呼吁完善《人工智能基本法》
韩国经济人协会提出19项《人工智能基本法》改进建议
要求区分企业内部人工智能监管并明确责任
建议将新药研发工具排除在监管范围外，亟须公布安全标准
韩国经济人协会（韩经协）29日表示，已就今年年初施行的《人工智能基本法》向科学技术信息通信部提交了19项改进建议。该协会指出，企业在实际运营中面临监管对象和责任归属不明确的问题，导致混乱加剧。
此次建议涵盖五大领域：明确监管对象、合理化人工智能使用事实的告知与标示义务、细化高性能人工智能和高影响人工智能的监管规定、完善训练数据使用标准，以及提高监管扩大的可预见性。韩经协主张，应完善具体指导方针，让企业能够放心开发和引进技术。
首先，该协会要求将企业内部办公用人工智能排除在监管适用范围之外。近期，企业为提高工作效率，纷纷开发自有人工智能，并与员工或关联公司共享。然而，按照现行法律，内部办公用人工智能是否与外部商业服务一样，须履行人工智能服务提供者的义务，尚不明确。尤其是控股公司与关联公司共同使用人工智能时，很难判断法律是否适用。对此，韩经协主张，应将一般企业内部办公用人工智能与外部商业服务区分开来，并建议将符合安全要求的关联公司间共同使用也认定为内部办公用途。
该协会还呼吁明确人工智能开发企业与应用企业的职责分工。现行法律对开发人工智能的企业和利用人工智能提供服务的企业一律规定了风险管理义务。韩经协表示，应根据各企业实际能够控制的职责和范围划分责任。换言之，如果企业引进一般办公用人工智能后，将其用途改为可能影响人身安全的高影响人工智能，就应由该企业承担风险管理责任。欧盟《人工智能法案》也采取了由变更用途的主体承担相关责任的做法。
该协会还要求细化对制药和生物技术领域研究辅助型人工智能的判定标准。寻找新药候选物质、预测临床前阶段的毒性等工作中，人工智能已被广泛用作研究工具。现行政府指南将研究与开发阶段的人工智能排除在监管对象之外，但相关标准较为模糊。韩经协建议，明确列出动物实验阶段的化合物毒性预测、医疗器械编码辅助和数据分析工具等，作为不属于高影响人工智能的典型案例。此外，该协会还提议设立一站式窗口，以便快速集中查询保健福祉部、食品医药品安全处等相关部门的意见。
高影响人工智能是指在法律规定的领域中应用，可能对人的生命、身体安全或基本权利造成重大影响或带来风险的人工智能技术。高性能人工智能则是指其模型训练所使用的累计计算量和技术水平达到法律规定的标准，因此须履行安全保障义务的人工智能。
该协会强调，应加快敲定人工智能安全管理义务的具体公告。按照现行法律，高影响人工智能须履行风险管理、说明和用户保护义务。但政府尚未敲定具体公告，明确应如何管理和说明哪些风险，因此企业难以提前做好准备。
韩经协增长战略室室长 Kwon Hyukmin 强调：“《人工智能基本法》的成效，取决于企业实际运营中信任并应用人工智能的案例能否增加。应根据人工智能面临的实际风险和企业所承担的角色细化义务，让企业能够专注于安全应用人工智能和推动创新。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
