站在反乌托邦与乌托邦的岔路口
要跻身人工智能三大强国，须发展软件
人工智能转型与安全如今已是同义词
“诺亚方舟”。在《圣经》中，上帝决定以大洪水毁灭一切、创造新世界时，唯一准许人类登上的船。
祖国革新党议员Lee Haemin在与阿视亚经济约一小时的采访中，多次提及“诺亚方舟”。其中可见其对于正在迈向人工智能转型时代的世界的思考。
Lee Haemin表示：“据说人类生产力在经历工业革命后，花了200年才趋于稳定，但如今我们在数十年间就经历了这样的变化。如果放任不管，财富极端集中的K型增长将不可避免，因此需要有制度将社会尽可能引向乌托邦，而非反乌托邦。”他介绍该法案时称：“这是一项试图在反乌托邦与乌托邦的岔路口，把原本将走向反乌托邦的社会扭转方向而制定的法案。”
人工智能转型应对法规定，政府必须制定基于人工智能的产业转型国家战略和以五年为周期的基本规划；同时明确规定，国民有权获得职业再培训、转岗支持及最低生活保障。对于产业转型冲击较大的地区，将指定为“转型地区”并提供定制化支持。该法案要求企业制定劳动者再培训计划，并在发生大规模就业变动时履行提前通知和协商义务；对认真履行义务的企业给予税收优惠。
该法案的主要运行机制是“就业”和“基金”。Lee Haemin解释称：“就业维持得越多，企业获得的利益就越大。若因引入人工智能而发生裁员，企业须分担筹措相应基金财源的责任；反之，对创造更多就业岗位的企业给予优惠。”法案还另设了保护初创企业和中小企业的机制。Lee Haemin表示，该法案的设计理念并非规制企业，而是确保产业得以延续。
Lee Haemin对于现政府将“跻身人工智能三大强国”列为最大施政课题的基调表示认同，但对其方向性提出疑问。
他表示：“我认同本届政府将人工智能确立为最重要施政基调的做法，但也必须承认其中存在挑战。”Lee Haemin称：“我曾询问政府，‘人工智能三大强国的定义是什么’，但没有得到明确答复。”他接着介绍称：“我自行利用人工智能聊天机器人，依据模型训练数据等进行推演，认为从图形处理器、高带宽内存，到包括冷却水和电力在内的数据中心，都属于价值链。韩国手握高带宽内存这一存储半导体筹码，正试图尽可能扩大生态系统。”
Lee Haemin表示：“我们不可能在价值链的每一个环节都做到最好，但我认为政府正以此为起点，努力大幅扩充具身人工智能和人工智能数据中心等基础设施。”不过，他预测：“与此同时，剩余时间已不多。”他认为，目前人工智能领域侧重硬件，但最终必须转向软件。
Lee Haemin表示：“最初赚钱的领域会先从作为基础设施的硬件开始。英伟达、台积电、SK海力士、美光和三星电子目前都在获利。”但他同时指出：“下一阶段主导权必将转移至附加值更高的软件领域。”在硬件领域面对中国追赶的背景下，能否进军软件领域将成为韩国面临的课题。
以下为问答实录。
——可能有人认为，人工智能转型应对法将加重企业负担。
▲消费者消失，企业也会消失。短期内生产率会大幅提高，也可以裁减人员，从雇主立场来看当然很有利。机器可以24小时以相同质量工作，能力提升后还能原样复制，100万台机器可完成同样的工作，人类却无法如此。但如果只考虑提高生产率，社会可持续性就会消失，最终产业的可持续性也会消失。法案正是基于这一理念设计的。根据工业化以来200年的经验，我们知道，若放任不管，社会将呈K型分化。既然知道，就应提前应对；如果日后再修补，社会成本将极其高昂。
——在国会后半期，您将所属常任委员会从科学技术信息放送通信委员会转至政务委员会。
▲既然已经造好了容器，即人工智能基本法，接下来就要推进人工智能转型。我原本以为能在科学技术信息放送通信委员会内部完成所有工作。无论个人信息保护还是金融业人工智能转型，都与人工智能相关，本以为可以处理，但事实并非如此。接受监督的机构分散在各处。我认为金融和国防都很重要，但个人信息保护委员会归属政务委员会，因此决定先从这一领域着手。感觉像是同时负责两个常任委员会，即政务委员会和科学技术信息放送通信委员会，既感谢也觉得对不起议员办公室的工作人员。
——您将在政务委员会优先处理哪些课题？
▲个人信息保护、金融业人工智能转型，以及智能体。其背后的问题意识只有一个，即“人工智能转型与安全如今是同义词”。金融业之所以对人工智能转型格外积极，安全因素比效率更重要。如今人工智能模型彼此寻找漏洞并发动攻击已成常态，要阻止最强模型发起的黑客攻击，显然只能以同等强大的人工智能加以应对。
——负责制定人工智能相关法律的国会组织是否也应改变？
▲在人工智能领域，应设立类似法制司法委员会的统筹机构。如果无法新设一个常任委员会，也无法设立特别委员会，那么由于所有法案都会集中到法制司法委员会，我希望至少能在该委员会内部设立一个小组委员会。必须进行梳理。若继续保持现状，一旦出现相互冲突的法案，我担心法制司法委员会是否有能力解决。即便条文层面没有问题，在产业层面也可能出现“这是什么”的质疑。如果无法做到这一点，那么每个常任委员会至少应配备两名人工智能、信息技术和数字领域专家，或接受相关专家派驻。
——您如何评价去年通过的人工智能基本法？
▲该法案于2024年12月提出后，随即通过常任委员会和全体会议，并从今年1月起施行。它是全球第二部制定的相关法律，也是全球首部进入实施阶段的法律，因此意义重大。若不亲自尝试，就无法知道哪些地方存在问题、哪些内容符合现场实际。当前在运行施行令的过程中，我们全年持续积累“哪些好、哪些不好”的经验，这些积累将成为全球任何地方都找不到的宝贵数据。人工智能基本法顾名思义是一部基本法，重点在于搭建“容器”并界定治理框架；至于容器中具体装入什么内容，正通过当前施行令逐步形成。
——立法过程中最令人遗憾的部分是什么？
▲在法案小组委员会阶段非常艰难。当时合并审议了19项法案，最终其中85%至90%是我的法案，但未能阻止其余内容，因而产生了问题，具体就是高影响人工智能定义条款。原案为“对生命、身体安全及基本权利造成重大影响并引发风险的人工智能”。这原本是“且”条款，但其他委员将其改为“造成重大影响或可能引发风险”的“或”条款，还加入了“可能”的表述。如此一来，适用范围大幅扩大。法律出台后，媒体批评称“监管过于严格”。我原本的意图是精准锁定受影响的部分，对其进行严格监管，其余部分则予以放宽，结果却完全相反。
——为何改成“或”条款？
▲理由是“从语法上看这样更好”。当时有出身于韩语文学或新闻领域的议员，而我作为工科生，并不了解这类语法问题。他们称：“‘且’条款太长不好。”所幸他们理解立法宗旨本身。我在法案小组委员会中不断将“立法宗旨、立法宗旨”写入速记记录，因此科学技术信息通信部在制定施行令时，为剔除被扩大后的范围付出了很大努力。
——为何新创“高影响”这一术语？
▲欧盟因采取一边倒的监管立场，所以使用“高风险”一词。加拿大则使用“影响”，加拿大和美国相对更偏向促进发展。我认为必须完全从需求方立场看待这部法律，因此选择了“影响”。既有法案只关注三类主体：制造模型的公司、利用该模型提供服务的公司，以及付费使用的用户；而我新定义了“受影响者”。以自动驾驶汽车为例，有制造发动机的一方、制造整车并提供服务的一方，还有像特斯拉车主一样的用户；路过的行人则是“受影响者”。此人完全不参与前述过程，但一旦发生事故就会受到影响。若是人工智能医疗设备，甚至必须将接受使用该设备的医生诊断的患者纳入考虑。倒推发生问题后的责任归属后发现，各方责任各不相同。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
