[THE VIEW]对AI依赖加深带来的风险

Published 05 Nov.2024 11:30(KST)

信息准确性与可信度堪忧
透明度与安全问题同样重要
亟需明确指南

生成式人工智能（AI）正逐渐在各行各业中成为提升工作生产力的创新工具。尤其在市场营销、软件开发、客户服务等领域，被用于提高效率，并在企业之间迅速得到采纳。例如，美国的GitHub开发的Copilot，可以帮助软件开发者减少编写重复代码的时间，从而将精力集中在更为重要的任务上。Copilot通过节省编码时间、提升生产力的方式，很好地展示了人工智能作为辅助工具所具有的潜力。

然而，随着人工智能的快速导入，各种问题也随之暴露。其中最严重的问题源自人工智能所提供信息的准确性和可靠性。如果基于错误的信息或带有偏见的数据生成结果，用户往往难以及时甄别，从而有可能做出错误决策。

近期有一家全球企业使用基于人工智能的报告撰写工具自动生成客户报告，但报告中包含错误统计数据，导致其可信度问题被大面积曝光。这一案例表明，对人工智能提供的信息进行事前审查和校正是绝对必要的。

另一个问题是对生成式人工智能的过度依赖。如果对人工智能给出的建议方向不加批判地照单全收，反而可能削弱关键的决策过程。如果企业过分依赖人工智能，而不再发挥人的判断力和创造力，就有可能削弱组织的竞争力。为防止这种情况，一些企业在导入人工智能的同时，加强内部培训，力图优化人工智能与人类协作的方式。

例如，英国某广告公司正在对员工进行培训，即便在使用人工智能工具时，也要发挥自身的创造性判断力和批判性思维。与其对人工智能提供的信息照单全收，不如让其发挥补充和辅助的作用，该公司正是通过引入这样的方针来实现这一点。

在此背景下，人工智能导入过程中最重要的课题之一，是人工智能的透明性和安全问题。生成式人工智能在学习海量数据的过程中，不可避免地会对个人信息或敏感信息形成潜在脆弱点。例如，人工智能有可能在学习数据中擅自收集个人信息，或存在向外部泄露的风险，因此，数据保护政策和透明的管理机制是必不可少的。欧洲联盟（EU）正为应对这些问题而推出人工智能监管法，加强对人工智能系统透明性和数据保护标准的要求。此类监管对全球市场也产生了巨大影响，其他国家也在准备类似的法律框架。

若要通过人工智能最大化提升工作效率，就需要制定有关人工智能使用方式的明确指引。与其无条件接受人工智能的决定，不如构建一个将人类判断力与批判性思维相结合的协作模型，这将愈发重要。与其一味强调人工智能的优点，不如以负责任的方式使用人工智能，探索人与人工智能相互补充、协同合作的路径，这可以说是今后企业和社会需要共同思考的课题。