学生使用人工智能算作弊,机构使用则是创新……判定权力已改变
连新人劳动的“低效”也被自动化消除……熟练的第一步正在消失
机器愈发像人,人类也在迎合机器
长期使用互联网的人,大概都曾选过红绿灯或人行横道。这就是验证码。辨认几张模糊图片后,勾选“我不是机器人”便完成了。作为区分人类与机器的测试,它未免太过简单,因为人们相信,人类能理解图片中的语境,而机器做不到。
这种信念正在迅速过时。今年6月,国家资格考试查获了利用搭载人工智能的眼镜作弊的行为。考生注视试题,人工智能便会检索答案并显示在眼镜上。如今,监考人员不仅要确认考生是否知道答案,还要确认这个答案是否确实出自考生本人。考试原本提出的“你知道吗”之前,又多了一个问题:“是你作答的吗?”
出版业面临的困境也颇为相似。在美国,一名研究生创作的小说因被怀疑使用人工智能而导致出版合约告吹,作者则反驳称,自己仅使用人工智能进行资料搜集和词汇核对。另一方面,连用于认证作品确由人类亲自写作的“人类创作作品”标识也出现了。曾经一本书只需署上作者姓名,如今却进入了需要证明“确实由人类写作”的时代。人工智能寻找资料、人类进行写作,这算人类文章吗?人类写初稿、人工智能加以润色,又该如何界定?我们一直称之为工具的事物,与称之为作者的事物之间的边界,正开始变得模糊。
更耐人寻味的一幕出现在另一端。看似由人工智能独立完成的数据分类、标注以及内容审核中,仍有相当一部分需要人类介入。自动化看上去越完美,这些劳动就越不显眼。这正是研究人员将其称为“幽灵劳动”的原因。一边是必须让人工智能完成的工作看起来像是自己完成的人,另一边则是必须让人类完成的工作看起来像由人工智能完成的人。区分人类与机器的问题,不知不觉间已变成辨别“究竟是谁完成的”问题。
然而,人工智能也进入了作出判定的位置。教育领域正扩大采用人工智能进行简答题和论述题评分。学生利用人工智能生成答卷可能构成作弊,但教育机构利用人工智能评估学生答卷,则被视为一种提升效率的方法。研究也发现,人工智能评分模型存在局限,例如反复使用材料中词汇较多的答卷,往往更容易获得高分。
在这里,比起机器的错误,更值得关注的是人类的反应。考试总会改变学生。出题类型一变,学习方法也会随之改变。若人工智能成为评分者,学生学习的不仅会是“好答案”,还会是“能让人工智能打高分的答案”。如果招聘系统率先阅读简历,求职者就会制作更便于该系统识别的简历。为迎合搜索和推荐算法而改变标题与视频形式,早已不再陌生。
人类是善于适应的动物。出现新的环境后,人类会据此调整行为,并凭借这种能力生存下来。人工智能时代也没有理由例外。只是这一次,我们必须适应的环境会读取我们、评价我们,并为我们排序。在努力将机器塑造成像人类一样的存在期间,人类也开始以更容易被机器读取的方式调整自己。问题不在于人类无法适应人工智能,恰恰在于人类适应得太好了。
在劳动力市场,这种适应甚至可能改变人的成长过程。有分析认为,包括数据整理、基础文档撰写、初级编程等原本由新人承担的工作,都可能被人工智能取代。仅从生产率来看,这似乎是值得欢迎的事。然而,人不是一入职就成为资深员工。新人通过反复做简单工作、犯错、接受批评、重新尝试,逐渐获得判断力。在企业看来属于低效的那段时间,对人类而言却是熟练成长的过程。如果连这种低效都被消除,几年后所需的熟练人才又将从何而来?效率或许能让结果更早出现,但能否连成长过程也一并跳过,仍未可知。
十多年前,验证码只需区分人类和机器即可。如今,人类使用人工智能,人工智能评价人类,人类再根据这种评价改变自己。并非某一方完全取代了另一方,而是双方正在进入彼此的领域并相互混合。与其说人类和机器之间的边界正在模糊,不如说更值得留意的变化或许发生在人类这一边。我们依然不假思索地点击“我不是机器人”。然而,在机器逐渐变得像人类的同时,人类也正一点点变成更容易被机器识别的人。如此一来,如今的问题便比过去复杂了一些。
你是谁?
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。