不准确信息排在搜索框最上方
谷歌称“正在持续提升质量”
有媒体报道称,谷歌的人工智能(AI)摘要功能可能提供错误的健康信息,从而让人们陷入危险。
当地时间2日,英国《卫报》报道称,谷歌搜索结果最上方显示的“AI Overview”(AI总览)被发现提供不准确的健康信息,威胁到人们的健康。谷歌一直强调,利用生成式AI,对特定主题或问题给出关键信息简要总结的“AI Overview”功能既实用又可靠。
但《卫报》调查结果显示,事实并非如此。以一例为例,谷歌向胰腺癌患者建议应避免高脂肪食物。然而专家指出,这与现行建议完全相反,反而可能提高死亡风险。胰腺癌慈善机构“胰腺癌英国”的研究与支持负责人Anna Jewell表示:“如果照着这一搜索结果去做,患者将难以摄入足够的热量或增加体重”,“那样一来,可能无法承受化疗或挽救生命的手术”。
除此之外,在搜索肝功能血液检测的正常范围时,系统也给出了错误信息,可能让肝病患者误以为自己很健康。页面只是罗列了大量数值,却几乎没有提供依据说明,也未考虑患者国籍、性别、种族、年龄等差异。对此,肝病慈善机构“英国肝脏信托基金”负责人Pamela Healy指出:“严重肝病患者可能会认为自己的检测结果属正常,从而不再接受后续诊疗,这非常危险。”
《卫报》称,在多家卫生机构和医疗专家就不准确健康信息表达担忧后,对谷歌“AI Overview”进行了调查,并确认了大量类似案例。提供健康信息的“患者信息论坛”董事Sophie Randall强调:“这些案例表明,谷歌‘AI Overview’可能会把不准确的健康信息放在网络搜索结果的最上方,从而对人们的健康构成威胁。”
谷歌方面表示,“AI Overview”提供的大部分信息都以事实为基础、具有实用性,并称正持续改进该功能的质量。
谷歌方面一名发言人则辩解称,所举案例中相当一部分只是“不完整的截图”,并表示“(AI Overview)会链接到广为人知且值得信赖的来源,并建议用户寻求专家意见”。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。