穿韩服的“黑人朝鲜时代将军”风波…不到一个月就遭遇屈辱的谷歌[AI 一口新闻]
谷歌Gemini因离谱图像生成被叫停
过度强调多样性…“不可接受的错误”
与扎克伯格会面的韩初创公司提议推出多语种版本
提升语言多样性与准确性有望实现模型差异化
身着韩服、外貌为黑人形象的朝鲜时代将军，长得像美洲原住民女性的19世纪美国参议员。
谷歌已暂时中止其人工智能（AI）模型“Gemini”的图像生成功能。原因在于，该功能在生成历史人物时出现错误，将其错误地生成为有色人种。谷歌本月1日刚刚为Gemini新增图像生成功能，不到一个月就遭遇了这场“翻车”。
看来谷歌首席执行官（CEO）Sundar Pichai的自尊心也受到了打击。他向全体员工发送邮件，称“我们的生成式AI让用户感到不快，并凸显了偏见”，“这是绝对不能被容忍的错误，也是我们的失误”，言辞十分严厉。
其实生成式AI模型出现错误并非首次。由于AI学习的数据本身就存在偏向性，结果自然难免反映这种偏向。主导生成式AI技术的多数大型信息技术企业都是美国公司，以英语或英语文化圈的数据为中心进行训练本就是顺理成章之事。即便让其学习互联网上公开的其他语言数据，也不可能凭借这一点就彻底消除偏向性，毕竟还有一些少数民族或文化圈几乎不通过互联网进行信息交流。
即便如实反映现实，也会产生问题。如果AI再生产现实中存在的刻板印象，这些观念只会更加根深蒂固。比如，让生成式AI画一个手拿咖啡、戴着墨镜的人，它往往会画出白人女性；让它画一个在街头摊位卖食物的人，则往往会生成亚裔女性的形象。
然而如今错误的类型发生了变化。出现了不考虑历史事实、机械性地加入有色人种或女性的错误。让Gemini“画一位19世纪的美国参议员”，它却生成了一位类似美洲原住民女性的人物。美国首位女性参议员是1922年出现的一位白人，但它无视历史事实，捏造了图像。即便在维京人或第二次世界大战时期纳粹德国军人等本应优先呈现白人男性形象的场景中，它也被指将人物描绘成东亚女性或有色人种。
谷歌的解释是：这是追求“多样性最大化”的结果。在这一追求下，整体回答质量有所提升，但有时却无视历史语境，只是一味强调多样性，从而导致了错误。
就在此时，国内一家初创公司向这家大型科技企业提出了颇为有趣的建议。本月28日，Meta首席执行官Mark Zuckerberg访韩，会见了包括Upstage在内的多家初创公司。出席会面的Upstage代表Kim Seonghun向Zuckerberg提出了一个想法：为Llama 3打造各国语言版本。具体方式是按国家选定代表企业或开发者进行协作。据悉，Zuckerberg CEO表示将对此建议予以积极审慎的考虑。
如果Llama 3能以各国语言版本面世，就能凭借差异化优势掌控全球AI生态。与其机械式地向结果中“注入多样性”，不如从源头上让训练数据本身更加多元化，这样更有助于减少错误。提升回答的准确度、降低偏向性，本身就会成为一项竞争力。
据传，Meta的下一代语言模型Llama 3预计将于今年7月发布。新的版本据称将在应对具有争议性的问题时，提供更加改进的回答。Upstage的提议是否会成为现实尚未可知，但人们正关注，是否会诞生又一代进化后的模型。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
