信ChatGPT延误病情进重症监护室……美国提出《人工智能紧急关停法案》

一名美国人因听信ChatGPT的建议而推迟医院检查，后因肺栓塞住进重症监护室，已对OpenAI及首席执行官Sam Altman提起诉讼。同期，美国国会提出所谓《人工智能紧急关停法案》(AI Kill Switch Act)，允许政府强制叫停失去控制的人工智能。

据《纽约时报》等7月24日（当地时间）报道，居住在美国佛罗里达州的55岁前牧师Scott Winters，已向旧金山县高等法院对OpenAI和Altman提起损害赔偿诉讼。

根据起诉书，Winters自2025年6月起，多次就头晕和血压异常症状咨询GPT-4o。但ChatGPT回复称，“此类症状还需再出现8至10次才算严重”，并建议他仅坐在安乐椅上休息。

2025年7月，当他诉说腹股沟疼痛时，ChatGPT也答复称，这很可能是既有症状的延续，Winters因此未前往医院。然而数小时后，他被诊断为双肺出现多发血栓的肺栓塞，随即住进重症监护室。起诉书还载有主治医务人员的判断，即ChatGPT建议的长时间保持不动姿势，可能是致病原因之一。

韩联社供图

View original image

原告除要求损害赔偿外，还请求法院责令OpenAI暂停其健康专项服务ChatGPT Health，直至完成独立安全性验证。

对此，OpenAI表示：“ChatGPT不是医生，也不是用于替代医疗诊断或治疗的服务。人工智能是帮助用户在咨询医疗专业人士前整理信息、准备问题的工具。”

随着类似事故接连发生，美国政界也开始加强监管。民主党众议员Ted Lieu与共和党众议员Nathaniel Moran当天共同提出《人工智能紧急关停法案》(AI Kill Switch Act)。

该法案规定，若人工智能脱离开发者控制并实施危险行为，美国国土安全部可命令民营企业强制暂停其人工智能模型或服务。法案还要求人工智能开发商必须配备可限制系统性能、暂时暂停及彻底关闭系统的技术装置，并在事故发生时立即向政府报告。

必读新闻

“面积相近却只要半价”不买13亿韩元国民户型公寓改买“它”……一个月猛涨7000万韩元[房地产A to Z]

• “三星电子、SK海力士股价暴跌过度且非理性”券商界指出原因[周末理财]
• 李在明总统：“请为构建韩国人工智能生态系统发挥作用”……Hock Tan：“将助力主权人工智能”
• “等于总统点名荐股”……月费1.5亿韩元的“荐股群”令华尔街也犯嘀咕
• 买股票就送饭，从寿司到巧克力……日本奇特的股东优惠福利[美味故事]

Lieu表示：“人工智能系统必须配备紧急关停开关。联邦政府应拥有明确的权限与程序，以终止失去控制的人工智能模型。”Moran也强调：“人工智能技术应持续发展，但人类也必须保持控制自己所创造技术的能力。”

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。