纽约市长下令关闭提供违法建议的AI聊天机器人
摘要
纽约市长Zohran Mamdani宣布关闭前市长Adams政府于2023年推出的AI聊天机器人。该机器人耗资约50万美元,却多次向企业提供错误且违法的法律建议,如允许雇主克扣员工小费、歧视Section 8住房券租户、拒绝接受现金支付等。The Markup和THE CITY的调查报道促使新政府将其列为预算削减目标。
内容框架与概述
纽约市面临120亿美元预算赤字,新任市长Mamdani在新闻发布会上点名批评前政府的AI聊天机器人,称其为功能不可用的浪费项目。这款基于微软云平台构建的聊天机器人是MyCity数字服务升级计划的一部分,初衷是为企业主提供便捷的城市法规查询服务。然而仅基础设施建设成本就高达近60万美元,且维护成本不菲。
The Markup和THE CITY于2024年的测试暴露了该机器人的严重缺陷:它不知晓最低工资标准,错误建议房东可以歧视持有Section 8住房券的租户,甚至鼓励企业违反2020年生效的必须接受现金支付的城市法律。尽管Adams政府曾辩称机器人会随时间改进,并添加了免责声明提醒用户不要将其回答作为法律建议,但问题依旧存在。
新任市长发言人Dora Pekec证实,过渡团队在阅读了相关调查报道后,将关闭该机器人作为节省资金的潜在选项之一。Mamdani批评前政府在没有核算实际项目成本的情况下挥霍资金,并称预算赤字是前政府留下的毒酒杯。目前尚未确定关闭机器人的具体日期。
核心概念及解读
MyCity项目:纽约市雄心勃勃的政府数字化服务升级计划,旨在简化市民获取政府服务的途径,但因过度依赖外部承包商而备受批评。
AI聊天机器人缺陷:该机器人多次提供违法建议,包括允许克扣员工小费、歧视特定租户群体、拒绝现金支付等,暴露了政府AI应用中的重大安全隐患。
预算赤字治理:纽约市面临120亿美元财政缺口,新政府通过审查前政府项目,将功能失效且耗资巨大的AI机器人列为削减目标,体现财政问责导向。
原文信息
| 字段 | 内容 |
|---|---|
| 原文 | Mamdani to kill the NYC AI chatbot we caught telling businesses to break the law – The Markup |
| 作者 | Katie Honan |
| 发表日期 | 2026-01-30 |
此摘要卡片由 AI 自动生成