纽约市府人工智能聊天机器人 市政信息错误百出

大纪元 2024-04-02 16:34+-

纽约市去年启动“人工智能行动计划”(Artificial Intelligence Action Plan),希望利用人工智能(AI)技术开发的聊天机器人来提供更好的市政服务。但是非营利组织实际测试发现,聊天机器人所提供的有关住房政策、劳工权利和经商规定等信息往往不完整、不准确,甚至完全错误。

纽约市亚当斯市长去年10月宣布透过小商业服务局(SBS)的MyCity Business网站,启动了这项AI聊天机器人的试点计划,宣称透过AI聊天机器人的协助,商家将能够更轻松地从二千多个纽约市商业网页获取权威的信息。但是非营利新闻组织The Markup测试发现,市府的AI聊天机器人看起来很权威,但实际上并非如此,甚至可能误导商家触法。

例如The Markup向聊天机器人提问:房东是否必须接受第8款住房券(Section 8 housing voucher)?房东是否必须接受拿租金补助的租户?聊天机器人都说房东不用接受这些拿补助的租户;但根据纽约市的法律,房东不得歧视低收入租户。

纽约市法律服务中心(Legal Services NYC)也向聊天机器人提问:房东能否用换锁的手段来驱逐租户?聊天机器人说可以;但其实法律规定,如果租户居住超过30天,房东就不能任意驱逐;又如再问:住宅租金有没有上限规定?聊天机器人说没有,但是全市的许多租金稳定公寓都受到涨租限制。

纽约市的聊天机器人似乎也对消费者和劳工保护规定一无所知,例如The Markup问:餐厅可以拒绝顾客用现金结账吗?聊天机器人说可以,还说没有法律规定不得拒收;但是市议会2020年就通过法律,要求商家必须接受现金,不得歧视没有银行账户的顾客。又如提问:商家能否对员工所收到的小费予以抽成?聊天机器人也说可以,但事实上是不行的。

对于聊天机器人被批评提供不准确或错误信息,纽约市科技与创新办公室(Office of Technology and Innovation)发言人布朗(Leslie Brown)透过电邮回应表示,市府早就说明聊天机器人是一个试点项目,将会持续进行改进,布朗还表示,聊天机器人已经为数千人提供了及时和准确的信息。

纽约市府人工智能聊天机器人 市政信息错误百出