苹果不准确的人工智能新闻警报表明 该技术存在越来越多的错误信息问题

iPhone上的一项人工智能功能正在生成假新闻警报，引发了人们对该技术传播错误信息能力的担忧。



上周，苹果（apple）最近推出了一项利用人工智能总结用户通知的功能，该功能在BBC新闻（BBC News）关于PDC世界飞镖锦标赛（PDC World Darts Championship）半决赛的报道中，错误地总结了BBC新闻应用程序的通知，错误地声称英国飞镖选手卢克·利特勒（Luke Littler）赢得了冠军。



这件事发生在比赛决赛的前一天，利特勒确实赢得了决赛。



然后，就在事件发生几小时后，这家科技巨头的人工智能系统苹果智能（Apple Intelligence）生成的另一条通知错误地声称，网球传奇人物拉斐尔·纳达尔（Rafael b纳达尔）已经出柜。



一个月来，BBC一直试图让苹果公司解决这个问题。去年12月，英国广播公司（BBC）向苹果投诉，因为苹果的人工智能功能产生了一个虚假的标题，暗示在纽约联合医疗公司首席执行官布莱恩·汤普森被谋杀后被捕的路易吉·曼吉奥内开枪自杀，而这并没有发生。



CNBC联系苹果公司时，苹果公司没有立即发表评论。周一，苹果公司告诉BBC，他们正在进行更新来解决这个问题，通过添加一个澄清说明来显示苹果智能部门何时负责通知中显示的文本。目前，生成的新闻通知显示为直接来自源。



苹果公司在与BBC分享的一份声明中表示：“苹果智能功能还处于测试阶段，我们将在用户反馈的帮助下不断改进。”苹果公司补充说，它鼓励用户在看到“意外通知摘要”时报告他们的担忧。



BBC并不是唯一一家受到Apple Intelligence不准确总结新闻通知影响的新闻机构。去年11月，该功能发送了一条人工智能摘要通知，错误地声称以色列总理本雅明·内塔尼亚胡（Benjamin Netanyahu）被捕。



调查新闻网站ProPublica的高级编辑肯·施文克（Ken Schwencke）在社交媒体应用Bluesky上指出了这一错误。



CNBC已经联系了BBC和《纽约时报》，就苹果提出的解决人工智能功能错误信息问题的方案发表评论。



*人工智能的错误信息问题*

苹果公司吹捧其人工智能生成的通知摘要是一种有效的方式，可以将新闻应用程序通知的预览分组并重写为用户锁定屏幕上的单个警报。



苹果表示，这一功能旨在帮助用户扫描通知，查找关键细节，并减少许多智能手机用户熟悉的铺天盖地的更新。



然而，这导致了人工智能专家所说的“幻觉”——人工智能产生的反应包含虚假或误导性信息。



“我怀疑苹果不会是唯一一家在人工智能生成内容方面面临挑战的公司。我们已经看到了许多人工智能服务自信地说出虚假信息，即所谓的‘幻觉’的例子。”专注于科技的市场研究公司CCS Insights的首席分析师本·伍德在接受CNBC采访时表示。



在苹果的案例中，由于人工智能试图整合通知并将其浓缩为仅显示基本信息的摘要，因此它以一种不准确地描述事件的方式将单词混在一起——但自信地将它们作为事实呈现出来。



“苹果试图将内容压缩成非常简短的摘要，这增加了复杂性，最终传递了错误的信息。”伍德补充说，“毫无疑问，苹果会尽快解决这个问题，我相信竞争对手也会密切关注苹果的反应。”



生成式人工智能的工作原理是，试图为用户插入的问题或提示找出可能的最佳答案，依赖于其底层大型语言模型所训练的大量数据。



有时人工智能可能不知道答案。但因为它被编程为总是呈现对用户提示的响应，这可能导致AI有效地撒谎。



目前还不清楚苹果何时会解决通知摘要功能中的漏洞。这家iPhone制造商表示，预计将在“未来几周”。