微博AI智搜开始做信息核查了,但翻车了

次浏览

摘要:21世纪经济报道记者肖潇 最近争议烟花秀后,一条传言在微博发酵。多位博主称,这场烟花秀曾在今年三月被拿去日本富士山推销,遭到了拒绝。不少网友对该说法保持怀疑。但

21世纪经济报道记者肖潇 

最近争议烟花秀后,一条传言在微博发酵。多位博主称,这场烟花秀曾在今年三月被拿去日本富士山推销,遭到了拒绝。

不少网友对该说法保持怀疑。但让人在意的是,这条转发上千次的内容上方标注了“微博智搜求证了此微博”,下方的附注结论是“这一信息属实”。 

9月23日上午,这一标识被替换为用户澄清附注。一位用户澄清道:《樱花漫天的日子》是2023年6月26日举行于日本磐城四仓海岸的一个活动,这是日本第一个日间烟花,并非“今年三月份日本不要的蔡国强活动”,原博图中为AI造假信息。

尽管标识被撤下,但当21记者再次让微博智搜求证这条微博时,AI还是给出了相同结论:“今年3月,日本确实否决了富士山燃放计划。”理由是多个橙V自媒体博主都发布了类似的文案,被视为经过多方验证。AI制造的内容,又被AI求证为真。

微博智搜是今年2月上线的AI问答机器人,入口紧邻搜索框,用来总结用户的搜索词,背后整合了DeepSeek的深度思考功能。7月10日,微博新增了智搜求证功能,旨在减少争议和片面信息。

根据@微博管理员的介绍,智搜求证依赖用户主动发起:要么点击博文右上角的求证放大镜,要么在评论区@微博智搜账号。不是所有求证结果都会展示,微博选择“优先展示有正向引导价值的智搜附注。”

上线两个月来,“微博智搜已求证”的标识已经出现在多条微博里,但表现并不稳定。

比如,此前有关高铁将限速140公里/小时的传言,就被标识为“微博智搜已求证”,附注“不实信息”。当时AI对比了多个博主发言,指出它们文案相似,且未获交通部门证实。但在蔡国强烟花传言中,智搜却未识别出博主文案同样高度雷同,反而给出了错误判断。

一位数码圈博主提到,此前一条跟vivo新机有关的爆料微博,就被智搜求证补充了芯片、命名时间、镜头等细节。但他直言:“居然不经过博主允许就加附注,而且一些附注内容是错的”。

针对智搜求证机制,微博回应21记者的问询:智搜求证会借助AI,对同一热点事件下不同信息、观点进行抓取、梳理、分析。但现在几乎所有的大模型都很难避免“AI幻觉”这一问题,所以在形成求证结论的过程中,微博智搜会对信息来源的可信度进行综合评估打分,交叉验证,尽可能提升准确度。针对智搜求证内容,会根据事件进展和用户反馈,进行必要的人工更新、修正,对不准确信息及时“自净”。

但不少法律人士表示,这种标识做法存在风险。

“通常我们认为平台推出一款AI工具,AI的回答不直接代表平台的官方发言,因为是大模型是基于自主学习和信息汇总之后的结论,不一定带有官方性质。” 浙江垦丁(北京)律师事务所律师程念指出,而一旦相关微博有了“已证实”等主动标识,很可能就会让用户认为代表平台立场。

这也意味着,平台有更高的义务,不能再以“技术中立”规避责任,而要对内容真实性承担直接责任。

上海申伦律师事务所律师夏海龙也表示,从法律上来讲,求证标识本质上是平台对内容的确认。如果错误判断损害了用户名誉或隐私,平台可能要承担侵权责任;若涉及传播谣言,还可能面临行政处罚。

除了微博,微信、小红书、抖音、百度目前都有公开的、多对多展示的AI总结,推荐在搜索首位。程念提醒,若出现类似微博的“AI幻觉”,平台同样面临法律风险。

值得一提的是,今年4月初,微博智搜还因为能总结账号的情绪状态、兴趣爱好等个人画像,引发隐私争议。当时微博官方回应称,非完全公开的内容从未被纳入AI分析范围,微博也不会通过智搜功能收集、存储或分析用户的非公开信息。

随机内容
就在下周!6G发展大会举办在即 将发布AI通智融合最新成果 就在下周!6G发展大会举办在即 将发布AI通智融合最新成果
AI投资洪流中,苹果如何另辟蹊径“稳扎稳打”? AI投资洪流中,苹果如何另辟蹊径“稳扎稳打”?
亚马逊算力帝国遭揭底:全球数据中心体量被曝早已超900家 亚马逊算力帝国遭揭底:全球数据中心体量被曝早已超900家
Gemini+TPU双线破局!顶级科技投资人“火上浇油”:七巨头中Alphabet最值得持有 Gemini+TPU双线破局!顶级科技投资人“火上浇油”:七巨头中Alphabet最值得持有
高盛客户“搭脉”AI行业:偏爱能源和医疗创新领域,繁荣不是泡沫! 高盛客户“搭脉”AI行业:偏爱能源和医疗创新领域,繁荣不是泡沫!
量化多头策略前8月平均回报达30%,百瑞、兴业表现较好 量化多头策略前8月平均回报达30%,百瑞、兴业表现较好
潜江 “芯” 崛起:从基础化工到半导体材料的蝶变之路 潜江 “芯” 崛起:从基础化工到半导体材料的蝶变之路
科创板晚报|摩尔线程中签号出炉 普冉股份拟购买诺亚长天49%股权 科创板晚报|摩尔线程中签号出炉 普冉股份拟购买诺亚长天49%股权
存款减少超千亿、理财产品增加,上市公司也在“存款搬家”? 存款减少超千亿、理财产品增加,上市公司也在“存款搬家”?
试水近半年,微信跨境支付“利器”全球推广,能否搅动市场生态? 试水近半年,微信跨境支付“利器”全球推广,能否搅动市场生态?