日常生活中,当你遇到疑问时,是否习惯上网搜索答案?
随着人工智能(AI)技术的飞速发展以及在各个领域的广泛应用,现如今,在搜索引擎里输入问题后,下一秒就弹出了AI回答,很是便捷高效。
然而实际上,AI给出的答案并非绝对可靠。在社交平台上,有一些用户反馈自己被AI回答“坑”了的经历。
网络截图
AI回答错误多?
客服回应:如有问题可进行反馈优化
“辅导孩子作业想确定声母b和韵母un可不可以相拼,去百度一搜索,AI给出的答案是可以,结果是错的。”家长秦女士告诉记者,这不是她第一次碰到AI回答不靠谱了。“既然总有错误,能不能就不要推送AI智能回答还把它置顶?”
无独有偶,大学生小贾在复习备考时上网查阅资料也对AI的准确性产生了质疑。“平时有疑问我还是蛮依赖于上网的,毕竟搜一搜答案就出来了,比较方便。但没想到AI给出的答案居然是错的,考试的时候这道题没得分。”
小贾告诉记者,他搜索的是一道历史题,没想到,最终AI给出了一个错误的解答。
小贾说,对这一错误他进行了反馈,目前错误已经被修正,现在再搜索该题目时,AI给出的回答已经正确。但同样的问题,当记者换一种问法时,AI的答案却又出错了。
于是,记者尝试联系百度客服。不过,电话热线并未能成功联系上人工客服,在记者按照提示音操作后,平台发送了从APP端自助反馈的操作信息。
针对AI回答错误客服的回应。
客户端的在线客服则表示,AI答案是通过海量的数据中搜索和筛选出相关的知识和信息,如果有答案有问题,可以点击相关举报按钮协助反馈。对于记者“普通人如何去辨别”的疑问,对方则表示:“很抱歉带来不好的体验,会根据反馈持续优化。”
专家:AI可参考但并非无所不知
关键信息要进行多方验证
“AI基于数据训练之后具备一定的理解和生成能力,它的技术特性就决定了幻觉是不可避免的。”在新华三人工智能研究院副院长李文喜看来,AI针对问题生成的答案是否包含错误信息是由多方面原因决定的,且AI模型的准确性在很大程度上取决于其训练数据的质量。如果这些数据存在偏差、不完整或不准确,AI的回答也可能反映出这些问题。与此同时,训练数据和训练时长、训练后的强化和人工调优等都不可能是无限的,“因此把它当做具备一定逻辑能力但并非是无所不知的工具来用才是合理的。”
李文喜告诉记者,想要消除错误信息,用户在使用时可以尽可能对复杂问题做分解。“一般来说,单一的问题不容易有错。另外,在问题中可以提供更具体和明确的提示词,越具体明确的问题出错的概率越小。”对于需要更精准答案的用户,他建议可以选择使用更专业的AI产品。
“随着技术的不断发展,AI的性能和准确性也在不断提高。但用户在使用AI时仍需保持谨慎和理性的态度。”李文喜强调,用户在使用AI时应进行多方验证,不要形成过于依赖。
“对AI答案中的关键信息要进行多方搜索验证。比如百度同时也是搜索引擎,用它搜出来的各个网站链接去验真,一个网站可能有错,但正常来说大部分网站相互验证还是好很多。”李文喜表示,实在不确定的还可以查阅其他可靠的资料来源,如专业书籍、学术论文、权威网站等。同时,用户还应仔细分析AI回答的逻辑是否合理,是否存在逻辑漏洞、矛盾或不合理之处。此外,了解AI的训练数据来源和算法背景也有助于判断其回答的真实性。