犯下“1000亿美元”的错误后,谷歌忧心忡忡

每经记者:蔡鼎 每经编辑:兰素英,孙志成

上周,由于人工智能聊天工具Bard在展示环节中给出错误回答,谷歌的市值一夜蒸发超1000亿美元

这无疑给了这个已经在人工智能领域深耕多年的科技巨头狠狠的一巴掌。

据Business Insider,包括谷歌母公司Alphabet CEO桑达尔·皮查伊在内的数名高管已经开始着手让谷歌员工对Bard进行大量的测试,要求员工本周贡献2~4小时,以完善Bard的回答内容

内部人士表示,谷歌已于周二(2月14日)启动了内部测试。目前公司已经有数以千计的内部和外部测试者在使用这项服务,并就Bard回答的质量、安全性和“根基性”提交反馈。

CEO皮查伊:紧急行动,赢得下一代AI搜索大战

Business Insider报道称,谷歌母公司Alphabet CEO桑达尔·皮查伊美西时间2月15日(周三)发送了一份内部备忘录,要求谷歌员工本周贡献2至4个小时,帮助该公司改善其人工智能聊天机器人Bard。

这封邮件称,谷歌目前急需采取行动,赢得下一代AI搜索大战。

皮查伊在这份备忘录中写道,“我知道这样的时刻非常令人兴奋,这是可以预料到的:底层技术正在迅速发展,潜力巨大。这将是一段漫长的旅程,对每个人来说都是如此。我们现在能做的最重要的事情就是专注于开发一款伟大的产品,并负责任地进行开发。这就是为什么我们有成千上万的外部和内部测试人员在测试Bard在真实用户聊天场景中的质量、安全性和基本反应。让我们拥抱挑战,不断迭代,包括用户和开发人员。”

“请记住,我们一些最成功的产品并不是第一个推向市场。这些产品受欢迎的原因是解决了重要的用户需求,并建立在深刻的技术洞察力之上。随着时间的推移,我们赢得了用户的信任,也有越来越多的用户开始依赖我们的产品。”皮查伊继续写道。

“人工智能已经经历了一轮轮的冬去春来,如今它又开始绽放。作为一家人工智能至上的公司,我们多年来一直在努力实现这一目标,并为此做好了准备。让我们专注于为用户提供前沿的体验。”皮查伊总结道。

谷歌上周演示了其人工智能聊天工具Bard,但在回答一个关于詹姆斯·韦伯太空望远镜的问题时,Bard给出了错误回答,导致谷歌声誉受损。

谷歌Bard首个回答含事实性错误(图片来源:谷歌)

这个错误回答的代价还不止于此。外界发现这一错误后,谷歌股价立即暴跌,一个交易日市值蒸发超1000亿美元。

图片来源:雅虎财经

另外,《每日经济新闻》记者注意到,谷歌过去一年也曾因为其AI项目遇到过一些内部动荡,因为部分员工担心这项技术尚未做好准备,可能传播偏见和虚假信息。不过,谷歌也有自己的优势,那就是数据和用户反馈,无疑可以帮助公司完善其AI系统的回答效果。

案例教学最佳有贡献员工将获特殊徽章

除了CEO皮查伊外,据CNBC,谷歌负责搜索的副总裁Prabhakar Raghavan周三也在一封电子邮件中要求员工确保Bard在以后的回答中给出正确的答案。

CNBC看到的这份邮件显示,里面包含“应做事项(Do’s)”和“禁忌事项(Don’ts)”的页面链接,指示员工如何对Bard进行测试并修正错误的答案。邮件同时称,“Bard通过案例学习效果最好,所以花时间深思熟虑地改写答案,将大大有助于我们改进Bard的模式。”

Prabhakar Raghavan也对皮查伊在上述备忘录中的观点表示同意,并称“(人工智能聊天机器人)是振奋人心的技术,但仍处于早期阶段。我们感到有很大的责任把它(指Bard)做好,你的参与和付出将有助于加速模型的训练,并测试其负载能力。”

据CNBC报道,在页面链接的顶部,谷歌还为参与测试的员工提供了“指导Bard前”需要考虑的一些问题。

在“应做事项”部分,谷歌指示员工应让Bard给出“有礼貌、随和并且平易近人”的回答。此外,该指示还要求员工应该让Bard用“第一人称”,并保持“无偏见且中立的语气。”

在“禁忌事项”部分,谷歌要求员工让Bard的回答不要带有刻板印象,“避免给予种族、国籍、性别、年龄、宗教、性取向、政治意识形态、地理位置或类似的类别进行推测。”

此外,谷歌还要求员工“不要把Bard描述成一个人,暗示任何情况,或称有类似人类的经历。”

“来自谷歌员工和外部值得信任的测试者的测试和反馈都是改善Bard的重要环节,可以确保它为我们的用户做好准备。”谷歌发言人在声明中说。“我们经常向谷歌员工寻求意见和建议,帮助我们改进产品,这是我们内部文化的重要组成部分。”

为了激励公司内的员工对Bard进行测试并提供反馈,Raghavan表示,为Bard测试做出贡献的员工将获得一个“Moma徽章”,出现在内部员工档案上。

记者|蔡鼎 编辑|兰素英 孙志成 杜恒峰

校对|程鹏

封面图片来源:视觉中国(图文无关)

|每日经济新闻 nbdnews 原创文章|

未经许可禁止转载、摘编、复制及镜像等使用

每日经济新闻

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据