当前位置：首页 > news >正文

[240527] 谷歌 CEO 承认 AI 编造虚假信息问题难解（此文使用 @gemini 命令二次创作）| ICQ 停止运作

news 来源：原创 2024/6/25 14:02:58

谷歌 CEO 承认 AI 编造虚假信息问题难解

一、AI概览错误频出

谷歌CEO承认，公司无法解决AI提供错误信息的难题。
谷歌的新功能“AI概览”常给出极其错误的答案，例如建议在披萨上使用胶水防止奶酪滑落。
谷歌CEO桑达尔·皮查伊表示，这些“幻觉”是大型语言模型（LLM）的“固有特征”，目前仍是未解决的问题。
尽管谷歌工程师努力修复，但预计AI概览还会出现更多奇怪且错误的失误。

二、皮查伊轻描淡写错误，引发争议

皮查伊对AI概览及其有用性持乐观态度，认为错误不应掩盖其实用性。
他承认AI概览仍需改进，但表示公司正在取得进展。
然而，这些错误已经在网上引起轩然大波，许多人展示了该功能生成的各种错误信息实例。
这损害了谷歌搜索的声誉，该产品此前就因提供垃圾结果而受到批评。

三、AI未来发展堪忧

人工智能顾问布兰妮·穆勒认为，人们对AI的准确性期望很高，但现实却并非如此。
她批评谷歌在AI搜索上的冒险竞争，认为应该开发用于其他更有价值的用例。
从皮查伊的话来看，谷歌和整个互联网的AI发展之路似乎都将充满挑战。

注意，上述文字是采用 Google 自家的 Gemini （最强大的 Gemini-1.5-Pro 模型）生成，temperature 为 0.3，命令如下：

x jina 'https://futurism.com/the-byte/ceo-google-ai-hallucinations' | \@gemini '提取文章，并翻译成中文，以 markdown 方式提供' | \@gemini '以大纲方式来整理，输出中文文章'

正如 Google CEO 所述，上述AI生成的文字可能亦有误，请大家参考原文：

https://futurism.com/the-byte/ceo-google-ai-hallucinations

另外，可能会有朋友认为这个命令太长 – 实际上，这个命令并非一气呵成，而是逐步完成；且每一个 pipe 都是有 cache 的，每次结果皆能重复使用，不需重复等待。构造过程如下：


# 我先用 jina 提取原文，注意当前在中国访问 jina 的生成延时很大
x jina 'https://futurism.com/the-byte/ceo-google-ai-hallucinations'# 我不想看英文，因此想先翻译，一般来说，用 `x jina xxx | @zh` 即可
# 但问题是，我发现 jina 的输出结果有一些与正文无关的，
# 所以我自行写 prompt<...前面的命令> | @gemini '提取文章，并翻译成中文，以 markdown 方式提供'# 同理，上述结果会 cache；
# 在上述结果上，我想生成一个大纲（outline）视图的摘要。
# 因此补充了最后一个 `@gemini`<...前面的命令> | @gemini '以大纲方式来整理，输出中文文章'

再次强调，每一步 x-cmd 都会缓存，在设计上出于两个考虑：

减少重复访问，缩短生成时间，便于用户调整意图，生成最合适结果
前面的步骤结果一旦得到用户肯定，即可在下一步复用；便可避免再次访问带来不确定（可能更差的）的结果

如果对 @gemini 缓存的结果不满意 – 此时，与其设置缓存参数，不如在 prompt 的前面或者后面加个空格，这样缓存便失效 – 这是我经常使用的技巧。

最近，我减少 chat 网页应用 – 因为在聊天过程中，前面聊天记录会以不确定的形式影响后面的结果。这导致我不断创建新的会话。

而当前 x-cmd 的 llm 功能在设计上充分考虑了这个问题，考虑到我们的用户都具备相当的开发能力，因此默认都不会附带前面的聊天记录。通过精确控制上下文，可以对生成结果进行更为灵活且更为精准的操控。

ICQ 停止运作

ICQ 将于 6月26日停止运作。ICQ 是首个获得广泛传播的文字即时通信软件。

ICQ 的创始公司 Mirabilis 成立于 1996 年 6 月，由五位以色列开发者创立：Yair Goldfinger、Sefi Vigiser、Amnon Amir、Arik Vardi 以及 Arik 的父亲 Yossi Vardi。

美国在线 (AOL) 于 1998 年 6 月 8 日收购了 Mirabilis，收购价为 2.87 亿美元，并在未来三年内根据业绩表现额外支付 1.2 亿美元。2002 年，美国在线成功为该技术申请了专利。

2010 年 4 月，美国在线以 1.875 亿美元的价格将 ICQ 出售给 Digital Sky Technologies。虽然在 21 世纪 00 年代，ICQ 在美国和许多其他国家/地区被 AOL Instant Messenger、Google Talk 和其他竞争对手所取代，但它仍然是俄语国家/地区最受欢迎的即时通讯网络，并且是在线文化的重要组成部分。2010 年，受欢迎的 UIN 的价格超过了 11,000 美元。

同年 9 月，Digital Sky Technologies 更名为 Mail.Ru Group。自收购以来，Mail.ru 将 ICQ 从桌面客户端转变为移动消息系统。截至 2013 年，大约一半的 ICQ 用户使用其移动应用程序，并且在 2014 年，用户数量自收购以来首次开始增长。

2016 年 3 月，客户端的源代码在 github.com 上以 Apache 许可证发布。

关于 ICQ 的更多的信息，可访问:

https://wikipedia.org/wiki/ICQ

或者采用 x 的维基百科模块: