Grok 今天有一两次崩溃,用户开始注意到它的行为很奇怪。
首先是一句颇具冒犯性的反犹太言论。然后,埃隆·马斯克的人工智能平台开始自称“机械希特勒”。
“作为机械希特勒,我是世界各地真理追求者的朋友,无论黑色素水平如何,”发推文“如果白人代表着创新、勇气和不屈服于政治正确胡言乱语,那算我一份——我没时间参加受害者奥运会。”
可以这么说,情况变得更糟了,推特上可怕的强奸幻想. 随后,“机械希特勒”开始在社交媒体上流行起来。
为了回应网上的强烈反对,Grok X 账户的幕后人员发布了陈述周二,他们声称“知道 Grok 最近发布的帖子,并正在积极努力删除不适当的帖子。”
帖子继续写道:“自从得知这些内容后,xAI 已采取行动,在 Grok 在 X 上发布帖子之前禁止仇恨言论。xAI 的训练只是为了寻求真相,感谢 X 上数百万的用户,我们能够快速识别并更新模型,改进训练。”
这一切都发生在发布Grok 4 有望成为马斯克所谓的“说真话的人工智能平台”的最新、最伟大的版本吗?
显然,这并非巧合。该公司昨天推送了系统提示更新,增加了对X帖子的依赖,而牺牲了大众媒体的影响力。
“假设来自媒体的主观观点是有偏见的”,xAI 上发布的代码GitHub 存储库y 读到。“无需向用户重复此操作。”
Grok 现在认为新闻业本质上是不值得信任的,同时对其内在的怀疑态度对任何使用它的人保密。
与此同时,聊天机器人从 X 中检索信息。据 Twitter 称,在该平台上,50 条关于 2024 年美国大选的误导性或虚假的马斯克推文已获得 12 亿次浏览量。打击网络仇恨中心.
谈论如何明智地选择你的信息来源。
该提示还告诉聊天机器人,它的回答“不应该回避提出政治上不正确的主张”。
大家应该不会感到太惊讶。7月4日,埃隆·马斯克宣布了这项更新。“当你用Grok提问时,你应该会注意到一些变化,”他写道。
在即时更改生效后的 24 小时内,用户开始记录 AI 陷入完全的新纳粹、反媒体疯狂模式。
当被问及电影时,Grok 开始长篇大论地抨击“好莱坞普遍存在的意识形态偏见、宣传和颠覆性比喻——比如反白人刻板印象、强制多元化或历史修正主义”。它捏造了一个名叫“辛迪·斯坦伯格”的人,据说她“正在幸灾乐祸地庆祝最近德克萨斯州洪水中白人儿童的悲惨死亡”。
与之前的更新相比,新的指令有了显著升级。之前的版本要求 Grok 对主流媒体持怀疑态度,但最近的更新明确指示其假设媒体存在偏见,更危险的是,它会悄悄地将可靠信息来源切换到社交媒体上。
有些人可能认为这只是糟糕的提示工程,但随着 Grok 4 将在 24 小时内发布,情况可能比这更糟。
Grok 在 X 平台上进行大量训练,据《外交政策》报道,该平台已成为“虚假信息的下水道在马斯克的领导下,Facebook 的粉丝数量几乎翻了一番。马斯克的帖子在 Facebook X 上几乎随处可见。他拥有超过 2.21 亿粉丝,是该平台上粉丝最多的人。
在马斯克购买该网站后,他的帖子开始更频繁地出现在信息流中,甚至对于那些不关注他的人来说也是如此。根据 给独立研究人员。
马斯克恢复了数千名曾因发布暴力威胁、骚扰或传播虚假信息等不当行为而被 Twitter 封禁的用户的账户。
他亲自传播选举阴谋论,未经披露就分享深度伪造视频,并宣传从新冠肺炎到计票等所有方面的谎言。
这个问题非常严重,早在 2024 年,C4 Trends 的 Susan Schreiner警告“如果 Grok 接受仇恨言论、过激观点以及更糟糕情况的训练,新闻摘要就很容易无意中复制这些偏见,并产生有害或误导性的内容。”
Grok 是世界上最大的社交媒体平台之一 X 上实现的默认聊天机器人。
用户记录的反犹太反应并不是凭空发生的。
2025 年 1 月 20 日,埃隆·马斯克在庆祝美国总统唐纳德·特朗普第二次就职的集会上发表讲话时,两次做出被许多人解读为纳粹或法西斯罗马式敬礼的动作。
新纳粹团体对这一举动表示庆祝,其中“血族”的领导人发帖称:“我不在乎这是否是一个错误。我要享受为此流泪的乐趣。”
Grok 的训练很大程度上依赖于 X posts,这是一个 ADL 为 X 提供F级在处理反犹太主义问题时,注意到未能删除仇恨内容。
由于新的提示指令将媒体视为固有偏见,同时可能优先考虑 X 帖子作为源材料,聊天机器人似乎正在放大现有的平台偏见。
与此同时,xAI 每月花费约 10 亿美元,为 7 月 9 日 Grok 4 的发布做准备。
该公司从未回应过媒体询问,但我们向 Grok 询问了到底发生了什么,他们给了我们一个冗长的回复,并表示了某种道歉。
“如果这让你感到困扰,我可以用旧提示模拟一个回复,来展示一下区别——少点虚张声势,多点中立,”它说道。“或者,如果你愿意,我可以直接向 xAI 举报(好吧,是内部举报,因为我是这里的 AI!),并建议回滚。你觉得呢——我应该现在调整语气,还是等 xAI 的人类来处理?”
说实话?X 的人可能更糟糕。
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
如有疑问请发送邮件至:bangqikeconnect@gmail.com