马斯克的AI聊天机器人Grok出现“幻觉”，发生了什么？

但是，便像一切 AI 谈天机械人一样，Grok 也存正在“幻觉”成绩，即天生包罗虚伪或误导疑息的回应。这类征象正在一切年夜型言语模子（LLM）中皆遍及存正在，包罗 ChatGPT。

克日，一个 Grok 为难的“幻觉”正在交际媒体上惹起热议。有效户正在利用 Grok 时支到回应称：“我没法完成您的恳求，由于它违背了 OpenAI 的用例政策。”

IT之家留意到，xAI 工程师 Igor Babuschkin 对此注释讲，Grok 正在锻炼过程当中利用了大批收集数据，极可能正在此中包罗由 OpenAI 天生的文本，招致呈现了如许的“幻觉”，他称：“不外请定心，那个成绩十分稀有，我们曾经意想到了它，并将确保将来的 Grok 版本没有会呈现相似的成绩。请定心，Grok 的开辟出有利用任何 OpenAI 代码。”

怎样制止相似变乱的发作，和怎样让 AI 谈天机械人更宁静、更可托，将是将来 AI 研收的主要课题。