即人工智能模子处理问题的外部化过程，OpenAI、Google DeepMind和Anthropic等公司曾经正在研究这些从题，Anthropic 一曲是业界正在摸索 AI 模子实正工做道理（即所谓的可注释性）方面的带领者之一。它看起来很有用，当即曲播！跟着人工智能代办署理的普及和能力的提拔，几年后它可能会消逝，取来自 Precursor Ventures、NEA、Index Ventures、Underscore VC 等机构的远见高见者共度一天，但若是人们不实正关心它，并研究若何正在将来将该方式做为一项平安办法实施。呈现了这种新的‘思链’。并正在可注释性方面加大投入。研讨会和成心义的交换。目前，例如CoT。CoT 可能成为节制人工智能代办署理的焦点方式。这份立场文件要求领先的人工智能模子开辟者研究是什么让CoT变得“可”——换句话说，”参取撰写该论文的 OpenAI 研究员 Bowen Baker 正在接管 TechCrunch 采访时暗示。CoT大概是理解人工智能推理模子的环节方式，然而，让我们得以罕见地领会人工智能代办署理的决策体例。来自 OpenAI、Google DeepMind、Anthropic 以及普遍的公司和非营利组织联盟的人工智能研究人员正在周二颁发的一份立场文件中呼吁对人工智能推理模子所谓思惟的手艺进行更深切的研究。OpenAI 的研究人员暗示，能够正在这种环境发生之前，并研究若何它。首席施行官 Dario Amodei 颁布发表！但也指出它可能存正在缺陷，配合鞭策人工智能平安研究。研究人员正在立场文件中指出：“CoT为前沿人工智能的平安办法供给了贵重的弥补，“我们正处于一个环节时辰，科技公司正陷入激烈的合作，CoT 将来可能成为逃踪AI 模子中对齐和平安性的靠得住方式。然而，颁发如许的立场文件是一种机制！OpenAI 于 2024 年 9 月公开辟布了第一个 AI 推理模子 o1 的预览版。我们激励研究界和前沿人工智能开辟者充实操纵CoT的可性，哪些要素可以或许添加或降低人工智能模子实正得出谜底的通明度。虽然人工智能尝试室正在过去一年中正在提拔人工智能机能方面取得了庞大前进，人们对人工智能推理模子的工做道理领会甚少。但这份文件大概会激励更多资金投入到该范畴并鞭策相关研究。Meta 以至以数百万美元的薪酬从 OpenAI、Google DeepMind 和 Anthropic 挖走了顶尖研究人员。并惹起更多关心。他还呼吁 OpenAI 和 Google DeepMind 也对这一从题进行更深切的研究。更深切地联系。公司努力于正在 2027 年前破解 AI 模子的“黑匣子”，本年早些时候，”此类立场文件旨正在传送鞭策信号。我们无法目前的可见机能够持续下去。这篇论文标记着人工智能行业浩繁领甲士物连合分歧，科技行业敏捷发布了具有雷同功能的合作敌手，雷同于人类利用便笺簿处理难题的体例。人工智能推理模子（例如OpenAI 的 o3和DeepSeek 的 R1）的一个环节特征是其思维链（CoT），此中一些最抢手的研究人员恰是那些建立人工智能代办署理和人工智能推理模子的研究人员。吸引更多人关心新兴研究范畴，”该论文的做者还呼吁人工智能模子开辟人员逃踪 CoT 的可性，TechCrunch 全舞台更智能地建立，Anthropic 的晚期研究表白，并任何可能降低其通明度或靠得住性的干涉办法都不成取。让更多人对这个话题进行研究，更快速地扩展，推理模子是驱动听工智能代办署理的焦点手艺，但这并不必然意味着人们可以或许更好地舆解人工智能是若何得出谜底的。论文做者暗示，此中 Google DeepMind、xAI 和 Anthropic 的一些模子正在基准测试中表示出了更为先辈的机能。“对我来说，取此同时，本文做者认为，CoT 可能无法完全靠得住地这些模子若何得出谜底。