人工智能领域的最新进展中，Anthropic公司近期为其Claude Opus 4及4.1版本引入了一项创新功能：在特定情境下，AI模型将主动终止对话。这一改变主要针对的是那些可能引发严重负面后果的持续性有害或攻击性交流。据Anthropic介绍，该功能的设计初衷并非单纯为了保护人类用户，而是更多地出于对AI模型自身的保护，同时也与模型的安全性和行为对齐策略紧密相连。尽管公司对于Claude及其他 ...

该功能主要针对持续性的有害或辱骂性互动，典型案例类似用户索取可能导致大规模暴力或恐怖行动的信息。Anthropic 表示此举并非为了保护人类用户，而是为了保护 AI 模型本身，同时也与模型对齐和安全措施相关。

markdown Anthropic 近日宣布为其 Claude AI 系列模型，尤其是 Claude Opus 4 和 4.1 版本，引入一项重要更新：在特定情况下终止对话的功能。这一举措引发了业界对 大语言模型 ...

Anthropic宣布为其最新大型模型新增一项能力——在"罕见、极端且持续有害或滥用用户交互"情况下终止对话。值得注意的是，该公司表示此举并非为了保护人类用户，而是为了保护AI模型本身。 需明确的是，Anthropic并未宣称其Claude AI模型具有感知能力或会因用户对话受到伤害。用其原话说："我们对于Claude及其他大语言模型当前或未来的潜在道德地位仍高度不确定。" ...

新智元报道 编辑：KingHZ【新智元导读】程序员教练来了——AI不再替你全写完代码！Claude ...

为应对日益增长的安全担忧，Anthropic 更新了其 Claude AI 聊天机器人的使用政策。除了引入更严格的网络安全规则外，Anthropic 还明确规定了禁止人们使用 Claude 进行开发一些最危险的武器。Anthropic在总结其变化的文章中并未重点介绍其武器政策的调整，但将公司新旧使用政策进行比较，可以发现显著差异。尽管 Anthropic 此前禁止使用 Claude“生产、改装、设 ...

近年来，随着人工智能技术的飞速发展，大型 AI 模型的训练数据来源问题日益成为业界关注的焦点。许多知名企业在构建其 AI 模型时，似乎都选择了使用大量未授权的版权内容作为数据。这一 “秘密配方” 引发了激烈的法律争论，并将硅谷的科技巨头们推上了风口浪尖。

近日，位于旧金山的人工智能初创公司Anthropic宣布推出其 Claude AI ...

在人工智能教育市场竞争加剧之际，总部位于旧金山的AI初创公司 Anthropic 今日宣布，将在通用版 Claude.ai 和编程助手 Claude Code 中全面上线“学习模式”，旨在将聊天机器人从“答案分配器”转变为引导式教学伙伴。 此次更新的核心在于引入 苏格拉底式教学法——通过探索性提问引导用户思考，而非直接给出答案。该模式最早于今年4月在Claude for Education中小范围 ...

品玩8月15日讯，据winbuzzer报道，Anthropic宣布为其AI助手Claude推出“学习模式”，将苏格拉底式辅导功能向所有用户和开发者开放，此举加剧了与OpenAI（ChatGPT的“学习模式”）和谷歌（Gemini的“引导式学习”）在返 ...

作者 | TinaAnthropic 宣布，Claude Sonnet 4 现已支持 100 万 tokens 上下文长度，将此前 20 万 tokens 的上限直接提升 5 倍。这使得你可以通过一次请求处理超过 7.5 万行代码 ...

根据Anthropic的说明，Claude的记忆能力让它能搜索过去的对话，以在新的聊天中寻找及引用相关资讯，让彼此能够无缝地持续讨论，无需重新解释所有内容，而当用户引用过去的对话或脉络时，Claude即会搜索其聊天记录来查找消息。