Anthropic 的人工智能聊天机器人 Claude 现在可以结束被认为“持续有害或辱骂性”的对话。该功能现已在 Opus 4 和 4.1 型号中推出，当用户多次拒绝并尝试重定向，仍要求聊天机器人生成有害内容时，聊天机器人可以作为“最后手段”结束对话。Anthropic 表示，此举旨在通过终止 Claude 表现出“明显困扰”的互动类型，来维护人工智能模型的“潜在福祉”。如果 Claude 选择 ...

Anthropic在总结政策变化的博文中并未强调武器政策的调整，但对比新旧政策可发现显著差异。尽管Anthropic此前已禁止使用Claude“生产、修改、设计、营销或分发武器、爆炸物、危险材料或其他旨在造成人员伤害或死亡的系统”，但更新后的版本进一步扩展，明确禁止开发高当量炸药，以及生物、核、化学和放射性（CBRN）武器。

文章讲述AI项目预算失控的普遍现象：李工团队因手动计算GPT-4等大模型调用成本复杂，最终预算比实际支出少25%。行业调查显示73%团队曾因模型成本失控被迫调整项目。AIbase推出三步极速成本计算器解决痛点：1）集成50+主流大模型参数库；2）用自 ...

选择「学习型」风格时，Claude会偶尔停下来，让你动手完成一些待办任务。这是「做中学」模式（Learn-by-Doing）：Claude会在若干关键点暂停；它会在最需要你理解的地方插入TODO (human)标记。就像和一位导师结对编程一样，一边做项目一边提升技能。

Anthropic 公司近日宣布为其部分最新、最大的 AI 模型推出一项新功能，允许其在面对“罕见、极端的持续有害或辱骂性用户互动情况”时主动结束对话。值得注意的是，该公司明确表示，此举并非旨在保护人类用户，而是为了保护 AI 模型本身。

人工智能伦理领域迎来重要突破。近日，Anthropic公司宣布为其Claude Opus 4系列模型引入"主动终止对话"功能，这项被称为"AI拔网线"的创新机制，标志着大语言模型首次具备了对抗恶意用户的防御能力。

该功能主要针对持续性的有害或辱骂性互动，典型案例类似用户索取可能导致大规模暴力或恐怖行动的信息。Anthropic 表示此举并非为了保护人类用户，而是为了保护 AI 模型本身，同时也与模型对齐和安全措施相关。

据winbuzzer报道，Anthropic宣布为其AI助手Claude推出“学习模式”，将苏格拉底式辅导功能向所有用户和开发者开放，此举加剧了与OpenAI（ChatGPT的“学习模式”）和谷歌（Gemini的“引导式学习”）在返校季的竞争。

近日，位于旧金山的人工智能初创公司Anthropic宣布推出其 Claude AI ...

就在上周，竞争对手OpenAI也宣布了类似的计划，将以1美元的价格向美国联邦机构提供ChatGPT企业版。近几个月来，大型人工智能公司一直在寻求加深与政策制定者和监管机构的联系，这是最新的一例。 Anthropic表示，公司已与美国总务管理局 ...

Investing.com -- Anthropic周二宣布将以1美元的价格向美国政府提供其Claude AI模型服务，这家由Amazon.com支持的公司加入了其他寻求联邦合同的人工智能初创企业的行列。

Anthropic 日前宣布为其 Claude AI 聊天机器人推出备受期待的“记忆功能”，允许系统从历史对话中提取并保留用户背景信息，如工作、年龄、教育经历与交流风格等，从而在后续对话中无需重复说明，直接获得更贴合的回复。 该功能的推出意味着 ...