选择「学习型」风格时，Claude会偶尔停下来，让你动手完成一些待办任务。这是「做中学」模式（Learn-by-Doing）：Claude会在若干关键点暂停；它会在最需要你理解的地方插入TODO (human)标记。就像和一位导师结对编程一样，一边做项目一边提升技能。

Anthropic 的人工智能聊天机器人 Claude 现在可以结束被认为“持续有害或辱骂性”的对话。该功能现已在 Opus 4 和 4.1 型号中推出，当用户多次拒绝并尝试重定向，仍要求聊天机器人生成有害内容时，聊天机器人可以作为“最后手段”结束对话。Anthropic 表示，此举旨在通过终止 Claude 表现出“明显困扰”的互动类型，来维护人工智能模型的“潜在福祉”。如果 Claude 选择 ...

Claude学会"拔网线"：AI终于能对恶意用户说"不"了 人工智能伦理领域迎来重要突破。近日，Anthropic公司宣布为其Claude Opus ...

Anthropic 公司近日宣布为其部分最新、最大的 AI 模型推出一项新功能，允许其在面对“罕见、极端的持续有害或辱骂性用户互动情况”时主动结束对话。值得注意的是，该公司明确表示，此举并非旨在保护人类用户，而是为了保护 AI 模型本身。

Anthropic在总结政策变化的博文中并未强调武器政策的调整，但对比新旧政策可发现显著差异。尽管Anthropic此前已禁止使用Claude“生产、修改、设计、营销或分发武器、爆炸物、危险材料或其他旨在造成人员伤害或死亡的系统”，但更新后的版本进一步扩展，明确禁止开发高当量炸药，以及生物、核、化学和放射性（CBRN）武器。

不过，Claude Code也并非十全十美。威廉姆斯警告称，大约每隔一小时，这个编程助手就会压缩对话上下文，然后就会出问题。“我学会了在压缩发生前，先完成一个‘里程碑’，更新README文件，再开启一段新的对话。”他在领英上写道。

人工智能领域的两位巨擘——李飞飞与 Geoffrey Hinton，在拉斯维加斯举行的 Ai4 2025 上给出了几乎完全相反的答案。 Hinton 则认为超级智能可能在未来 5 到 20 年内出现，届时人类将无法控制它们。他认为，与其争取保持掌控权 ...

当我们与AI助手对话时，如果我们直接问"谁发明了电话"，AI通常能准确回答"亚历山大·贝尔"。但如果我们换一种说法，问"那位天才般的人物，他赋予了我们远距离听觉交流的能力，请问他是谁"，很多AI就开始犯糊涂了。这种现象就像是一个知识渊博的学生，面对直 ...

他认为，解雇是对这群抵制 AI 者最仁慈的处置方式：“当下变化速度如此之快，只有强迫人们接受变化才是最仁慈的做法。”他曾认为只要全体员工认真学习，Mindstone ...

①智元机器人正式推出三款四足机器人产品D1 Pro、D1 Edu、D1 Ultra，该系列产品同步登陆智元商城与京东商城； ②百度文库联合百度网盘发布全球首个全端通用智能体GenFlow 2.0； ③科学岛团队提出医疗大模型智能体决策框架FRAME； ④Meta首款带显示屏的AI眼镜9月上市，起售价或降至约800美元； ⑤Anthropic为Claude赋予“结束聊天”能力，以应对有害或辱骂性互动 ...

据 Anthropic官方消息，Anthropic 旗下的 Claude Opus 4 和 4.1 模型新增了终止对话的功能。当用户反复试图让模型生成有害或辱骂性内容时，该功能就会启动，且启动前模型会多次拒绝用户的请求。