新智元报道 编辑：KingHZ【新智元导读】程序员教练来了——AI不再替你全写完代码！Claude ...

markdown Anthropic 近日宣布为其 Claude AI 系列模型，尤其是 Claude Opus 4 和 4.1 版本，引入一项重要更新：在特定情况下终止对话的功能。这一举措引发了业界对 大语言模型 ...

Claude ...

人工智能伦理领域迎来重要突破。近日，Anthropic公司宣布为其Claude Opus 4系列模型引入"主动终止对话"功能，这项被称为"AI拔网线"的创新机制，标志着大语言模型首次具备了对抗恶意用户的防御能力。

该功能主要针对持续性的有害或辱骂性互动，典型案例类似用户索取可能导致大规模暴力或恐怖行动的信息。Anthropic 表示此举并非为了保护人类用户，而是为了保护 AI 模型本身，同时也与模型对齐和安全措施相关。

近日，位于旧金山的人工智能初创公司Anthropic宣布推出其 Claude AI ...

Anthropic 日前宣布为其 Claude AI 聊天机器人推出备受期待的“记忆功能”，允许系统从历史对话中提取并保留用户背景信息，如工作、年龄、教育经历与交流风格等，从而在后续对话中无需重复说明，直接获得更贴合的回复。 该功能的推出意味着 ...

Anthropic在总结政策变化的博文中并未强调武器政策的调整，但对比新旧政策可发现显著差异。尽管Anthropic此前已禁止使用Claude“生产、修改、设计、营销或分发武器、爆炸物、危险材料或其他旨在造成人员伤害或死亡的系统”，但更新后的版本进一步扩展，明确禁止开发高当量炸药，以及生物、核、化学和放射性（CBRN）武器。

AI编程产品方面，今年2月才发布的Claude Code也带来了4亿美元ARR，OpenAI则缺失了Codex的数据。 用户数据方面，从6月起，Claude Code每周下载量增长了6倍，达到300万次。自Claude ...

4月22日消息，OpenAI竞争对手Anthropic近日首次公开披露其AI助手Claude在真实用户对话中的价值观表达研究成果。这项开创性研究不仅验证了AI系统在实际 ...