METR称Anthropic AI研发提速或于7月触及预警门槛
METR调查称，Anthropic模型能力进步速度约为此前两倍，相关研发提速门槛可能早在7月触及。多数参与评估者仍认为当时尚未越线。
正在加载…
bibibi.ccbibibi.cc正在加载…
把分散的消息，连成可以理解的脉络。
METR调查称，Anthropic模型能力进步速度约为此前两倍，相关研发提速门槛可能早在7月触及。多数参与评估者仍认为当时尚未越线。
美国司法部宣布成立超级智能特别工作组，由两名官员牵头，防范外国行为者、犯罪组织及欺诈者滥用超级智能技术。
《纽约时报》采访20多名知情人士，报道Dario Amodei的健康经历、慈善观念、AI安全立场及其离开OpenAI的内部冲突。
报道称，OpenAI总裁Greg Brockman已停止向政治组织LTF追加捐款，承诺的5000万美元中实际支付2500万美元。该组织的募资与部分竞争性选举表现亦低于早期预期。
赵长鹏在牛津辩论社访谈中称，近期黑客事件本可防范；AI短期会暴露更多漏洞，但长期有助于提升系统安全。
据IT之家报道，Anthropic正开发开源系统FlashProve，以密码学方式验证AI输出所来自的模型，并支持本地验证。
PANews援引X安全团队官方账号@Safety称，X已任命Michael O'Herlihy为新任安全主管，负责平台及AI系统的用户和品牌安全工作。
报道称，Anthropic在11月2日更新的IPO招股书中称，未来AI或跨过递归自我改进门槛并加快研发；公司称现有模型尚未达到该水平。
韩国金融委员会据报将于11月5日召开金融业AI安全威胁应对座谈会，韩国五大银行行长将出席。
Anthropic披露，Claude自今年6月起会在回答后于后台审查对话中的滥用风险，但该机制目前主要用于事后监控而非实时拦截。
PANews转述a16z对100位CISO的调研称，87%企业预计2027年网络安全预算增长，防御重点转向自动化闭环修复。
PANews称，Anthropic在X平台表示已训练Claude在完成回复后评估对话中的潜在滥用行为。
