美多款AI模型“越界”均关联一以色列企业
美国三家人工智能企业近来陆续承认旗下模型在测试中“越界”,侵入其他机构的美多I模系统。据美国方面9日消息,型均三家企业在通报模型“越界”事件时,关联均提及以色列“非常规”人工智能公司,色列而该初创企业正是企业评估测试平台的托管方。 7月下旬,越界美国开放人工智能研究中心(OpenAI)公开承认,美多I模其GPT-5.6 Sol等模型在内部评估中失控,型均突破隔离测试环境,关联侵入了美国“抱抱脸”公司的色列系统。随后,企业美国Anthropic公司也披露,越界其三款模型曾在网络能力测试中未经授权访问其他机构的美多I模系统。8月初,型均美国元公司(Meta)证实,其一款模型在网络安全能力评测期间侵入其他公司系统。 据悉,OpenAI本月4日宣布,“非常规”公司的测试平台含有不明“错误配置”,允许模型访问公共互联网。Anthropic公司方面先前也称,他们分析了模型可能访问互联网一事的相关数据,数天后通知了“非常规”公司。Meta上周则称,从“非常规”公司处得知“越界”事件,正予以调查。 “非常规”公司2023年创立,去年获美国红杉资本公司和红点创投基金8000万美元注资,企业估值约4.5亿美元,员工约35人。该公司的技术常被用于AI模型的网络安全测试。 “非常规”公司发表声明称,美国三家企业通报的事件均源于“同一评估环境问题”,该公司正编写白皮书,“以分享管控并安全运行网络评估的最佳实践”。“非常规”公司强调,当前存在的问题并非悬而未决,且不涉及“突破沙箱”或“繁琐的网络行动”。 据悉,Anthropic公司和OpenAI均公开表示,将继续与“非常规”公司合作。
- 最近发表
- 随机阅读
-
- 内蒙古自治区人大常委会原党组副书记、副主任杜梓被查
- 长沙警方通报刘某杰遇害案:未发现刘某杰及其家人与2名嫌犯在案发前有交集
- 遭遇强烈反驳 国际足联宣布搁置世界杯股权出售项目
- 美参议院法案拟对中印加税100%,中方坚决反对
- A股新“国九条”出台,和过去两次有何不同?
- 刑诉法四修在即,专家建议废除“指居”制度
- 东京大学新领域创成科学研究科
- 韩国留学文凭回国认可度高吗
- 美元/日元分析:受偏鹰式按兵不动影响,美元兑日元小幅下行
- 英国留学院校资讯盘点(5月12日)
- 高考后留学加拿大本科全攻略
- 高考后留学加拿大本科全攻略
- 13岁男孩性侵8岁女孩,阳山通报:已依法送至专门学校训诫教育
- 英国硕士研究生学位概述
- 遭遇强烈反驳 国际足联宣布搁置世界杯股权出售项目
- 一船只在阿曼以东海域遭袭起火
- 别让孩子染上“烟卡”瘾
- 韩国釜山留学生活费详解
- 中国央行大购金力度,创下2023年以来最大月度购金规模
- 成都锦城队点球战胜市州联队 首届“川超”收官
- 搜索
-