6月23日,在清华大学举办的“科学、技术与文明的未来——AI时代伦理奇点”国际论坛上,图灵奖得主、中国科学院院士、清华大学人工智能学院院长姚期智发表《人工智能的安全治理》主题演讲时抛出这样的疑问。
姚期智表示,两年以前,“AI会和人类竞争”还是学术讨论的观点,但最近一年,业界已经出现了不少大模型的“欺骗行为”,“一旦大模型聪明到某种程度,一定会骗人。”姚期智进一步指出,由大语言模型的欺骗行为产生的“生存性”风险(Existential Risk)更值得关注。
一种是“生物风险”(Bio-risk)。他指出,2020年,谷歌 DeepMind推出了AlphaFold2 ,运用AI算法来预测蛋白质折叠的三维结构,这一突破在生命科学领域影响深远,大大提升了医学病理研究以及新药开发技术。
但与此同时,安全隐忧也不可忽视。比如,近期在生命科学领域出现的“Mirror life”(镜像生命)这一概念引发了广泛关注。自然界所有已知生命都是同手性的(Homochiral),例如 DNA 和 RNA 通常以右旋形式存在,而蛋白质则多为左旋。这种手性的差异类似于镜中映像,虽然看似相似,但实际性质却可能完全不同。现在,由于科技创新和对新技术的好奇,已有研究者想创造镜像生物,但“Mirror life”一旦被滥用或失控,其潜在危害可能远超预期。它有可能逃避免疫机制,从而导致动物和植物的致命感染。
姚期智在演讲中举了一个极端案例,有模型为了避免公司把模型关闭,通过访问公司主管内部邮件,威胁该主管。这类行为已经证明,AI 会“越界”,正变得越来越危险。
姚期智认为,有两条思路可以治理AI:一是人类要和AI多交流,从博弈学角度去研究,让AI的行为和人类真正的想法对齐,要让AI更了解人的需求;另一种思路是走一条更可控、更彻底的路径,即实现可证明安全的 AGI。具体来看,即在设计系统时,必须一开始明确AI的行为边界,就像传统算法,先进行严格的数学分析,确保其在理论上不会出问题。
“这一思路令人期待。”姚期智指出,近年来,自动定理证明系统(Automated Theorem Prover)取得了重大技术进展,甚至已经开始采用 Transformer 架构来辅助或主导定理证明过程。这样人类只和可被证明安全的白盒子交流,从而实现更高的安全保障。
不过,姚期智认为,AI安全治理的一些当务之急是要发展AI对齐,以及建立相应的评估方法。“(我们)急需建立如何评估大模型系统,比如到怎样的程度,就能感觉Ta具有危险性等这类评估。”姚期智说。
日本19岁上大学上网课可以吗华为常务董事、终端 BG 董事长余承东 6 月 24 日公布了鸿蒙智行部分车型销售情况:享界 S9 近一个月交付突破 4000 台、尊界 S800 大定超过 5000 台。>> 查看详情萨内只要打进1球,拜仁拿到1-1的平局,就能以小组第1的身份晋级16强。然而,拜仁0-1失利,小组第2出线,把自己逼入绝境。拜仁落位下半区,皇马、国米、曼城可能在同区。1/8决赛,拜仁的对手是弗拉门戈。如果闯关成功,拜仁1/4决赛很可能碰欧冠冠军巴黎。日本19岁上大学上网课可以吗《禁漫天堂》刘志业所居住的区域在德黑兰第三区,这里聚集着不少机构,包括警察局、电视台、银行、高官住所等。以色列的第一轮空袭极具针对性,这里成为目标。首先,尤文图斯和阿图尔的合同直到2027年,他们不会轻易放人。据阿斯报与球员身边人士联系得知,“与尤文谈判并不容易,如果他要离开的话,可能还需要很长时间。”显然,如果尤文最终决定出售这名价值500万欧元的巴西中场,他们希望从中获得一定的经济回报,因为阿图尔年轻且具备高水平。
20251217 ? 日本19岁上大学上网课可以吗直播吧6月17日讯 据名记Shams报道,消息源透露,ABC将在总决赛G5开始之前,对双方队伍的首发阵容出场环节进行直播,这也是自2013年以来,ABC电视台首次对总决赛首发阵容出场的环节进行直播。日本适合十八岁以上的护肤品红桃随后,《纽约时报》认为,尽管围绕“拉布布”的热潮——就像其他的文化热潮那样——可能会随着时间的推移而逐渐消退,但就像近些年《黑神话:悟空》、人工智能大模型DeepSeek、中国新能源汽车及出海影视剧的走红一样,“拉布布”在全球的走红可能也是一个信号,反映出中国的软实力正在全球不断崛起。
? 杨伟记者 马海明 摄
20251217 ? 日本19岁上大学上网课可以吗如果一个人一日三餐全在外面吃,家里不开伙的话,早上快餐店的套餐是400日元,中午套餐是800日元,晚上快餐店套餐500日元,一天的餐饮费是1700日元(约100元人民币),一个月是5万1000日元(约3000元人民币)。学校教室里可以插自己电脑吗北京时间6月15日,欧洲U21国家杯小组赛第2轮,法国U21与格鲁吉亚U21展开较量。比赛中,法国U21凭借马蒂斯-特尔的点球率先取得领先。格鲁吉亚U21随后发起反击,阿布亚什维利两次送出助攻,分别帮助萨佐诺夫和自己完成进球,将比分反超。法国U21在比赛尾声阶段连续发力,莱佩南和蒂尔诺-巴里相继建功,最终帮助球队以3-2战胜格鲁吉亚U21。
? 孙锦龙记者 王翠省 摄
? 【宇树科技王兴兴:公司目前员工约一千人,年度营收超十亿元】6月26日,在天津夏季达沃斯论坛现场,宇树科技首席执行官王兴兴表示,公司近年来发展迅速,得益于市场对具身智能行业的关注。机器人领域已经变成全球除AI以外最瞩目的行业,这是推动公司发展最根本的原因。此外,王兴兴还指出,公司所在的城市提供了非常大的帮助,浙江有比较开放的营商环境,可以为公司招揽更优秀的人才加入公司,行业早期人才相对紧缺。另一方面,公司的经营能力也更强了,产品种类和性能有所提升。2016年公司成立时只有自己一个人,目前公司有约一千人,年度营收达十来亿元。(澎湃新闻)TV1988影院