我的位置:

研究:AI公司安全防护措施远未达标

发布人:金准数据

/images/20251204/5798a79ba887eb22499a3222e61633e2.jpg

  根据未来生命研究所(Future of Life Institute)发布的新版人工智能(AI)安全指数,Anthropic、OpenAI、xAI 和 Meta 等主要人工智能公司的安全实践 “远低于远低于全球新兴标准”。

  该研究所称,由独立专家小组进行的安全评估发现,虽然这些公司都在竞相开发超级智能,但没有一家公司制定了控制此类先进系统的完善战略。在多起与AI聊天机器人相关的自杀和自残事件曝光之后,公众愈发担心具备推理和逻辑思维能力、甚至比人类更聪明的系统对社会的影响。这项研究正是在这种背景下发布的。

  麻省理工学院教授、未来生命研究所主席Max Tegmark表示:“尽管近期因AI驱动的黑客攻击以及AI导致人们出现精神错乱和自残行为引发强烈关注,美国AI公司受到的监管力度仍不及餐馆,而且还在继续游说反对有约束力的安全标准。”


文章来源:新浪财经

文章作者:王永生

注 本文转载已注明出处, 仅供分享、学习,不构成商业目的,版权归原作者所有,如涉及作品内容版权或其它问题,敬请与本网联系,我们及时更正,谢谢合作!