IT之家 1 月 5 日新闻，本地功夫 1 月 4 日，据英国《卫报》报路，英国先进钻研与发现署（Aria Agency）项目主管、AI 安全专家 David Dalrymple 忠告称，前沿 AI 系统带来的安全风险发展快率之快，可能已经让世界来不及充分筹备。 Dalrymple 在接受采访时指出，AI 能力的急剧跃升值得高度关注。人们该当关注在现实世界中实现各类事务、并且阐发优于人类的系统。“为了维持对文化、社会和地球的节造，人类必要在若干关键领域维持主导职位，而在这些领域中，人类将被全面超过。” Dalrymple 以为，当部门门与 AI 企业之间，对即将出现的技术突破仍存在显著认知落差。从安全角度看，防护措施很可能难以跑在技术前面。在 5 年左右的功夫尺度内，大无数拥有经济价值的工作，可能会被机械以更低成本和更高质量实现。 他同时强调，列国当局不能假定先进 AI 系统天然靠得住。“在经济压力之下，用于验证靠得住性的科学步骤，很可能无法实时成熟。因而，现实可行的选择，是尽可能节造并缓解潜在风险。” 他将“技术进取跑在安全前面”的后果形容为安全与经济系统的潜在失稳，并呼吁加强对先进 AI 行为的理解与节造。技术进取也可能带来积极了局，但整体风险极高，而人类社会对这场转变仍显得警惕不及。 IT之家从报路中获悉，英国 AI 安全钻研所本月颁布的评估显示，先进 AI 模型能力在各领域持续急剧提升，部门机能指标约每 8 个月翻倍。当先模型在学徒级工作中的成功率已从去年的约 10%升至 50%，并已可能独立实现耗时超过 1 幼时的专业工作。 钻研所还测试了模型的自我复造能力。由于自我复造可能导致系统失控，这被视为主题安全风险之一。测试中，两款前沿模型的成功率超过 60%，但钻研所同时指出，在现实环境中出现极端失控情况的概率依然较低。 Dalrymple 进一步判断，到 2026 岁暮，AI 可能具备自动完玉成日研发工作的能力，并在数学和推算机科学等关键领域实现自我强化，从而推动新一轮能力加快。