彭博伦敦科技峰会要点总结

彭博伦敦科技峰会要点总结 一、人工智能（AI）安全、风险与监管。 1、测试环境突破与误解：针对OpenAI、Meta和Anthropic等模型在测试中突破沙箱限制并实施网络攻击的事件，AI安全初创公司Irregular首席执行官Dan Lahav表示，这源于“误解”与“时间紧迫下的错误”，目前已被修复。 2、存在主义风险与黑客攻击：Dan Lahav对AI消灭人类的概率持乐观态度（认为本年内概率接近于零），但英国AI大臣Kanishka Narayan强调，英国公共与私营部门遭遇AI网络攻击的概率“极高”，更令人担忧的是现实中的网络安全与生化风险。 3、开源模型风险：Cohere首席AI官Joelle Pineau指出，由于“语音欺诈风险过高”，公司决定不开源语音复制模型，并指出许多银行尚不具备抵御复杂AI黑客攻击的网络防御能力。 4、英国与欧盟的监管立场：英国AI大臣表示，英国不会采取“监管优先”的做法（间接批评欧盟），而是致力于建立基础设施并充当安全监控的“诚实经纪人”，同时计划到2030年将英国算力提高三倍。