中美欧都签了字，这份人工智能宣言有多厉害 | 京酿馆
监管目的、标准的不一让会议的价值大打折扣。
▲全球首届人工智能安全峰会于1日至2日在英国布莱奇利园举行。图/新华社
文 | 陶短房
据新华社报道，全球首届人工智能安全峰会于1日至2日在英国布莱奇利园举行，峰会发布《布莱奇利宣言》（下称《宣言》）。《宣言》认为，对于前沿人工智能技术有意识滥用或者无意识控制方面的问题，可能会引发巨大风险，尤其是在网络安全、生物技术和加剧传播虚假信息等方面。
这是首次通过国际共识方式承认并正视人工智能的副作用，以及“快速发展的相关技术所带来的最紧迫风险”，承认“需要采取国际行动”以设定共同的监管方法。
布莱奇利庄园的盛大场面
伦敦以北55英里的布莱奇利庄园是人工智能的早期圣地。1941年，著名科学家图灵和他的密码破译团队正是在这里成功破译了号称“不可破译的”纳粹德国恩格尼玛密码系统，为二战反法西斯阵营的胜利奠定了基础。选择在这里召开全球首届关于人工智能安全的高峰会谈，具有极大的象征意义。
按照主办者的说法，人工智能峰会的主要目标是在就人工智能模型的道德和负责任开发原则达成一致时找到一定程度的国际协调，重点是所谓的“前沿人工智能”模型，力图通过国际协调解决人工智能方面的两类关键风险：滥用和失控。
机器学习的快速进步，包括 ChatGPT 等聊天机器人的出现，促使世界各国政府考虑监管人工智能。
所谓“滥用”风险，指涉及不良行为者得到新人工智能功能的帮助。例如，网络犯罪分子可以利用人工智能开发一种安全研究人员无法检测到的新型恶意软件，或者用于帮助国家开发危险的生物武器。
所谓“失控”风险，指原本由人类创造、用于帮助人类的人工智能可能失控，转而对部分人类群体、甚至全人类不利。
此次出席峰会的代表来自欧盟和全球28个人工智能发展较快的国家。
“大人物”除东道主英国首相苏纳克外，还有联合国秘书长古特雷斯、欧盟委员会主席冯德莱恩、意大利总理梅洛尼、美国副总统哈里斯、中国科技部副部长吴朝晖等。
另外，还有微软总裁史密斯、OpenAI 首席执行官奥尔特曼、特斯拉CEO马斯克、谷歌DeepMind首席执行官哈萨比斯等企业界人士到场。
峰会主办方、英国科学、创新和技术大臣米歇尔·多尼兰表示，能让这么多AI领域的关键人物聚在一起是一项成就。中国科技部副部长吴朝晖也表示，中国将为“人工智能国际机制、扩大参与和基于广泛共识的治理框架做出贡献，造福人民，构建人类命运共同体”。
美国也表达了“希望在全球范围内扩大信息共享研究和合作以及政策协调”的意愿。其它与会代表从不同层面和角度论证了在人工智能方面加强各国协调监管的重要性和必要性。
值得注意的是，据报道，此次峰会是英国首相苏纳克的主意，他想为英国在脱欧之后塑造自身角色，在美国、中国和欧盟各经济体之间充当中间人。
而此次峰会仅是一系列类似峰会的第一站。6个月后将在韩国举办第二次，第三次则初步定于明年（再6个月后）在法国举行。
▲英国首相苏纳克在峰会上发言。图/新华社视频截图
都在“讲道理” 道理各不同
尽管苏纳克试图借主办峰会抢占人工智能监管国际共识的“制高点”，并称峰会的召开“是一项具有里程碑意义的成就，世界上最强大的人工智能强国都认识到了解人工智能风险的紧迫性，有助于确保我们子孙的长远未来”，但更多观察家却表现得足够冷静。
《卫报》指出，峰会得以召开表明各国开始共同意识到人工智能无节制发展的危险，以及实施国际协调监管的必要性，开始认同在这个问题上必须各国一起“讲道理”。问题在于，各国政府也好，业界也好，要讲的“道理”却大相径庭。
近日，美国总统拜登签署了一项关于人工智能的行政命令，支持者声称其主旨正在于“解决人工智能技术所带来的威胁”。
然而许多业内人士和专家指出，长达63页的行政命令“避重就轻”且“重点混乱”，既对国会掣肘的强大力量佯装不见，又强调由政府出面建立“人工安全研究所”，通过政府补贴和人才政策倾斜，确保美国在人工智能领域“理所当然的领先”。
事实上，第一个通过类似行政命令的不是美国，而是此次峰会的东道主英国。但英国版行政命令同样充斥着“既要也要”的自相矛盾。
在列举了一系列操作性叵测的行政约束手段同时，英国宣布为一台名为Isambard-AI 的人工智能超级计算机投资2.25亿英镑，为人工智能安全研究提供 1 亿英镑，并计划建立人工智能安全研究所。另外投入 1 亿英镑开发用于医疗保健的人工智能，以“争夺欧洲人工智能领域的制高点”。
欧盟对人工智能危险性的警惕早于其它国家，他们希望2023年底前敲定世界首部专门针对人工智能的立法《人工智能法案》，并力争在2024年6月欧洲议会改选前通过。
这部法案以“更严格”著称——而这恰和此次峰会东道主英国“不能因噎废食”、“既要监管也要扶持”的立场针锋相对。尽管如此，日前德意法三国部长仍在罗马开会，呼吁采取“有益于创新的方法”监管欧洲人工智能，同时敦促加大投资以应对美国、中国在这一领域的挑战。
企业和研发机构代表的意见也莫衷一是，既有强调“不要阻碍技术进步”的人工智能初创公司，也有公然将人工智能风险比作洪水猛兽的马斯克等。他们的介入不可避免，却足以让本就莫衷一是的“对人工智能实施国际协调监管的道理”更加各说各话。
更令人忧虑的是，美国商务部长雷蒙多在会议期间强调了美国在确保人工智能安全方面“令人难以置信的领导力”，而英国政要则多次强调“必须为人工智能发展制订道德标尺”。
对此，有国际媒体指出，像人工智能这样复杂、涉及多方面技术的国际协调可能会很困难。《自然》杂志网站上一位留言者的话更为犀利——“道德标尺？谁的道德说了才算？”
▲资料图：工作人员（右）在演示一款基于5G网络实现远程控制的机器人。图/新华社
总比不开要好
对人工智能实行国际监管远非业界和技术界共识。就在布莱奇利峰会召开同时，许多这两界名流云集咫尺之遥的伦敦，出席名为“AI Fringe”、主旨针锋相对的独立系列活动，其中颇有一些名流往返出没于两个场子。
监管目的、标准的不一也让会议的价值大打折扣，远非苏纳克竭力渲染得那样重要。除苏纳克本人外，国家元首和政府首脑只到一人，部长级嘉宾寥寥无几，甚至法、德等近邻也并未派出重量级官方人士与会。
尽管莫衷一是，但大多数与会者和观察家相信，人工智能只有纳入规范化轨道，才会有更好的发展。
撰稿 / 陶短房（专栏作家）
编辑 / 迟道华
校对 / 王心
哄抢药材、庄稼，“法不责众”从来不是借口 | 新京报专栏
大学生“转卖”母校，二手平台是怎么审核的？| 新京报快评
弹性安排门诊时间，让“专家号”更便民 | 新京报快评
断交、召回，拉美国家开始对以色列说“不”了 | 京酿馆
茅台涨价是收渠道商暴利 | 新京报快评