美媒：OpenAI发布新安全指南赋予董事会否决权_资讯

中国新闻网

2023-12-20 03:45:14

0次

中新网12月19日电据彭博社报道，当地时间18日，美国人工智能公司OpenAI在其网站上公布一项安全指南，加强其内部安全流程，并赋予董事会对高风险人工智能的否决权。

据报道，当天，OpenAI发表一系列安全指南，阐释公司计划如何应对最强大人工智能(AI)系统可能引起的极端风险。

在该指南下，OpenAI只会在确定最新技术的安全性之后才会开始运用。公司将成立一个顾问团队以审核安全报告，再转交公司高层和董事局。虽然公司领导负责做决策，董事局可推翻决定。

OpenAI在2023年10月宣布成立“备灾小组”，并会持续评估它的AI系统在网络安全、化学威胁、核威胁和生物威胁等四大范畴的表现，同时减低科技可能带来的任何危害。

具体来说，公司检查的是定义为：能造成上亿美元经济损失，或导致许多个人受伤害或死亡的“灾难性”风险。

“AI本身没有好坏，我们正在塑造它。”领导“备灾小组”的亚历山大·马德里表示，他的团队会每月提交报告给内部新成立的安全顾问团队，再由阿尔特曼与公司董事会判断分析团队所提交的建议。

马德里希望，其他公司能利用OpenAI的指引，来评估旗下AI模型的潜在风险。

2023年3月，包括马斯克、苹果联合创始人斯蒂夫·沃兹尼亚克在内的1000多名人工智能专家和行业高管签署了一份公开信，他们在公开信中呼吁暂停高级人工智能开发，直至此类设计的共享安全协议经由独立专家开发、实施和审核。

否决权新安公司团队人工智能 OpenAI 威胁系统高风险指南原创新闻阿尔特曼

上一篇： 今日重大通报丽水都莱辅助软件(原来真的有挂)-知乎

大雪暴雪将抵山西最低气温实况 1月16日07时至17日07时，全省各地最低气温介于-19℃（新荣区）～2.4℃（河...

特朗普改口：目前没必要在明尼...

泰国看守总理：感谢中方人道主义... △泰国曼谷（资料图）泰国看守政府总理阿努廷15日感谢中国提供人道主义援助，表示此举彰显了中泰两国守...

家属透露聂卫平病逝细节：曾经患... 1月15日，南都N视频记者从多方证实，“棋圣”、中国围棋协会名誉主席聂卫平病逝。家属发布讣告，聂卫平...

美媒爆料：紧张局势之际，五角大... 【环球网报道记者闫珮云】据美国电视频道NewsNation当地时间14日报道，一名消息人士向该媒...

用户与AI“聊黄”开发者应担何... 因为大量用户在一款名为AlienChat的App上与AI智能体“聊黄”，App的主要开发和运营者被追...

中石油、中石化等央企负责人能领... 1月14日，国务院国资委通过官网集中披露所监管的80多家中央企业负责人2024年度薪酬信息。这是国资...

商人成蒋超良“大管家”，蒋超良... 1月13日，电视专题片《一步不停歇半步不退让》播出第三集《清理“围猎”污染源》，“老虎”蒋超良出镜...

我国进出口连续九年保持增长创... 今天上午10时，国务院新闻办公室举行新闻发布会，海关总署介绍2025年全年进出口情况。据海关统计，...

全球首台20兆瓦海上风机在闽成... 1月13日，记者从三峡集团获悉，全球首台20兆瓦海上风电机组在闽南海域完成吊装。这是继2023年全球...

广东两名女子跟随驴友群8人徒步... 据广东惠州消防1月12日消息，1月11日上午9点，两名女子跟随驴友登山群组团人员，从罗浮山野路出发，...

“死了么”APP改名 1月13日，死了么APP发布消息称，经团队审慎决策，"死了么"APP将于即将发布的新版本中，正式启用...

德邦股份拟主动退市

脑机接口技术革命：助你轻松入眠... 你是否常常为失眠而烦恼，或者渴望通过科技改善生活质量？2026年，脑机接口技术的最新进展为我们带来了...

耶伦严厉谴责针对美联储主席鲍威...

牛弹琴：伊朗局势突然反转，特朗... 形势变化太快，全世界都看得眼花缭乱。与前几天山雨欲来相比，伊朗局势似乎突然反转了。但特朗普又心生一...

教育部拟同意设置14所本科高等... 央广网北京1月13日消息（记者冯仪）1月12日，根据《中华人民共和国高等教育法》《普通高等学校设置暂...

航天发展：控股股东在异动期间减...

18岁王者归来！全红婵4大喜讯... 在这个充满期待的时刻，18岁的全红婵低调重返国家队的消息如同一阵春风，瞬间温暖了无数跳水迷的心。你知...

马斯克旗下AI被指涉色情内容，... 近期，马斯克旗下人工智能企业xAI的聊天机器人“格罗克”，因允许用户生成深度伪造的色情内容，面临多个...