周鸿祎:人工智能最后的底线必须是人

4次阅读
没有评论

7月27日消息,昨日,2022年新智者大会正式启幕,360集团创始人周鸿祎在其官方微博发文感谢组委会邀请,并表达自己对AI武器的看法。

周鸿祎称,当年阿西·莫夫在讲“机器人三原则”的时,有一个重要的原则,就是机器人不能伤害人。他表示,这一原则如今已被打破,实际上各种无人战车、无人飞机,已经应用在战场上。

周鸿祎表示,在今年的俄乌冲突中,乌克兰军队使用美国的弹簧刀无人机,此无人机具备监视、侦察和打击功能,在AI的加持下,单兵就能熟练掌握。虽然弹簧刀无人机可能还是在被遥控,最后打击的瞬间可能还是由人来下指令。他表示,从人下指令,到AI自动识别、自动判断、自主发起攻击,就是一层薄薄的窗户纸,尤其在AI与武器结合方面,世界各国都在展开军备竞赛,这也将是未来大国角力的焦点。“把AI武器最后的决定权交给人类,让人来做最后的控制至关重要,人工智能最后的底线必须是人。”周鸿祎称。

周鸿祎:人工智能最后的底线必须是人

现实中,人工智能安全在社会伦理面前,还会面临超出现有社会法律和道德规范的风险难题。比如说,经典的电车选择难题,以及我们该如何认定无人驾驶车出事以后的责任。

公路上自动驾驶的汽车,如果它选择避让行人,就可能会撞上旁边障碍物,导致车主人身伤亡;如果它不避让,就会导致行人伤亡。这种情况下,AI程序该如何来做出判断。此外还需要考虑一个问题,如果出了车祸,这个责任到底该谁来负?应该算是AI的?算是车厂的?还是算驾驶员的?这些AI安全难题,目前都还没有一个明确的答案。

周鸿祎:人工智能最后的底线必须是人

运行AI需要算力,算力需要大数据等基础设施。但如果数据中心,云服务都被终止,那么各种无人机,自动驾驶坦克等就失去了重要的大脑。俄乌冲突中就上演了这一幕。

西方国家对俄罗斯采取了“六断”(断网、断供、断服务、断证书、断域名、断舆论),包括说微软、IBM和甲骨文这些公司对俄停止SSL证书,停止域名解析,停止互联网接口,中断国际传输网络,停止了各种软件跟服务,芯片和硬件供应商,比如英特尔对俄断供,甚至包括脸书、推特等就彻底把俄罗斯的很多帐号给禁掉,彻底将俄孤立,甚至试图把俄罗斯在数字化的世界里彻底抹去。而俄罗斯由于缺乏市场化的数字产业支撑,算力、产品和服务的基础被掣肘,完全处于被动挨打的境况。这充分说明数字安全能力落后也会挨打。

周鸿祎:人工智能最后的底线必须是人

人工智能安全问题也是其发展中面临的重要挑战,其中AI算法可能被欺骗、被误导。谷歌曾经有一个AI算法,把黑人识别成“猩猩”,惹出很大风波。现在一些人工智能漏洞挖掘团队还发现:当人走在街上,面对满大街能够进行人脸识别的人工智能摄像头,只要穿上特殊条纹或者特殊图案的T恤,摄像头就会认为你不是一个人,也不会对你做面部识别,从而令你实现科幻小说所提的“隐身”效果。

360是一直高度重视人工智能安全的,并构建起人工智能安全能力体系。其中,360对自身积累的全球最大的安全大数据进行AI分析,形成了360云端安全大脑原型,为行业或企业提供强大的数据和情报支撑,对网络威胁进行有效分析、溯源;同时积极承担“安全大脑国家新一代人工智能开放创新平台”的建设;此外还牵头研发的“人工智能安全测评与风险监测预警平台”入选工信部“人工智能产业创新任务揭榜单位”名单。尽管如此,面对诸多的人工智能安全问题,仅靠一家企业不能解决所有威胁,所以注重生态合作很重要。我们愿意开放自身安全大数据,将产学研力量联合起来,共建AI安全生态,集中推动数字安全的创新。

周鸿祎:人工智能最后的底线必须是人

周鸿祎:人工智能最后的底线必须是人

推荐阅读:

1.预制菜新星竟是校园贷鼻祖 贾乃亮等发声与趣店“割席”

2.巨头被重罚,网约车江湖再洗牌:华为、腾讯入局,司机坐等薅羊毛

3.脱氧剂泄漏是“代工”的锅!三只松鼠称对同批次未售产品抽查,无类似情况

文章来源:微博,如有侵权,联系删除

czmtmvmw
版权声明:本站原创文章,由 czmtmvmw 2022-07-28发表,共计1508字。
转载说明:除特殊说明外本站文章皆由乐买号发布,转载请注明出处。
评论(没有评论)