发布询价单
您的位置:首页 > 资讯 > 行业资讯 > 正文

人工智能时代的技术也应有“价值观”

2018-02-28 08:00 性质:转载 作者:新京报 来源:新京报
免责声明:AGV网(www.chinaagv.com)尊重合法版权,反对侵权盗版。(凡是我网所转载之文章,文中所有文字内容和图片视频之知识产权均系原作者和机构所有。文章内容观点,与本网无关。如有需要删除,敬请来电商榷!)
由于人工智能产生不确定性风险的可能性过高,因此任何研究、开发人工智能技术的人,都应该对其研发负起相关责任。在一些人工智能研究专家的眼中,当前人类对人工智能技术的研发,就...

  由于人工智能产生不确定性风险的可能性过高,因此任何研究、开发人工智能技术的人,都应该对其研发负起相关责任。

  在一些人工智能研究专家的眼中,当前人类对人工智能技术的研发,就像小孩子在玩弄炸弹一样危险。在这一方面,拥有特斯拉、OpenAI、SpaceX等多家企业美国企业家埃隆·马斯克,就是这方面的典型。其公司OpenAI最近联合牛津大学、剑桥大学等多家机构发布了一份报告,该报告调查了恶意使用人工智能的潜在安全威胁图景,并提出了多种预测、预防和缓解威胁的方式。

  人工智能的不确定性让人恐惧

  概括来说,报告认为未来人工智能对人类造成的威胁主要包括三种类型,一是扩展或升级了人类面临的现有威胁,使这些威胁的实现手段更加容易,成本更低;二是制造出新的威胁,这些威胁因人工智能的出现才产生;三是威胁的典型特征发生改变。

  毫无疑问,人类当前正处于人工智能黄金时代来临前的黎明,诸如Siri、Alexa等数字私人助理的出现,自动驾驶车辆以及诸多有意义的、超越人类能力的算法都在帮助人类在社会、经济等多个领域内更好地实现目标。

  但与其他许多科技行业不同,这一领域的研究不受正式安全法规或标准的约束,导致人们担心人工智能最终可能脱离人类控制的轨道,成为负担而不是利益。常见的恐惧包括人工智能取代人类工作者,剥夺我们的权利,并对我们的生存构成威胁。后者是马斯克成立OpenAI、SpaceX等公司的重要原因。

  从这份报告的内容来看,人工智能对人类带来的威胁,可以简化为两种。一种是对现在威胁的扩展与升级。这种威胁事实上并不是最大的威胁。它的攻击属性和目标仍然是清晰的,只是借助于人工智能技术,使它实现的方式和手段更为高级、有效以及精准。这种可预测的威胁,只要通过升级或研发相应的技术和防御方式,基本上可以被解决。

  但人工智能真正令人恐惧的,在于其不确定性。从目前已有的人工智能技术来看,人工智能技术似乎只是对过去其他科学技术的升级。但实际上显然并非如此,它并不像电力对蜡烛之类的替代一样,甚至它可以实现更多的自主决策。并且这种决策的过程,可能是人类无法控制的。目前被广泛应用的深度学习算法即是一例。因此,为了解决深度学习的“黑箱”决策过程,许多研究者也试图借助其他手段来打开这个“黑箱”。但人工智能存在的“黑幕”远不止于此。

  而这也是OpenAI报告中提出的应对策略并不那么让人信服的地方。面对许多不确定性的存在,任何过于具体的应对防范措施都将可能显得过于狭隘、无效。但即便如此,我们却也不得不积极地寻求潜在的解决办法,而不是被动地等待变化。

  以“价值对齐”防范AI潜在威胁

  值得重视和关注的是,过去一再被提及的“技术没有价值观”的中立原则,在人工智能技术上并不可行。由于人工智能产生不确定性风险的可能性过高,因此任何研究、开发人工智能技术的人,都应该对其研发负起相关责任,而不是以诸如“我只是在制造工具,好坏由使用的人决定”来推卸责任。

  虽然目前全球各国、企业及研究者对于人工智能该如何控制、如何发展并未达成共识,但“价值对齐”是一条被普遍认可的标准,即人工智能的发展不能与人类的价值观相悖。

  无论如何,即使上述的分析在面对充满不确定性风险的人工智能令人感到沮丧,这却是当前人类面对人工智能的现实。因此,在产生更加有效和令人信服的策略来解决人工智能潜在威胁之前,保持人类控制,明确研发人工智能技术的责任,价值观一致,确保人工智能对人类的发展与繁荣有益,通过多次迭代人工智能技术而非一蹴而就的开发,持续讨论、关注各种人工智能发展,是目前防范人工智能潜在不利一面的最基本方法。

  而这也就要求,人类需要为此成立相应的管理机构,深入掌握全球人工智能的活动并及时制定相关的政策,确保人类安全和现有秩序的稳定。在这一方面,要求各国政府官员,加深对人工智能的了解,不能仅仅局限于人工智能可能对人类工作岗位的取代等诸如此类的简单议题。

  □郑伟彬(互联网从业者)

网友评论
文明上网,理性发言,拒绝广告

相关资讯

  • 上海“智”造先锋:AI重构工业新范式下的柔性生产
    在上海长宁区的黑湖科技展厅里,一块实时刷新的电子屏上跳动着数万家工厂的生产数据——某食品企业的饺子皮切割模具利用率因AI工艺优化提升23倍,某新能源车企的订单响应时长通过智能排产缩短至原...

    2025-05-28 21:29

  • 强省会 拼经济 | “贵安造”机器人实现全线投产
    近日,贵安新区威迈尔科技有限公司四条智能产线全线投产。作为智能制造领域的新锐企业,该公司从首台机器人下线到全线投产仅用时三个月,跑出了产业发展"加速度"。走进贵安新区威迈尔科技有限公司...

    2025-05-28 21:24

  • 南京市创新产品巡展——智能制造装备、轨道交通产业类32|电力行业室内智能操作机器人
    1. 公司简介亿嘉和科技股份有限公司在2018年6月在上海证券交易所A股主板上市(股票代码603666),公司践行“应用智能科技 改善人类生活”的企业使命,聚合全球创新,以特种机器人研发为切入点,...

    2025-05-28 21:20

  • 中国AGV网本周热点回顾(2025年5月19日-5月24日)
    AGV网(www.chinaagv.com)是中国自动导航机器人(AGV)和自主移动机器人(AMR)行业网站!团队拥有超过23年的行业垂直门户运营经验,多年来见证了传统内部物料搬运从粗放化、低效率沿着更加智能化、...

    2025-05-26 18:37

  • 中国自动化码头效率再次刷新世界纪录
    5月22日,历时10小时35分钟,随着“凯普圣拉萨罗”轮最后一个集装箱完成装卸作业,山东港口青岛港自动化码头以桥吊平均单机作业效率62.62自然箱/小时的优异成绩,第十三次刷新全球自动化集装箱码头...

    2025-05-26 18:35

  • 数智工厂×智慧物流:LET 2025物流展今日正式开幕
    中国AGV网(www.chinaagv.com/)新闻中心2025年5月21日,备受业界瞩目的中国(广州)国际物流装备与技术展览会(LET 2025)在广州·中国进出口商品交易会展馆D区盛大启幕!作为华南地区规模最大、...

    2025-05-22 13:30

  • 国内单一码头最大IGV车队集结!
    近日由上海振华重工集团设计制造的广州南沙四期全自动化码头第四批20台无人驾驶智能导引车(IGV)全部抵港至此广州南沙四期全自动化码头IGV车队扩员至158台标志着国内单一码头最大的IGV车队系统全...

    2025-05-19 17:48

  • 京东物流×人大,智慧快递服务中心落地!
    京东物流无人车载着包裹在校园内自动运行,室内配送机器人将快递“配送到门”,快递服务中心兼具衣物清洗、二手回收等功能……高校师生收发快递有了新体验。5月17日,伴随中国人民大学第三届校友日...

    2025-05-19 17:46

  • 中国AGV网本周热点回顾(2025年5月12日-5月17日)
    AGV网(www.chinaagv.com)是中国自动导航机器人(AGV)和自主移动机器人(AMR)行业网站!团队拥有超过23年的行业垂直门户运营经验,多年来见证了传统内部物料搬运从粗放化、低效率沿着更加智能化、...

    2025-05-19 17:43

  • 2025长沙国际工程机械展开幕 工业车辆企业智能化与绿色化成果亮相
    2025年5月15日,第四届长沙国际工程机械展览会(2025 CICEE)在长沙国际会展中心正式拉开帷幕。本届展会以“高端化、智能化、绿色化”为主题,吸引了全球1500余家工程机械企业参展。工业车辆领域...

    2025-05-15 18:47

关注官方微信

手机扫码看新闻