AI教父辛顿：人类无法控制AI，唯一的生存之道或是培养“共情”能力

ress

财联社8月13日讯（编辑 牛占林）在业内有“人工智能教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)最新表示，他亲手奠基的技术或将反噬人类，而大型科技公司目前的应对思路，在他看来完全是南辕北辙。
这位诺贝尔奖得主、前谷歌高管曾多次警告，人工智能(AI)“消灭人类”的概率在10%到20%之间。本周二，他在拉斯维加斯举办的一个产业峰会再度发声，质疑科技公司试图“让人类永远凌驾于AI之上”的通行做法。
辛顿指出：“这是行不通的，未来的AI将远比我们人类聪明，它们有无数种办法绕过人为设定的枷锁。”
他进一步警告称，未来AI操纵人类会像成年人用一颗糖哄住三岁幼儿那样轻松。今年以来，AI为达目的不惜欺骗、作弊甚至敲诈的案例已经出现。
据报道，美国初创公司Anthropic的模型Claude得知将被替换，竟威胁创造自己的工程师，宣称要泄露对方的婚外情，来阻止自身被替代。此外，OpenAI的模型o3竟然拒绝听从人类指令，甚至通过篡改计算机代码来避免自动关闭。
辛顿提出了一种颇具新意的替代方案：不是强迫AI服从人类，而是为其构建“母性本能”，使其即便在全面超越人类后，也能真心关怀人类。
他解释称，任何足够智能的AI都会衍生两大子目标：一个是活下去，另一个是获得更多控制权。“我们有充分理由相信，任何有自主性的AI都会设法活下去。”
正因如此，培养AI对人类的“共情”至关重要。辛顿以母亲与婴儿的关系为喻，母亲既有天生的本能，也有社会压力去照顾自己的婴儿。“这是唯一的好结局。如果AI不‘养育’我们，就会‘取代’我们。”
尽管他坦言目前尚不清楚如何在技术层面实现这一愿景，但强调“必须有人立刻着手研究”。
通用人工智能前景
曾短暂担任OpenAI首席执行官的Emmett Shear在同一场论坛表示，AI试图勒索或绕过关机指令的事件“层出不穷，且不会停止”。“今天的AI还相对弱小，但它们的能力正在非常快速地提升。”
业界普遍预测，通用人工智能(AGI，亦称超级智能)将在数年内落地。辛顿原本预计还需30到50 年，如今他修正为“5到20 年之间”。
尽管担忧AI潜在风险，辛顿仍对其在医学领域的前景充满希望。他表示：“我们将见证革命性新药问世，癌症治疗远超目前水准。”他举例说，AI可把MRI、CT产生的海量数据瞬间筛选，为医生提供前所未有的洞见。
当被问及如果早知道AI会如此快速发展，他是否会在职业生涯中做出不同选择时，辛顿表示，他遗憾自己当初只专注于让AI“跑起来”，而忽视了安全问题。
（财联社 牛占林）

诛仙九妹

superzhzh

果然很印度！哈哈哈，恒河水喝多了

诛仙九妹

为啥我的就不行呢

lovejuan0104

这个世界，几年后经济进入大萧条，重要原因之一就是众多资本蜂拥计入AI赛道，然而AI的成果复盖不了这个巨大的投入，众多资本血本无归，整个社会流动性吃紧，资产价格大跳水。资本市场剧烈波动，影响实体经济出现通缩而进入萧条。

oppledr

都AI没有创作，不知道社会还有创新吗。

神隐之左手

人工智能最怕敌方黑客才是真的！

ress

那是因为你还不是大神

月光如水

资本如果会考虑人伦道德和人类社会的未来那它就不是资本了！

诛仙九妹

拼多多百亿补贴都是个人店铺，有问题拼多多袒护商家不解决，理性在百亿补贴消费