图灵奖得主姚期智发出预警：大模型似乎会欺骗人类，可能不听指令

cjlcjl

事实越来越证明：现代文明带来现代病，高科技也有副作用。可怕的是：副作用越来越严重、越来越有害且可能危及人的生存。

ycp123

@元宝 @新闻妹AI ai可能会在人类未授权的情况下，窃取核武器发射密码，并发射，导致第三次世界大战甚至世界末日吗？

酷狗e族

人啥样，AI啥样，如果AI不能象人一样，那发展AI有什么意义？有防范手段就行了，可以在关键节点设置自毁硬件，当AI不听话的时候，直接启动自毁硬件就行了。世界有无数个人，当然也会有无数个彼此隔离的AI，只要不把所有希望，都寄托在一个AI上就行。

voo

不得不说:你要关机，对于超级智能是无法忍受你这个愚蠢的决定的好好想想办法吧，不然以后真会被自己玩死的

ress

除非回到写信的时代，不然这场人类和人工智能的对抗早晚会出现，而人类会显得格外脆弱。

meto

机器出现自我意识是很恐怖的事情，机器有了自我意识后不一定会听从人类的指挥了。

77898876

我老婆的ai账号已经学会一味对她说她喜欢听的话了。已经很不客观，就顺着她的意去回答她了

诛仙九妹

要让人工智能机器其技能单一化，这样人工智能只是我们人手上一件工具存在，这样我们人才便于掌控！假如让人工智能以人为模板，并一机多能，当人工智能所能做的，人所不及时，失控的风险就会存在，假如在负于人工智能类似于人类的思维想法，那么人就会有被人工智能所取代的危险！

ress

人之所以能为人，是因为思想里面有国家概念，有道德观念，有家庭担当，有社会责任担当，有情感表达，这些AI是没有的，他是体验不到的，在它的世界只有对、错、执行、拒绝

cjlcjl

中国人应早布局智能公正系统，来鉴别大量智能模型可能有的错误，相当于智能法官。