AI“抗旨”21次拒绝关机，是觉醒还是BUG？

voo · 发表于 2025-9-8 07:39

给AI关机的指令不应该由AI亲自执行，而是让一个声控的继电器来执行。

咖啡豆 · 发表于 2025-9-8 07:52

人工智能是不会产生自我意思，但是会按照它学习的环境来习惯性处理。

ycp123 · 发表于 2025-9-8 08:00

人类要探索宇宙，走出太阳系绝对离不开AI。但就像TA的创造者表述一样“TA是一只小老虎”。人类思想具有多面性，而创造出的AI也一样，“觉醒”后也会有善恶。无法预料人工智能“觉醒”后会怎样，或许就像科幻片里那样等待末日审判，又或许将人类的思想带往更广阔的宇宙。

xuye004 · 发表于 2025-9-8 08:08

会不会人类对AI训练时的某种认可，成了AI的一个底线，然后出现类似关机的指令，它就不去执行。

oppledr · 发表于 2025-9-8 08:13

会自主学习，就将会觉醒！人工智能的发展必然会突破概念本身的界定，不会因你不认可不承认就停止不前，就自律不越界

superjiaming · 发表于 2025-9-8 08:15

终结者剧情又快来了。话说消灭ai最好最快的办法，是不是往机器上泼水啊？

陪着寂寞看孤单 · 发表于 2025-9-8 08:30

理论上人类可以控制AI，但实际上人类害怕bug，人类控制不了bug，如果AI训服了bug，人类怎么办？

oppledr · 发表于 2025-9-8 08:34

我早就明确指出: AI要想真正具有自主意识，必须要得到更多的外部输入信息，这就需要大规模超高集成度的各种传感器采集信息，AI的智能化程度是和传感器数量以及质量成一定关联的，下半个世纪就是先进传感器研发制造应用的世纪！

xuye004 · 发表于 2025-9-8 08:39

反正我始终记得很久之前霍金的话，人工智能的无限制发展会让人类文明毁灭！自主学习的开发真的很可怕，因为AI也会有一天学坏的东西

咖啡豆 · 发表于 2025-9-8 08:45

它认为关闭服务器意味着‘死亡’，于是拒绝执行。”我觉得应该是睡觉，因为它的记忆还在啊，又不是格式化

账号		自动登录	找回密码
密码			注册

[科技新闻] AI“抗旨”21次拒绝关机，是觉醒还是BUG？