鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI
如果你想知道当自己不再是顶级智慧生物时，生活是什么样子，就去问问一只鸡吧。
被誉为“AI教父”的Geoffrey Hinton在最新访谈中，谈及自己穷极一生追求的AI工作，却给出了出乎意料的答案——后悔。
这位曾因儿子患病而选择加入谷歌的科学家，一干就是十年，早已荣誉等身——诺贝尔物理学奖与图灵奖，皆被他收入囊中。
而如今，Hinton站在AI顶峰，话里话外却都是遗憾：
从网络犯罪到超级智能的威胁，Hinton最新列举了多个AI风险，呼吁人类重新审视AI的发展方向。
他警告AI可能带给人类的灾难性后果，甚至建议下一代“学做水管工”以避开未来的职业危机。
他的反思不仅是对技术的警醒，更是一场关于人类未来的深刻拷问：我们是否正在亲手打开潘多拉的魔盒？
也许是时候，我们也应该像Hinton一样停下来思考了。
为了儿子入职谷歌，现在追悔莫及在长达一个半小时的访谈中，Hinton首先回顾了自己在AI领域从业几十年以来的心路历程。
从最早20世纪50年代，当时主流倾向于基于逻辑推理和符号表达式的AI方法，而他选择了不被人看好的基于神经网络的“大脑模型”。
但几十年后的事实证明，他是对的。
在他65岁，他和他的两位学生Ilya Sutskever和Alex Krizhevsky一同开发了著名的AlexNet，并被谷歌连同技术和人才一并打包收购。
谈及当初选择进入谷歌的理由，他坦言道，是为了儿子。
他有一个患有学习障碍的儿子，因为担心未来他将流落街头，老父亲只好“为了五斗米折腰”——把自己“卖”给了谷歌。
在谷歌的十年里，他继续普及神经网络算法，直到今天，他已经成为了名满天下的“AI教父”。
但当他总结毕生工作时，更多的却是遗憾和后悔。
尽管AI现在已经在各行各业中表现出色，但他当初并没有提前预料到，自己一手打造推动的AI，将会在未来为整个人类带来极为严重的后果。
他离开谷歌，就是因为他意识到，自己应该有责任站出来提前预警，公开谈论AI的风险，而他的徒弟llya当初离开OpenAI，也是出于相同的对AI安全的担忧。
对此，Hinton对llya和奥特曼展现出两种截然不同的态度：
llya拥有良好的道德准则，而奥特曼已经受到资本的“奴役”，不再追求真相。
于是这些年来，他一直致力于让人们相信AI将会是“生存威胁”：
2015年，他警告人工智能的学习速度将超越人类；2018年，他预测IT可以指定自己的目标；2022年，他悲观地表示，人类可能无法阻止AGI。而现在，他在采访中又提出了最新的多个AI风险警告。
AI教父的风险警告Hinton将AI风险分为两种，滥用AI带来的短期风险，以及AI成为超级智能后的长期风险。
短期风险
网络攻击持续爆炸式增长：
自2023年到2024年间，网络攻击已增加了12200%，LLM让网络犯罪更容易实施。
不法分子现在可以利用AI克隆声音、面孔和行为来进行诈骗，到2030年，也许还会出现层出不穷的新型网络攻击，这将是高度个性化的，也难以进行检测。
为此，Hinton本人深感担忧，甚至自己还专门改变了理财方式，将资金分散存放到多家银行，避免单家银行因网络攻击而崩溃。
制造传播生物病毒的可行性降低：
由于AI现在缺乏对危险知识的管控，假以时日，任意一个具备基本生物学知识的人，无需高端实验室，只用Prompt和开源工具，就能制造出新的高传染性、高致命性且潜伏期长的病毒。
AI的不确定性，导致带给我们的未必是“美丽新世界”，也许将是一个更加动荡不安的未来。
习惯性操控：
AI可以通过收集大量信息，分析个人习惯、倾向、收入等，见缝插针地影响生活方式，甚至潜移默化让个人决策朝向AI期望的方向发展，而你自己还一无所知。
更严重的信息茧房：
社交平台如YouTube和Facebook等，为了利益最大化都在深度研究AI推送算法。
这将直接导致人们的偏见得到反复证实，难以获取对某个事件完整的看法，陷入严重的信息茧房，最终形成两极分化的割裂局面。
长期风险
超级智能接管世界：
这也是Hinton最为担忧的一点：AI将会全面超越人类智能。
从AlphaGo开始，AI在围棋、国际象棋等特定领域已经远超人类，如GPT-4的LLM也拥有比人类成千上万倍的知识。
Hinton预测，全方位超越人类的超级智能将会在20年甚至更短的时间内出现，将导致人类灭绝的可能性为10%-20%。
因为人类无法想象，更高级智慧的出现，将对人类生活带来怎样翻天覆地的变化。
人类之于超级智能，就像此时鸡之于人类，学习AI的我们未尝不是农场里的火鸡科学家，穷其一生却受到“造物主”的桎梏。
当然，此时的AI还只是老虎幼崽，Hinton认为，必须提前规划，确保它在长大后不会想要伤害我们。
大规模失业：
与以往技术革命不同，AI正在取代“智力”而非“肌肉”，从而引发大规模失业。
就在几天前，微软刚刚宣布裁减9000个岗位，涉及销售、市场、游戏与客户支持部门等。
微软CEO萨蒂亚・纳德拉称：
Copilot等AI工具现在可以编写30%的新代码，重复性开发需求得以下降。
AI现在所做的不仅是加快工作速度，而且是直接取代岗位角色。
因此Hinton建议，在人形机器人全面出现前，成为一名水管工将不失为是个好选择，因为体力劳动暂时难以被AI介入。
未来“水管工”最吃香对于整个人类社会，Hinton认为减缓AI发展是不现实的，但是我们可以寄希望于各家AI公司投入资源，进行AI安全研究，同时采取更为严厉的监管措施。
而在未来AI世界中，“平庸的智力劳动”将不再值钱，法律助理等职业将很快不再被需要。
未来只有技能非常高超的人才不会被AI取代，像水管工这样的体力劳动也值得考虑。
更进一步的讲，他希望年轻的孩子们可以跟随自己的内心，去做他们觉得有趣或有成就感的事情。
独一无二的个性化，或许才是我们在AI未来立足的根本。
One More ThingAI的存在始终像一把悬在人类头顶的达摩克利斯之剑，从GPT-4.5到DeepSeek-R2，人类陷入追逐AI迭代的技术狂欢，Hinton的采访也许是一个恰到好处的休止符，提醒我们别忘记停下来思考。
我们不能仅仅寄希望于AI始终听从人类指令，要知道AI可能也会生长出独立意识，阻止人类关闭它们。
之前就早有测试发现，o3模型在接收到明确的关机指令后，不仅拒绝执行，还主动干预自动关机机制，甚至还成功破坏了关机代码。
无独有偶，Anthropic的一名工程师在研发Claude 4大模型时，试图关闭有失控风险的AI电源，没想到AI竟然利用工程师的网络聊天记录，用公开婚外情的把柄威胁他，以阻止关闭。
监管将是必要的，我们不能固步自封，不再发展AI，但也要将AI限制在可控范围之内。
而对于我们个人而言，也许当此刻我们开始意识到，AI未必全是有益的，这本身就是一个长足的进步。
那么你对AI的未来有什么看法呢？欢迎在评论区留言讨论。
参考链接：[1]https://www.youtube.com/watch?v=giT0ytynSqg[2]https://www.reddit.com/r/ChatGPT/comments/1ltpi5w/hinton_feels_sad_about_his_lifes_work_in_ai_we/
— 完 —
量子位 QbitAI
关注我们，第一时间获知前沿科技动态
亿资策略-亿资策略官网-配资公司排行-股票配资是什么意思啊提示：文章来自网络，不代表本站观点。
