在最近的一次演讲中，诺贝尔奖获得者Geoff Hinton再次深入探讨了人工智能（AI）发展方向的重要性。他阐述了AI应回归生物学的观点，强调同时要警惕开放大模型的源代码可能带来的风险。这一讨论不仅引发了科技界的广泛关注，也激起了公众对AI未来发展的深思。
Hinton在演讲中提到，现代大型聊天机器人在处理信息时，具备的知识并不是简单的海量数据积累，而是能够在多个硬件副本之间共享知识和学习经验。他指出，人类的记忆其实与AI的知识处理相似：在我们回忆某件事情时，往往不是简单地提取，而是编织出看似合理的叙述。
随着AI技术的快速进步，Hinton对其潜在的道德和生存威胁表示忧虑。他指出，尽管我们人类享有持续进化的特权，但AI的快速发展可能会导致其在智能水平上超越人类。他提醒大家，现代AI系统在算法上比我们更优秀，它们可以以更少的经验和更高的效率学习。这种能力使得AI的决策可能会出现不可预测的情况，尤其是在缺乏适当控制的情况下。
Hinton引入了他对“可朽计算”（ZP）概念的思考，提到未来的AI可能会结合生物学原理进行训练，以实现更高效的学习。他希望通过模拟神经网络的运行来改善AI的学习能力，而不是仅依赖于数字计算的长处。这样一来，AI在处理复杂问题时可能会更接近于人类大脑的工作方式，这一理论为AI的发展提供了新的视角。
Hinton还明确指出，开放大型AI模型的源代码可能导致不可预见的后果。他形容这种开放就像是在给坏人提供使用核武器的机会，强调应当对大模型的监管保持高度警惕。他认为，监管的一个关键措施是避免公开这些模型的源代码，因为深度学习模型本质上是庞大且复杂的信息网络，任何有意的操控都可能在不知不觉中引发严重的后果。
针对快节奏的AI技术发展，Hinton认为放慢速度并不是解决问题的关键，因为经济利益和市场压力驱使着技术不断进步，而我们更应该关注的是如何确保这些技术的发展方向是健康和安全的。特别是在面对可能被错误使用的情况下，科技界和政策制定者需共同努力，构建合理的道德框架和法律体系。
此外，Hinton在演讲中也讨论了AI与人类共存的可能性，强调人类与AI之间的互动会越来越紧密。他提到，未来可能会发展出能够与人类有效合作的智能助手，特别是在医疗和教育等领域，这类合作有望为人类带来更大的益处。
综合来看，Hinton的演讲不仅从理论上为AI的发展指明了方向，也为政策制定和公众意识提升提供了思考的基础。揭示了科技进步与伦理约束之间的微妙关系，呼唤人们在享受AI带来的便利时，不应忽视其潜在的风险。科技的未来，需要科学家、开发者以及社会共同承担的责任，而这一责任始于对根本问题的深刻理解。
在我使用了数十家AI绘画、AI生文工具后，强烈推荐给大家以下这个工具——简单AI。简单AI是搜狐旗下的全能型AI创作助手，包括AI绘画、文生图、图生图、AI文案、AI头像、AI素材、AI设计等。可一键生成创意美图，3步写出爆款文章。网站提供生成创意美图、动漫头像、种草笔记、爆款标题、活动方案等多项AI创作功能。工具链接：
国漫女神、游戏美女随心爆改，一键定制你的专属AI动漫女神，点击立即生成→