AI界的奥斯卡,英伟达2024GTC大会刚刚落下帷幕!
他们包括Character.ai的联合创始人兼CEO Noam Shazeer;Cohere的联合创始人兼CEO Aidan Gomez;Essential AI的联合创始人兼CEO Ashish Vaswani;Sakana AI的联合创始人兼CTO Llion Jones;NEAR Protocol的联合创始人Illia Polosukhin;Inceptive的联合创始人兼CEO Jakob Uskhoreit;以及OpenAI的技术员Lukasz Kaiser。Essential AI的联合创始人Niki Parmar未能出席。
以下是我们结合所有嘉宾的讨论整合的金句:
1.为什么叫Transformer?我们只是随便起了一个名字,觉得它很有创意,改变了我们的数据生产模式,使用了这样一种逻辑。所有的机器学习都是Transformer,都是颠覆者。它描述了模型的原理,实际上转换了整个信号,按照这个逻辑,几乎所有的机器学习都会被转换。
2.这个例子就像2+2,如果你正确地将它输入到这个模型中,它就会使用一万亿个参数。所以我认为自适应计算是接下来必须出现的事情之一,我们知道在特定问题上应该花费多少计算资源,知道目前计算机的生成能力有多少,我觉得这是接下来需要集中注意力的问题,这是宇宙级的变革者,也是未来的发展趋势。
3.我觉得让世界更聪明,就是指如何去获得来自于世界的反馈,我们能否实现多任务、多线的并行。如果你真的想构建这样一个模型,帮助我们设计这样一个模型,这是一种非常好的方式。