学院新闻
大模型时代的算力瓶颈讨论——院“青马班”开展第六次课程学习
发布时间:2024-05-06  点击次数:

4月25日下午,学院“青马工程”第二期培训班(以下简称“青马班”)开展第六次课程学习,计算机学院副院长程大钊为学生讲授“大模型时代的算力瓶颈讨论”,院“青马班”学员和部分团学骨干参加学习,学院本科生辅导员廖蕾蕾主持会议。

程大钊用国际上的“计算”定义展开课程。他指出,计算包括硬件软件、算法算力等。随着需要处理的数据量不断增长,神经网络等技术不断取得突破,与我们日常学习、工作息息相关的“计算机”价格也在不断降低。他表示,计算很重要,但计算的性价比更重要。性价比高的计算意味着在时间、金钱和计算能力等有限的资源下,计算能够达到最优或接近最优的性能表现。

程大钊展开介绍了硬件的发展训练。他谈到,企业在对训练和推理进行更多量化,各种手机的语音智能也在不断迭代,在语音识别精度、自然交互体验、多模态交互等方面实现了技术优化。通过介绍ChatGPT——如今热门的模型处理系统,他指出在新技术上国内外差距较大,芯片仍然是我国卡脖子的技术,一些关键的芯片核心技术,如先进的制程技术、封装技术、设计工具等,仍然受到国外公司的垄断,需要突破更多的技术创新。

课程最后他鼓励同学们立志投身于国内技术创新的事业。他指出,无论将来从事什么职业,都要把现在的学科和专业学好做好,脚踏实地,成为一名优秀的数学学子。

(学生通讯员:陈严锦 摄影:宋米琪)