新经网logo.png新经网

新经网
新经网是百姓城市生活中不可缺少的信息港。
新经网

英特尔研究人员承诺使用新的混合算法更快地进行人工智能训练

导读 除了追求人工智能的实际应用之外,英特尔还投入研究来发展这项技术的理论基础。芯片厂商工作的最新成果是可以加速复杂AI模型开发的算法。共

除了追求人工智能的实际应用之外,英特尔还投入研究来发展这项技术的理论基础。芯片厂商工作的最新成果是可以加速复杂AI模型开发的算法。

共同进化强化学习或CERL算法是今天在加州ICML机器学习会议上提出的。预计将加快AI项目的培训阶段,这是开发周期中最耗时的部分之一。

工程师通过让他们在模拟设置中重复执行给定的任务来提高模型的准确性。这个过程通常涉及到虚拟奖励的使用:当AI做了正确的事情(例如,正确识别照片中的动物)时,它会得到一个点,并将经验教训应用到未来的图像中。这是一个强大的方法,但英特尔在描述CERL的学术论文中强调,这种方法有一定的局限性。

通过基于奖励的训练进行教学的神经网络通常采取“安全路线”来最大化他们获得的分数。然后,AI不太可能冒险尝试新方法。这最终限制了模型在训练中学习的内容,这意味着一旦模型被部署到应用程序中,模型的运行效率可能会降低。

所谓的基于策略梯度的机器学习方法尤为突出,是工程师训练AI模型最常用的方法之一。有一种替代方法没有这种限制——进化强化学习——但它有自己的权衡:它需要更多的硬件。英特尔的CERL算法旨在通过将两种方法的关键概念结合到混合工作流程中来提供解决方案。

CERL通过生成一组随机设置的神经网络开始培训课程。该算法选择学习中得分最多的模型,丢弃剩余的,根据性能最高的模型生成新的一批AI。这导致了新一代神经网络优于其前辈的情况。

英特尔人工智能实验室工程研究主管SomdebMajumdar解释说:“排名最高的‘精英’被保留,其余的被丢弃。”“我们也变异精英分子(小干扰克隆).以产生高性能的后代来回填废弃的网络。”

为了加快训练速度,英特尔研究人员为CERL配备了一种叫做重放缓冲区的机制。这是一个沟通渠道,让每一代神经网络互相分享经验,学习速度更快。同时,第二种机制优化了硬件分配,从而为最快的学习模型提供了更多的计算能力,从而进一步加快了速度。

相关推荐



最新文章