通过机器学习技术的混合应用识别产量模式

  介绍

  在半导体制造中，最终产品是通过数百个流程制造的，这些流程高度自动化并且极为相互依赖。当今使用的大多数制造工艺都是复杂地交织在一起的在使用纳米级技术时变得极少。

  对于那些制造商或工程师而言，产量被认为是必须监控和控制的非常重要的因素。产量定义为正常产品与成品的比率。半导体的良率管理工业被理解为具有复杂系统特征的综合分析系统。复杂系统具有许多独立的组件变量，它们以许多复杂的方式相互交互。因此，它被认为很难预测和控制。

  半导体制造中的产量受到若干因素的强烈影响，包括晶圆上的颗粒或污染物，制造工具中的物质，制造工艺参数，工艺工程师的态度，和半导体的设计。

  通过将统计过程控制和6-sigma应用于半导体，半导体公司可以实现一定程度的产量。然而，采用统计测量的产量增加在防止低产率方面是困难的提前有效地批量生产。这是因为影响产量变化的制造工艺变量与产量具有非线性复杂关系。由于这几个变量，制造商之间的这种互动效应发现，当工艺参数之间的关系发生微小变化可能导致产量变化时，很难及时查明问题。

因此，需要其他智能技术来检测严重影响产量变化的主要过程变量。该研究开发了一种半导体工业中的混合产量预测系统，称为HYPSSI，作为现有统计方法的补充。该系统基于机器学习技术的混合应用，以描绘与有效预测产量的有关的多个过程变量半导体制造业HYPSSI采用神经网络（NN）和基于案例的推理（CBR），可直接应用于预测目的。然而，CBR遭受功能加权;当它测量之间的距离在某些情况下，某些功能应加权不同。已经提出了k-最近邻（k NN）的许多特征加权变体以将更高权重分配给更相关的特征以用于案例检索[2,37]。虽然那些已经报道了变体在某些任务中提高了它们的检索准确性，很少有与神经网络一起用来预测半导体制造中的屈服性能。

  为了衡量特征和指导CBR，HYPSSI采用四种特征加权方法：灵敏度，活动，显着性和相关性。每种方法都使用连接权重和计算每个要素的重要程度训练神经网络中节点的激活模式。

  为了在半导体行业内验证这种混合方法，HYPSSI被应用于国际半导体公司，该公司一直被评为世界顶级制造商之一。比较这种混合动力使用已经使用的其他方法的方法，本文表明混合方法提供了更准确的产量预测。

  本文的结构如下：第2节回顾了用于提供适用于半导体制造的良率管理的各种方法。本节重点介绍结合机器学习技术的混合应用。

  第3节描述了半导体工业中混合产量预测系统的方法，称为HYPSSI。实验结果在第4节中给出以验证系统。最后，本文由brie fl y结束总结了研究和未来研究的方向。

  文献评论

  研究方法应用于半导体制造

  在诸如半导体制造的高科技工业中，随着先进的制造技术复杂并且许多相互关联的因素影响制造的晶片的产量，产量提高变得越来越重要。一些研究旨在提高半导体行业的产量性能并降低运营和资本投资成本。有几种统计方法适用于半导体制造。王[36]使用了较低的对过程产量的信心约束和能力测试可以确定制造过程是否满足能力要求。 Kaempf [18]使用二项式测试和实际生产晶圆的图形产量图识别制造过程中的缺陷源。 Cho等人。 [9]描述了分解的主成分分析的变体使用制造业的测量统计数据来确定过程可变性。

  Sobrino和Bravo [32]体现了一种归纳算法，用于从制造数据中学习低质量晶圆的初步原因。最后，坎德尔[22]提出了自动感知网络，以准确计算产量从嘈杂的数据集自动构建模型。

  当用于产量预测过程时，一种技术可以与其他技术组合以提高研究的质量。康等人。 [19]集成归纳决策树和NN与反向传播和SOM算法用于管理主要半导体制造工艺的产量。 Shin和Park [31]集成了神经网络和基于存储器的推理，以开发半导体制造的晶圆产量预测系统。杨等。 [40]混合禁忌搜索和模拟退火，以整合晶圆制造中的布局配置和自动化材料处理系统。

  Chien等。 [8]包括k-means聚类和决策树，用于从半导体制造数据中推断出可能的故障原因和制造工艺变化。 Hsu和Chien [13]综合空间统计和自适应共振理论神经网络从晶圆箱图中提取模式并与制造缺陷相关联。 Li和Huang [23]集成了自组织映射（SOM）和支持向量机（SVM）：SOM集群晶圆箱图; SVM分类晶圆箱图以识别制造缺陷。 Wang [35]提出了一种半导体制造的空间缺陷诊断系统，它结合了基于平方误差的模糊聚类和基于内核的谱聚类和决策树。 Romaniuk和Hall [29]设计了SC-net系统，该系统提供专家系统功能，以混合连接/符号方法学习，以检测半导体晶圆故障。 Chaudhry等人。 [6]提出了一种模糊实体关系方法，用于构建适用于半导体制造过程的离散控制系统的模糊关系数据库的原型。

  利用混合CBR的其他研究领域

  廖[25]从1995年到2004年对专家系统开发文献进行了调查。根据他的发现，实现混合CBR的主要应用在以下领域得到了发展：制造设计和故障诊断，知识建模和管理，医疗规划和应用以及财务预测领域。

混合式CBR方法已广泛应用于制造设计和故障诊断中。 Hui和Jha [16]整合了NN，CBR和基于规则的推理来支持客户服务活动，例如决策支持和机器制造环境中的故障​​诊断。 Liao [26]将CBR方法与多层感知器结合起来，用于在整个故障分析过程中自动识别故障机制。杨等人。 [39]综合社区康复与ART-Kohonen NN一起加强电动机的故障诊断。 Tan等人。 [34]整合了CBR和模糊的ARTMAP NN，以支持管理者做出及时和最佳的制造技术投资决策。 Saridakis和Dentsoras [30]介绍了一种基于案例的设计，其中包含一个软计算系统，用于评估振荡输送机的参数化设计。

  已经开发了以下在知识建模和管理领域的研究工作。惠等人。 [15]结合CBR和NN方法从以前的客户服务中提取知识并召回适当的方法服务。 Choy等人。 [10]利用混合CBR和NN技术开发了一个智能供应商关系管理系统，以选择和评估霍尼韦尔消费品有限公司在香港的潜在供应商。俞和刘[41]提出了符号和数字推理技术的混合，以实现更高的准确性，并克服建设项目数据库中的数据稀缺问题。 Chen和Hsu [7]解决了潜在的诉讼问题由建筑项目订单变更引起的。他们利用NN来预测诉讼可能性，并利用CBR来警告收益率。 Im和Park [17]开发了CBR和NN的混合专家系统，用于个性化咨询系统用于化妆品行业。刘等人。 [27]开发了一种基于关联的病例减少技术，以减少病例基础的大小，以提高效率，同时提高CBR的准确性。孙等人。 [33]建立了一个基于相似关系和模糊相似关系的案例库，它们都是根据问题和解决方案的可能世界来定义的。

  混合CBR也已用于医疗规划和应用领域。 Guiu等。 [12]引入了一个基于案例的分类系统来解决乳腺活检图像的自动诊断。 Hsu和Ho [14]结合了CBR，NN，模糊理论和诱导理论共同促进多疾病诊断和新适应知识的学习。 Wyns等人。 [38]应用修改的Kohonen映射结合CBR评估标准来预测早期关节炎，包括类风湿性关节炎和脊椎关节病。 Ahn和Kim [1]将CBR与遗传算法相结合，以评估源自乳房针吸出物（FNA）载玻片的数字扫描的细胞学特征。

混合CBR也被用于金融预测领域。 Kim和Han [20]提出了一种利用SOM预测公司债券评级的CBR案例索引方法。李等人。 [24]介绍了一个基于特征的处理中国财务困境预测（例如破产预测）的相似性度量。 Chang和Lai [4]将SOM和CBR整合到新发行图书的销售预测中。 Chang等。 [5]发展了一个CBR系统批发商退货预测的遗传算法。 Chun和Park [11]设计了一个用于财务预测的回归CBR，它在发现类似案例之前对自变量应用不同的权重。库马尔和拉维[21]全面回顾利用NN和CBR解决银行面临的破产预测问题的工作。

  半导体工业中的混合产量预测系统（HYPSSI）

  为了提高准确预测产量的能力，在半导体工业（HYPSSI）中开发了混合产量预测系统。它是以下混合方法，结合机器学习技术，如反向传播网络（BPN），CBR和k NN（见图1）。

  HYPSSI由四个阶段组成：了解案例变量与收益率，特征权重，提取k个类似案例之间的关系，以及提取收益率的加权平均。第一阶段确定了相对重要性来自独立变量（即制造过程变量）与因变量（即产量）之间关系的独立变量。当BPN的培训在产量案例库的实例中完成时，训练好的神经网络的连接权重揭示了过程变量和产量之间关系的重要性。

  为了从训练的网络获得一组特征权重，使用了四种特征加权方法：灵敏度，活动，显着性和相关性[28,37,42]。这些方法中的每一种都计算每个特征的程度通过使用训练的神经网络中的节点的连接权重和激活模式的重要性。特征加权算法简述如下：

  '灵敏度'加权方法：通过从训练的神经网络中移除输入节点来计算输入节点的灵敏度（Seni）。输入节点的灵敏度是去除之间的误差功能和何时留在原地。 Seni通过以下等式计算

  其中E（0）表示删除输入节点后的错误量i和E（wf）表示当节点保持不变时的错误值。误差值基于以下等式

  其中CB是包含案例变量（特征）和相应产量的案例库，y表示实际产量值，oy表示BPN观察到的收益率值。

  介绍

在半导体制造中，最终产品是通过数百个流程制造的，这些流程高度自动化并且极为相互依赖。当今使用的大多数制造工艺都是复杂地交织在一起的在使用纳米级技术时变得极少。

  对于那些制造商或工程师而言，产量被认为是必须监控和控制的非常重要的因素。产量定义为正常产品与成品的比率。半导体的良率管理工业被理解为具有复杂系统特征的综合分析系统。复杂系统具有许多独立的组件变量，它们以许多复杂的方式相互交互。因此，它被认为很难预测和控制。

  半导体制造中的产量受到若干因素的强烈影响，包括晶圆上的颗粒或污染物，制造工具中的物质，制造工艺参数，工艺工程师的态度，和半导体的设计。

  通过将统计过程控制和6-sigma应用于半导体，半导体公司可以实现一定程度的产量。然而，采用统计测量的产量增加在防止低产率方面是困难的提前有效地批量生产。这是因为影响产量变化的制造工艺变量与产量具有非线性复杂关系。由于这几个变量，制造商之间的这种互动效应发现，当工艺参数之间的关系发生微小变化可能导致产量变化时，很难及时查明问题。

  因此，需要其他智能技术来检测严重影响产量变化的主要过程变量。该研究开发了一种半导体工业中的混合产量预测系统，称为HYPSSI，作为现有统计方法的补充。该系统基于机器学习技术的混合应用，以描绘与有效预测产量的有关的多个过程变量半导体制造业HYPSSI采用神经网络（NN）和基于案例的推理（CBR），可直接应用于预测目的。然而，CBR遭受功能加权;当它测量之间的距离在某些情况下，某些功能应加权不同。已经提出了k-最近邻（k NN）的许多特征加权变体以将更高权重分配给更相关的特征以用于案例检索[2,37]。虽然那些已经报道了变体在某些任务中提高了它们的检索准确性，很少有与神经网络一起用来预测半导体制造中的屈服性能。

为了衡量特征和指导CBR，HYPSSI采用四种特征加权方法：灵敏度，活动，显着性和相关性。每种方法都使用连接权重和计算每个要素的重要程度训练神经网络中节点的激活模式。

  为了在半导体行业内验证这种混合方法，HYPSSI被应用于国际半导体公司，该公司一直被评为世界顶级制造商之一。比较这种混合动力使用已经使用的其他方法的方法，本文表明混合方法提供了更准确的产量预测。

  本文的结构如下：第2节回顾了用于提供适用于半导体制造的良率管理的各种方法。本节重点介绍结合机器学习技术的混合应用。

  第3节描述了半导体工业中混合产量预测系统的方法，称为HYPSSI。实验结果在第4节中给出以验证系统。最后，本文由brie fl y结束总结了研究和未来研究的方向。

  文献评论

  研究方法应用于半导体制造

  在诸如半导体制造的高科技工业中，随着先进的制造技术复杂并且许多相互关联的因素影响制造的晶片的产量，产量提高变得越来越重要。一些研究旨在提高半导体行业的产量性能并降低运营和资本投资成本。有几种统计方法适用于半导体制造。王[36]使用了较低的对过程产量的信心约束和能力测试可以确定制造过程是否满足能力要求。 Kaempf [18]使用二项式测试和实际生产晶圆的图形产量图识别制造过程中的缺陷源。 Cho等人。 [9]描述了分解的主成分分析的变体使用制造业的测量统计数据来确定过程可变性。

  Sobrino和Bravo [32]体现了一种归纳算法，用于从制造数据中学习低质量晶圆的初步原因。最后，坎德尔[22]提出了自动感知网络，以准确计算产量从嘈杂的数据集自动构建模型。

  当用于产量预测过程时，一种技术可以与其他技术组合以提高研究的质量。康等人。 [19]集成归纳决策树和NN与反向传播和SOM算法用于管理主要半导体制造工艺的产量。 Shin和Park [31]集成了神经网络和基于存储器的推理，以开发半导体制造的晶圆产量预测系统。杨等。 [40]混合禁忌搜索和模拟退火，以整合晶圆制造中的布局配置和自动化材料处理系统。

  Chien等。 [8]包括k-means聚类和决策树，用于从半导体制造数据中推断出可能的故障原因和制造工艺变化。 Hsu和Chien [13]综合空间统计和自适应共振理论神经网络从晶圆箱图中提取模式并与制造缺陷相关联。 Li和Huang [23]集成了自组织映射（SOM）和支持向量机（SVM）：SOM集群晶圆箱图; SVM分类晶圆箱图以识别制造缺陷。 Wang [35]提出了一种半导体制造的空间缺陷诊断系统，它结合了基于平方误差的模糊聚类和基于内核的谱聚类和决策树。 Romaniuk和Hall [29]设计了SC-net系统，该系统提供专家系统功能，以混合连接/符号方法学习，以检测半导体晶圆故障。 Chaudhry等人。 [6]提出了一种模糊实体关系方法，用于构建适用于半导体制造过程的离散控制系统的模糊关系数据库的原型。

  利用混合CBR的其他研究领域

  廖[25]从1995年到2004年对专家系统开发文献进行了调查。根据他的发现，实现混合CBR的主要应用在以下领域得到了发展：制造设计和故障诊断，知识建模和管理，医疗规划和应用以及财务预测领域。

  混合式CBR方法已广泛应用于制造设计和故障诊断中。 Hui和Jha [16]整合了NN，CBR和基于规则的推理来支持客户服务活动，例如决策支持和机器制造环境中的故障​​诊断。 Liao [26]将CBR方法与多层感知器结合起来，用于在整个故障分析过程中自动识别故障机制。杨等人。 [39]综合社区康复与ART-Kohonen NN一起加强电动机的故障诊断。 Tan等人。 [34]整合了CBR和模糊的ARTMAP NN，以支持管理者做出及时和最佳的制造技术投资决策。 Saridakis和Dentsoras [30]介绍了一种基于案例的设计，其中包含一个软计算系统，用于评估振荡输送机的参数化设计。

  已经开发了以下在知识建模和管理领域的研究工作。惠等人。 [15]结合CBR和NN方法从以前的客户服务中提取知识并召回适当的方法服务。 Choy等人。 [10]利用混合CBR和NN技术开发了一个智能供应商关系管理系统，以选择和评估霍尼韦尔消费品有限公司在香港的潜在供应商。俞和刘[41]提出了符号和数字推理技术的混合，以实现更高的准确性，并克服建设项目数据库中的数据稀缺问题。 Chen和Hsu [7]解决了潜在的诉讼问题由建筑项目订单变更引起的。他们利用NN来预测诉讼可能性，并利用CBR来警告收益率。 Im和Park [17]开发了CBR和NN的混合专家系统，用于个性化咨询系统用于化妆品行业。刘等人。 [27]开发了一种基于关联的病例减少技术，以减少病例基础的大小，以提高效率，同时提高CBR的准确性。孙等人。 [33]建立了一个基于相似关系和模糊相似关系的案例库，它们都是根据问题和解决方案的可能世界来定义的。

  混合CBR也已用于医疗规划和应用领域。 Guiu等。 [12]引入了一个基于案例的分类系统来解决乳腺活检图像的自动诊断。 Hsu和Ho [14]结合了CBR，NN，模糊理论和诱导理论共同促进多疾病诊断和新适应知识的学习。 Wyns等人。 [38]应用修改的Kohonen映射结合CBR评估标准来预测早期关节炎，包括类风湿性关节炎和脊椎关节病。 Ahn和Kim [1]将CBR与遗传算法相结合，以评估源自乳房针吸出物（FNA）载玻片的数字扫描的细胞学特征。

  混合CBR也被用于金融预测领域。 Kim和Han [20]提出了一种利用SOM预测公司债券评级的CBR案例索引方法。李等人。 [24]介绍了一个基于特征的处理中国财务困境预测（例如破产预测）的相似性度量。 Chang和Lai [4]将SOM和CBR整合到新发行图书的销售预测中。 Chang等。 [5]发展了一个CBR系统批发商退货预测的遗传算法。 Chun和Park [11]设计了一个用于财务预测的回归CBR，它在发现类似案例之前对自变量应用不同的权重。库马尔和拉维[21]全面回顾利用NN和CBR解决银行面临的破产预测问题的工作。

  半导体工业中的混合产量预测系统（HYPSSI）

  为了提高准确预测产量的能力，在半导体工业（HYPSSI）中开发了混合产量预测系统。它是以下混合方法，结合机器学习技术，如反向传播网络（BPN），CBR和k NN（见图1）。

  HYPSSI由四个阶段组成：了解案例变量与收益率，特征权重，提取k个类似案例之间的关系，以及提取收益率的加权平均。第一阶段确定了相对重要性来自独立变量（即制造过程变量）与因变量（即产量）之间关系的独立变量。当BPN的培训在产量案例库的实例中完成时，训练好的神经网络的连接权重揭示了过程变量和产量之间关系的重要性。

  为了从训练的网络获得一组特征权重，使用了四种特征加权方法：灵敏度，活动，显着性和相关性[28,37,42]。这些方法中的每一种都计算每个特征的程度通过使用训练的神经网络中的节点的连接权重和激活模式的重要性。特征加权算法简述如下：

  '灵敏度'加权方法：通过从训练的神经网络中移除输入节点来计算输入节点的灵敏度（Seni）。输入节点的灵敏度是去除之间的误差功能和何时留在原地。 Seni通过以下等式计算

  其中E（0）表示删除输入节点后的错误量i和E（wf）表示当节点保持不变时的错误值。误差值基于以下等式

  其中CB是包含案例变量（特征）和相应产量的案例库，y表示实际产量值，oy表示BPN观察到的收益率值。

  根据该表，BPN + CBR_Sen显示k设置为5时的最低错误率;当k设置为11时，BPN + CBR_Act具有最低的错误率;当k设置为5时，BPN + CBR_Sal显示最低错误率;和BPN当k设置为9时，+ CBR_Rel显示最低错误率。除了每种加权方法中的k点之外，错误率略有增加。

表1基于案例推理的四种加权方案的预测误差。

图2.每种加权方案的平均预测精度。

  图2示出了根据变化k的所有特征加权方法的平均预测精度。

  在每个实验中，所有四种加权方法都优于单独的CBR方法。此外，在大多数实验中，BPN + CBR_Act显示出最高的预测准确度，其次是BPN + CBR_Sal，BPN + CBR_Rel和BPN +CBR_Sen。

  随着k增加到11，预测准确度的差异在单独的CBR和BPN + CBR_Act加权方法之间变得更大。然而，在四个特征加权中，预测精度存在微小差异方法。

  通常，很难确定哪种加权方法最好。作者建议，应该在初始开发阶段测试这四种方法，然后实现具有最低预测误差的方法生产阶段。在这种情况下，采用BPN + CBR_Act加权方法是预测半导体制造中产率的可接受的解决方案。

  结论

  半导体行业的产量管理是一项非常重要的管理实践，必须进行监控和完全控制。由于制造过程变量与产量具有非线性复杂关系，制造商需要一种智能方法来及时确定工艺参数之间的关系。

  在本文中，作者设计并应用了HYPSSI，一种结合BPN和CBR的混合方法，用于预测目标半导体制造公司的产量。在HYPSSI中，BPN用于指定相对权重在产量案例库中的每个案例的制造过程特征。

  正如第2节中的文献综述所揭示的那样，以前没有类似的研究来预测利用神经特征加权CBR的半导体公司的产率。 HYPSSI显示了CBR与“活动”加权方法具有更好的预测率，优于单独的CBR和所有其他加权方法。混合CBR也表现出比现有统计方法更好的性能（预测准确性即将到来）从多元回归分析到达80％左右）。

  但是，为了获得更准确的预测率，HYPSSI需要更多来自目标公司的过程变量和数据。尽管本文中使用的现有16个变量是由制造工程师确定的，仅通过使用这些变量和数据来实现更准确的预测率是很困难的。这将是下一个应该进行研究的领域。