潍坊网站排名湘潭市建设网站

---

1.摘要

本研究针对半导体制造环境中的具有受限额外资源和设备相关设置时间的随机柔性作业车间调度问题，这一问题属于NP-难问题。为了在合理的时间内获得可靠且高性能的调度结果，本文提出了一种基于学习的灰狼算法（LGWO）。LGWO设计了一种基于最优计算预算分配（OCBA）的方法，适用于两个来自实际制造环境的情境，用来实现计算资源的智能分配并提高搜索效率，该方法在理论上扩展了最优计算预算分配的应用领域。为了在迭代过程中获得合适的控制参数，本文引入了一种具有新设计延迟更新策略的强化学习算法，用于构建灰狼算法的参数调优机制，该机制能够有效平衡全局搜索与局部搜索之间的关系，从而提升算法性能。

2.术语

3.随机柔性车间调度

经典的作业车间调度问题（JSP）作为一种NP难题，要求将n个作业分配到m台机器上进行处理，并最大化性能。每个作业包含多个操作，这些操作需要按照特定的顺序完成。其推广形式为FJSP，其中多台机器可以处理作业。进一步的推广是随机版本，其中作业或机器的处理时间/设置时间通过随机分布描述，而不是固定的数值。原因在于许多工业过程中，系统可能会出现不可控的干扰，如机器故障、装卸时间变化和设备性能不稳定。

本研究提出了一种基于学习灰狼算法（LGWO），结合了强化学习（RL）和最优计算预算分配（OCBA），有效且高效地解决我们所考虑的问题。

4.问题模型

本文构建了一个混合整数规划模型。，假设所有作业和机器在初始时刻均可用，且一旦某个工序开始加工，中途不得中断。目标函数为最小化期望完工时间：
$$\mathrm{Minimize}\mathrm{E}[C_{\max }]$$

其中，$N_M$为每个个体基本采样次数，通过蒙特卡罗采样计算得到：
$$E[C_{\max }]=\frac{1}{N_M}\sum _{y=1}^{N_M}{C}_{\max }(y)$$
$$C_{\max }(y)=\underset{i=1,\cdots ,n,u=1,\cdots ,O_i,k=1,\cdots ,m}{\max }{t}_{i,u,k}^c(y)$$

其中，$C_{max}(y)$为第$y$次模拟的最大跨度。操作分配约束:
∑ k ∈ E i , u x i , u , k = 1 , x i , u , k ∈ { 0 , 1 } i = 1 , ⋯ , n , u = 1 , ⋯ , N ˚ i \sum_{k\in\mathbf{E}_{i,u}x_{i,u,k}}=1,x_{i,u,k}\in\{0,1\}i=1,\cdots,n,u=1,\cdots,\mathring{N}_{i} k∈Ei,u​xi,u,k​∑​=1,xi,u,k​∈{0,1}i=1,⋯,n,u=1,⋯,N˚i​

不确定处理时间约束:
大量柔性作业车间调度问题（FJSPs）的统计结果表明，加工时间通常服从伽马分布或正态分布。Muralidhar 等人建议使用给定的平均加工时间$t_{i,u,k}^p$和参数$\theta$,来生成第$y$次采样下的加工时间$t_{i,u,k}^g(y)$,其表达为:
$$t_{i,u,k}^g(y)\sim \mathrm{Gamma}({\alpha }_{i,u,k},\beta )$$
加工时间约束决定了第$y$次采样中工序$O_{i,u}$完成时间：
$$[t_{i,u,k}^b(y)+t_{i,u,k}^g(y)]x_{i,u,k}=t_{i,u,k}^c(y)x_{i,u,k}$$

机器相关的设置时间限制：

为了维护不同操作的时间表，作业需要切换到下一台机器。如果一个作业的操作及其后续操作在不同的机器上处理，则需要设置时间。

$$t_{i,u+1,k}^b\ge t_{i,u,k^{\prime }}^c+t_{k^{\prime },k}^s$$
$${\tau }_{i,u,j,c,k}+{\tau }_{j,c,i,u,k}=x_{i,u,k}{x}_{j,c,k}$$

机器容量限制：

$$t_{i,u,k}^b\ge t_{j,c,k}^c-\mathrm{D}(1-{\tau }_{i,u,j,c,k})$$

有限的额外资源约束：
$$\sum _{k=1}^m{\eta }_{(k,T)}\cdot {\mathbf{R}}_k(y)\le \mathbf{R},\forall T$$

5.LGWO算法

采用双段编码向量作为编码器，该向量由机器分配向量和操作顺序向量两部分组成。两个向量的长度均等于操作数，并使用区间$[0,1]$内的正实数作为编码值。

OCBA的目标函数为：
max ⁡ N 1 , ⋯ , N N p 1 − ∑ h = 1 , h ≠ ∗ N p P { J ~ ∗ > J ~ u } , \max_{N_1,\cdots,N_{N_p}}1-\sum_{h=1,h\neq*}^{N_p}\mathbb{P}\{\tilde{J}^*>\tilde{J}_u\}, N1​,⋯,NNp​​max​1−h=1,h=∗∑Np​​P{J~∗>J~u​},
$$s.t.\sum _{h=1}^{N_p}{I}_h\le I_T,h=1,\cdots ,N_p$$

在操作前使用RL离线训练参数调优方案。应用强化学习建立参数调优方案的三个重要问题是状态表示、动作构造和奖励函数定义。状态向量需要描述个体的主要特征并跟踪个体的变化：
$$\mathbf{s}={\left\{E^t,\frac{D^t}{D^0},\frac{V^t}{V^0},\frac{U^t}{U^0},\frac{t}{N_C}\right\}}^T$$

奖励函数：
$$r(\mathbf{s},a)=\left|\sum _{h=1}^{N_p}\frac{{\psi }_{(h,a)}}{N_p}-\omega \right|$$
$${\psi }_{(h,a)}=\{\begin{array}{llc}1,& f({\mathbf{x}}_h,a)-f({\mathbf{x}}_h)<0& \\ 0,& f({\mathbf{x}}_h,a)-f({\mathbf{x}}_h)\ge 0& \end{array}$$

具有延迟更新策略更新：
$$\begin{array}{rl}\mathbf{Q}(\mathbf{s},a)& \leftarrow \mathbf{Q}(\mathbf{s},a)\\ & +\beta \cdot [r(\mathbf{s},a)+\gamma \cdot \max \mathbf{Q}({\mathbf{s}}^{\prime },a^{\prime })-\mathbf{Q}(\mathbf{s},a)]\end{array}$$

6.结果展示

7.参考文献

[1] Lin C, Cao Z, Zhou M C. Learning-based grey wolf optimizer for stochastic flexible job shop scheduling[J]. IEEE Transactions on Automation Science and Engineering, 2022, 19(4): 3659-3671.

8.代码获取

xx

9.算法辅导·应用定制·读者交流