多目标优化问题（MOP）是科学研究与工程实践中普遍存在又非常重要的一类基础性优化问题，具有广泛的应用前景。起源于生物进化理论的多目标进化算法（MOEA）是求解该问题的一种主流方法。目前该方法主要基于非支配解排序，随着种群的进化，候选解的层次数不断减少，种群多样性逐渐丢失，造成种群进化动力不足，使算法容易出现收敛速度慢、容易进入局部最优、全局寻优能力弱等问题。博弈论（Game Theory）是研究主体为争取最大利益如何做出决策的一门科学，它和多目标问题都属于多主体优化问题。借鉴博弈论的基本知识和理论求解多目标优化问题，无论是对提高多目标进化算法性能，还是拓展多目标优化问题工程应用领域都有积极的意义。本文围绕基于博弈的多目标优化算法以及在网格任务调度中的应用展开工作，主要内容包括：首先，介绍多目标优化问题并总结目前已有的求解方法，给出了几种常见的群智能算法基本原理和求解过程。另外，讲解了博弈论的基本知识，并结合对多目标进化算法中种群进化过程的分析，指出了两者结合的可能性；其次，在研究多目标进化算法和各种博弈模型的基础上，本文提出了一种基于混合策略博弈的多目标进化算法（MSG-MOEA）。将种群每次迭代过程看做是一场博弈，各博弈参与人不断调整博弈策略，追求自身利益最大化，带动种群向Pareto前沿进化。算法分析和仿真实验表明本算法在解的分布性和收敛性方面都有较好的表现；最后，提出了一种基于MSG-MOEA的多目标网格任务调度算法。针对现实网格环境中存在计算资源失效等问题，提出了基于任务生存性和任务完成时间的网格调度模型。设计了符合该模型的基于MSG-MOEA的调度算法。仿真实验结果表明，该算法可以很好的解决多目标网格调度问题。