Android系统作为2008年才发布的开源手机操作系统，因为其免费和开源的特性，迅速流行开来，市场占有率已成为第一，不论是价值千元的低端机还是四五千的高端机，都随处可见。其易用性也给广大消费都带了来极大的便利。与此同时，Android手机的流行也极大刺激了移动恶意软件的发展与传播，涉及了恶意扣费、隐私窃取、恶意破坏、后台木马等。尽管Android自带的安全机制相比以前的移动操作系统已经牢靠的多，但是仍旧有可被恶意利用之处。而大部分用户由于以前使用非智能手机的思维惯性，对移动平台的安全性和恶意软件的危害意识不够，给恶意软件带来可乘之机。本文以此为契机，主要研究了Android移动设备中恶意软件的检测问题。首先综述了Android系统的基本状况以及最近几年移动安全领域的研究状况；具体研究了Android系统的系统架构、一些特有的机制，单独分析了其安全机制和面临的安全威胁；有针对性地研究了Android系统上恶意软件分类和运行机理。论文针对Android系统和其恶意软件的特点，提出了一个基于机器学习的恶意软件检测模型，并对其组成和关键技术进行了深入研究。模型包括静态检测和动态检测。静态检测可以在软件下载后安装前，对安装程序进行检测，是通过指纹匹配和权限分析来实现。它的特点是检测准确度高、检测快，尤其是指纹匹配。缺点是不能检测新的恶意软件，需要不断完善特征库。动态检测是通过分析程序执行的时序关系，建立高层次的时序执行特征签名，再用机器学习检测器以部分特征签名作为属性来进行分类检测。它不仅可以检测已知的恶意软件，还可以检测它们的变种，对于新的恶意软件又可以借用它的SVM机器学习检测器对其进行一定的检测。两种检测方式互相补充，给用户双重的保护，最大程度使用户免于恶意软件的危害。最后，由于没有公开的权威的恶意样本库，笔者以平时收集的常见类型的恶意软件作为测试数据，对模型进行了测试。测试结果表明，本模型具有较好的检测效果，并具有检测未知恶意软件的能力。