码迷,mamicode.com
首页 > 其他好文 > 详细

模拟退火

时间:2014-08-10 15:33:20      阅读:282      评论:0      收藏:0      [点我收藏+]

标签:style   blog   http   color   os   io   for   art   

爬山算法

爬山算法是一种局部择优的方法,采用启发式方法,是对深度优先搜索的一种改进,它利用反馈信息帮助生成解的决策。

爬山算法一般存在以下问题:

  1. 局部最大
  2. 高地:也称为平顶,搜索一旦到达高地,就无法确定搜索最佳方向,会产生随机走动,使得搜索效率降低。
  3. 山脊:搜索可能会在山脊的两面来回震荡,前进步伐很小。

解决方法:随机重启爬山算法

简单来说,爬山算法就是一种简单的贪心,假设我们要找一个含有多个山峰的函数的最高峰值,先随机选取一点,然后尽可能的向高处走即可。

然而爬山算法有时只能找到局部最优解,即只能找到一个小山坡,而不是最高峰。

模拟退火

简介

模拟退火是一种通用概率算法,用来在固定时间内寻求在一个大的搜寻空间内找到的最优解。模拟退火是 S. Kirkpatrick, C. D. Gelatt 和 M. P. Vecchi 在1983年所发明。而 V. ?erný 在1985年也独立发明此算法。

模拟退火来自冶金学的专有名词退火。退火是将材料加热后再经特定速率冷却,目的是增大晶粒的体积,并且减少晶格中的缺陷。材料中的原子原来会停留在使内能有局部最小值的位置,加热使能量变大,原子会离开原来位置,而随机在其他位置中移动。退火冷却时速度较慢,使得原子有较多可能可以找到内能比原先更低的位置。

模拟退火的原理也和金属退火的原理近似:我们将热力学的理论套用到统计学上,将搜寻空间内每一点想像成空气内的分子;分子的能量,就是它本身的动能;而搜寻空间内的每一点,也像空气分子一样带有“能量”,以表示该点对命题的合适程度。算法先以搜寻空间内一个任意点作起始:每一步先选择一个“邻居”,然后再计算从现有位置到达“邻居”的概率。

可以证明,模拟退火算法所得解依概率收敛到全局最优解。

演算步骤

模拟退火算法新解的产生和接受可分为以下步骤:

  1. 由一个产生函数从当前解产生一个位于解空间的新解;为便于后续的计算和接受,减少算法耗时,通常选择由当前新解经过简单地变换即可产生新解的方法,如对构成新解的全部或部分元素进行置换、互换等,注意到产生新解的变换方法决定了当前新解的邻域结构,因而对冷却进度表的选取有一定的影响。
  2. 计算与新解所对应的目标函数差。因为目标函数差仅由变换部分产生,所以目标函数差的计算最好按增量计算。事实表明,对大多数应用而言,这是计算目标函数差的最快方法。
  3. 判断新解是否被接受,判断的依据是一个接受准则,最常用的接受准则是Metropolis准则: 若Δt′<0则接受S′作为新的当前解S,否则以概率exp(-Δt′/T)接受S′作为新的当前解S。
  4. 当新解被确定接受时,用新解代替当前解,这只需将当前解中对应于产生新解时的变换部分予以实现,同时修正目标函数值即可。此时,当前解实现了一次迭代。可在此基础上开始下一轮试验。而当新解被判定为舍弃时,则在原当前解的基础上继续下一轮试验。

模拟退火算法与初始值无关,算法求得的解与初始解状态S(是算法迭代的起点)无关;模拟退火算法具有渐近收敛性,已在理论上被证明是一种以概率1 收敛于全局最优解的全局优化算法;模拟退火算法具有并行性。

通俗一点的解释就是,我们给当前状态设置一个温度,温度越高走的越远,如果新到达的位置比当前位置更优,就直接选择新位置。否则我们有一定概率选择新位置,温度越低这个概率越低,其余的情况不动。而温度随着时间慢慢降低,因此每次移动的距离越来越短,选择不更优解的概率也越来越低。

练习题

求费马点(POJ2420)
题意:给n个点,找出一个点,使这个点到其他所有点的距离之和最小,也就是求费马点。

bubuko.com,布布扣
 1 #include <cstdio>
 2 #include <time.h>
 3 #include <cmath>
 4 #include <cstdlib>
 5 const int RANGE=10000;
 6 const int maxn=110;
 7 const double eps=1e-3;
 8 const double pi=acos(-1.0);
 9 
10 struct Point {
11     double x,y;
12 }p[maxn];
13 int n;
14 double dist(Point a,Point b){
15     return sqrt((a.x-b.x)*(a.x-b.x)+(a.y-b.y)*(a.y-b.y));
16 }
17 double J(Point t){
18     double res=0;
19     for (int i=0;i<n;i++) res+=dist(t,p[i]);
20     return res;
21 }
22 
23 int SA(int cnt=3) {        //cnt为执行模拟退火的次数,默认为3
24     double step,tmp,ans,theta;
25     double delta=pi/4,ret=1e40,rate=0.83;    //降温速率
26     Point pt,cur;
27     srand(time(NULL));
28     while (cnt--) {
29         step = rate*RANGE;    //初始温度
30         cur.x = (rand()%RANGE+1.0)/RANGE;
31         cur.y = (rand()%RANGE+1.0)/RANGE;
32         ans=J(cur);
33         while ( step>eps ) {
34             for (theta=0; theta<2*pi+eps; theta+=delta) {    //在该点附近产生8个点
35                 pt.x = cur.x + step*cos(theta);
36                 pt.y = cur.y + step*sin(theta);
37                 tmp=J(pt);
38                 if (tmp<ans)    {
39                     ans=tmp;
40                     cur=pt;
41                 }
42             }
43             step *= rate;
44         }
45         if (ans<ret) ret=ans;
46     }
47     return ret+0.5;
48 }
49 
50 int main() {
51     scanf("%d", &n);
52     for (int i=0; i<n; ++i)    scanf("%lf %lf", &p[i].x , &p[i].y);
53     printf("%d\n", SA());
54     return 0;
55 }
POJ 2420

 

求最近点

平面上给定n条线段,找出一个点,使这个点到这n条线段的距离和最小。

 

最小包含球(POJ2069)
题意:给定三维空间的n点,找出一个半径最小的球把这些点全部包围住。

 

解方程
给出方程:F(x)=6x^7+8x^6+7x^3+5x^2-yx,其中0<=x<=100,输入一个y,求F(x)的最小值。

 

题解见 http://blog.csdn.net/ACdreamers/article/details/10019849

 

模拟退火,布布扣,bubuko.com

模拟退火

标签:style   blog   http   color   os   io   for   art   

原文地址:http://www.cnblogs.com/zinthos/p/3902822.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!