集体智慧编程5-优化算法-爬山法、模拟退火、遗传算法

遗传算法 from  http://blog.sina.com.cn/s/blog_4b837cbf010008rm.html 这两天在本部做项目,到现在脑子还是一头雾水,不知如何进入。     开会后,分配了“遗传算法”,好歹也是咱数据挖掘的兄弟,那本书来研究研究。     学到了点小小小小的意思,放到这,千万别忘了。         遗传算法(Genetic A 阅读详情

最优化算法的思想在于,我们往往并不需要得到最优解,而是得到一个近似最优解,来节省时间的开销。

图例
* 随机算法
为了解决遍历引发的时间问题,有时候在没有严格要求的情况下,可以通过随机去一定的点,比较这些取的点数,总能找到一个近似最优解的情况。

  • 爬山算法
    随机算法没有逻辑可寻,成本较低,但是效果较差。而爬山算法利用了数据的内在规律。就像爬山一样,为了,爬到上的最顶部,在到达一个点后,我们总是环顾四周,寻找比当前位置高的地方,然后继续往上爬。即比较当前位置的邻近值。

  • 模拟退火
    很显然,爬山算法有个缺陷,比如,如果我们的当前位置是E,当取A,D两个值作比较时,会排除D点,这样结果将陷入到局部最大值A。为了避免在最开始就陷入局部最大值,所以,我们引入了一个概率PP = exp[-(newcost - oldcost)/ T ],即在温度很高时或者之后的值与第一个值相差不大时,会更可能不排除在外。越往后,随着温度的降低,将越来越接近爬山算法。这样在最初就不会排除D,从而可以顺利找到B

  • 遗传算法
    遗传算法类似于人类进化论,即物种总是朝着最优秀的方向进化,进化的方式有重组和变异,重组及优秀个体交换信息,变异即优秀个体内部改变元素。选择即我们通过成本函数进行排序,选择更好的值。

""" 
@author: zoutai
@file: optimization.py 
@time: 2018/04/22 
@description: 
"""

import random
import time

import math

people = [('Seymour', 'BOS'),
          ('Franny', 'DAL'),
          ('Zooey', 'CAK'),
          ('Walt', 'MIA'),
          ('Buddy', 'ORD'),
          ('Les', 'OMA')]

# newyork的Laguardia机场
destination = 'LGA'

# 第一步,以出发地-目的地为key,以具体的航班信息为value,做字典映射
flights = {}
for line in open('schedule.txt'):
    origin, dest, departTime, arriveTime, price = line.strip().split(',')
    flights.setdefault((origin, dest), [])
    # 多趟航班,使用append
    flights[(origin, dest)].append((departTime, arriveTime, int(price)))


# 返回时间的分钟表示
def getminutes(t):
    x = time.strptime(t, '%H:%M')
    return x[3] * 60 + x[4]


def printschedule(r):
    for d in range(len(r) // 2):
        name = people[d][0]
        origin = people[d][1]
        go = flights[(origin, dest)][r[d * 2]]
        back = flights[(dest, origin)][r[d * 2 + 1]]
        print('%10s%10s,%5s-%5s,%3s,%5s-%5s,%3s'
              % (name, origin, go[0], go[1], go[2], back[0], back[1], back[2]))


s = [1, 4, 3, 2, 7, 3, 6, 3, 2, 4, 5, 3]
printschedule(s)


# 成本函数=等待时间+机票+出租车
def schedulecost(sol):
    totalcost = 0
    earliestDep = 24 * 60
    latestArrive = 0

    for d in range(len(sol) // 2):
        name = people[d][0]
        origin = people[d][1]
        go = flights[(origin, dest)][int(sol[d * 2])]
        back = flights[(dest, origin)][sol[int(d * 2 + 1)]]
        totalcost += go[2] + back[2]

        if latestArrive < getminutes(go[1]):
            latestArrive = getminutes(go[1])
        if earliestDep > getminutes(back[0]):
            earliestDep = getminutes(back[0])

    totalWait = 0
    for d in range(len(sol) // 2):
        go = flights[(origin, dest)][sol[d * 2]]
        back = flights[(origin, dest)][sol[d * 2 + 1]]
        totalWait += (latestArrive - getminutes(go[1]))
        totalWait += (getminutes(back[0]) - earliestDep)

    # 出租车50/天
    if latestArrive < earliestDep:
        totalcost += 50

    return totalcost + totalWait


print("默认初始化值:",schedulecost(s))

domain = [(0, 9)] * (len(people) * 2)


# 1、随机法
def randomoptimize(domain, costf):
    best = 999999999
    # bestRs = None
    iterNum = 1000
    for i in range(iterNum):
        r = [random.randint(domain[i][0], domain[i][1]) for i in range(len(domain))]
        cost = costf(r)
        if cost < best:
            best = cost
            # bestRs = best
    return r, best

r, best = randomoptimize(domain,schedulecost)
print("随机法:",best)

# 2、爬山法
# 对于每一个未知数,搜索维度方向上的邻近节点,取最小值,直到最小值不变,退出
def hillClimb(domain,costf):
    # 创建随机解-初始化
    sol = [random.randint(domain[i][0],domain[i][1]) for i in range(len(domain))]

    # 循环
    while 1:
        # 创建邻接-表:二维的,即左右两个
        neighbors = []
        # 这里面的邻接区并不完全对,应该再加上一个维度循环,即单独固定一个变量变化
        for j in range(len(domain)):
            if sol[j]>domain[j][0]:
                neighbors.append(sol[0:j]+[sol[j]-1]+sol[j+1:])
            if sol[j]<domain[j][1]:
                neighbors.append(sol[0:j]+[sol[j]+1]+sol[j+1:])

        # 比较当前值和邻接值
        current = costf(sol)
        best = current
        for j in range(len(neighbors)):
            cost = costf(neighbors[j])
            if best>cost:
                best=cost
                sol = neighbors[j]

        # 整个邻接区都没有更好的,则终止循环
        if best==current:
            break;

    return sol,best
sol,best = hillClimb(domain,schedulecost)
print("爬山法:",best)


# 3、模拟退火
# 原理相对于爬山法,为了避免陷入局部最小值,在初期的时候,对于不符合的结果,暂时不排除

# T:初始温度,cool:冷却因子,step方向步长
def annealingoptimize(domain,costf,T=10000,cool=0.95,step=1):
    # 初始化随机值
    vec = [random.randint(domain[i][0],domain[i][1]) for i in range(len(domain))]
    while T > 0.1:
        # 随机选择一个方向
        i = random.randint(0,len(domain)-1)
        director = random.randint(-step,step)
        vecb = vec[:]
        vecb[i]+=director # 偏移

        # 防止出界
        if vecb[i]<domain[i][0]:
            vecb[i]=domain[i][0]
        elif vecb[i]>domain[i][1]:
            vecb[i]=domain[i][1]

        costCur = costf(vec)
        costB = costf(vecb)


        if (costB<costCur or random.random()<pow(math.e,-(costB-costCur)/T)):
            vec = vecb # 即便costB>costCur,也不用保留之前的vec,因为,温度下降后,会再返回到当前值

        # 降低温度
        T = T * cool
    return vec,costf(vec)

sol,best = annealingoptimize(domain,schedulecost)
print("模拟退火算法:",best)

# 4、遗传算法
def geneticoptimize(domain,costf,popsize=50,step=1,mutprob=0.2,elite=0.2,mixiter=100):
    # 变异
    def mutate(vec):
        i = random.randint(0,len(domain)-1)
        # 随机数什么用?
        if random.random()<0.5 and vec[i]>domain[i][0]:
            return vec[:i]+[vec[i]-step]+vec[i+1:]
        elif vec[i]<domain[i][1]:
            return vec[:i]+[vec[i]+step]+vec[i+1:]

    # 重组
    def crossover(vec1,vec2):
        i = random.randint(1,len(domain)-2)
        return vec1[:i]+vec2[i:]

    # 初始化种群
    pop = []
    for i in range(popsize):
        vec = [random.randint(domain[j][0],domain[j][1]) for j in range(len(domain))]
        pop.append(vec)

    toplite = int(popsize * elite)

    for i in range(mixiter):

        # 排序,进行物种进化选择
        scores = [(costf(v),v) for v in pop]
        scores.sort()
        ranked = [v for (s,v) in scores]

        pop = ranked[:toplite]
        while len(pop)<popsize:
            if random.random()<mutprob:
                c = random.randint(0,toplite)
                pop.append(mutate(ranked[c]))
            else:
                c1 = random.randint(0,toplite)
                c2 = random.randint(0,toplite)
                pop.append(crossover(ranked[c1],ranked[c2]))
        print(scores[0][0])
    return scores[0][1],scores[0][0]

sol, best = geneticoptimize(domain, schedulecost)
print("遗传算法:",best)
集体智慧编程-第五章优化 组团旅游 import time import random import math people=[('seymour','BOS'), ('FRANNY','DAL'), ('ZOOEY','CAK'), ('WALT','MIA'), ('buddy','ORD'), ('LES','OMA')] destina... 阅读详情

相关推荐

优化算法-遗传算法

优化算法-遗传算法 主要参考了集体智慧编程一书 之前已经实现过优化算法中的爬山法和模拟退火法,现在我们讨论一下另一种受自然科学启发的算法:遗传算法。借鉴生物进化论,遗传算法将要解决的问题模拟成一个生物进化的过程,通过复制、交叉、突变等操作产生下一代的解,并逐步淘汰掉适应度函数值低的解,留下适应度函数值高的解。这样进化N代后就很有可能会进化出适应度函数值很高的个体。遗传算法流程1.首先我们要初始化

weq27的博客 961

Beam Search(集束搜索/束搜索)

Beam Search(集束搜索/束搜索) 找遍百度也没有找到关于Beam Search的详细解释,只有一些比较泛泛的讲解,于是有了这篇博文。 首先给出wiki地址:http://en.wikipedia.org/wiki/Beam_search 1.简介 Beam Search(集束搜索)是一种启发式图搜索算法,通常用在图的解空间比较大的情况下,为了减少搜索所占用的空间和

人工智能 5548

分别用爬山法和 GA 算法求解 n 皇后问题

分别用爬山法和 GA 算法求解 n 皇后问题。 要求: ⅰ 输入 n,并用运行时间比较几种算法在相同规模的问题时的求解效率。列表给出结果。 ⅱ 比较同一算法在 n 不相同时的运行时间,分析算法的时间复杂性。

集体智慧编程——优化搜索算法:爬山法,模拟退火算法,遗传算法-Python实现

在优化问题中,有两个关键点 代价函数:确定问题的形式和规模之后,根据不同的问题,选择要优化的目标。如本文涉及的两个问题中,一个优化目标是使得航班选择最优,共计12个航班,要使得总的票价最少且每个人的等待时间之和最小。第二个问题是学生选择宿舍的问题,每个学生可以实现填报志愿,如果安排的宿舍与志愿完全一致,则代价为0,与第二志愿一致,代价为1,如果没有和志愿一致,代价为3。 故,抽象问题的能力很重要,如

白辰甲 1万+

n皇后问题的三种算法——比较它们的效率

n皇后问题的三种算法,n^n穷举,n!穷举,回溯法,比较它们的效率

SAP成本中心费用分割(KSS2)实战:从原理到月末调整全解析

本文详细解析了SAP成本中心费用分割(KSS2)的核心逻辑与实战操作,从成本要素分组配置到月末调整全流程。通过KSS2将初级成本要素按作业类型重新分类为次级成本要素,确保成本结算准确。文章还提供了常见错误处理方法和典型业务场景实战,帮助用户高效完成SAP成本结算。

weixin_29279101的博客 1268

[work] 算法学习笔记 (爬山法,模拟退火算法,遗传算法)

转载自 http://blog.youkuaiyun.com/bcj296050240/article/details/50839806 侵删 在优化问题中,有两个关键点 代价函数 确定问题的形式和规模之后,根据不同的问题,选择要优化的目标。如本文涉及的两个问题中,一个优化目标是使得航班选择最优,共计12个航班,要使得总的票价最少且每个人的等待时间之和最小。第二个问题是学生选择宿舍的问题,每个学生可以实...

This is bill的专属博客 1522

PCIE配置和地址空间

来源:https://www.jianshu.com/p/574e9a2cbc4e 每个PCIe设备,有这么一段空间,Host软件可以读取它获得该设备的一些信息,也可以通过它来配置该设备,这段空间就叫做PCIe的配置空间。不同于每个设备的其它空间,PCIe设备的配置空间是协议规定好的,哪个地方放什么内容,都是有定义的。PCI或者PCI-X时代就有配置空间的概念,那时的配置空间如下: 图6.1 整个配置空间就是一系列寄存器的集合,其中Type 0是Endpoint的配置,Type 1是Brid.

qq_28643619的博客 4064

使用爬山法、模拟退火和遗传算法求解八皇后问题

使用爬山法、模拟退火和遗传算法求解八皇后问题 实验使用 C++ 语言,并在 Windows 的 Visual Studio 2017 下能够正常运行。 参考书籍:《人工智能:一种现代的方法(第三版)》 文章目录使用爬山法、模拟退火和遗传算法求解八皇后问题1. 准备阶段1.1 `Board` 类1.2 其他全局变量2. 爬山法2.1 最陡上升爬山法2.1.1 代码实现2.1.2 测试2.2 首选...

Sakura_Vv的博客 9236

(1)大蚂蚁即时通讯

即时通讯软件BigAnt(大蚂蚁)是杭州艾朴软件推出的一个”企业级”的即时通讯平台。该平台专为企业,其他企事业单位和政府单位而设计,目的就是为了增强内部沟通能力,提高内部员工的工作效率;同时服务器就直接置于单位内部,所有信息由单位自己管理,让单位以更安全、更可伸缩和更易于管理的方式灵活方便地使用协同和通信服务的功能! BigAnt(大蚂蚁)即时通讯软件包括服务器端和客户端。客户端功能包括单位

少安的砖厂 2241

fpga的希尔伯特变换实现

fpga的希尔伯特变换实现零.实现背景一.希尔伯特实现的基本原理2.实现1)matlab仿真1)fpga滤波器实现实现成本:fpga实现采用VIvado的FIR的IP核, 零.实现背景 因为今明工作项目需要使用到希尔伯特变换来处理问题,所以顺便就把设计流程和代码都整理下来,以便供他人使用。选用Xilinx的7系列板子,Vivado平台。 一.希尔伯特实现的基本原理 希尔伯特变换的物理意义十分简单:...

weixin_42219690的博客 1万+

集体智慧编程(5)——优化

通过尝试许多不同题解并给这些题解打分以确定其质量的方式来找到一个问题的最优解。

John4July的专栏 1370

OrthoFinder功能、流程和文件注释

OrthoFinder 的标准输出包括:直系同源组,直系同源基因,有根基因树,解析基因树,无根物种树、有根物种树,基因重复事件以及相关的统计数据。

hs6605015的博客 3048

《集体智慧编程》-优化算法

chapter3优化算法 随机搜索 #随机搜索domain是序列,costf是定义的成本函数 def randomoptimize(domain,costf): best=999999999 bestr=None for i in range(0,1000): # 创建一个随机解 r=[float(random.randint(domain[i][0],domain[i...

serenysdfg的博客 198

C#实现网络寻路(附完整源码)

C#实现网络寻路(附完整源码)

希望我的博客,能帮上你解决学习中工作中所遇到的问题 426

Python爬虫实战:高效爬取法律法规数据库的完整指南

本文将详细介绍如何使用Python最新技术栈构建一个高效、稳定的法律法规数据库爬虫。我们将从爬虫的基本原理讲起,逐步深入到反爬机制应对、数据解析与存储、性能优化等高级话题。文章包含完整的代码实现,使用requests-html、aiohttp等现代库,以及应对法律数据库特殊结构的处理技巧。通过本文,您将掌握构建专业级法律数据采集系统的全套技能。关键词:Python爬虫、法律法规、数据采集、异步爬虫、反反爬本文详细介绍了使用Python爬取法律法规数据库的完整技术方案。

2201_76125261的博客 1275

集体智慧编程(四)优化

本章主要介绍了几种常用的优化算法,优化技术擅长处理:受多种变量影响,存在多种可能解的问题。优化算法的关键在于找到成本函数。涉及到的算法如下: 随机搜索 爬山法(随机重复爬山法) 模拟退火算法 遗传算法 组团旅游本章从一个组团旅游的问题引出。描述:来自美国各地的家庭成员要在同一天乘坐飞机到达同一个地方,并且在同一天离开,设计一个合理的方案。分析:在实现过程中,首先应该知道成员名称以及对应的地点;其次应

jie310300215的专栏 1219

python如何给声音增加回声效果

创建任何声音对象的回声效果。使用sndarray和numpy来创建原始声音的偏移和衰减副本。目前它只是使用硬编码的值来设置回声的数量和延迟。你可以根据自己的需要轻松地重新创建。这段注释说明了make_echo函数的用途和实现方式,即通过pygame的sndarray模块和numpy库来处理声音数据,生成具有回声效果的声音。函数中使用了固定的回声数量和延迟时间,但这些值可以根据用户的需求进行调整。

zhangzhechun的专栏 978

集体智慧编程_5优化

优化技术擅长处理:受多个变量影响,存在许多可能解的问题,以及结果因这些变量的组合而产生很大变化的问题。文章一共例举三个例子:1)制定旅游组团计划;2)基于人们的偏好分配有限的资源;3)用最少交叉线来可视化社会网络。0 优化算法随机搜索(评估其他算法的基线)函数有两参数:Domain(二元祖的列表,指定每个变量最大最小值,题解长度与列表长度一致)、costf(成本函数)爬山法先从一个随机的时间安排开...

u013187969的博客 295

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

机器学习入门 之 《集体智慧编程》 优化算法

优化算法在很多问题中用到,用以寻找最大值或者最小值,其实就是一个搜索问题 在一个指定的搜索空间中,每一个点(也可以说是一个可能的solution)都可能是最小值。 优化算法" name="image_operate_94481346039492668" alt="机器学习入门 优化算法" src="http://simg.sinajs.cn/blog7style/images/

skywalkerVVV的专栏 1297

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

《集体智慧编程》第5章 优化 个人笔记

第5章 优化1、成本函数2、爬山法3、模拟退火算法4、遗传算法5、网络可视化

Amber07的笔记本 627

集体编程智慧--第五章:优化算法

import math people=[('Seymour','BOS'), ('Franny','DAL'), ('Zooey','CAK'), ('Walt','MIA'), ('Buddy','ORD'), ('Les','OMA')] #New York的LaGuardia机场 destination='LGA

yunini2的博客 950

《集体智慧编程》读书笔记4

最近重读《集体智慧编程》,这本当年出版的介绍推荐系统的书,在当时看来很引领潮流,放眼现在已经成了各互联网公司必备的技术。 这次边阅读边尝试将书中的一些Python语言例子用C#来实现,利于自己理解,代码贴在文中方便各位园友学习。 由于本文可能涉及到的与原书版权问题,请第三方不要以任何形式转载,谢谢合作。 第四部分 优化 本篇中将介绍一种名为随机优化的技术。随机优化技术适合处...

weixin_30807779的博客 461

读书笔记《集体智慧编程》Chapter 5 : Optimization

本章概要 本章介绍了优化问题的基本概念,以及常见的优化算法(随机搜索,爬山,模拟退火,遗传算法)。读完本章后,感觉茅塞顿开,之前一直认为遗传算法高深莫测,原来这些算法都是根据生物,物理的启发而来的,顿时亲切了许多。 什么是优化(Optimization) 一个问题的解有一系列组合,在这些组合中找出最优的解的过程就是优化。最笨的方法,枚举出所有可能的结果,找出最优的解。但是,往往可能性太...

weixin_34038293的博客 71

从几个简单例子谈随机优化技术

从几个简单例子谈随机优化技术 阅读目录(Content) 1. 关于随机优化(stochastic optimization) 2. 日常和工程中常见的需要用到优化技术的典型场景 0x1:无约束搜索空间问题的随机优化 - 组团旅游问题 1. 描述题解 2. 成本函数(cost function) 0x2:带约束搜索空间问题的随机优化 - 学...

weixin_30853329的博客 1207
上一篇: 并发编程实战15-重排序、happens-before
下一篇: 遗传算法求解TSP问题
随风而醒
博客等级 码龄11年 96粉丝 217原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值