标签:相关 才有 经典的游戏 install actions memory 支持 apt 10个
街机想必大家都不会很陌生,还记得以前的时候,为了玩上一会儿街机,每次放假都会疯狂的往游戏厅狂奔,现在回想起那时,还是别有一番韵味。今天我们来利用Python弄一个操作方式非常亲民,并且可以玩任意一款旧街机游戏的API的开源Python库。
这是一个允许你在几乎任何街机游戏中训练你的强化学习算法的Python库,它目前在Linux系统上可用。通过这个工具包,你可以定制算法逐步完成游戏过程,同时接收每一帧的数据和内部存储器地址值以跟踪游戏状态,以及发送与游戏交互的动作。
安装
GitHub地址:http://github.com/M-J-Murray/MAMEToolkit/blob/master/README.md
你可以用pip安装这个库,只需运行以下命令:
pipinstallMAMEToolkit
演示示例:街霸
在街机爱好者心中,街霸是史上最经典的游戏之一。现在工具包内包含的街霸版本是街头霸王3:三度冲击(Japan 990608, NO CD),我们以此为例,用以下代码写一个随机智能体:
这个工具包还支持hogwild!训练:
什么是hogwild!?Niu等人引入了一个叫做 Hogwild! 的更新策略,可以使 SGD 可以在多 CPU 上并行更新。处理器在无需对参数加锁的情况下就可以访问共享内存。但仅在输入的是稀疏数据时才有效,因为每次更新仅修改所有参数的一小部分。他们展示了在这种情况下,更新策略几乎可以达到一个最优的收敛率,因为处理器不太可能覆盖掉有用的信息。
建立自己的游戏环境
这个工具包之所以易于上手,是因为它和模拟器本身不需要太多交互,只需注意两点——一是查找你关注的内部状态相关联的内存地址值,二是用选取的环境跟踪状态。你可以用MAME Cheat Debugger,它会反馈游戏的内存地址值如何随时间变化。如果要创建游戏模拟,你得先获得正在模拟的游戏的ROM,并知道MAME使用的游戏ID,比如街霸的ID是‘sfiii3n‘。
游戏ID
你可以通过运行以下代码找到游戏的ID:
fromMAMEToolkit.emulatorimportEmulatoremulator = Emulator("env1","","", memory_addresses)
这个命令会打开MAME仿真器。你可以搜索游戏列表以找到想要的游戏,游戏的ID位于游戏标题末尾的括号中。
内存地址
如果获得了ID,也有了想要跟踪的内存地址,你可以开始模拟:
这会启动仿真器,并在工具包连接到模拟器进程时暂停。
分步运行仿真器
连接工具箱后,你可以分步运行仿真器:
step函数会把帧数据作为NumPy矩阵返回,同时,它也会返回该时间步长的所有内存地址整数值。
如果要向仿真器输入动作,你还需要确定游戏支持的输入端口和字段。比如玩街霸需要先投币,这个代码是:
要确定哪些端口可用,请使用list actions命令:
下面这个返回的列表就包含街霸环境中可用于向步骤函数发送动作的所有端口和字段:
仿真器类还有一个frame_ratio参数,可用于调整算法所见的帧速率。默认情况下,MAME以每秒60帧的速度生成帧,如果你觉得这太多了,想把它改成每秒20帧,可以输入以下代码:
MAME性能基准测试
目前这个工具包的开发和测试已在8核AMD FX-8300 3.3GHz CPU以及3GB GeForce GTX 1060 GPU上完成。在使用单个随机智能体的情况下,街头霸王环境可以以正常游戏速度的600%+运行。而如果是用8个随机智能体进行hogwild!训练,环境可以以正常游戏速度的300%+运行。
ConvNet智能体
为了确保工具包能够训练算法,作者还设置了一个简单的5层ConvNet,只需少量调整,你就可以用它进行测试。在街霸实验中,这个算法能够成功学习到游戏的一些简单技巧,比如连击(combo)和格挡(blocking)。街霸本身的游戏机制是分成10个关卡(难度递增),玩家在每个关卡都要迎战不同的对手。刚开始的时候,这个智能体平均只能打到第2关。但在经过2200次训练后,它平均能打到第5关。
至于智能体的学习率,它是用每一局智能体所造成的净伤害和所承受的伤害来计算的。
怎么样?这样的Python库有木有让你心动?心动不如行动,马上动手操作一番吧!喜欢有本文的小伙伴或者觉得本文对你有帮助可以点播关注或转发。
写在最后:
有需要Python学习资料,或者需要Python环境的老铁可以加群571799375,群里的资料免费发送给大家!(Python学习资料是2018年最新版)
本文来自网络,如有侵权,请联系小编删除!
标签:相关 才有 经典的游戏 install actions memory 支持 apt 10个
原文地址:https://www.cnblogs.com/666fx/p/10174495.html