分析大数据

大数据时代的到来，越来越多的人选择学习大数据，那关于大数据分析的六大基本方面是哪些，一起来了解一下

可视化分析

不管是对数据分析专家还是普通用户

数据可视化是数据分析工具最基本的要求

可视化可以直观的展示数据

让数据自己说话，让观众听到结果

数据挖掘算法

可视化是给人看的，数据挖掘就是给机器看的

集群、分割、孤立点分析还有其他的算法

让我们深入数据内部，挖掘价值

这些算法不仅要处理大数据的量

也要处理大数据的速度

预测性分析能力

数据挖掘可以让分析员更好的理解数据

而预测性分析可以让分析员根据可视化分析和数据挖掘的结果

做出一些预测性的判断

语义引擎

我们知道由于非结构化数据的多样性带来了数据分析的新的挑战，我们需要一系列的工具去解析，提取，分析数据。语义引擎需要被设计成能够从"文档"中智能提取信息

数据质量和数据管理

数据质量和数据管理是一些管理方面的最佳实践

通过标准化的流程和工具对数据进行处理

可以保证一个预先定义好的高质量的分析结果

数据存储，数据仓库

数据仓库是为了便于多维分析和多角度展示数据按特定模式进行存储所建立起来的关系型数据库。在商业智能系统的设计中，数据仓库的构建是关键，是商业智能系统的基础，承担对业务系统数据整合的任务，为商业智能系统提供数据抽取、转换和加载(ETL)，并按主题对数据进行查询和访问，为联机数据分析和数据挖掘提供数据平台

成都加米谷大数据科技有限公司

个人培训 丨 企业内训

成都市高新区天府二街蜀都中心1栋705

沃尔玛，请把蛋挞和飓风用品摆在一起：

沃尔玛是世界上最大的零售商，年销售额4500亿美元，比大多数国家的国内生产总值还多。

2004年，沃尔玛对历史交易记录这个庞大的数据库进行了观察，这个数据库记录不仅包括每一个顾客的购物清单以及消费额，还包括购物篮里的物品，购买时间，甚至购买当日的天气。

沃尔玛公司注意到，每当在季节性飓风来临之前，不仅手电筒销售量增加了，而且蛋挞（美式早餐）的销量也增加了。因此，以后再当季节性暴风来临时，沃尔玛会把库存的蛋挞放在靠近飓风用品的位置，方便行色匆匆的顾客从而增加销量。

大数据里面的数据允许是有错的，但是前提是数据级量一定大：

假设你要测量一个葡萄园的温度，但是整个葡萄园只有一个温度仪，那你就必须确保这个测量仪是精确的而且能够一直工作。

反过来，如果每100棵葡萄树就有一个测量仪，有些测试的数据可能会是错误的，可能会更加混乱，但众多的读数合起来就可以提供一个更加精确的数据。因为这里面包含了更多的数据，而它不仅能抵消掉错误数据造成的影响，还能提供更多额外的价值。

英国BP石油公司的炼油厂，无线传感器遍布整个工厂，形成无线网络，能够产生大量实时数据。酷热的恶劣环境和电器设备的存在有时会对感应器读数有所影响，形成错误的数据。但是数据生成的数量之多可以弥补这些小错误，随时监测管道的承压使得BP能够了解到有些种类的原油比其他种类更具腐蚀性，便于更及时的更换设备，防止出现事故，以前这是无法发现，也无法防止的。

在大数据分析架构里，一般是spark、storm作为计算框架，计算后的结果存到redis。要对redis的数据结构有清晰认识，理解各自优缺点、实用场景，redis价值才能最大化。今天我们来谈谈Redis

Redis概述

lRedis是一个开源，先进的key-value存储，并用于构建高性能，可扩展的应用程序的完美解决方案。

lRedis从它的许多竞争继承来的三个主要特点：

lRedis数据库完全在内存中，使用磁盘仅用于持久性。

l相比许多键值数据存储，Redis拥有一套较为丰富的数据类型。String，List,set,map,sortSet

lRedis可以将数据复制到任意数量的从服务器。

Redis 优势

异常快速：Redis的速度非常快，每秒能执行约11万集合，每秒约81000+条记录。

支持丰富的数据类型：Redis支持字符串、列表、集合、有序集合散列数据类型，这使得它非常容易解决各种各样的问题。

操作都是原子性：所有Redis操作是原子的，这保证了如果两个客户端同时访问的Redis服务器将获得更新后的值。----计数器

多功能实用工具：Redis是一个多实用的工具，可以在多个用例如缓存，消息，队列使用(Redis原生支持发布/订阅)，任何短暂的数据，应用程序，如Web应用程序会话，网页命中计数等。

Redis安装部署

Redis编译、安装

解压文件，并创建软件连接

tar -zxvf redis-3.0.5.tar.gz -C /export/servers/ln –s redis-3.0.5/ redis

编译redis源码

cd /export/servers/redismake（先安装gcc）

将编译后的可执行文件安装到/user/local/redis

make PREFIX=/usr/local/redis install

启动Redis

启动方式一：Redis前台默认启动

进入redis安装目录，并启动Redis服务

cd /usr/local/redis/bin/./redis-server

启动方式二：Redis使用配置文件启动

拷贝源码中的redis.conf文件到redis的安装目录

cp /export/servers/redis/redis.conf /usr/local/redis/

修改redis.conf的属性

daemonize no è daemonize yes

启动redis服务

cd /usr/local/redisbin/redis-server ./redis.conf

日志文件及持久化文件配置

修改生成默认日志文件位置

logfile "/usr/local/redis/logs/redis.log"

配置持久化文件存放位置

dir /usr/local/redis/data/redisData

Redis客户端使用

redis.clientsjedis2.8.0

Redis持久化

有两种持久化方案：RDB和AOF

1）RDB方式按照一定的时间间隔对数据集创建基于时间点的快照。

2）AOF方式记录Server收到的写操作到日志文件，在Server重启时通过回放这些写操作来重建数据集。该方式类似于MySQL中基于语句格式的binlog。当日志变大时Redis可在后台重写日志。

AOF持久化配置

1）修改redis.config配置文件，找到appendonly。默认是appendonly no。改成appendonly yes

2）再找到appendfsync 。默认是 appendfsync everysec

appendfsync always

#每次收到写命令就立即强制写入磁盘，最慢的，但是保证完全的持久化，不推荐使用

appendfsync everysec

#每秒钟强制写入磁盘一次，在性能和持久化方面做了很好的折中，推荐

appendfsync no

#完全依赖os，性能最好,持久化没保证

RDB持久化配置

默认情况下，Redis保存数据集快照到磁盘，名为dump.rdb的二进制文件。可以设置让Redis在N秒内至少有M次数据集改动时保存数据集，或者你也可以手动调用SAVE或者BGSAVE命令。

例如，这个配置会让Redis在每个60秒内至少有1000次键改动时自动转储数据集到磁盘

save 60 1000

Redis数据结构

关注佳源信息，关注更多资讯。

最近工作比较忙，也忙着优化数据，来不及发文章，很抱歉。

另一方面，这里的限制太多，严重打击积极性，呵呵~~

上期改变大底方法后，有效果，但没有发，今期补上，试试效果。

上期发到云空间的测试数据，数据是蛮好的，可惜最终排序不好，成绩一般。

已经想到提高前面几码直接命中的办法了，

希望能高20%，最终是否有效，还是要经过验证才能确定。

今期加入了5-6胆的验证技术，复杂了很多，要十个小时左右才计算完，

如果有效果，以后只挑选前面比较高分的1/3数据来计算，才能赶得及，

已经上传到云空间了，欢迎大家一起进行验证。

最后是上传数据的部分截图，是5胆拖5码的数据，这样比较节省，有效果也可以考虑5胆拖28码的方式。

前面部分，已经送个朋友做测试了。

祝大家好运气！

大数据时代的到来，越来越多的人选择学习大数据，那关于大数据分析的六大基本方面是哪些，一起来了解一下

可视化分析

不管是对数据分析专家还是普通用户

数据可视化是数据分析工具最基本的要求

可视化可以直观的展示数据

让数据自己说话，让观众听到结果

数据挖掘算法

可视化是给人看的，数据挖掘就是给机器看的

集群、分割、孤立点分析还有其他的算法

让我们深入数据内部，挖掘价值

这些算法不仅要处理大数据的量

也要处理大数据的速度

预测性分析能力

数据挖掘可以让分析员更好的理解数据

而预测性分析可以让分析员根据可视化分析和数据挖掘的结果

做出一些预测性的判断

语义引擎

我们知道由于非结构化数据的多样性带来了数据分析的新的挑战，我们需要一系列的工具去解析，提取，分析数据。语义引擎需要被设计成能够从"文档"中智能提取信息

数据质量和数据管理

数据质量和数据管理是一些管理方面的最佳实践

通过标准化的流程和工具对数据进行处理

可以保证一个预先定义好的高质量的分析结果

数据存储，数据仓库

数据仓库是为了便于多维分析和多角度展示数据按特定模式进行存储所建立起来的关系型数据库。在商业智能系统的设计中，数据仓库的构建是关键，是商业智能系统的基础，承担对业务系统数据整合的任务，为商业智能系统提供数据抽取、转换和加载(ETL)，并按主题对数据进行查询和访问，为联机数据分析和数据挖掘提供数据平台

成都加米谷大数据科技有限公司

个人培训 丨 企业内训

成都市高新区天府二街蜀都中心1栋705