门户
图库
科技
数据
VR
区块链
学院
论坛
百科
导航
登录
注册
帮助中心
用户名
Email
默认
酷猴
呆呆男
公社首页
中国人工智能社区
公社版块
广播
Follow
升级会员
动态
Space
用户名
自动登录
找回密码
密码
登录
立即注册
登录后你可以:
登录
首次使用?
点我去注册
帖子
搜索
本版
文章
帖子
公社群组
用户
好友
收藏
道具
勋章
任务
淘帖
动态
日志
相册
分享
记录
留言板
广播
群组
门户
导读
排行榜
设置
我的收藏
退出
首页
›
智能技术
›
数据挖掘
›
数据挖掘的步骤有哪些?——数字化转型网数据专题 ...
返回列表
数据挖掘的步骤有哪些?——数字化转型网数据专题
[复制链接]
evilqiang
2025-3-8 13:02:49
显示全部楼层
|
阅读模式
数据挖掘的步骤一:明确目标
在实施数据挖掘之前,你必须明白自己的目标,即需要通过挖掘去解决什么样的问题。
比如在餐饮行业,可能都会存在这方面的痛点,即如何调整中餐或晚餐的当班人数,以及为下一餐准备多少食材比较合理。如果解决了这个问题,那么对于餐厅来说既可以降低人工成本,又可以避免食材的浪费。
数据挖掘的步骤二十大最新报道:数据搜集
当你明确自己的目标或需要解决的问题后,下一步就需要准备数据,准备的数据即可以影响到这些问题的解决办法,这一步成为数据搜集过程。数据搜集过程尤为重要,其决定了后期工作进展的顺利程度。
比如和餐饮相关的数据:
食材数据:食材名称,食材品类,采购时间,采购数量,采购金额,当天剩余量等。
经营数据:经营时间,预定时间,预定台数,预定人数,上座台数,上座人数等。
其他数据:天气情况,交通便捷性,竞争对手动向,是否为节假日,用户口碑等。
常用爬虫方法来搜集数据。
数据挖掘的步骤三:数据清洗
通过数据搜集得到的相关数据必须保证“干净”,因为数据的质量高低将影响最终结果的准确性。通常数据会有以下几个方面影响数据的“干净”。
缺失值:由于个人隐私或设备故障导致某些观测在维度上的漏缺,一般称为缺失值。缺失值的存在可能会导致模型结果的错误,所以针对缺失值可以考虑删除法、替换法、插值法解决。
异常值:异常值一般指远离正常样本的观测点,它们的存在同样会影响模型的准确性,故可以考虑删除法或单独处理法。
数据的不一致性:主要是由于不同的数据源或系统并发不同步导致的数据不一致性,例如两个数据源中数据单位的不一致(一个以元为单位,一个以万元为单位);系统并发不同步导致一张电影票被多个用户购买。
量纲的影响:由于某些模型容易受到不同量纲的影响,因此需要通过数据的标准化方法将不同量纲的数据进行统一处理,如将数据集都压缩至0-1的范围。
维度灾难:当采集的数据包含上百乃至成千上万的变量时,往往会提高模型的复杂度,进而影响模型的运行效率,故需要采用方差分析法,相关系数法,递归特征消除法,主成分分析法等手段实现数据的特征提取或降维。
数据挖掘的步骤四:构建模型
据不完全统计,建模前的数据准备将占整个数据挖掘流程80%左右的时间。接下来,在数据保证“干净”的前提下,需要考虑以什么样的模型能进行建模。
分类模型:逻辑回归,KNN,决策树等。
回归模型:线性回归,支持向量回归,岭回归等。
以上模型都是传统机器学习算法,当然,还可以通过神经网络实现分类或回归。
数据挖掘的步骤五:模型评估
到此阶段,已经完成了数据挖掘流程中的绝大部分工作。并且通过数据得到解决问题的多个方案(模型),接下来要做的就是从这些模型中挑选出最佳的模型,主要目的就是让这个最佳的模型能够更好地反映数据的真实性。例如,对于预测或分类模型,即使在数训练集中的表现很好,但在测试集中结果一般,说明该模型存在过拟合现象。
数据挖掘的步骤六:应用部署
通常,模型的构建和评估工作的完成,并不代表整个数据挖掘流程的结束,往往还需要最后的应用部署。尽管模型的构建和评估视数据挖掘工程师所擅长的,但是这些挖掘出来的模式或规律是给真正的业务方或客户服务的,故需要将这些模式重新部署到系统中。
数据挖掘的步骤有哪些?
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
举报
大神点评
3
坏男孩zz
2025-3-9 07:36:32
显示全部楼层
没写完吧,等楼主更新哦~
回复
举报
晗花妹
2025-3-9 19:33:02
显示全部楼层
没写完吧,等楼主更新哦~
回复
举报
转眼明媚之夏
2025-3-9 19:33:02
来自手机
显示全部楼层
在撸一遍。。。
回复
举报
发表新帖
回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
evilqiang
注册会员
0
关注
0
粉丝
18
帖子
Ta的主页
发布
发消息
加好友
最近发表
人形机器人、人工智能、绿色低碳……2025中关村论坛科技感拉满
无人机“黑飞”,两人被依法处理!相关规定戳
新品无人机亮相,有好多款
2024无人机热点回眸 | 科技导报
智能大型无人机首次亮相,增强作战保障,一千公里可高效投送
新车 | 天神之眼C+无人机,承载式车身/纯电SUV,方程豹钛3实车曝
公社版块
版块推荐
更多版块
智能穿戴
智能家居
机器人
无人驾驶
无人机
反馈吐槽
闲聊灌水
大话智能
大数据
图像识别
自然语言
数据挖掘
大话智能
数据挖掘
北大讲座
清华讲座
网贷观察
股市评论
区块链
闲聊灌水
反馈吐槽
站务通知
关注我们