51CTO首页
AI.x社区
博客
学堂
精品班
软考社区
免费课
企业培训
鸿蒙开发者社区
信创认证
公众号矩阵
移动端
视频课免费课排行榜短视频直播课软考学堂
全部课程软考信创认证华为认证厂商认证IT技术PMP项目管理免费题库
在线学习
文章资源问答课堂专栏直播
51CTO
鸿蒙开发者社区
51CTO技术栈
51CTO官微
51CTO学堂
51CTO博客
CTO训练营
鸿蒙开发者社区订阅号
51CTO软考
51CTO学堂APP
51CTO学堂企业版APP
鸿蒙开发者社区视频号
51CTO软考题库
账号设置 退出

大数据

9297内容  
大数据话题包括大数据相关的最新资讯、前沿技术、使用技巧、应用案例等内容，涉及数据分析、数据可视化、商业智能、Hadoop、Spark、数据湖、数据仓库、等领域。
文章 博文帖子课程
共 9297 条
谈谈技术驱动的数据治理会产生什么问题
不要再把数据治理视为即插即用的功能，它是企业数据驱动的核心，这个体系定义了机器与人之间的互联互通，需要指导、协商和问责。当你把它交给供应商时，你不仅仅是购买了一个工具，而是将你的价值观、方向和监督外包出去了。

2025-08-18 08:33:55

数据治理大数据人工智能
数据空间入门必看：用 “三元论” 拆解核心要素，看完秒懂底层逻辑
数据空间三元论通过物理模型、能力框架、技术构件逐层解析， 由粗及细、由表及里，采用解构和建构理论方法，对数据空间的理论原理、组成部分、技术路线进行全面透析，尝试探究数据空间全新科学理论，构建一个跨越技术和范式的数据空间完整图景，以进一步探索数据空间的最佳实践框架。

2025-08-18 01:00:00

数据空间底层逻辑技术
构建AI与数据治理统一框架的迫切性
将AI与数据治理相结合，能够帮助企业快速行动、保持合规，并切实从AI中获取预期价值。

2025-08-15 07:10:00

AI数据治理大数据
Flink SQL 四种 Join 方式详解：原理、场景与实战
本文将深入剖析每种 Join 的底层原理、适用场景，并通过完整代码示例演示实战用法，帮助读者掌握 Flink SQL Join 的选型与优化。

2025-08-13 06:00:00

Flink SQLFlink大数据
数据，正在成为AI大模型最后的护城河
未来的AI竞争，表面上是算法和算力的竞争，本质上是数据的竞争。谁掌握了更多高质量的专业数据，谁就能在垂直领域建立不可逾越的壁垒。

2025-08-12 04:00:00

大数据数字化AI
Clickbench：腾讯云数仓位居ClickHouse生态性能测试第一
8月7日，腾讯云数据仓库TCHouse-C在ClickHouse社区推出的ClickBench数据分析测试中，凭借卓越的性能表现成功跻身前列，荣登ClickHouse生态产品榜首。

2025-08-07 15:59:06

腾讯云数据仓库TCHouse-C
让数据鲜活起来才有意义：基于场景的数据共享模式
本文并非旨在提供数据共享所能实现的一切的完整分类。这既不可能实现，也容易产生误导。相反，本文旨在提出一组经过精心挑选的、反复出现的场景，选择这些场景并非基于其理论的纯粹性，而是基于其实际相关性。

2025-08-07 08:59:48

数据共享数据应用数据治理
Flink + YARN + Gitlab 自动提交代码全流程详解
本文将详细介绍 Flink + FlinkSQL + YARN + Gitlab 的自动提交代码全流程，涵盖环境准备、代码管理、作业开发、CI/CD 流程设计、自动提交与监控等核心环节，帮助企业构建实时计算的自动化开发与部署体系。

2025-08-06 06:00:00

大数据FlinkYARN
Python 数据分析实战：提升洞察力的五个核心技术
本文将分享五个经过实战验证的核心技术，涵盖数据预处理、特征工程到建模优化的全流程，帮助您突破分析瓶颈，显著提高工作效率。

2025-08-05 08:27:19

Python数据分析开发
数据指标体系，关乎企业数字化转型的生死线
数据指标体系不是技术问题，是管理问题。它考验的是企业对业务的理解深度，对未来的判断能力，对组织的协调水平。

2025-08-05 04:20:00

数据指标数据分析大数据
Data Agent来了，数据分析师要失业吗？
Data Agent不是要取代人，而是要成为人的智能伙伴。就像GPS没有取代司机，而是让司机开车更轻松。Data Agent让每个业务人员都能拥有"数据分析师"的能力，让专业的数据分析师能够专注于更高价值的工作。

2025-08-05 04:00:00

数据分析师大数据AI
总做描述性统计，深入的数据分析到底怎么做？？?
很多人听到上边的质问就头皮发麻。名为数据分析师，实则是SQL工具人，每天搓数却没有业务认可的产出，是数据人最怕的事。该如何从数据到业务落地？

2025-08-05 02:22:00

数据分析SQL工具人
漫话以治理优先的思维方式设计数据体系
我花了不少时间，经历了不少“意外事件”，才意识到治理并非“以后再处理”的事情。它不是阻碍，不是开销，而是设计！本文是从另一个角度对这一认识进行结构化的思考。治理不再是我回避的事情。它是我认真、系统地思考的事情，从第一天开始！

2025-08-04 09:52:48

数据治理大数据人工智能
Paimon Python SDK (pypaimon) 详细使用指南
Pypaimon 是 Apache Paimon 数据湖的 Python 客户端 SDK，基于 Py4J 实现 Python 与 Java 代码的桥接，允许开发者通过 Python API 操作 Paimon 数据湖。

2025-08-01 10:04:47

数据湖pypaimon大数据
精通 Pandas：五大核心技巧助你玩转 Excel 数据处理
本文将深入探讨使用 Pandas 处理 Excel 文件的五个高级技巧，助你从基础操作晋升为数据处理高手。

2025-08-01 06:10:00

Pandas数据处理Excel
终于有人把数据跨境流动讲明白了
关于数据跨境流动，各国基于数据主权或数字经济发展的需求有着不同的法律和规定。对于“跨境”，它不仅是一种物理意义上的数据传输，还涉及不同法律系统之间的协调和适应。

2025-07-30 04:44:00

数据跨境流动
数据才是AI的真正护城河啊！
未来的AI竞争，不是比谁的模型大，而是比谁的数据好。就像石油时代，掌握油田的人掌握了能源；AI时代，掌握数据的人掌握了智能。所以，如果你在做AI，别再纠结于模型架构了。多想想：你的数据护城河在哪里？

2025-07-30 04:00:00

大数据数字化AI
FlinkSQL 电商订单状态追踪与实时处理代码
本系统基于FlinkSQL构建，实现从订单创建到完成的全生命周期状态管理，并实时触发库存更新、物流调度等关键业务操作。

2025-07-29 09:36:13

FlinkSQL大数据Flink
如何在体育数据分析中使用机器学习？ 译文 精选
机器学习在这方面发挥着关键作用，因为它可以分析有关球员和比赛的数据，以识别隐藏的模式。通过观察这些模式，教练可以为球员制定个性化的比赛计划。在现代体育时代，数据分析被用来帮助球队确定更科学的训练方法，确定招募球员，并规划比赛策略。本文将介绍机器学习在体育领域的应用，并演示如何实现。

2025-07-29 07:51:41

机器学习数据分析人工智能
数据的五宗罪，道出了数据治理的真正内涵
成功的数据治理，需要IT部门和业务部门真正坐在一起，用同一种语言思考问题。不是IT说服业务，也不是业务指挥IT，而是双方共同定义什么是"好数据"。数据治理的本质，是让数据从"​​问题制造者​​"变成"​​价值创造者​​"。

2025-07-28 06:00:00

数据治理数字化大数据
知识图谱的直观介绍：以最简单的方式了解知识图谱的基础知识
在本文中，我们将采用可视化和代码友好的方法来探索知识图谱的工作原理，从最基础的部分开始。

2025-07-28 05:00:00

知识图谱AI人工智能
数据的三体问题：为何分析、决策和运营无法协调一致
每家现代公司都生活在三个平行的现实中：三个世界以截然不同的方式收集、计算和处理数据。它们本身并没有错，只是协调性不足。如果没有共同的节奏，整个系统就会停滞不前。

2025-07-28 04:00:00

数据治理大数据AI
聊聊爬取数据的四种技巧
笔者曾经服务于北京一家彩票公司，使用 JSOUP 抓取竞彩的彩票结果数据，Jsoup 非常适合处理静态网页的数据提取。

2025-07-28 02:11:00

爬取数据JSOUP
快速掌握 Pandas：从零基础到高效数据处理的详尽指南
本文将为你提供一条快速通道，从核心概念、实战代码到高效学习策略，助你在1-2周内从pandas新手蜕变为高效数据处理专家。

2025-07-23 07:28:24

pandasPython开发
两年沉淀，大模型在哪些行业迎来了落地的高光时刻？
未来，大模型比拼的不是技术而是落地能力。

2025-07-22 17:20:36

大模型商业化
阿里面试：Paimon Changelog 和 合并引擎有哪些组合，分别适用于哪些场景？
Paimon 把「怎么产生 changelog」和「怎么合并多条变更」拆成了两个正交维度，只要理解两张“坐标轴”，就能拼出所有计算场景。

2025-07-22 07:59:32

Paimon大数据合并引擎
数据治理对人工智能的成功至关重要
大语言模型 (LLM) 已进入主流，促使各行各业和公司纷纷探索其在业务转型中的潜力。此后，许多技术应运而生，帮助团队构建更强大的 AI 系统。这些工具和技术显然很有用，然而，提升 AI 系统业务影响力的最有效方法依然是数据。

2025-07-21 08:19:13

数据治理大数据人工智能
Python 数据分析五大核心库：数据科学家必备利器
本文将深入解析Python数据分析领域最具影响力的五大核心库，助你从数据清洗到机器学习实现全流程掌控。

2025-07-21 05:55:00

Python数据分析Pandas
Python 数据分析：Pandas 数据操作（二）
本节学习了Pandas数据的一般操作方法，需要掌握.loc[]、.iloc[]方法的使用，以及知道df[]是一种按列提取数据的方法。

2025-07-18 07:59:56

Pandas数据数据分析
数据中台静默革命：从BI展示架到大模型“炼油厂”
没有高质量的数据“原油”，大模型只能生成“工业废水”，而重生的数据中台正悄然成为AI时代最关键的输油管道。

2025-07-18 03:00:00

数据中台BI大模型
BI 数据可视化平台建设（3）—首页性能提升实践
随着越来越多代码的堆积，平台的运行加载性能也在逐步下降，在不同程度上极大地影响了用户体验，从而导致用户流失。本文就是从这样的一个背景出发，通过对BI数据可视化平台的一系列的性能优化实践，给大家系统性阐述首页性能优化的核心策略，并探讨在日常开发中如何实现长效性能保障。

2025-07-17 09:00:57

大数据BI数据可视化
腾讯面试：Paimon 自动分区清理与快照清理机制是怎么样的？哪个先清理？
本文将深入解析自动分区清理与自动快照清理这两种机制的原理、关联关系、配置方法及最佳实践，为数据湖运维提供全面指导。

2025-07-16 09:16:36

数据湖Paimon自动分区清理
Pandas 进阶秘籍：掌握这五个实用技巧，告别复杂数据处理的烦恼
本文将为您揭示 Pandas 进阶的五个实用技巧，这些技巧能帮助您在面对复杂数据处理任务时更加游刃有余，提升工作效率，解锁数据的深层价值。

2025-07-16 07:05:00

Pandas数据分析数据处理
数据要素化背景下的治理范式创新：粒数据理论构建与应用研究
本文针对传统数据治理模式中记录完整性导向的局限性，创新性提出“粒数据”（Granular Data）概念。

2025-07-15 14:32:37

粒数据数据治理数据质量
从模型到管道：数据建模、架构和工程工具实用指南
我们将深入剖析最近学习到的一些最重要的数据建模方法——所有这些都是在努力平衡过多的标签、大量的咖啡和一个令人困惑的橡皮鸭调试会话的过程中完成的。我们将从数据建模层和范式到星型模式、数据仓库、ETL/ELT，甚至Spark 管道，分解关键概念，并提供真实案例，避免过多的专业术语。

2025-07-15 10:53:53

数据建模数据仓库大数据
AI Agents时代，数据分析将彻底被颠覆
AI Agents+大模型+RAG的架构，不只是技术的进步，也是思维方式的革命**。它让数据真正成为每个人的武器，而不是少数人的特权。

2025-07-15 03:00:00

AI Agents数据分析大模型
Fluss 都进 Apache了，你竟然还没听说过 Fluss, 这篇文章告诉你它和 Kafka、Paimon 有什么区别
本文将深入解析 Fluss 的核心特性，并对比其与 Kafka、Paimon 的技术差异，揭示三者在实时数据架构中的定位与协同关系。

2025-07-14 07:35:00

Fluss数据架构大数据
Python 数据分析：Pandas 数据操作（一）
在掌握了Pandas的数据结构后，接下来应该学会如何操作数据。现在让我们来看看在Pandas中如何定位和操作数据。

2025-07-14 07:21:00

Pandas数据分析Python
“数据产品”究竟是什么以及它为何对AI代理至关重要
数据产品提供结构良好、可靠且受管控的“内容”（数据资产本身），而像 MCP 这样的协议则提供标准化的“方法”（AI 代理访问和使用该资产的机制）。两者强强联手，可以显著加速复杂 Agentic AI 系统的开发和可信应用，使其能够更有效、更安全地利用组织数据，从而实现商业价值。

2025-07-11 10:00:03

数据产品大数据AI代理
AI+数据血缘的三重境界
AI时代，数据血缘的价值会更加凸显。数据血缘正在从"数据治理的辅助工具"升级为"AI时代的核心基础设施"。

2025-07-11 09:38:47

AI数据血缘数据治理
一文看懂“AB实验”：统计学原理，分析思路，业务应用
AB实验，对应的统计学知识是“双样本T检验”，而且常用的AB实验平台会直接通报结果，所以直接看P值是不是小于0.05就好了。P值大于0.05说明没有组间差异，业务动作做了白做，回去重做！

2025-07-11 01:22:00

统计学AB实验双样本
腾讯面试：什么是 Spark 宽依赖、窄依赖，如何进行性能调优？
本文将从RDD依赖关系的本质出发，深入剖析窄依赖与宽依赖的区别，详解Spark如何基于依赖关系进行DAG划分和Stage优化，并结合Spark 3.x的最新特性，提供一套完整的依赖关系调整与性能调优实践方案。

2025-07-11 00:48:00

大数据SparkRDD
什么是维度建模？为什么数据仓库离不开它？
维度建模是大师Kimball的观点，和关系型建模相反，维度建模通过增加冗余来增加查询速度，以分析决策的需求出发构建模型，将业务主题对应的多个实体冗余记录，将共有维度，变化缓慢维的属性抽出形成维度表。

2025-07-09 09:18:29

维度建模数据仓库可追溯性
Python 数据分析：初识 Pandas
本文我们了解了Pandas扩展包的安装、导入，以及创建Series、DataFrame格式数据（后面会详细讲这两种格式）。

2025-07-09 07:50:00

PandasPython数据分析
腾讯面试：Flink Checkpoint 和 Spark Checkpoint 有什么区别？
本文将从原理、实现、性能等多个维度，深入剖析Flink和Spark Checkpoint的异同，并通过实例代码展示其配置与应用。

2025-07-08 08:57:29

Flink大数据流Checkpoint
经营分析，如何识别指标异动+准确归因
做经营分析，经常会陷入“上月涨了1%，本月跌了2%”的苦恼中。报告上虽然密密麻麻列了很多指标的同比，环比涨跌。但不知道怎么归因，只能写肤浅的“收入低了，因为客单价低了……”

2025-07-08 01:55:00

经营分析准确归因识别指标
2025年你应该知道，数据质量才是AI真正的生命线
以ChatGPT为例，其数据治理经历了三个阶段的演进：从较低质量、较小规模的数据集，到更高质量、更大规模的数据集，再到引入人类反馈的标注数据集。未来，数据治理将越来越成为AI发展的核心驱动力。

2025-07-08 01:00:00

数据治理数字化大数据
腾讯面试：请详细描述 Paimon 如何基于 LSM 树实现高吞吐写入和高效查询？
本文将深入剖析Paimon如何基于LSM树结构，通过内存优化、分层存储、智能合并等技术，在保证写入性能的同时提升查询效率，并结合最新版本特性与生产实践案例，全面展示其技术优势。

2025-07-04 07:08:57

Paimon大数据LSM树
如何确保全球数据管道中的跨时区数据完整性和一致性 译文 精选
在现代互联世界中，越来越多企业开始在全球范围内开展业务，这要求跨越不同时区对数据进行管理。这种需求带来了数据完整性的维护挑战，尤其是在处理时间敏感信息时。强大的跨时区数据管理能力愈发重要，本文将带大家了解维护全球数据管道一致性的主要考虑因素与最佳实践。

2025-07-03 07:55:50

数据管理数据完整性数据一致性
腾讯面试：Flink100G 大状态如何优化？有哪些参数可以调整？
本文将系统阐述100G级状态作业的完整调优方案，从状态后端选型、RocksDB深度配置、Checkpoint策略优化到内存管理，构建一套可落地的性能优化体系。

2025-07-03 07:54:03

Flink100G大数据数据处理
1 23456 ··· 186
点赞

51CTO技术栈公众号

业务
速览
在线客服