Hadoop

系统管理员的容器时代之殇

系统管理现在处于一个癫狂的时代,一片混乱。我并不是抱怨老式系统管理员们,他们还是知道如何让系统工作起来,知道怎么更新系统和如何升级扩容。这篇吐槽是关于容器、预构建虚拟机镜像的,它们…

大数据探索:在树莓派上通过 Apache Spark on YARN 搭建 Hadoop 集群

有些时候我们想从 DQYDJ 网站的数据中分析点有用的东西出来,在过去,我们要用 R 语言提取固定宽度的数据,然后通过数学建模来分析美国的最低收入补贴,当然也包括其他优秀的方法。今…

如何在 CentOS 上安装 Apache Hadoop

Apache Hadoop 软件库是一个框架,它允许使用简单的编程模型在计算机集群上对大型数据集进行分布式处理。Apache™ Hadoop® 是可靠、可扩展、分布式计算的开源软件…

OceanBase适配CDH的一些分享

CDH是Cloudera的早前开源平台发行版,是事实上的Apache Hadoop生态系统的安装管理平台,专为满足企业需求而构建。CDH提供开箱即用的企业使用所需的一切。通过将Ha…

Java大数据处理框架的学习路线

java 大数据处理框架学习路线:hadoop 生态系统掌握基础知识spark 精通核心概念,使用 sql 查询数据,学习实时数据处理和机器学习flink 深入理解流处理,事件时间…

Apache Spark与Hadoop之间的区别

apache spark 和 hadoop 在数据处理方法上存在差异:hadoop:分布式文件系统,批处理,使用 mapreduce 计算。spark:统一数据处理引擎,实时处理和…

Hadoop YARN Cgroups 资源隔离讲解,你学会了吗?

一、概述Hadoop YARN (Yet Another Resource Negotiator)使用 Cgroups(Control Groups)来进行资源管理和隔离。Cgro…

在Linux系统中实现容器化的大规模数据分析平台:Hadoop和Spark

在Linux系统中实现容器化的大规模数据分析平台,我们可以利用Hadoop和Spark这两个强大的开源工具。Hadoop是一个分布式计算框架,适用于处理大规模数据集。它提供了分布式…

Linux配置Hadoop伪分布式环境

💡前提:已配置好Java环境(本文使用的Java版本为JDK1.8,Hadoop版本为3.3.0)。 配置SSH免密码 Hadoop启动需要配置SSH免密码,执行如下命令: # 生…

Hadoop➖Windows系统下Hadoop单机环境搭建教程

Hadoop——Windows系统下Hadoop单机环境搭建教程 关于作者 作者介绍 🍓 博客主页:作者主页 🍓 简介:JAVA领域优质创作者🥇、一名初入职场小白🎓、曾在校期间参加…

hadoop集群搭建及编程实践

Hadoop集群搭建 前期准备及JDK,hadoop安装 设置主机名和添加主机映射 验证连通性 SSH无密码登录 配置集群/分布式环境 修改workers 修改文件core-sit…

如何使用Hadoop和MapReduce进行数据处理?

Hadoop和MapReduce是一对强大的工具,用于分布式存储和处理大规模数据集。Hadoop是一个开源框架,提供了可靠性、可扩展性和容错性等特性,而MapReduce是一种编程…

如何在 Debian 12 上安装 Apache Hadoop

大数据是现代数据驱动型业务的支柱,Hadoop已成为处理和分析海量数据集的首选解决方案。如果你想在 Debian 12 系统上利用 Hadoop 的强大功能,那么你来对地方了。 在…

Hadoop源码阅读(二):DataNode启动

说明: 1.Hadoop版本:3.1.3 2.阅读工具:IDEA 2023.1.2 3.源码获取:Index of /dist/hadoop/core/hadoop-3.1.3 (…

大数据学习HDFS分布式存储原理

Hadoop的基本概念 Hadoop是Apache的一个开源的分布式计算平台,核心是以HDFS分布式文件系统和MapReduce分布式计算框架构成,为用户提供了一套底层透明的分布式…

超详细Hadoop集群搭建

前期环境准备 JDK安装配置 # 快速手把手教你Centos7中安装Java8 JDK 新增非root用户 adduser hadoop passwd hadoop chown -…

macos+ubuntu系统安装hadoop

Hadoop 分布式计算平台,核心是分布式文件系统HDFS macos下 安装 下载地址:Index of apache-local/hadoop/core/hadoop-3.3.…

Hadoop3.0大数据处理学习(Haddop介绍、部署、Hive部署)

Hadoop3.0快速入门 学习步骤: 三大组件的基本理论和实际操作 Hadoop3的使用,实际开发流程 结合具体问题,提供排查思路 开发技术栈: Linux基础操作、Sehll脚…

:centos7系统搭建Hadoop环境教程

在CentOS 7上搭建Hadoop环境是一项常见的任务,下面是一个简单的教程: 安装Java: Hadoop是基于Java开发的,所以首先需要安装Java。您可以按照以下步骤在C…

如何在Java中实现表单数据的分布式计算和分布式处理?

如何在Java中实现表单数据的分布式计算和分布式处理?随着互联网的快速发展,信息量的增加,对于大数据的计算和处理需求也越来越大。分布式计算和分布式处理成为一种解决大规模计算和处理问…

加载更多