Env(4) Zookeeper部署安装
参考文档:HM-06-zookeeper集群安装.doc 1 下载并解压 在node1上下载: Index of /zookeeper/stable(本文采用3.8.4) tar -zxvf zookeeper.tar.gz -C . ln -s apache-zookeeper-3.8.4-bin zookeeper 2 修改配置文件 cd zookeeper/conf cp zo...
参考文档:HM-06-zookeeper集群安装.doc 1 下载并解压 在node1上下载: Index of /zookeeper/stable(本文采用3.8.4) tar -zxvf zookeeper.tar.gz -C . ln -s apache-zookeeper-3.8.4-bin zookeeper 2 修改配置文件 cd zookeeper/conf cp zo...
参考文档:HM-09-spark部署文档.doc。 采用了较新的软件版本。 1 Spark Local模式搭建 在本地使用单机多线程模拟Spark集群中的各个角色。 1.1 安装包下载 官网:Apache Spark™ - Unified Engine for large-scale data analytics 截止2025.2.2,最新版为Spark 3.5.4。在主机端下载tgz...
参考文档:HM-07-hadoop集群安装操作.doc 采用了较新的版本。 1 下载并解压hadoop安装包 Apache Hadoop,以3.4.1版为例,下载压缩包并传至节点1,解压: cd ~/Work/2025 tar -zxvf hadoop-3.4.1.tar.gz -C . 更名: ln -s hadoop-3.4.1 hadoop 2 目录结构 第3节要配置的文件均在...
参考文档:HM-05-大数据环境配置统一.doc 原资料是在CentOS 7上配置,下面是在Ubuntu 22.04上配置 1 虚拟机基本配置 1.1 创建并克隆虚拟机 使用Ubuntu 22.04的iso镜像创建虚拟机,并安装Ubuntu系统,命名为node1: 预装vim, net-tools和openssh-server: sudo apt update sudo apt in...
1 引言 2025-06补充:随着LLM性能的发展以及IDE的集成,该问题目前已经解决。下面仅给出一个针对非集成的LLM方案,在询问LLM的同时给出代码树结构。 近年来,LLM(大模型)发展迅速,如ChatGPT、DeepSeek等;各种LLM辅助编程工具也相继涌现,如Copilot、通义灵码等,极大地提升了编程效率。笔者日常编程使用两种:一是在网页端使用GPT4o_mini,性能较强,...
🔗仓库链接 1 测试环境 1.1 硬件环境 实验使用3台Ubuntu 22.04 x86 PC,硬件配置分别如下: 设备 名称 CPU 内存 PC1 tjopenlab Intel Core i5-3470 3.2GHz 4核4线程 16G...
参考链接:微信自研生产级paxos类库PhxPaxos实现原理介绍 - 知乎 1 什么是Paxos 1.1 一致性协议 Paxos是一个一致性协议。 1.2 分布式环境 异步通信环境指的是消息在网络传输过程中,可能发生丢失,延迟,乱序现象。 几乎所有分布式环境都是异步通信环境。 Paxos是一个在异步通信环境,并容忍在只有多数派机器存活的情况下,仍然能完成一个一致性写入的协议。...
1 原理 Publisher发送时间戳,Subscriber接收时间戳,计算时间差。 实验环境:Ubuntu 22.04 x64, 编译之前需要安装ZMQ库:sudo apt install libzmq3-dev 2 代码 2.1 pub.c #include <zmq.h> #include <stdio.h> #include <unistd.h&...
1 进程、线程和Pthreads 1.1 进程与线程的区别 在计算机科学中,进程和线程是两个基本的执行单元,它们在多任务操作系统中扮演着重要的角色。理解它们之间的区别对于编写高效的并发程序至关重要。 进程(Process) 进程可以被视为一个程序的运行实例。它是系统资源分配和调度的基本单位,拥有独立的地址空间和资源。一个进程可以包含多个线程,它们共享进程的资源,但是进程之间的资源是隔...
1 基本概念 SIMD(Single Instruction Multiple Data, 单指令流多数据流): 一种采用一个控制器来控制多个处理器,同时对一组数据(又称“数据向量”)中的每一个分别执行相同的操作从而实现空间上的并行性的技术。简单来说就是一个指令能够同时处理多个数据。 2 使用方法 2.1 IPP 使用Intel开发的跨平台函数库(IPP,Intel Integrate...