StarRocks本地部署

这篇具有很好参考价值的文章主要介绍了StarRocks本地部署。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

官方文档
这里基本上是按文档来部署的,为了自己方便测试而纪录。

介绍

StarRocks 是一款高性能分析型数据仓库,使用向量化、MPP 架构、CBO、智能物化视图、可实时更新的列式存储引擎等技术实现多维、实时、高并发的数据分析。StarRocks 既支持从各类实时和离线的数据源高效导入数据,也支持直接分析数据湖上各种格式的数据。StarRocks 兼容 MySQL 协议,可使用 MySQL 客户端和常用 BI 工具对接。同时 StarRocks 具备水平扩展,高可用、高可靠、易运维等特性。广泛应用于实时数仓、OLAP 报表、数据湖分析等场景。

上面这段是直接引用官方的原话。

简单概括起来 Starrocks 有以下特点:

  • 列式存储: 优化了列式存储和向量化查询执行,这对于分析查询通常能提供更好的性能。
  • 实时写入: 支持实时数据写入和查询,这意味着它能够处理近实时的数据分析需求。
  • 水平可伸缩性: 易于横向扩展,可以根据数据量和查询负载增加或减少节点。
  • 高并发: 能够处理高并发查询,适用于多用户环境。
  • MPP架构: 使用MPP架构,可以在多个节点上并行处理查询,提高了查询效率。

MPP 架构是 Massively Parallel Processing(大规模并行处理)架构,它是一种分布式计算架构,可以充分利用多节点的计算能力,实现高性能的数据分析。

StarRocks 的 MPP 架构具有以下特点:

  1. 并行计算:通过 MPP 计算框架,实现 SQL 的并行执行,从而实现良好的交互式分析体验。
  2. 分布式存储:采用分布式架构,对数据表进行水平划分并以多副本存储,支持灵活的集群规模伸缩,能够处理更高级别的数据分析需求。
  3. 弹性容错:支持多副本存储,具备弹性容错能力,能够自动恢复节点故障。
  4. 高可用:元数据和数据都采用多副本存储,并且集群中服务有热备和多实例部署,避免了单点故障。
  5. 扩展性:单集群节点规模可扩展到数百节点。

基于docker安装

注意:这里仅部署一台FE节点以及一到BE节点。在正常应用环境中,一个集群需要部署三个BE节点。

创建dockerfile文件:

FROM centos:centos7

# Prepare StarRocks Installer.
RUN yum -y install wget
RUN mkdir -p /data/deploy/ 
RUN wget -SO /data/deploy/StarRocks-2.2.1.tar.gz https://download.starrocks.com/zh-CN/download/request-download/30/StarRocks-2.2.1.tar.gz
RUN cd /data/deploy/ && tar zxf StarRocks-2.2.1.tar.gz

# Install Java JDK.
RUN yum -y install java-1.8.0-openjdk-devel.x86_64
RUN rpm -ql java-1.8.0-openjdk-devel.x86_64 | grep bin$
RUN /usr/lib/jvm/java-1.8.0-openjdk-1.8.0.332.b09-1.el7_9.x86_64/bin/java -version

# Create directory for FE meta and BE storage in StarRocks.
RUN mkdir -p /data/deploy/StarRocks-2.2.1/fe/meta
RUN jps
RUN mkdir -p /data/deploy/StarRocks-2.2.1/be/storage

# Install relevant tools.
RUN yum -y install mysql net-tools telnet

# Run Setup script.
COPY run_script.sh /data/deploy/run_script.sh
RUN chmod +x /data/deploy/run_script.sh
CMD /data/deploy/run_script.sh

创建run_script.sh文件:

#!/bin/bash

# Set JAVA_HOME.
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.332.b09-1.el7_9.x86_64

# Start FE.
cd /data/deploy/StarRocks-2.2.1/fe/bin/
./start_fe.sh --daemon

# Start BE.
cd /data/deploy/StarRocks-2.2.1/be/bin/
./start_be.sh --daemon

# Sleep until the cluster starts.
sleep 30;

# Set BE server IP.
IP=$(ifconfig eth0 | grep 'inet' | cut -d: -f2 | awk '{print $2}')
mysql -uroot -h${IP} -P 9030 -e "alter system add backend '${IP}:9050';"

# Loop to detect the process.
while sleep 60; do
  ps aux | grep starrocks | grep -q -v grep
  PROCESS_STATUS=$?

  if [ PROCESS_STATUS -ne 0 ]; then
    echo "one of the starrocks process already exit."
    exit 1;
  fi
done

基于dockerfile构建镜像

docker build --no-cache --progress=plain -t starrocks:1.0 .

启动容器

docker run -p 9030:9030 -p 8030:8030 -p 8040:8040 --privileged=true -itd --name starrocks-test starrocks:1.0

验证是否部署成功

  • 先进入创建的容器
    docker exec -it -u root starrocks-test /bin/bash

  • 执行命令mysql命令
    mysql -uroot -h127.0.0.1 -P 9030

    # 查看fe节点信息
    show proc '/frontends'\G
    
    # 查看pe节点信息
    show proc '/backends'\G
    

最后

同类的产品有不少,比如 ClickHouse, Apache Druid 等,每种产品都有其特定的优势和适用的场景,我们之前选择使用它最大的原因就是因为具备水平拓展,方便我们部署,同时 StarRocks 在实时 OLAP 分析和高性能查询方面可能具有竞争优势。文章来源地址https://www.toymoban.com/news/detail-823708.html

到了这里,关于StarRocks本地部署的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包赞助服务器费用

相关文章

  • JavaWeb项目部署到服务器并连接本地数据库(超详细!)

    JavaWeb项目部署到服务器并连接本地数据库(超详细!)

    目录 一、下载XShell、Xftp工具 二 、建立服务器连接 三、服务器环境配置 四、打包web项目传输入服务器 五、服务器Web项目连接本地数据库 个人博客欢迎访问 --- 猿客栈 在XShell官网下载两个工具,用来操作服务器的Linux系统 输入服务器的主机名,验证用户和密码,默认用户名

    2024年02月05日
    浏览(6)
  • 帆软:本地文件连接数据库,并部署到Tomcat服务器上

    帆软:本地文件连接数据库,并部署到Tomcat服务器上

    1、本文基于Navicat管理器,选用MySQL数据库进行管理 选中此电脑,右键选中管理,手动启动MairaDB数据库(MySQL同理) 计算机管理(本地)目录下-服务和应用程序-服务,找到MARIADB,选中右键点击启动 当图中位置出现正在启动即可 2、打开Navicat管理器,新建连接并双击连接图标

    2024年02月12日
    浏览(10)
  • MariaDB数据库本地部署结合cpolar内网穿透实现远程连接

    MariaDB数据库本地部署结合cpolar内网穿透实现远程连接

    本篇教程将使用cpolar内网穿透本地MariaDB数据库,并实现在外公网环境下使用navicat图形化工具远程连接本地内网的MariaDB数据库。 1. 配置MariaDB数据库 1.1 安装MariaDB数据库 进入MariaDB数据库官网https://mariadb.com/downloads/community/,然后下载相应的windows版本 下载好后点击安装,出现设置

    2024年02月03日
    浏览(11)
  • CloudQuery + StarRocks:打造高效、安全的数据库管控新模式

    CloudQuery + StarRocks:打造高效、安全的数据库管控新模式

    随着技术的迅速发展,各种多元化的数据库产品应运而生,它们不仅类型众多,而且形式各异,国产化数据库千余套,开源数据库百余套 OceanBase 、PolarDB 、StarRocks…还有一些像 Oracle、MySQL 这些传统数据库。这些数据库产品有着各自的优势和特点,能够满足不同业务需求。如

    2024年02月08日
    浏览(10)
  • CentOS本地部署SQL Server数据库无公网ip环境实现远程访问

    CentOS本地部署SQL Server数据库无公网ip环境实现远程访问

    GeoServer是OGC Web服务器规范的J2EE实现,利用GeoServer可以方便地发布地图数据,允许用户对要素数据进行更新、删除、插入操作,通过GeoServer可以比较容易地在用户之间迅速共享空间地理信息。另外,GeoServer是开源软件。 下面介绍GeoServer web ui 管理界面 结合cpolar 内网穿透工具实

    2024年01月25日
    浏览(9)
  • Windows系统本地部署MariaDB数据库并结合内网穿透实现远程访问

    Windows系统本地部署MariaDB数据库并结合内网穿透实现远程访问

    本篇教程将使用cpolar内网穿透本地MariaDB数据库,并实现在外公网环境下使用navicat图形化工具远程连接本地内网的MariaDB数据库。 1. 配置MariaDB数据库 1.1 安装MariaDB数据库 进入MariaDB数据库官网https://mariadb.com/downloads/community/,然后下载相应的windows版本 下载好后点击安装,出现设置

    2024年01月23日
    浏览(12)
  • 宝塔面板部署MySQL并结合内网穿透实现公网远程访问本地数据库

    宝塔面板部署MySQL并结合内网穿透实现公网远程访问本地数据库

    前言 宝塔面板的简易操作性,使得运维难度降低,简化了Linux命令行进行繁琐的配置,下面简单几步,通过宝塔面板+cpolar即可快速搭建一个mysql数据库服务并且实现公网远程访问。 1.Mysql服务安装 我们打开宝塔面板,点击数据库,然后点击安装mysql服务, 选择极速安装即可,版本默认 然

    2024年01月24日
    浏览(17)
  • 快速构建 SAP ERP 内置数据库 HANA 到 StarRocks 的数据迁移同步任务

    SAP HANA 是由 SAP 开发的一款内存列式数据库, 具有预测分析、空间数据处理、文本分析、文本搜索、流分析、图形数据处理等高级分析功能。 HANA 内存列式数据库特性,即启动后可以把所有数据载入内存,相比传统基于硬盘的数据库,性能提升10~10,000倍。 HANA 一般内置在 SAP

    2024年02月08日
    浏览(5)
  • Linux系统部署SQL Server结合内网穿透实现公网访问本地数据库

    Linux系统部署SQL Server结合内网穿透实现公网访问本地数据库

    简单几步实现在Linux centos环境下安装部署sql server数据库,并结合cpolar内网穿透工具,创建安全隧道将其映射到公网上,获取公网地址,实现在外异地远程连接家里/公司的sqlserver数据库,而无需公网IP,无需设置路由器,亦无需云服务器。 下载 SQL Server 2022 (16.x) Red Hat 存储库配

    2024年04月10日
    浏览(9)
  • 如何使用Docker部署MongoDB并结合内网穿透实现远程访问本地数据库

    如何使用Docker部署MongoDB并结合内网穿透实现远程访问本地数据库

    正文开始前给大家推荐个网站,前些天发现了一个巨牛的 人工智能 学习网站, 通俗易懂,风趣幽默 ,忍不住分享一下给大家。 点击跳转到网站。 本文主要介绍如何在Linux Ubuntu系统使用Docker快速部署MongoDB,并结合cpolar内网穿透工具实现公网远程访问本地数据库。 MongoDB服务

    2024年02月22日
    浏览(13)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包