喬叔的 Elastic Stack 專業教育訓練
  • 喬叔的 Elastic Stack 專業教育訓練
  • 🧑關於喬叔 (Joe Wu)
  • Elastic 課程公開班
    • 🎯Elasticsearch 基礎實務班
      • 💯學員課後回饋
    • 🆕Elasticsearch 進階運維班
      • 💯學員課後回饋
    • Elasticsearch 進階開發班
    • Elastic Stack 基礎實務班
    • Elastic Observability 基礎實務班
    • 📩課程許願池
  • 技術分享
    • 📗喬叔帶你上手 Elastic Stack
      • 前言
      • Elastic Cloud 如何建立 Deployment
        • ES Node 的種類
        • 配置的選擇
      • Index 建立前你該知道的
        • ES Index 如何被建立
        • ES 的超前佈署 - Dynamic Mapping
        • ES 的超前佈署 - Index Template
        • ES Index 的別名 (Alias)
        • 管理你的 Index - Kibana Index
      • 管理 Index 的 Best Practices
        • Shard 的數量與 Rollover & Shrink API
        • 三溫暖架構 - Hot Warm Cold Architecture
        • Index Lifecycle Management (ILM)
        • Rollup
        • Transform
        • Snapshot Lifecycle Management (SLM)
        • 總結
      • Elastic Cloud 比免費版還多的功能
        • Elastic Stack 的方案比較與銷售方式
        • Centralized Beats Management
        • Centralized Pipeline Management
        • Watcher
        • Elasticsearch Token Service
        • Multi-stack monitoring & Automatic stack issue alerts
      • 向 App Search 學習怎麼用 Elasticsearch
        • 揭開 App Search 的面紗
        • Engine 的 Index Settings 篇
        • Engine 的 Mapping 篇
        • Engine 的 Search 基礎剖析篇
        • Engine 的 Search 進階剖析篇
      • Elasticsearch 的優化技巧
        • Indexing 索引效能優化
        • Searching 搜尋效能優化
        • Index 的儲存空間最佳化
        • Shard 的最佳化管理
      • 完賽心得
    • 📘喬叔帶你上手 Elastic Stack - 探索與實踐 Observability 系列
      • 前言 & 淺談 Observability
      • Elastic 的 Observability 解決方案
      • Uptime - 掌握系統的生命徵象
        • 我們要觀測的生命徵象是什麼?
        • 使用 Heartbeat 收集系統生命徵象數據
        • 透過 Kibana 觀看心電圖及設定警報
        • 使用合成監控 (Synthetics Monitor) 從使用者情境驗證服務的運作狀態
      • Metrics - 觀察系統的健康指標
        • Metrics 與 Metricbeat 的基本介紹
        • 使用 Metricbeat 掌握 Elastic Stack 的健康狀態
        • 使用 Metricbeat 掌握 Infrastructure 的健康狀態 Host 篇
        • 使用 Metricbeat 掌握 Infrastructure 的健康狀態 Docker 篇
        • 使用 Metricbeat 掌握 Infrastructure 的健康狀態 Kubernetes 篇
        • 使用 Metricbeat 掌握 Infrastructure 的健康狀態 AWS 篇
      • Logs - 挖掘系統內部發生的狀況
        • Logs 與 Filebeat 的基本介紹
        • 使用 Filebeat 應該要了解的設計細節與原理
        • 透過 Filebeat 收集 Elastic Stack 中各種服務的細節資訊
        • 透過 Filebeat 收集 Infrastructure 中各種服務的細節資訊
      • Traces - 觀察應用程式的效能瓶頸
        • Elastic APM 基本介紹
        • 使用 APM-Integratoin-Testing 建立 Elastic APM 的模擬環境
        • 如何在 Kibana 使用 APM UI
        • 使用 APM Server 來收集 APM 數據
        • 透過 APM Agents 收集並傳送後端服務運作的記錄
        • 透過真實使用者監控 (RUM, Real User Monitoring) 來改善使用者體驗
      • 建立結構化的 Log
        • Elastic Common Schema 結構化 Log 的規範
        • Elasticsearch Ingest Pipeline 資料 Index 前的轉換好幫手
          • 基本介紹
          • 各種常用的 Processor
          • Enrich 資料與例外處理
      • 有效的使用 Observability 的資料
        • 透過 Machine Learning 發現異常的問題
        • 使用 Kibana Alerts 主動通知異常狀況
        • 資料的生命週期管理
        • 使用 Elastic Observability 追縱及觀察問題的心得
      • 完賽心得
    • 😀Elasticsearch 技術分享小品
      • 🤖Elastic 與 AI
        • Elasticsearch Inference API 讓我們直接在 ES 裡運用 OpenAI Completion API
    • 🎥線上分享
      • 喬叔 Elasticsearch Index 管理與效能優化技巧
      • Elastic Certification 認證經驗分享
    • 🛠️workshop
      • 如何在 Elasticsearch 實現敏捷的資料建模與管理 @ DevOpsDays 2023
        • 工作坊實作內容
      • Elastic Observability 實作體驗坊 @ DevOpsDays 2022
        • 行前準備
        • 工作坊實作內容
      • 當 Elasticsearch 搜尋引擎遇上 AI @ HelloWordDevConference 2024
        • 投影片
        • Elasticsearch 環境準備
        • Google Colab 環境準備
        • 工作坊操作說明
        • ElasticSearch Relevance Engine (ESRE)
    • ⬆️Elastic Stack 版本升級記錄
      • 🔍Elasticsearch
  • 其他專業服務
    • 👩‍🎓企業包班 | 企業內訓
    • 👨‍💼顧問服務
    • 🈺專案合作
    • 🧩Elastic 授權代理
  • 相關連結
    • Facebook 粉絲頁
Powered by GitBook
On this page
  • 如何在 Elasticsearch 實現敏捷的資料建模與管理
  • 課程目標
  • 行前準備
  • 投影片
  1. 技術分享
  2. workshop

如何在 Elasticsearch 實現敏捷的資料建模與管理 @ DevOpsDays 2023

PreviousworkshopNext工作坊實作內容

Last updated 1 year ago

如何在 Elasticsearch 實現敏捷的資料建模與管理

在面對不斷變化的商業需求,敏捷快速交付價值以及选代的精神已廣泛落實在 DevOps 的實踐之中,但是在使用 Elasticsearch 處理巨量日誌或資料時,一但需求改變或是有新的資料使用需求提出時,我們的應對及管理的策略為何? 如何在 Elasticsearch 來做到最佳的實踐?

工作坊將包含以下的內容:

  • 敏捷的資料建模與管理的概念簡介

  • Elasticsearch Data Modeling 簡介

  • 深入 Elasticsearch Data Modeling 的實作

  • Schema on read 與 Schema on write 的差異與實現方式

  • 事先定義好的 Data Modeling

  • 動態產生的 Data Modeling

  • Data Model 的选代

適合已經使用過 Elasticsearch,或至少稍微了解 Elasticsearch 的聽眾。

課程目標

掌握有彈性的敏捷資料建模與管理的方法,並且透過設計好的實作案例,一步一步的學習如何在 Elasticsearch 進行實踐,掌握 Dynamic Field Mapping, Dynamic Template, Runtime Fields, Async Search 以及在 schema on read 至 schema on write 的轉換調整的方式。

行前準備

電腦需求

  • 建議 16GB 以上的 RAM

  • MacOS, Linux, Windows 皆可,但請不要用太舊的作業系統

操作環境需求

  • Elasticsearch 8.0 以上版本

  • Kibana 8.0 以上版本

這次工作坊主要會使用 Kibana 的 Dev Tools 進行操作,你有以下幾種方式,準備好這個環境:

    1. 解壓縮並啟動 Elasticsearch:執行 Elasticsearch 目錄中的 ./bin/elasticsearch -E xpack.security.enabled=false (透過參數強制關閉 Security,避免額外的 Security 設定流程。)

    2. 解壓縮並啟動 Kibana:執行 Kibana 目錄中的 ./bin/kibana 執行檔

    3. 請先確保 Elasticsearch 啟動後,再啟動 Kibana。

    1. 先執行 docker-compose up setup 初始化 ES 的帳號密碼。

    2. 再執行 docker-compose up -d 啟動環境,

  1. 使用你自己架設好的 Elasticsearch 與 Kibana 環境,可以存取 Kibana Dev Tools 即可。

(請不要使用 AWS OpenSearch 來操作哦! 這次工作坊是以 Elasticsearch 的功能與操作為主。)

投影片

(新手推薦) 在 申請一個新帳號,不用填入信用卡資訊,就可以免費試用 7 天,蠻適合這次工作坊中短期的使用。

手動下載 與 壓縮檔,在本機執行。

透過 可以成功存取 Kibana 的網站。

如果你習慣使用 Docker Container 的容器化方式來建構環境,可以使用 準備好的環境。

即可以 帳號 elastic 密碼 changeme 透過 存取 kibana。

🛠️
https://cloud.elastic.co
Elasticsearch 8.10.2
Kibana 8.10.2
http://localhost:5601
https://github.com/onedoggo/devopsdays-taipei-2023-es-workshop
http://localhost:5601
DevOpsDays Taipei 2023 工作坊滿意度調查結果