ELASTICSEARCH ILE MACHINE LEARNING

tarafından
488
ELASTICSEARCH ILE MACHINE LEARNING

Merhaba arkadaşlar, bu yazımda size opensfiht cluster bazında topladığınız veriler ile nasıl forecasting yapabileceğinizi anlatmaya çalışacağım. Ben bu çalışma kapsamında OPENSHIFT üzerine kurulu bir ELK Cluster ve kibana ile çalışmamı yaptım. Ayrıca verileri hazırladığım ufak bir python scripti ile prometheus üzerinden almayı hedefledim. Birlikte bakalım isterseniz.

Adım1:
Öncelikle aşağıdaki link adresinden ELK kurulumu yaptım ve başarılı bir şekilde ayaga kalktığından emin oldum. Burada ELK clustera erişebilmek için openshift route nesnesinden yararlandım.
https://www.hafifbilgiler.com/hafif-bilgiler/elasticsearch-installation-on-openshift/

Adım2:

Kısaca aşağıdaki şekilde Route oluşturulması sağlayalım. Bilindiği üzere route nesneleri openshift üzerinde client tarafından gelen istekleri içeri alarak ilgili uygulamanın servis nesnesine yönlendirir, böylelikle client uygulamaya erişimiş olur.

Adım3:
Öncelikle oluşturduğumuz route üzerinden clusterımıza(elastic) erişip erimediğimize bakalım.

Adım4:

Veri ile beslemek için Clusterımız hazır ve başarılı bir şekilde erişimi sağladık. Şimdi Cluster için veri beslemesi yapacak scriptin çalışmasını sağlayalım. Script’e github adresinden erişebilirsiniz. Not: Script içerisinde Cluster-admin yetkisine sahip veya Prometheus namespace inde yetkili bir service account tokenı kullanmanız gerekiyor.

Adım5:

Script çalıştıktan sonra aşağıdaki şekilde kibana üzerinde verilerin oluşması gerekir. Script “prod” isiminde bir index oluşturacaktır. Index içerisinde her cluster için “TOTAL USAGE CPU CORE” değeri bulunmaktadır.

Adım6:

Bu adımda machinelearning job oluşturulması sağlanacaktır. Aşağıdaki görseller sırayla uygulanmalıdır.


Aşağıdaki görselde gelen metrikleri görebilirsiniz. Tüm metriklerin kullanılması seçeneğini seçmemiz gerekiyor.

Daha sonra gönderdiğimiz data içinde hangi veriyi kullanacak isek o veriyi seçiyoruz.

Son olarak job tamamlanır ve gerçek zamanlı olarak çalıştırılması sağlanır. Bu tanımlamadan sonra forecasting yapabiliriz. Şuan test olduğu için yeterli data gönderemediğimizden data az uyarısı alcağız.

Aşağıdaki adımda forecast işlemini başlatıyoruz, yeterli veri olduğunda işlem başarılı olacaktır.

Arkadaşlar yazımız bu kadar, devamını vakit buldukça yazacağım. Teşekkür ederim.