Pipeline
-
NiFi Index to Index Data PipelineNiFi 2024. 11. 20. 21:12
오늘은 Nifi 데이터 파이프라인을 소개하려고 합니다! NiFi는 Attribute, Content로 이루어진 FlowFile을 활용하며, 직관적으로 파악할 수 있는 UI 제공과 코드 없이도 기존 프로세서를 사용하여 데이터 파이프라인을 개발할 수 있습니다. (기존 프로세서 외에도 Jar, Nar 파일을 프로세서로 실행시킬 수도 있습니다.)제가 소개할 NiFi를 통한 목표는 아래와 같습니다. 목표인덱스 to 인덱스 데이터 색인 (Reindex 과정)- search_after 사용- Bulk API 사용제약사항- Query를 날릴 수 있어야 함- 중복 불가 구성 환경NiFi 1.27.0Linux Centos필자의 경우 해당 프로세스를 사용하기 전에 SSL 설정, Key를 발급받아 Variables에 저장해둔..