여기에서 비공개 프리뷰 대기자 명단에 등록할 수 있습니다.
사전 요구 사항
- 활성 상태의 ClickHouse Cloud 서비스
- 수집할 Pub/Sub 토픽이 포함된 GCP 프로젝트
- 해당 프로젝트에서 서비스 계정을 생성하고 역할을 부여할 수 있는 IAM 권한
인증 모델
- 프로젝트의 토픽을 나열하고 읽습니다.
- 메시지를 소비하기 위해 ClickPipes가 사용하는 관리형 구독을 생성하고 삭제합니다.
- 해당 subscription에서 메시지를 소비합니다.
- (선택 사항) 스키마 레지스트리에서 네이티브 Pub/Sub 스키마를 읽습니다.
필수 권한
토픽 액세스(검색 및 유효성 검사)
subscription 수명 주기(검색 및 수집)
스키마 액세스(선택 사항 — 네이티브 Avro/Protobuf 토픽에만 해당)
사전 정의된 역할
설정
사용자 지정 역할 생성(권장)
gcloud CLI를 사용해 수행할 수 있습니다:
선택적 권한네이티브 Pub/Sub Avro 또는 Protobuf 스키마를 사용하는 토픽에서 수집하는 경우
--permissions 목록에 pubsub.schemas.get을 추가하세요. 그렇지 않은 경우 역할을 최소 권한으로 유지할 수 있도록 추가하지 마세요.roles/pubsub.editor를 부여할 수 있습니다.
서비스 계정 생성
서비스 계정에 역할 부여
roles/pubsub.editor)을 서비스 계정에 바인딩하세요:
서비스 계정 키 생성 및 다운로드
clickpipes-pubsub-key.json 파일을 ClickPipes UI에 업로드하세요.
키를 민감 정보로 취급하십시오서비스 계정 키는 GCP 프로젝트에 대한 액세스 권한을 부여합니다. 이 파일은 안전하게 보관하고, 버전 관리 시스템에 커밋하지 말고, 정기적으로 교체하십시오. ClickPipes는 업로드 후 키를 저장 시 암호화합니다.
참고 사항
pubsub.topics.attachSubscription권한은 subscription이 아니라 토픽 리소스에 필요합니다. subscription 수준의 권한만 부여할 때 이 점을 흔히 놓칩니다.- 토픽이 네이티브 Pub/Sub 스키마(schema)(Avro 또는 Protobuf)를 사용하지 않는다면
pubsub.schemas.get권한은 필요하지 않습니다. - 관리형 구독의 이름은
clickpipes-{pipeID}이며, ack deadline은 60초, 메시지 보존 기간은 7일이고, 메시지 순서 지정이 활성화됩니다. - 임시 검색 subscription의 이름은
clickpipes-discovery-{uuid}이며, ack deadline은 10초, 보존 기간은 10분이고, 24시간 후 자동 만료되는 TTL이 적용됩니다. - ClickPipes는
PermissionDenied및Unauthenticated오류를 재시도 불가로 처리합니다. 권한이 누락되면 파이프는 무기한 재시도하지 않고 즉시 실패합니다.