
BigQuery Storage Read API와 DATE 타입 불일치 해결하기
·
⚡ Performance & Optimization/🗄️ Database Tuning
BigQuery Storage Read API와 DATE 타입 불일치 해결하기들어가며최근 프로젝트에서 BigQuery의 성능 개선을 위해 Storage Read API를 도입하는 과정에서 흥미로운 문제를 만났습니다. GoogleSQL의 DATE 타입과 Apache Avro의 DATE 타입 간의 불일치로 인해 예상치 못한 데이터 변환 이슈가 발생했는데요, 이를 해결하는 과정을 공유해보려 합니다.왜 Storage Read API인가?BigQuery에서 데이터를 읽는 방법은 크게 두 가지가 있습니다:구분Legacy APIStorage Read API통신 방식REST 기반gRPC 기반데이터 형식JSONApache Avro/Arrow처리 방식순차적 페이지네이션병렬 스트림성능기준약 20-30% 개선메모리기준상당한 ..