본문 바로가기

개발일상

[BigQuery] Python에서 빅쿼리로 데이터프레임 업로드 빅쿼리 콘솔로 쿼리 실행할 일도 많지만, 가끔은 파이썬 자체에서 BQ를 실행할 일도 있다.오늘은 python에서 빅쿼리 코드를 수행하기 위해 로컬 설정에 필요한 패키지와 설치 방법을 알아보자. 그 중에서도 pandas dataframe을 쿼리를 통해 테이블로 업로드 하는 코드를 추가했다. 로컬에서도 빅쿼리로 테이블이 뿅! 하고 나타나는 마법을 볼 수 있을 것이다. (음 뭐 마법까지야?)1. Google Cloud 프로젝트 설정Google Cloud Console에 로그인합니다.BigQuery API를 활성화합니다.API 및 서비스 > API 라이브러리에서 "BigQuery API"를 검색하고 활성화합니다.서비스 계정을 생성하고 JSON 키를 다운로드합니다.IAM 및 관리자 > 서비스 계정에서 새로운 서비.. 더보기
[BigQuery] 빅쿼리/Google SQL 기본 문법 (Query syntax) Google SQL? SQL도 종류가 많다.Google Standard SQL 이름이 Google SQL로 바뀌었다고 한다. 오늘은 BigQuery에서 사용하는 기본적인 SQL 문법을 알아보자. 사실 SQL은 정말 오랜만에 써본다. 학부 때 기억중 유일한 기억은 `select * from table` 정도. 하지만 이 쿼리는 바로...스스로 불러온 재앙에 짓눌릴 수 있으니, 상황에 맞게 select 문을 잘 짜보자! SQL은 ANSI/ISO 표준이지만 SQL 언어에는 다양한 버전이 있다. (예: MySQL, MS SQL Server, Oracle 등) 그러나 ANSI 표준을 준수하기 위해 모두 유사한 방식으로 최소한 주요 명령(예: SELECT, UPDATE, DELETE, INSERT, WHERE)을 .. 더보기
[BigQuery] 빅쿼리 단축키 오늘은 구글 빅쿼리 단축키를 알아보자. 키보드 단축키를 쓰냐 마우스까지 손을 뻗쳐 누르고 다시 돌아오느냐. 이 별거 아닌 차이가 생산성에 큰 영향을 미친다. 내가 가장 많이 쓰는 건 실행! 빅쿼리에서 옆에 열린 쿼리 탭으로 이동하기 답답했는데, Ctrl + Alt + 탭 넘버가 단축키였다. 아 오늘은 조금이나마 더 빠르게 뭔가를 처리할 수 있겠군!! :)작업Windows / Linux 단축키macOS 단축키새 탭 만들기Ctrl+Alt+tCmd+Option+t탭 닫기(키보드 포커스 탭)Delete 사용하여 BackspaceDelete 사용하여 Backspace쿼리 형식 지정Ctrl+Shift+fCmd+Shift+fGemini 코드 작성 및 생성Ctrl+Shift+SpaceCtrl+Shift+Space특정 .. 더보기
[SQL] UNION vs UNION ALL 여러 select 문의 결과를 concatenate 할 수 있게 해주는 operator전제 조건이 있음열 이름(column name)과 열 순서(column order)가 같아야 함datatype이 비슷해야 함UNION 은 unique 레코드만 남기고, UNION ALL은 중복 포함 모든 레코드를 남김UNION UNION ALL출처 : https://www.atlassian.com/data/sql/what-is-the-difference-between-union-and-union-all 더보기