분류 전체보기 1184

Snowflake 란

SnowflakeSaaS로 제공되는 데이터 플랫폼을 기반으로 하는 데이터 클라우드.데이터 저장, 데이터 처리부터 시각화, 머신러닝 등의 작업을 수행할 수 있는 클라우드 기반 테이터 플랫폼으로, 데이터 클라우드 플랫폼 내에서 자유롭게 데이터 편집 및 이동을 수행할 수 있고, 효울적으로 데이터를 보관할 수 있게 한다.  주요 서비스데이터 웨어하우스 : 분석 가능한 형태로 가공된 데이터를 저장할 수 있다.데이터 레이크 : 데이터를 보관할 수 있는 저장소를 제공한다.데이터 엔지니어링: SQL을 이용해 데이터 파이프라인을 효율적으로 구축하고 관리할 수 있다.데이터 교환 : 데이터를 공유하고 연결하는 솔루션을 제공한다.데이터 애플리케이션 : 신규 데이터 분석 애플리케이션을 개발하거나 연동할 수 있다.데이터 사이언스..

Snowflake 2024.07.04

[Python] Tornado 란

개요최근 Python Tornado 기반 API 개발 업무를 맡게 되었다. 이전에 API 개발에 대한 호기심으로 아래와 같은 글을 작성했었는데……2022.09.04-[Flask] 웹 애플리케이션 만들기2022.09.05-[Flask] REST API 만들기2022.09.11-[Flask] 요청(Request) 데이터 접근공부했었던 Flask가 아닌 Tornado를 사용하게 돼서 알아보려고 한다.  TornadoFriendFeed에서 개발한 Python 웹 프레임워크이자 비동기 네트워킹 라이브러리높은 동시성을 처리할 수 있도록 설계되어 있어 수천 명의 사용자가 동시 접속하는 서비스를 개발할 수 있다. 일반적인 웹 개발, 실시간 서비스와 웹소켓을 포함한 비동기 네트워킹 애플리케이션 개발에 적합하다. 주요 요..

Python 2024.07.03

[Git] 특정 커밋만 푸시

개요특정 커밋만 브랜치에 적용할 때는 2023.04.21-[Git] cherry-pick - 특정 커밋 반영 명령어를 사용할 수 있는데, cherry-pick하는 것이 아니라 commit을 push 하는 단계에서 push 할 커밋만 지정할 수 있으면 한다.방법을 적어둔다.  방법 일단 git push를 사용할 때 아래와 같은 명령어를 사용한다.git push :# 예시git push origin 8b43c99:maingit push origin 8b43c99:refs/heads/commit_push다만 제한사항이 좀 있는 것 같다. 먼저 push 명렁은 기본적으로 지정한 커밋을 포함한 모든 커밋을 Push 하기 때문에 하나의 커밋만을 push 하기 위해서는 push 할 커밋이 첫 번째 커밋이 되어야 한..

Git | GitLab 2024.07.02

[백준] 28702 - FizzBuzz

문제문제 : https://www.acmicpc.net/problem/28702FizzBuzz 문제는 i = 1, 2, 3,... 에 대해 다음 규칙에 따라 문자열을 한 줄에 하나씩 출력하는 문제이다.i가 3의 배수이면서 5의 배수이면 FizzBuzz를 출력한다.i가 3의 배수이면서 5의 배수가 아니면 Fizz를 출력한다.i가 3의 배수가 아니면서 5의 배수이면 Buzz를 출력한다.i가 3의 배수가 아니면서 5의 배수도 아니면 i 값을 출력한다.연속으로 출력된 세 개의 문자열이 주어질 때 이 세 문자열 다음에 올 문자열은 무엇인가?  풀이값이 출력되는 규칙을 확인해보면 3과 5의 최소공배수인 15를 주기로 출력 패턴이 반복되는 것을 확인할 수 있다. 따라서 출력 규칙을 만들고,  1. 출력 규칙 생성ru..

Algorithm/백준 2024.07.01

[Git] 작업 디렉터리 지정하여 명령어 수행

개요Git 작업은 보통 작업 디렉터리 내에서 이루어진다. 작업 디렉터리 밖에서 git 명령어를 수행하면 fatal 에러가 발생하면서 실패한다.다만 진행하는 프로젝트가 여러 저장소로 구성되어 있다면, Git 작업을 할 때 저장소를 이동하는 것에 번거로움을 느낄 수 있다.이 글에서는 작업 디렉터리를 지정해 Git 명령어를 수행하는 방법을 적어둔다.   -C 옵션현재 작업 디렉터리 대신 path에서 실행할 때에는 -C 옵션에 경로를 지정한다. -C 옵션에 값을 여러 개 지정하는 경우, 각 -C 옵션은 뒤이어 오는 -C 옵션의 기준 경로가 된다. 즉, 상대적으로 해석된다.git -C # 예시git -C branch_test/ status  참고 문서Git - git-help Documentation (git-..

Git | GitLab 2024.06.28

[Maven] java.lang.IllegalStateException: Unable to load cache item

현상Ubuntu 서버에서 maven을 설치하여 Java 애플리케이션을 빌드하던 중 아래와 같은 에러가 발생하면서 실패했다.[ERROR] Error executing Maven.[ERROR] java.lang.IllegalStateException: Unable to load cache item[ERROR] Caused by: Unable to load cache item[ERROR] Caused by: Could not initialize class com.google.inject.internal.cglib.core.$MethodWrapper[ERROR] Caused by: Exception com.google.in..

Java 2024.06.27

[AWS] botocore.exceptions.ClientError: An error occurred (RequestLimitExceeded) when calling the RunInstances operation (reached max retries: 4): Request limit exceeded. 발생 시

현상AWS 환경에서 매 시간마다 배치성 작업을 수행시키고 있다. 배치성 작업은 돌아갈 때마다 새 EC2를 생성하여 동작하고 EC2를 종료시키기를 반복하는데, 최근 EC2를 생성하는 과정에서 거의 매일 아래와 같은 에러가 발생하면서 실패하고 있었다.botocore.exceptions.ClientError: An error occurred (RequestLimitExceeded) when calling the RunInstances operation (reached max retries: 4): Request limit exceeded.매번 수동으로 Ec2를 다시 생성해왔는데, 현상을 좀 해소해보려고 한다.  API throttlingAWS EC2는 원활한 서비스 제공을 위해 리전 별로 AWS 계정에 대한 ..

AWS 2024.06.26

[Python] python -m 옵션

개요일반적으로 python 코드는 python 명령으로 실행할 코드의 경로를 지정하여 실행한다.python 그런데 최근에 아래와 같은 명령어 사용을 확인하여, python -m ipykernel install --user --name --display-name ""python 명령의 -m 옵션이 어떤 역할을 하는지 적어두려고 한다.  python -m module-namePython 공식 문서에서 명령줄과 환경 문서를 보면 python 명령어는 아래와 같은 옵션을 제공하고 있다.python [-bBdEhiIOqsSuvVWx?] [-c command | -m module-name | script | - ] [args]그 중 -m 옵션은 제공한 module-name을 sys.path에서 검색하여 __mai..

Python 2024.06.25

[Jupyter] 새 Python 커널 추가

개요사용하고 있는 Jupyter Notebook에서 새로운 가상 환경을 추가하는 방식으로 Python 패키지 관리 및 분리하려고 한다.새 가상 환경을 추가하면 New 드롭다운에 표시된다던데, 방법을 적어둔다.  가상 환경 생성먼저 새로 사용할 가상 환경을 생성한다. 이 글에서는 conda를 사용하여 설정한다. 1. 가상 환경 목록 확인conda env list기존에는 base라는 이름의 기본 환경만 생성되어 있는 상태다. 2. 가상 환경 생성생성할 환경의 이름과 python 버전을 지정하여 conda 기반의 python 가상 환경을 생성한다.conda create -n python=# 예시conda create -n test_env python=3.10생성 도중 라이브러리 설치 허용 여부를 묻는데, y..

Python 2024.06.24

[JupyterLab/Notebook] 서버 중지

개요업무에서 jupyterhub single-user server를 통해 jupyter notebook을 제공받고 있는데, 이전에 Jupyter notebook, JupyterLab의 버전이 올라가면서 UI 측면에 변경이 있었던 모양이다.기존과 달리 서버를 중지할 수 있는 페이지로 이동하는 버튼을 찾기 힘들어서…… 적어둔다……!   서버 중지 방법1. 상단 메뉴 > File > Hub Control Panel 이동또는 브라우저 주소창을 통해 http://JUPYERHUB_URL/hub/home으로 입력하면 Hub Control Panel로 이동할 수 있다.  2. 서버 중지Hub Control Panel에서 Stop My Server 버튼을 누른다.참고로 Logout을 누르면 서버 중지 없이 로그아웃만 ..

Python 2024.06.21